将聚类作为特征

本课属于 Coddy Machine Learning 学习旅程的“无监督学习”单元。第 40 课，共 51 课。

直线模型无法弯曲。三个村庄的手机信号会随着距离各村信号塔的距离增加而减弱，但仅靠位置无法呈现这种形状：

三个村庄共有 135 户人家，向东横向分布，向北向上，每个村庄周围都有一个黑色十字，即其 k-means 中心。虚线将一户红色人家与三个中心相连：4.9 km、5.2 km，最近的是 1.0 km

k-means 会找到这些村庄。km.transform 会给出每行到每个中心的距离，.min(axis=1) 会保留最近的距离：

km = KMeans(n_clusters=3, n_init=10, random_state=0).fit(X_train)
near_train = km.transform(X_train).min(axis=1)
near_test = km.transform(X_test).min(axis=1)
X_train2 = np.column_stack([X_train, near_train])
X_test2 = np.column_stack([X_test, near_test])

多了这一列后，线性模型的测试 R 平方值从 0.000 提高到 0.886。

像缩放器一样，只用训练行拟合 k-means，然后转换两组数据。

挑战

中等

音乐节的音响团队想知道人们站立位置的音量有多大。起始代码会拆分 crowd.csv，读取 k，并打印仅使用位置得到的分数。

在训练位置上使用 k 个簇拟合 k-means。
在两组数据中，都将每行到最近中心的距离添加为第三列。
打印新的测试集 R 平方值和增益，保留 3 位小数。

对于另一场音乐节，且 k = 4：

Position only: R squared 0.097
With the nearest of 4 centers: R squared 0.734
Gain: 0.637

亲手试试

import numpy as np
import pandas as pd
from sklearn.model_selection import train_test_split
from sklearn.linear_model import LinearRegression
from sklearn.cluster import KMeans

# 250 名音乐节观众：他们站立的位置（m）及该处的声级（dB）
crowd = pd.read_csv("crowd.csv")
X = crowd[["x_m", "y_m"]].to_numpy()
y = crowd["sound_db"]
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.25, random_state=0)
k = int(input())


# 用训练数据列拟合线性回归模型，返回模型在测试数据列上的 R 平方值
def test_r2(A_train, A_test):
    model = LinearRegression().fit(A_train, y_train)
    return model.score(A_test, y_test)


before = test_r2(X_train, X_test)
print(f"Position only: R squared {before:.3f}")

# 在下方编写你的代码