选择模型

本课属于 Coddy Machine Learning 学习旅程的“监督学习”单元。第 52 课，共 58 课。

有几类模型都可以为企鹅分类。哪种最合适？给它们相同的数据划分和折数，然后进行比较，就像这些葡萄酒模型一样：

葡萄酒数据中每个候选模型的五折准确率以点表示，均值处有一条黑色横线：逻辑回归最高且稳定，为 0.970；k-NN 为 0.940；决策树最低，为 0.896，其中一折降至 0.78

平均值最高的方案胜出。标准差较小，说明它在每个折上都表现出色，而不是只在一次幸运的划分中表现好。

pipe = make_pipeline(prep, model)
scores = cross_val_score(pipe, X_train, y_train, cv=5)

每个折都会在自己的训练部分上重新拟合各个处理步骤，因此每个评分都真实可靠。测试集中的企鹅始终保持隔离。

挑战

中等

有 4 个候选者想得到这份工作。起始代码已经准备好了数据处理流程、names 和 models 列表，并会读取折数。

对每个候选者，在训练数据行上对 prep 和该模型组成的流水线进行交叉验证。
打印它的平均值和标准差，保留 3 位小数。
打印获胜者：平均值最高的候选者。

换一个企鹅群体，并使用 5 折时：

k-NN: mean 0.951, std 0.031
Logistic regression: mean 0.964, std 0.012
Random forest: mean 0.958, std 0.027
Decision tree: mean 0.902, std 0.048
Winner: Logistic regression

亲手试试

import pandas as pd
from sklearn.model_selection import train_test_split, cross_val_score
from sklearn.compose import ColumnTransformer
from sklearn.pipeline import make_pipeline
from sklearn.impute import SimpleImputer
from sklearn.preprocessing import StandardScaler, OneHotEncoder
from sklearn.neighbors import KNeighborsClassifier
from sklearn.linear_model import LogisticRegression
from sklearn.ensemble import RandomForestClassifier
from sklearn.tree import DecisionTreeClassifier

# 来自 Meet the Penguins 的企鹅群体，以及它们的特征和标签
penguins = pd.read_csv("penguins.csv")
numbers = ["bill_length_mm", "bill_depth_mm", "flipper_length_mm", "body_mass_g"]
text = ["island", "sex"]
X = penguins[numbers + text]
y = penguins["species"]
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.25, stratify=y, random_state=0)

# 来自 Prepare the Data：两条数据处理通道
number_steps = make_pipeline(SimpleImputer(strategy="median"), StandardScaler())
text_steps = make_pipeline(SimpleImputer(strategy="constant", fill_value="unknown"), OneHotEncoder())
prep = ColumnTransformer([("numbers", number_steps, numbers), ("words", text_steps, text)])

# 候选模型
names = ["k-NN", "Logistic regression", "Random forest", "Decision tree"]
models = [KNeighborsClassifier(), LogisticRegression(max_iter=1000),
          RandomForestClassifier(n_estimators=100, random_state=0), DecisionTreeClassifier(random_state=0)]
folds = int(input())

# 在下方编写你的代码