Menu
CoddyTech

特征重要性

本课属于 Coddy Machine Learning 学习旅程的“监督学习”单元。第 30 课,共 58 课。

决策树依赖哪些特征?feature_importances_ 给出每个特征在其问题所做的分类中所占的比例,这些比例相加为 1:

深度为 3 的鸢尾花决策树的横向条形图:花瓣宽度 0.58,花瓣长度 0.42,萼片宽度 0.00,萼片长度 0.00

将它们整理成 Series 后,就能绘制出排名图。ax.barh 会横向绘制条形,因此较长的名称也能放得下:

imp = pd.Series(tree.feature_importances_, index=iris.feature_names).sort_values()
ax.barh(imp.index, imp.values)

0 表示这棵树从未询问过这个特征。萼片仍然可能有影响:花瓣已经告诉这棵树它们会是什么样。

challenge icon

挑战

中等

一家冲浪学校想知道,初学者在第一周怎样才能站上冲浪板。程序会读取一个深度值;起始代码会训练一棵达到该深度的树,并设置图表。

  1. 将重要性按特征整理到一个 Series 中,并按从小到大的顺序排列。
  2. 打印最重要的特征(保留 3 位小数)以及从未使用过的特征,如下所示。
  3. 将它们绘制成横向条形图并显示。

对于游泳学校:

Top feature: pool_hours (0.612)
Never asked: ['goggles']

然后 Coddy 会描述你的图表。它们的图表如下:

标题为“什么能帮助游泳者坚持下来?”,横向条形图,最大值在顶部:pool_hours 约为 0.61,can_float 为 0.21,age 为 0.10,lessons_per_week 为 0.08,goggles 为 0

亲手试试

import pandas as pd
import matplotlib.pyplot as plt
from sklearn.model_selection import train_test_split
from sklearn.tree import DecisionTreeClassifier

depth = int(input())

# 每行对应一位初学者:standing 中的 1 表示他们在第一周内就能站上冲浪板
surf = pd.read_csv("surfschool.csv")
features = ["age", "fitness", "days_surfed", "skated_before", "lesson_hours", "wetsuit_fit"]
X_train, X_test, y_train, y_test = train_test_split(surf[features], surf["standing"], test_size=0.25, random_state=0)
tree = DecisionTreeClassifier(max_depth=depth, random_state=0)
tree.fit(X_train, y_train)

fig, ax = plt.subplots(layout="constrained")  # 为较长的名称留出空间
ax.set_title("What Gets Beginners Standing?")
ax.set_xlabel("Importance")

# 在下方编写你的代码
quiz icon自我测试

这节课包含一个小测验。开始学习即可作答,并记录你的进度。

监督学习中的所有课

自己练习: Python 在线编译器