Chọn k

Thuộc phần Học có giám sát trong hành trình Machine Learning của Coddy. Bài học 7 trên 58.

k nào phù hợp với ớt? Hãy thử vài giá trị rồi chấm điểm mỗi mô hình hai lần: trên các hàng mô hình đã học, tức độ chính xác huấn luyện, và trên các hàng chưa được xem, tức độ chính xác kiểm tra.

Độ chính xác theo k của ớt, gồm hai đường. Độ chính xác huấn luyện bắt đầu ở mức 1.0 khi k = 1 rồi giảm dần. Độ chính xác kiểm tra bắt đầu ở mức 0.8, đạt đỉnh 0.92 khi k = 13, và cả hai đường đều giảm xuống khoảng 0.7 khi k lớn hơn 80

Ở k = 1, mỗi quả ớt là hàng xóm gần nhất của chính nó, nên mô hình ghi nhớ dữ liệu: dự đoán hoàn hảo trên các hàng dữ liệu đó, nhưng kém hơn với dữ liệu mới. Giá trị k quá lớn làm mờ ranh giới giữa các nhóm.

ks = range(1, 120, 6)
train_acc = []
test_acc = []
for k in ks:
    model = KNeighborsClassifier(n_neighbors=k)
    model.fit(X_train, y_train)
    train_acc.append(model.score(X_train, y_train))
    test_acc.append(model.score(X_test, y_test))

Hiện tại, hãy chọn k tại đó độ chính xác trên tập kiểm tra đạt đỉnh: chương 7 sẽ giới thiệu một cách đánh giá công bằng hơn.

Thử thách

Dễ

Một câu lạc bộ bóng đá ghi lại các cú sút trong shots.csv: khoảng cách, góc sút và goal hoặc miss. Giá trị k nào dự đoán tốt nhất? Phần code khởi đầu chia dữ liệu, liệt kê ks và gắn nhãn cho biểu đồ.

Với mỗi giá trị k, hãy huấn luyện một mô hình và lưu độ chính xác trên tập huấn luyện và tập kiểm tra.
In giá trị k tốt nhất theo độ chính xác trên tập kiểm tra như bên dưới.
Vẽ cả hai danh sách theo ks, gắn nhãn train và test, đồng thời thêm chú giải.

Với một câu lạc bộ khác:

Best k: 9 (test accuracy 0.783)

Độ chính xác theo k của các cú sút của một câu lạc bộ khác, từ 1 đến 41. Độ chính xác trên tập huấn luyện giảm từ 0.99 tại k = 1 xuống khoảng 0.71. Độ chính xác trên tập kiểm tra tăng từ 0.68 lên mức cao nhất là 0.78 tại k = 9, rồi giảm xuống 0.7

Sau đó, Coddy mô tả biểu đồ của bạn.

Tự làm thử

import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
from sklearn.model_selection import train_test_split
from sklearn.neighbors import KNeighborsClassifier

# Mỗi cú sút một hàng: khoảng cách đến khung thành (m), góc sút so với khung thành (độ), ghi bàn hoặc sút trượt
shots = pd.read_csv("shots.csv")
X = shots[["distance_m", "angle_deg"]]
y = shots["result"]
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.25, random_state=0)
ks = range(1, 42, 4)  # k = 1, 5, 9, ..., 41

fig, ax = plt.subplots()
ax.set_title("Shots: Accuracy by k")
ax.set_xlabel("k (neighbors)")
ax.set_ylabel("Accuracy")

# Viết code của bạn bên dưới