כוונון המודל המנצח

חלק מהיחידה למידה מונחית במסלול ה-Machine Learning של Coddy. שיעור 53 מתוך 58.

k-NN ניצח עם ברירת המחדל שלו, 5 שכנים. האם ערך אחר של k יסווג טוב יותר את הפינגווינים? חיפוש גריד מדרג כל ערך k שתציין באמצעות אימות צולב, כמו בדוגמה הזו של סריקות גידולים:

דיוק ממוצע באימות צולב של k-NN בסריקות גידולים עבור ערכי k מ-1 עד 29: הדיוק מגיע לשיא ב-k = 3 עם 0.974, המסומן בכוכב, ואז יורד בהדרגה ל-0.946 ב-k = 29

כמו בכוונון של Pipeline, השם של k נקבע לפי השלב שלו:

{"kneighborsclassifier__n_neighbors": [3, 5, 7]}

שיפור קטן מסטיית התקן של הקיפולים עשוי להיות מקרי. גם הכוונון משתמש רק בשורות האימון.

אתגר

בינוני

צינור ה-k-NN שלך הוא pipe, ו-default מכיל את דיוק האימות הצולב שלו עם k = 5. התוכנית קוראת את ערכי k לניסיון לתוך ks.

בצע חיפוש רשת על הערכים האלה עם 5 קיפולים בשורות האימון.
הדפס את ערך k הטוב ביותר ואת דיוק האימות הצולב שלו, עם 3 ספרות אחרי הנקודה העשרונית.
הדפס את השיפור לעומת k = 5, עם 3 ספרות אחרי הנקודה העשרונית.

עבור מושבה אחרת והרשת 3, 5, 9:

Best k: 3
CV accuracy: 0.969
Gain over k = 5: 0.009

לאחר מכן נסה רק ערכים גדולים, כמו 21 עד 27. האם כוונון תמיד עוזר?

נסו בעצמכם

import pandas as pd
from sklearn.model_selection import train_test_split, cross_val_score, GridSearchCV
from sklearn.compose import ColumnTransformer
from sklearn.pipeline import make_pipeline
from sklearn.impute import SimpleImputer
from sklearn.preprocessing import StandardScaler, OneHotEncoder
from sklearn.neighbors import KNeighborsClassifier

# המושבה מתוך Meet the Penguins, המאפיינים שלה והתווית שלה
penguins = pd.read_csv("penguins.csv")
numbers = ["bill_length_mm", "bill_depth_mm", "flipper_length_mm", "body_mass_g"]
text = ["island", "sex"]
X = penguins[numbers + text]
y = penguins["species"]
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.25, stratify=y, random_state=0)

# מתוך Prepare the Data: שני המסלולים
number_steps = make_pipeline(SimpleImputer(strategy="median"), StandardScaler())
text_steps = make_pipeline(SimpleImputer(strategy="constant", fill_value="unknown"), OneHotEncoder())
prep = ColumnTransformer([("numbers", number_steps, numbers), ("words", text_steps, text)])

# מתוך Choose a Model: המודל הזוכה, k-NN עם ערך ברירת המחדל k = 5
pipe = make_pipeline(prep, KNeighborsClassifier())
default = cross_val_score(pipe, X_train, y_train, cv=5).mean()

# ערכי k שכדאי לנסות
n = int(input())
ks = []
for i in range(n):
    ks.append(int(input()))

# כתבו את הקוד שלכם למטה