Wybierz model

Część sekcji Uczenie nadzorowane ścieżki Machine Learning w Coddy. Lekcja 52 z 58.

Kilka rodzin modeli mogłoby nazwać pingwiny. Który model pasuje najlepiej? Przydziel każdemu te same zestawy i te same podziały, a następnie porównaj wyniki, tak jak w przypadku tych modeli dla danych o winach:

Dokładność w pięciu podziałach dla każdego kandydata na danych o winach, przedstawiona jako kropki, z czarną kreską przy każdej średniej: regresja logistyczna ma najwyższy i najbardziej wyrównany wynik — 0.970, k-NN — 0.940, a drzewo najniższy — 0.896, przy czym wynik w jednym podziale spada do 0.78

Wygrywa najwyższa średnia. Niskie odchylenie standardowe oznacza, że model wygrał w każdym foldzie, a nie tylko przy jednym szczęśliwym podziale.

pipe = make_pipeline(prep, model)
scores = cross_val_score(pipe, X_train, y_train, cv=5)

Każdy fold ponownie dopasowuje ścieżki na własnej części treningowej, więc każdy wynik pozostaje wiarygodny. Testowe pingwiny pozostają zablokowane.

Wyzwanie

Średni

Czterech kandydatów ubiega się o pracę. Kod startowy zawiera etapy przetwarzania danych, listy names i models oraz odczytuje liczbę podziałów.

Dla każdego kandydata przeprowadź walidację krzyżową potoku złożonego z prep i danego modelu na wierszach treningowych.
Wypisz średnią i odchylenie standardowe z dokładnością do 3 miejsc po przecinku.
Wypisz zwycięzcę: kandydata z najwyższą średnią.

Dla innej kolonii i 5 podziałów:

k-NN: mean 0.951, std 0.031
Logistic regression: mean 0.964, std 0.012
Random forest: mean 0.958, std 0.027
Decision tree: mean 0.902, std 0.048
Winner: Logistic regression

Spróbuj swoich sił

import pandas as pd
from sklearn.model_selection import train_test_split, cross_val_score
from sklearn.compose import ColumnTransformer
from sklearn.pipeline import make_pipeline
from sklearn.impute import SimpleImputer
from sklearn.preprocessing import StandardScaler, OneHotEncoder
from sklearn.neighbors import KNeighborsClassifier
from sklearn.linear_model import LogisticRegression
from sklearn.ensemble import RandomForestClassifier
from sklearn.tree import DecisionTreeClassifier

# Kolonia z Meet the Penguins, jej cechy i etykieta
penguins = pd.read_csv("penguins.csv")
numbers = ["bill_length_mm", "bill_depth_mm", "flipper_length_mm", "body_mass_g"]
text = ["island", "sex"]
X = penguins[numbers + text]
y = penguins["species"]
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.25, stratify=y, random_state=0)

# Z Prepare the Data: dwie ścieżki
number_steps = make_pipeline(SimpleImputer(strategy="median"), StandardScaler())
text_steps = make_pipeline(SimpleImputer(strategy="constant", fill_value="unknown"), OneHotEncoder())
prep = ColumnTransformer([("numbers", number_steps, numbers), ("words", text_steps, text)])

# Kandydaci
names = ["k-NN", "Logistic regression", "Random forest", "Decision tree"]
models = [KNeighborsClassifier(), LogisticRegression(max_iter=1000),
          RandomForestClassifier(n_estimators=100, random_state=0), DecisionTreeClassifier(random_state=0)]
folds = int(input())

# Napisz swój kod poniżej