Comment k-NN prend ses décisions

Fait partie de la section Apprentissage supervisé du Journey Machine Learning de Coddy. Leçon 6 sur 58.

Ce chapitre vous fait découvrir k-NN. À la fin, vous saurez tracer sa carte pour n’importe quelles données, comme celle-ci pour les piments doux et forts :

80 piments représentés selon leur longueur et l’épaisseur de leur paroi sur une carte colorée : une région orange à gauche où le modèle indique qu’ils sont forts, une région bleue à droite où il indique qu’ils sont doux

Pour étiqueter un nouveau piment, les k plus proches voisins trouvent les k piments d’entraînement les plus proches de celui-ci, puis votent :

Gros plan sur les piments avec une étoile noire pour un nouveau piment. Des lignes grises le relient à ses 5 piments les plus proches : 3 forts et 2 doux, donc les forts l’emportent

Le plus proche signifie la distance la plus petite, celle que tu as rencontrée dans la section 2. Tu choisis k :

model = KNeighborsClassifier(n_neighbors=5)

n_neighbors est k, 5 sauf indication contraire. Avec deux classes, un k impair ne peut jamais produire d'égalité.

Défi

Facile

Un club d’astronomie classe les étoiles de stars.csv en naines et géantes selon leur température et leur magnitude. Le code de départ lit une nouvelle étoile et k.

Trouve à la main les k étoiles les plus proches : ajoute une colonne distance, puis trie.
Affiche combien d’entre elles sont des géantes, puis la gagnante du vote.
Vérifie le résultat avec un modèle k-NN de ce k, entraîné sur toutes les étoiles.

Pour une étoile et k = 5 d’un autre club :

Giants among the nearest 5: 4
By hand: giant
Model: giant

Essayez vous-même

import numpy as np
import pandas as pd
from sklearn.neighbors import KNeighborsClassifier

# Une ligne par étoile : température en milliers de kelvins, magnitude (plus elle est faible, plus l’étoile est brillante), naine ou géante
stars = pd.read_csv("stars.csv")
X = stars[["temp_kK", "magnitude"]]
y = stars["type"]

# La nouvelle étoile et k
temp = float(input())
mag = float(input())
k = int(input())
new_star = pd.DataFrame({"temp_kK": [temp], "magnitude": [mag]})

# Écrivez votre code ci-dessous