Ritardi dei treni
Fa parte della sezione Statistica per il machine learning del percorso Machine Learning di Coddy. Lezione 61 di 64.
Due linee di pendolari, Maple e Birch, condividono una stazione. Per 24 giorni sono stati registrati i ritardi dei treni di entrambe le linee nell'ora di punta, in trains.csv:
Tre guasti ai segnali hanno trattenuto i treni per un’ora o più: un dato reale, ma abbastanza grande da falsare qualsiasi media.
Il responsabile chiede: Maple è davvero più in ritardo, oppure la differenza potrebbe essere dovuta al caso? Ridimensiona gli estremi, poi lascia che sia il rimescolamento a decidere.
Sfida
DifficileIl programma legge il fattore dei limiti k; 1.5 è la regola del grafico a scatola.
- Limita tutti i ritardi a
Q1 - k * IQReQ3 + k * IQR, conta i valori anomali, poi limita ogni ritardo connp.clip. - Stampa la media dei ritardi limitati per ciascuna linea e la differenza, Maple meno Birch.
- Mescola 2000 volte: unisci i ritardi limitati di Maple e poi quelli di Birch, una
rng.permutationper round; i primi 24 sono Maple fittizi. - Stampa il valore p, ignorando il segno, e il verdetto:
unlikely to be chancese inferiore a 0.05, altrimenticould be chance.
Arrotonda a 2 decimali e p a 3. Per k = 2:
Fences: 0.25 to 26.5 (3 outliers)
Maple mean: 15.27
Birch mean: 12.21
Difference: 3.06
p-value: 0.03
Verdict: unlikely to be chanceIl verdetto regge con un valore di k più rigoroso o più permissivo?
Provalo tu
import numpy as np
import pandas as pd
k = float(input())
df = pd.read_csv("trains.csv")
delays = df["delay_min"]
# Non modificare la riga qui sotto
rng = np.random.default_rng(5)
# Scrivi il tuo codice qui sotto
Questa lezione include un breve quiz. Inizia la lezione per rispondere e tenere traccia dei tuoi progressi.
Tutte le lezioni di Statistica per il machine learning
1Centro e dispersione
Media e medianaPercentili e quartiliVarianza e deviazione standardCampione o popolazione?Il valore più frequenteRiepilogo: tempi di consegna4Campioni e popolazioni
Popolazione e campioneLe medie campionarie varianoDistribuzione campionariaCampioni più grandi, meno rumoreRiepilogo: sondare una città7Linee di tendenza
ResiduiAdattamento dei minimi quadratiTracciare la retta di adattamentoFare previsioni con una rettaQuanto è buono l’adattamento?Riepilogo: ore di pratica10Codifica delle categorie
Categorie come numeriCodifica one-hotRaggruppamento dei numeri in intervalliRiepilogo: annunci di auto2Distribuzioni
Istogrammi di densitàForme dei datiCurva normaleRegola 68-95-99,7Punteggi ZRiepilogo: durata della batteria5Valori anomali
Diagrammi a scatolaLa regola dell'IQRLa regola dello z-scoreGestire i valori anomaliRiepilogo: anomalie dei sensori3Probabilità tramite simulazione
La probabilità come frequenzaLa legge dei grandi numeriSomme dei dadiValore attesoProbabilità condizionataRiepilogo: probabilità al banco dei dadi6Relazioni
Leggere i grafici a dispersioneCorrelazioneMatrice di correlazioneMappe di calore della correlazioneCorrelazione non significa causalitàRiepilogo: gelato e soleEsercitati da solo: Compilatore Python online