Atrasos de Trem
Parte da seção Estatística para ML do Journey de Machine Learning da Coddy. Lição 61 de 64.
Duas linhas de trens suburbanos, Maple e Birch, compartilham uma estação. Durante 24 dias, foram registrados os atrasos dos trens de horário de pico de cada linha, em trains.csv:
Três falhas de sinal atrasaram trens por uma hora ou mais: algo real, mas grande o bastante para distorcer qualquer média.
O gerente pergunta: Maple está realmente atrasado ou a diferença pode ser acaso? Controle os valores extremos e depois deixe a aleatorização decidir.
Desafio
DifícilO programa lê o fator dos limites k; 1.5 é a regra do box plot.
- Defina os limites para todos os atrasos em
Q1 - k * IQReQ3 + k * IQR, conte os valores atípicos e, em seguida, limite cada atraso comnp.clip. - Imprima a média dos atrasos limitados de cada linha e a diferença, Maple menos Birch.
- Embaralhe 2000 vezes: junte os atrasos limitados de Maple e depois os de Birch, uma
rng.permutationpor rodada, e considere os primeiros 24 como Maple fictício. - Imprima o valor-p, ignorando o sinal, e a conclusão:
unlikely to be chanceabaixo de 0.05; caso contrário,could be chance.
Arredonde para 2 casas decimais e o valor-p para 3. Para k = 2:
Fences: 0.25 to 26.5 (3 outliers)
Maple mean: 15.27
Birch mean: 12.21
Difference: 3.06
p-value: 0.03
Verdict: unlikely to be chanceA conclusão se mantém para um k mais rigoroso ou mais flexível?
Experimente você mesmo
import numpy as np
import pandas as pd
k = float(input())
df = pd.read_csv("trains.csv")
delays = df["delay_min"]
# Não altere a linha abaixo
rng = np.random.default_rng(5)
# Escreva seu código abaixo
Esta lição inclui um quiz rápido. Comece a lição para respondê-lo e acompanhar seu progresso.
Todas as lições de Estatística para ML
1Centro e dispersão
Média e medianaPercentis e quartisVariância e desvio padrãoAmostra ou população?O valor mais frequenteRevisão: tempos de entrega4Amostras e Populações
População e AmostraAs médias amostrais variamA distribuição amostralAmostras maiores, menos ruídoRevisão: pesquisa de opinião em uma cidade7Linhas de tendência
ResíduosAjuste por mínimos quadradosTraçando o ajusteFazendo previsões com uma linhaQuão bom é o ajuste?Revisão: horas de prática10Codificação de Categorias
Categorias como NúmerosCodificação One-HotAgrupamento de Números em FaixasRecapitulação: Anúncios de Carros2Distribuições
Histogramas de densidadeFormatos dos dadosA curva normalA regra 68-95-99,7Escores ZRecapitulando: duração da bateria5Valores atípicos
Diagramas de caixaA regra do IQRA regra do Z-scoreComo lidar com valores atípicosRevisão: falhas nos sensores8Comparando grupos
Gráficos de caixa por grupoDiferença entre médiasPode ser acaso?Valores-pO teste tRevisão: teste A/B11Explorando um conjunto de dados
Um primeiro olharTodos os atributos de uma vezAtributos em relação ao rótuloOs dois melhores atributosRevisão: dados de diabetes3Probabilidade por Simulação
Probabilidade como frequênciaA Lei dos Grandes NúmerosSomas de dadosValor esperadoProbabilidade condicionalRevisão: chances na barraca de dados6Relações
Lendo gráficos de dispersãoCorrelaçãoMatriz de correlaçãoMapas de calor de correlaçãoCorrelação não é causalidadeRevisão: sorvete e sol9Escalonamento de Recursos
Por que escalar os recursosEscalonamento Min-MaxPadronizaçãoStandardScalerRevisão: Parceiros de escaladaPratique por conta própria: Compilador de Python online