Residuos

Una recta de mejor ajuste predice un valor de y para cada x. La mayoría de los puntos no caen exactamente sobre ella, y la diferencia entre lo que vale de verdad un punto y lo que la recta dice que debería valer es el residuo de ese punto. Es la magnitud más sencilla de la regresión, una simple resta, y leyendo los residuos se distingue una recta que ajusta de una que solo lo parece.

Arrastra los puntos de abajo. Cada segmento vertical es un residuo, azul para los puntos por encima de la recta y naranja para los de debajo, y la tabla los enumera todos con la suma de sus cuadrados.

Observado menos predicho

Para un punto de coordenadas (x, y), la recta predice un valor que se escribe ŷ y se lee "y gorro". El residuo es

e = y - ŷ

observado menos predicho, siempre en ese orden.

Toma los cinco puntos x = 1, 2, 3, 4, 5 e y = 2, 4, 5, 4, 5. Su recta de mejor ajuste es y = 0.6x + 2.2. En x = 3 la recta predice 0.6 × 3 + 2.2 = 4, y el punto real es (3, 5), así que el residuo es 1. En x = 1 predice 2.8 y el punto es (1, 2), así que el residuo es -0.8.

Lo que dice el signo

Un residuo positivo significa que el punto está por encima de la recta: el valor real fue mayor que el predicho, así que la recta lo subestimó. Un residuo negativo significa que el punto está por debajo de la recta y la recta lo sobreestimó. Un residuo de cero significa que el punto está exactamente sobre la recta.

El tamaño está en las unidades de y. Si y es la nota de un examen en puntos, un residuo de -0.8 significa que el estudiante sacó 0.8 puntos menos de lo que la recta predecía para su x.

Por qué suman cero

Mira la columna de residuos de la tabla: -0.8, 0.6, 1, -0.6 y -0.2 suman exactamente 0. No es suerte. Ocurre en toda recta de mínimos cuadrados con ordenada en el origen.

La ordenada de esa recta se elige como b = ȳ - m x̄. Suma los residuos y - (mx + b) sobre los n puntos: los valores de y suman nȳ, los términos mx suman mnx̄ y los términos b suman nb. Sustituye la fórmula de b y las tres partes se anulan hasta dar cero. Dicho con palabras: la recta se coloca de forma que los puntos de encima y los de debajo se equilibran exactamente.

Por eso también hay que elevar los residuos al cuadrado antes de que puedan medir nada. Su suma sin más siempre es 0, tanto para una recta buena como para una mala.

La suma de los residuos al cuadrado

Eleva al cuadrado cada residuo y súmalos, y obtienes la suma de los residuos al cuadrado, que a menudo se escribe SSE. Para los cinco puntos de arriba es 0.64 + 0.36 + 1 + 0.36 + 0.04 = 2.4.

La recta de mejor ajuste se define como la recta que hace este número lo más pequeño posible. Cualquier otra recta lo hace peor. La recta y = 0.5x + 2.5 también pasa por el punto de las medias (3, 4) y en una gráfica parece casi igual, pero sus residuos son -1, 0.5, 1, -0.5 y 0, y sus cuadrados suman 2.5. La recta y = x + 1 da 4. El mínimo, 2.4, es solo de y = 0.6x + 2.2.

Elevar al cuadrado tiene un efecto secundario que conviene conocer. Un residuo de 2 aporta 4 a la suma y un residuo de 4 aporta 16, así que un punto lejos del resto tira de toda la recta hacia sí. Arrastra un solo punto a una esquina de la gráfica de arriba y mira cómo salta la suma y se inclina la recta.

Gráficas de residuos

Una gráfica de residuos pone x en el eje horizontal y el residuo de cada punto en el vertical. La recta ajustada se convierte en la recta horizontal en cero, y la pregunta se vuelve sencilla: ¿queda algún patrón?

Una banda sin patrón significa que la recta ajusta. Residuos repartidos por encima y por debajo de cero sin ninguna forma, más o menos igual de anchos en cada x, dicen que la recta ha recogido la tendencia y que lo que queda es ruido.

Una curva significa que una recta es la forma equivocada. Ajusta una recta a los cuadrados 0, 1, 4, 9, 16 y 25 en x = 0 a 5 y obtienes y = 5x - 10/3 con r ≈ 0.9599, que parece un ajuste excelente. Los residuos dicen la verdad:

Van 10/3, -2/3, -8/3, -8/3, -2/3, 10/3: una U. La recta queda demasiado alta en el centro y demasiado baja en los extremos una y otra vez, que es el aspecto que tiene siempre ajustar una recta a una curva. Una parábola ajusta exactamente estos puntos, que es lo que encontraría la calculadora de regresión cuadrática.

Un abanico significa que la dispersión crece. Si los residuos son pequeños en un extremo y grandes en el otro, la recta puede seguir siendo correcta en promedio, pero sus predicciones pierden precisión al crecer x. Los datos que crecen en porcentaje, como los precios o las poblaciones, suelen tener este aspecto, y un modelo exponencial es lo siguiente que se suele probar.

Residuos y valores atípicos

Un punto con un residuo inusualmente grande, muy por encima o por debajo de la recta en comparación con los demás, es un valor atípico en y. Merece una segunda mirada: puede ser un error al escribir el dato, o un caso que de verdad es distinto.

Un punto muy a la izquierda o a la derecha del resto es otro tipo de problema. Como la recta gira alrededor del punto de las medias, un punto muy alejado en x tiene una palanca larga y puede arrastrar la recta hacia sí, lo que le puede dejar un residuo pequeño aunque haya sido el que más ha cambiado la recta. Así que un residuo pequeño no demuestra que un punto sea normal. En la gráfica de arriba, arrastra hacia abajo el punto de más a la derecha y mira cómo lo sigue la recta.

Prueba uno

La recta de mejor ajuste es y = 0.6x + 2.2, y uno de los datos es (4, 4). ¿Cuál es el residuo de ese punto?

La recta predice 4.6 y el punto está en 4, así que el punto queda 0.6 por debajo de la recta. Si te ha salido 0.6, has hecho la resta al revés: siempre es observado menos predicho. Para tus propios datos, la calculadora de regresión lineal da la recta y su suma de los residuos al cuadrado, y la página del coeficiente de correlación muestra lo que significa la calidad del ajuste en un solo número.