Artıklar

En uygun doğru her x için bir y değeri tahmin eder. Noktaların çoğu tam olarak onun üzerine düşmez; bir noktanın gerçekte ne olduğu ile doğrunun ne olması gerektiğini söylediği arasındaki fark, o noktanın artığıdır. Regresyondaki en basit niceliktir, tek bir çıkarma; artıkları okumak ise gerçekten uyan bir doğruyu yalnızca uyuyor gibi görünen bir doğrudan ayırmanın yoludur.

Aşağıdaki noktaları sürükle. Her düşey parça bir artıktır: doğrunun üstündeki noktalar için mavi, altındakiler için turuncu. Tablo hepsini, karelerinin toplamıyla birlikte listeler.

Gözlenen eksi tahmin edilen

Koordinatları (x, y) olan bir nokta için doğru, "y şapka" diye okunan ve ŷ yazılan bir değer tahmin eder. Artık şudur:

e = y - ŷ

gözlenen eksi tahmin edilen, her zaman bu sırayla.

x = 1, 2, 3, 4, 5 ve y = 2, 4, 5, 4, 5 noktalarını al. En uygun doğruları y = 0.6x + 2.2'dir. x = 3'te doğru 0.6 × 3 + 2.2 = 4 tahmin eder ve gerçek nokta (3, 5)'tir, yani artık 1'dir. x = 1'de 2.8 tahmin eder ve nokta (1, 2)'dir, yani artık -0.8'dir.

İşaret ne söyler

Pozitif bir artık, noktanın doğrunun üstünde durduğu anlamına gelir: gerçek değer tahminden yüksektir, yani doğru eksik tahmin etmiştir. Negatif bir artık, noktanın doğrunun altında durduğu ve doğrunun fazla tahmin ettiği anlamına gelir. Sıfır artık, noktanın tam olarak doğru üzerinde olduğu demektir.

Büyüklük y'nin birimindedir. y puan cinsinden bir sınav notuysa -0.8'lik bir artık, öğrencinin kendi x'i için doğrunun tahmin ettiğinden 0.8 puan düşük aldığı anlamına gelir.

Toplamları neden sıfırdır

Tablodaki artık sütununa bak: -0.8, 0.6, 1, -0.6 ve -0.2'nin toplamı tam olarak 0'dır. Bu şans değildir. Kesim noktası olan her en küçük kareler doğrusunda olur.

O doğrunun kesim noktası b = ȳ - m x̄ olarak seçilir. n noktanın hepsi üzerinden y - (mx + b) artıklarını topla: y değerleri nȳ, mx terimleri mnx̄, b terimleri nb eder. b'nin formülünü yerine koy, üç parça birbirini götürüp sıfır olur. Sözle: doğru, üstündeki ve altındaki noktalar tam olarak dengelenecek biçimde yerleştirilir.

Artıkların bir şey ölçebilmesi için önce karelerinin alınması gerekmesinin nedeni de budur. Düz toplamları, iyi doğru için de kötü doğru için de her zaman 0'dır.

Artıkların kareleri toplamı

Her artığın karesini alıp toplarsan artıkların kareleri toplamını elde edersin; çoğu zaman SSE diye yazılır. Yukarıdaki beş nokta için 0.64 + 0.36 + 1 + 0.36 + 0.04 = 2.4'tür.

En uygun doğru, bu sayıyı olabildiğince küçük yapan doğru olarak tanımlanır. Başka her doğru daha kötü sonuç verir. y = 0.5x + 2.5 doğrusu da ortalamalar noktası (3, 4)'ten geçer ve bir grafikte neredeyse aynı görünür, ama artıkları -1, 0.5, 1, -0.5 ve 0'dır ve karelerinin toplamı 2.5'tir. y = x + 1 doğrusu 4 alır. En küçük değer olan 2.4 yalnızca y = 0.6x + 2.2'ye aittir.

Kare almanın bilinmeye değer bir yan etkisi var. 2'lik bir artık toplama 4, 4'lük bir artık 16 katar; bu yüzden ötekilerden uzak tek bir nokta bütün doğruyu kendine doğru çeker. Yukarıdaki grafikte tek bir noktayı bir köşeye sürükle ve toplamın sıçramasını, doğrunun eğilmesini izle.

Artık grafikleri

Bir artık grafiği, yatay eksene x'i, düşey eksene her noktanın artığını koyar. Uydurulan doğru sıfırdaki yatay çizgiye dönüşür ve soru basitleşir: geriye bir örüntü kaldı mı?

Örüntüsüz bir bant, doğrunun uyduğunu gösterir. Sıfırın üstüne ve altına biçimsizce dağılmış, her x'te aşağı yukarı aynı genişlikte artıklar, düz doğrunun eğilimi yakaladığını ve geriye kalanın gürültü olduğunu söyler.

Bir eğri, düz doğrunun yanlış biçim olduğunu gösterir. x = 0'dan 5'e 0, 1, 4, 9, 16 ve 25 karelerine bir doğru uydur; r ≈ 0.9599 ile y = 5x - 10/3 elde edersin ve bu kulağa mükemmel bir uyum gibi gelir. Artıklar gerçeği söyler:

Değerleri 10/3, -2/3, -8/3, -8/3, -2/3, 10/3'tür: bir U. Doğru her seferinde ortada fazla yüksek, uçlarda fazla alçaktır; bir eğriye düz doğru uydurmak her zaman böyle görünür. Bu noktalara bir parabol tam olarak uyar; ikinci dereceden regresyon hesaplama aracının bulacağı da budur.

Bir yelpaze, yayılımın büyüdüğünü gösterir. Artıklar bir uçta küçük, öteki uçta büyükse doğru ortalamada yine doğru olabilir, ama x büyüdükçe tahminleri daha az kesin olur. Fiyatlar ya da nüfuslar gibi yüzdeyle büyüyen veriler çoğu zaman böyle görünür ve denenecek olağan sonraki şey üstel bir modeldir.

Artıklar ve aykırı değerler

Artığı alışılmadık derecede büyük olan, yani ötekilere göre doğrunun çok üstünde ya da altında duran bir nokta, y'de bir aykırı değerdir. İkinci bir bakışı hak eder: bir yazım hatası olabilir ya da gerçekten farklı bir durum.

Ötekilerin çok solunda ya da sağında duran bir nokta ise başka türden bir sorundur. Doğru ortalamalar noktası çevresinde döndüğü için x'te çok uzaktaki bir noktanın kaldıracı uzundur ve doğruyu kendine sürükleyebilir; bu da, doğruyu en çok değiştiren o olduğu hâlde, ona küçük bir artık bırakabilir. Yani küçük bir artık, bir noktanın sıradan olduğunu kanıtlamaz. Yukarıdaki grafikte en sağdaki noktayı dümdüz aşağı sürükle ve doğrunun onu izlemesine bak.

Bir tane dene

En uygun doğru y = 0.6x + 2.2 ve veri noktalarından biri (4, 4). Bu noktanın artığı kaçtır?

Doğru 4.6 tahmin eder ve nokta 4'tedir; yani nokta doğrunun 0.6 altındadır. 0.6 bulduysan çıkarmayı ters yönde yapmışsındır: her zaman gözlenen eksi tahmin edilen. Kendi verin için doğrusal regresyon hesaplama aracı doğruyu ve artıklarının kareleri toplamını verir; korelasyon katsayısı sayfası ise uyumun gücünün tek bir sayı olarak ne anlama geldiğini gösterir.