Residual

Garis kecocokan terbaik memprediksi nilai y untuk setiap x. Sebagian besar titik tidak mendarat tepat di garis itu, dan selisih antara nilai sebenarnya sebuah titik dan nilai yang seharusnya menurut garis adalah residual titik tersebut. Residual adalah besaran paling sederhana dalam regresi, cukup satu pengurangan, dan membaca residual adalah cara membedakan garis yang benar-benar cocok dari garis yang hanya terlihat cocok.

Geser titik-titik di bawah ini. Setiap ruas tegak adalah satu residual, biru untuk titik di atas garis dan oranye untuk titik di bawahnya, dan tabelnya mencantumkan semuanya beserta jumlah kuadratnya.

Pengamatan dikurangi prediksi

Untuk titik dengan koordinat (x, y), garis memprediksi sebuah nilai yang ditulis ŷ, dibaca "y topi". Residualnya adalah

e = y - ŷ

nilai pengamatan dikurangi nilai prediksi, selalu dengan urutan itu.

Ambil lima titik x = 1, 2, 3, 4, 5 dan y = 2, 4, 5, 4, 5. Garis kecocokan terbaiknya adalah y = 0.6x + 2.2. Di x = 3, garis memprediksi 0,6 × 3 + 2,2 = 4, sedangkan titik sebenarnya (3, 5), jadi residualnya 1. Di x = 1, garis memprediksi 2,8 dan titiknya (1, 2), jadi residualnya -0,8.

Arti tandanya

Residual positif berarti titiknya berada di atas garis: nilai sebenarnya lebih tinggi daripada prediksi, jadi garis menaksirnya terlalu rendah. Residual negatif berarti titiknya berada di bawah garis dan garis menaksir terlalu tinggi. Residual nol berarti titiknya tepat berada pada garis.

Besarnya dinyatakan dalam satuan y. Kalau y adalah nilai tes dalam poin, residual -0,8 berarti siswa itu mendapat nilai 0,8 poin di bawah prediksi garis untuk x-nya.

Kenapa jumlahnya nol

Lihat kolom residual di tabel: -0,8, 0,6, 1, -0,6, dan -0,2 berjumlah tepat 0. Itu bukan kebetulan. Hal ini terjadi pada setiap garis kuadrat terkecil yang punya titik potong.

Titik potong garis itu dipilih sebagai b = ȳ - m x̄. Jumlahkan residual y - (mx + b) untuk semua n titik: nilai-nilai y berjumlah nȳ, suku-suku mx berjumlah mnx̄, dan suku-suku b berjumlah nb. Substitusikan rumus b, dan ketiga bagian itu saling meniadakan menjadi nol. Dengan kata-kata: garisnya ditempatkan sedemikian rupa sehingga titik-titik di atasnya dan di bawahnya seimbang dengan tepat.

Itu juga alasan residual harus dikuadratkan sebelum bisa mengukur apa pun. Jumlah biasanya selalu 0, baik untuk garis yang bagus maupun yang buruk.

Jumlah kuadrat residual

Kuadratkan setiap residual lalu jumlahkan, dan kamu mendapat jumlah kuadrat residual, yang sering ditulis SSE. Untuk lima titik di atas, nilainya 0.64 + 0.36 + 1 + 0.36 + 0.04 = 2.4.

Garis kecocokan terbaik didefinisikan sebagai garis yang membuat angka ini sekecil mungkin. Garis lain mana pun hasilnya lebih buruk. Garis y = 0.5x + 2.5 juga melewati titik rata-rata (3, 4) dan terlihat hampir sama di grafik, tetapi residualnya -1, 0,5, 1, -0,5, dan 0, dan kuadratnya berjumlah 2,5. Garis y = x + 1 mendapat 4. Nilai minimum, 2,4, hanya milik y = 0.6x + 2.2.

Mengkuadratkan punya efek samping yang perlu diketahui. Residual 2 menyumbang 4 ke jumlahnya dan residual 4 menyumbang 16, jadi satu titik yang jauh dari yang lain menarik seluruh garis ke arahnya. Geser satu titik ke sudut plot di atas dan lihat jumlahnya melonjak dan garisnya miring.

Plot residual

Plot residual menaruh x di sumbu mendatar dan residual setiap titik di sumbu tegak. Garis yang dicocokkan menjadi garis mendatar di nol, dan pertanyaannya menjadi sederhana: apakah masih ada pola yang tersisa?

Pita tanpa pola berarti garisnya cocok. Residual yang tersebar di atas dan di bawah nol tanpa bentuk, dengan lebar yang kira-kira sama di setiap x, menunjukkan bahwa garis lurus sudah menangkap trennya dan yang tersisa hanyalah gangguan acak.

Kurva berarti garis lurus adalah bentuk yang salah. Cocokkan garis pada bilangan kuadrat 0, 1, 4, 9, 16, dan 25 di x = 0 sampai 5, dan kamu mendapat y = 5x - 10/3 dengan r ≈ 0,9599, yang terdengar seperti kecocokan yang sangat bagus. Residualnya mengungkap kebenarannya:

Nilainya berurutan 10/3, -2/3, -8/3, -8/3, -2/3, 10/3: sebuah U. Garisnya selalu terlalu tinggi di tengah dan terlalu rendah di ujung-ujungnya, dan begitulah tampilan setiap garis lurus yang dicocokkan pada sebuah kurva. Parabola cocok dengan titik-titik ini secara tepat, dan itulah yang akan ditemukan kalkulator regresi kuadratik.

Kipas berarti sebarannya membesar. Kalau residualnya kecil di satu ujung dan besar di ujung lain, garisnya mungkin masih benar secara rata-rata, tetapi prediksinya makin tidak tepat saat x membesar. Data yang tumbuh dalam persentase, seperti harga atau jumlah penduduk, sering terlihat seperti ini, dan model eksponensial biasanya menjadi hal berikutnya yang dicoba.

Residual dan pencilan

Titik dengan residual yang luar biasa besar, jauh di atas atau di bawah garis dibandingkan titik lainnya, adalah pencilan pada y. Titik seperti itu layak diperiksa ulang: mungkin itu salah ketik, atau kasus yang memang berbeda.

Titik yang jauh di kiri atau di kanan titik-titik lainnya adalah masalah yang berbeda. Karena garisnya berputar di sekitar titik rata-rata, titik yang jauh pada x punya tuas yang panjang dan bisa menyeret garis ke arahnya. Akibatnya titik itu bisa punya residual kecil meskipun justru titik itulah yang paling mengubah garisnya. Jadi residual yang kecil tidak membuktikan bahwa sebuah titik biasa saja. Di plot atas, geser titik paling kanan lurus ke bawah dan lihat garisnya mengikutinya.

Coba satu soal

Garis kecocokan terbaiknya adalah y = 0.6x + 2.2, dan salah satu titik datanya adalah (4, 4). Berapa residual titik itu?

Garisnya memprediksi 4,6 dan titiknya berada di 4, jadi titik itu terletak 0,6 di bawah garis. Kalau kamu mendapat 0,6, pengurangannya dilakukan terbalik: selalu nilai pengamatan dikurangi nilai prediksi. Untuk datamu sendiri, kalkulator regresi linear memberi garisnya beserta jumlah kuadrat residualnya, dan halaman koefisien korelasi menunjukkan arti kekuatan kecocokannya sebagai satu angka.