Đường hồi quy
Qua mọi đám điểm phân tán có đúng một đường thẳng lệch khỏi chúng ít nhất, đo theo cách bình phương nhỏ nhất. Kéo các điểm và đường thẳng sẽ di chuyển để luôn là đường tốt nhất.
Cập nhật lần cuối
Vẽ bất kỳ dữ liệu thật nào lên, các điểm sẽ không chịu nằm trên một đường thẳng. Bạn vẫn có thể vẽ một đường xuyên qua đám điểm để thể hiện xu hướng, và mỗi người cầm thước sẽ vẽ ra những đường hơi khác nhau. Đường hồi quy chấm dứt tranh cãi đó: có đúng một đường tốt nhất theo một thước đo chính xác, và có công thức để tìm ra nó.
Kéo bất kỳ điểm nào bên dưới, đường thẳng sẽ di chuyển để luôn là đường khớp nhất. Kéo một điểm ra thật xa các điểm khác và để ý xem nó kéo đường thẳng về phía mình mạnh đến mức nào.
Kéo điểm bất kỳ và đường thẳng di chuyển để luôn là đường khớp nhất. Những điểm xa các điểm còn lại kéo nó mạnh nhất.
"Tốt nhất" nghĩa là gì
Một đường thẳng lệch khỏi mỗi điểm một khoảng theo phương thẳng đứng: giá trị y thực của điểm trừ đi giá trị y mà đường thẳng dự đoán tại x đó. Khoảng đó là phần dư của điểm. Một đường tốt phải làm cho các phần dư nhỏ, nhưng bạn không thể cứ thế cộng chúng lại, vì độ lệch phía trên đường thẳng là dương, độ lệch phía dưới là âm, và chúng triệt tiêu nhau.
Vì vậy mỗi phần dư được bình phương trước, khiến mọi độ lệch đều được tính, và một độ lệch lớn bị tính nặng hơn nhiều so với một độ lệch nhỏ. Đường hồi quy là đường làm cho tổng bình phương các phần dư nhỏ nhất có thể. Đó là lý do nó được gọi là đường bình phương nhỏ nhất, và với mọi tập điểm mà các giá trị x không giống hệt nhau thì có đúng một đường như vậy.
Hai công thức
Viết đường thẳng dưới dạng y = mx + b, với trung bình của dữ liệu ký hiệu là x̄ và ȳ. Cực tiểu hóa tổng bình phương cho ta trực tiếp hệ số góc và tung độ gốc:
m = Σ(x - x̄)(y - ȳ) / Σ(x - x̄)²
b = ȳ - m x̄
Tử số của công thức hệ số góc chính là tổng các tích nằm trên tử số của hệ số tương quan, đó là lý do hệ số góc và r luôn cùng dấu. Mẫu số chỉ liên quan đến x: nó đo mức độ phân tán của các giá trị x.
Một ví dụ có lời giải
Năm điểm: x = 2, 4, 6, 8, 10 và y = 3, 7, 8, 12, 15. Trung bình của x là 6 và trung bình của y là 9.
| x | y | x - 6 | y - 9 | tích | (x - 6)² |
|---|---|---|---|---|---|
| 2 | 3 | -4 | -6 | 24 | 16 |
| 4 | 7 | -2 | -2 | 4 | 4 |
| 6 | 8 | 0 | -1 | 0 | 0 |
| 8 | 12 | 2 | 3 | 6 | 4 |
| 10 | 15 | 4 | 6 | 24 | 16 |
| tổng | 58 | 40 |
Hệ số góc là m = 58/40 = 29/20, tức 1,45. Để tìm tung độ gốc, thay điểm trung bình vào phương trình đường thẳng rồi giải tìm b:
Vậy b = 3/10 và đường hồi quy là y = 1.45x + 0.3. Máy tính hồi quy tuyến tính làm cùng công việc đó bằng dạng công thức dùng các tổng cộng dồn, và hiển thị từng tổng.
Nó luôn đi qua điểm trung bình
Biến đổi công thức tung độ gốc, bạn được ȳ = m x̄ + b. Điều đó nói rằng điểm (x̄, ȳ) nằm đúng trên đường thẳng, dù dữ liệu là gì. Trong ví dụ, 1,45 × 6 + 0,3 = 9.
Đây là cách kiểm tra hữu ích cho mọi đường thẳng bạn tính ra, và là điểm khởi đầu tốt khi vẽ bằng mắt: đánh dấu điểm trung bình trước, rồi xoay thước quanh điểm đó cho đến khi các điểm cân bằng ở hai bên.
Tuy vậy, chỉ đi qua điểm trung bình thì chưa đủ. Với x = 1, 2, 3, 4, 5 và y = 2, 4, 5, 4, 5, điểm trung bình là (3, 4) và đường bình phương nhỏ nhất là y = 0.6x + 2.2, với tổng bình phương phần dư là 2,4. Các đường y = 0.5x + 2.5 và y = x + 1 cũng đều đi qua (3, 4), và tổng bình phương của chúng là 2,5 và 4. Trong mọi đường thẳng đi qua điểm đó, chỉ hệ số góc 0,6 mới xuống được 2,4.
Dự đoán bằng đường thẳng
Khi đã có đường thẳng, dự đoán chỉ là thay số. Với y = 1.45x + 0.3, x bằng 7 cho 1,45 × 7 + 0,3 = 10,45.
Dự đoán đó là một phép nội suy: 7 nằm trong dữ liệu, giữa các điểm tại 6 và 8, nên có bằng chứng ở cả hai bên rằng xu hướng vẫn đúng ở đó. Một dự đoán nằm ngoài phạm vi dữ liệu là phép ngoại suy, và không có gì trong dữ liệu ủng hộ nó.
Một trường hợp cụ thể. Sáu học sinh học từ 1 đến 6 giờ và đạt 52, 58, 61, 67, 70 và 76 điểm. Đường hồi quy là y = 162/35x + 47.8, hệ số góc khoảng 4,63 điểm mỗi giờ, với r ≈ 0,9959. Bên trong dữ liệu, nó dự đoán tốt: 4,5 giờ cho khoảng 68,63 điểm. Ngoại suy đến 12 giờ thì nó dự đoán khoảng 103,34 điểm, trong một bài kiểm tra có thang điểm 100. Đường thẳng không sai; chỉ là xu hướng mà nó mô tả dừng lại ở đâu đó sau phạm vi dữ liệu, và đường thẳng không thể biết là ở đâu.
Khi đường thẳng là hình dạng sai
Đường hồi quy luôn tồn tại, kể cả khi đường thẳng là mô hình sai. Các số chính phương 0, 1, 4, 9, 16, 25 tại x = 0 đến 5 có đường hồi quy y = 5x - 10/3 với r ≈ 0,9599, nghe có vẻ rất tốt, vậy mà các điểm lại nằm trên một đường cong. Các phần dư tố cáo điều đó: dương ở hai đầu và âm ở giữa. Trang phần dư chỉ cách đọc quy luật đó, và máy tính hồi quy bậc hai sẽ khớp đường cong thay cho đường thẳng.
Thử một bài
Điểm thực tại x = 4 là (4, 7), nên đường thẳng lệch khỏi nó 0,9. Độ lệch đó là phần dư của điểm, và tổng bình phương cả năm độ lệch, 1,9, là giá trị nhỏ nhất mà một đường thẳng bất kỳ có thể đạt được với các điểm này.
Câu hỏi thường gặp
Đường hồi quy là gì?
Là một đường thẳng vẽ qua biểu đồ phân tán để tóm tắt xu hướng của các điểm. Theo nghĩa chính xác, đường hồi quy là đường hồi quy bình phương nhỏ nhất: trong mọi đường thẳng có thể có, đó là đường mà các độ lệch theo phương thẳng đứng từ các điểm, bình phương lên rồi cộng lại, cho tổng nhỏ nhất.
Tìm đường hồi quy như thế nào?
Tìm trung bình của x và trung bình của y. Hệ số góc bằng tổng của (x trừ trung bình x) nhân (y trừ trung bình y), chia cho tổng của (x trừ trung bình x) bình phương. Tung độ gốc bằng trung bình y trừ hệ số góc nhân trung bình x. Với x = 2, 4, 6, 8, 10 và y = 3, 7, 8, 12, 15, ta được hệ số góc 58/40 = 1,45 và tung độ gốc 9 trừ 1,45 × 6 = 0,3, nên y = 1,45x + 0,3.
Đường hồi quy có phải đi qua gốc tọa độ không?
Không. Nó đi qua điểm trung bình, không phải gốc tọa độ. Ép nó đi qua (0, 0) là một mô hình khác, chỉ dùng khi có lý do để y phải bằng 0 khi x bằng 0, và nhìn chung nó khớp với các điểm kém hơn.
Đường hồi quy có phải đi qua điểm dữ liệu nào không?
Không, và thường thì nó chẳng đi qua điểm nào. Điểm duy nhất nó luôn đi qua là (trung bình x, trung bình y), và điểm đó thường không phải một điểm dữ liệu. Một đường vẽ sao cho chạm được càng nhiều điểm càng tốt không phải là đường bình phương nhỏ nhất.
Nội suy và ngoại suy khác nhau thế nào?
Nội suy là dự đoán y cho một giá trị x nằm trong phạm vi dữ liệu, nơi đường thẳng có các điểm ở cả hai bên làm chỗ dựa. Ngoại suy là dự đoán bên ngoài phạm vi đó, nơi không có gì trong dữ liệu cho thấy xu hướng còn tiếp tục. Nội suy nhìn chung đáng tin khi đường thẳng khớp tốt; ngoại suy có thể sai rất xa ngay cả khi r gần bằng 1.
Đường hồi quy có giống hồi quy tuyến tính không?
Có, theo nghĩa thông thường. Hồi quy tuyến tính là phương pháp, và đường bình phương nhỏ nhất mà nó tạo ra là đường hồi quy. Ở trường, một đường vẽ bằng mắt trên đồ thị cũng được gọi là đường xu hướng, nhưng đó chỉ là ước lượng của đường hồi quy, không phải chính đường đó.
Muốn thử với số liệu của riêng bạn?
Máy tính hồi quy tuyến tính Mở máy tính