Hồi quy tuyến tính tìm ra đường thẳng lệch khỏi các điểm ít nhất
Dữ liệu thực tế không bao giờ nằm gọn trên một đường thẳng, nên bất kỳ đường nào bạn vẽ qua nó cũng lệch khỏi phần lớn các điểm. Mỗi độ lệch là một phần dư: giá trị y thực tế trừ đi giá trị y mà đường thẳng dự đoán. Hồi quy tuyến tính bình phương từng phần dư, cộng các bình phương lại và chọn đường thẳng duy nhất làm tổng này nhỏ nhất. Đường đó là đường hồi quy bình phương tối thiểu, còn gọi là đường thẳng khớp nhất, và với mọi tập điểm có các giá trị x không bằng nhau hết thì chỉ có đúng một đường như vậy.
Để tìm nó, bạn cần năm số: số điểm n và các tổng của x, y, xy và x². Hệ số góc là m = (nΣxy trừ ΣxΣy) chia cho (nΣx² trừ (Σx)²), còn tung độ gốc là b = (Σy trừ mΣx) chia cho n. Trang này lập bảng các tổng đó, thay số của bạn vào cả hai công thức và hiển thị từng dòng tính toán, vì bảng này chính là phần giáo viên sẽ kiểm tra.
Hệ số góc và tung độ gốc được giữ ở dạng phân số chính xác. Với dữ liệu gồm số nguyên, số thập phân và phân số, chúng luôn là số hữu tỉ, nên hệ số góc 162/35 được in ra là 162/35 chứ không phải 4.6286, vốn chỉ là giá trị làm tròn. Hệ số tương quan r là một căn bậc hai, nên nó được hiển thị dưới dạng căn thức kèm số thập phân bên cạnh. Nút Sao chép cho bạn phương trình đường thẳng ở dạng thập phân, sẵn sàng dán vào bảng tính.
Những điều cần để ý về đường thẳng
Nó luôn đi qua điểm trung bình. Với x = 1 đến 5 và y = 2, 4, 5, 4, 5, các giá trị trung bình là 3 và 4, đường thẳng là y = 0.6x + 2.2, và 0.6 × 3 + 2.2 = 4.
Tổng các phần dư của nó luôn bằng đúng 0. Độ lệch phía trên và phía dưới đường thẳng triệt tiêu nhau, đó là lý do phương pháp này bình phương chúng trước khi cộng.
Hệ số góc có đơn vị: đơn vị của y trên mỗi đơn vị của x. Hệ số góc 162/35 giữa số giờ học và điểm thi nghĩa là mỗi giờ học thêm được khoảng 4.63 điểm.
Đổi chỗ x và y cho ra một đường thẳng khác, không phải cùng một đường được viết lại. Hồi quy y theo x làm cho các độ lệch theo phương thẳng đứng nhỏ nhất; hồi quy x theo y làm cho các độ lệch theo phương ngang nhỏ nhất.
Hệ số góc cho biết xu hướng dốc đến đâu, còn r cho biết các điểm bám sát xu hướng đó đến mức nào. Chúng luôn cùng dấu, nhưng một đường rất dốc vẫn có thể có r yếu, và một đường thoải vẫn có thể có r mạnh.
Hai điểm luôn khớp hoàn hảo với r = 1 hoặc -1. Điều đó không nói gì về dữ liệu; đường hồi quy chỉ bắt đầu có ý nghĩa khi có từ ba điểm trở lên.
Cách tìm đường hồi quy bằng tay
1
Lập bảng
Viết mỗi điểm thành một hàng với bốn cột: x, y, xy và x². Cộng từng cột và đếm số điểm. Với x = 1, 2, 3, 4, 5 và y = 2, 4, 5, 4, 5, bạn được n = 5, Σx = 15, Σy = 20, Σxy = 66 và Σx² = 55.
2
Tính hệ số góc
m = (nΣxy trừ ΣxΣy) / (nΣx² trừ (Σx)²). Ở đây là (5 × 66 trừ 15 × 20) / (5 × 55 trừ 15²) = 30 / 50 = 0.6. Giữ ở dạng phân số nếu kết quả không phải là một số thập phân ngắn.
3
Tính tung độ gốc
b = (Σy trừ mΣx) / n. Ở đây (20 trừ 0.6 × 15) / 5 = 11/5 = 2.2. Dùng hệ số góc chính xác từ bước trước, không dùng giá trị đã làm tròn.
4
Viết phương trình và kiểm tra
y = 0.6x + 2.2. Kiểm tra xem đường thẳng có đi qua điểm trung bình (3, 4) không: 0.6 × 3 + 2.2 = 4. Nếu không, một trong các tổng đã bị tính sai.
5
Đánh giá độ khớp
Tính r, hoặc xem các phần dư. Ở đây r = √15/5, khoảng 0.7746, và các phần dư là -0.8, 0.6, 1, -0.6 và -0.2, tổng bình phương của chúng bằng 2.4.
Đường thẳng khớp nhất cho các tập dữ liệu nhỏ
Mỗi hàng là một tập dữ liệu được nhập vào máy tính ở trên. Hệ số góc và tung độ gốc là giá trị chính xác; r được hiển thị dưới dạng căn thức kèm số thập phân.
Giá trị x
Giá trị y
Đường thẳng khớp nhất
r
r²
1, 2, 3, 4, 5
2, 4, 5, 4, 5
y = 0.6x + 2.2
√15/5 ≈ 0.7746
0.6
0, 1, 2, 3
7, 5, 3, 1
y = -2x + 7
-1
1
2, 4, 6, 8, 10
3, 7, 8, 12, 15
y = 1.45x + 0.3
29√215/430 ≈ 0.9889
841/860
1, 2, 3, 4, 5, 6
52, 58, 61, 67, 70, 76
y = (162/35)x + 47.8
9√15/35 ≈ 0.9959
243/245
1, 2, 3, 4, 5
3, 1, 4, 1, 5
y = 0.4x + 1.6
√2/4 ≈ 0.3536
0.125
1, 3
2, 8
y = 3x - 1
1
1
-2, -1, 0, 1, 2
4, 1, 0, 1, 4
y = 2
0
0
Ví dụ có lời giải
Tập dữ liệu kinh điển trong sách giáo khoa
plain
x: 1, 2, 3, 4, 5; y: 2, 4, 5, 4, 5
Các tổng là Σx = 15, Σy = 20, Σxy = 66 và Σx² = 55 với n = 5. Hệ số góc là 30/50 = 0.6 và tung độ gốc là 11/5 = 2.2, nên đường thẳng là y = 0.6x + 2.2. Các phần dư là -0.8, 0.6, 1, -0.6 và -0.2, cộng lại bằng 0, và tổng bình phương của chúng bằng 2.4. Hệ số tương quan là r = √15/5, khoảng 0.7746: tương quan thuận và mạnh.
Hệ số góc là phân số: số giờ học và điểm thi
plain
x: 1, 2, 3, 4, 5, 6; y: 52, 58, 61, 67, 70, 76
Giá trị trung bình là 3.5 giờ và 64 điểm. Hệ số góc là 162/35, khoảng 4.63 điểm mỗi giờ, và tung độ gốc là 64 trừ (162/35) × 3.5 = 47.8, nên y = (162/35)x + 47.8 với r ≈ 0.9959. Với 4.5 giờ, đường thẳng dự đoán 2402/35, khoảng 68.63. Với 12 giờ, nó dự đoán khoảng 103.34 trên một bài thi thang điểm 100: một phép ngoại suy mà dữ liệu không thể chống đỡ.
Các điểm đã nằm sẵn trên một đường thẳng
plain
x: 0, 1, 2, 3; y: 7, 5, 3, 1
Mỗi khi x tăng 1 thì y giảm 2, nên các điểm nằm đúng trên y = -2x + 7. Máy tính tìm ra đường đó, mọi phần dư đều bằng 0, tổng bình phương phần dư bằng 0, và r = -1: tương quan nghịch hoàn hảo.
Dự đoán bên trong và bên ngoài dữ liệu
plain
x: 2, 4, 6, 8, 10; y: 3, 7, 8, 12, 15
Đường thẳng là y = 1.45x + 0.3 với r ≈ 0.9889, và nó đi qua điểm trung bình (6, 9). Tại x = 7, nằm trong dữ liệu, nó dự đoán 10.45, và đó là phép nội suy đáng tin cậy ngang với độ khớp. Tại x = 60, nó dự đoán 87.3, vượt điểm cuối cùng tới năm mươi đơn vị, nơi không có gì trong dữ liệu cho thấy xu hướng vẫn còn đúng.
Một r mạnh che giấu một đường cong
plain
x: 0, 1, 2, 3, 4, 5; y: 0, 1, 4, 9, 16, 25
Đường thẳng khớp nhất là y = 5x - 10/3 với r ≈ 0.9599, nghe có vẻ rất tốt. Các phần dư là 10/3, -2/3, -8/3, -8/3, -2/3 và 10/3: dương ở hai đầu, âm ở giữa. Hình chữ U đó cho thấy các điểm nằm trên một đường cong, và hồi quy bậc hai khớp chúng chính xác thành y = x².
Lỗi thường gặp
Làm tròn hệ số góc trước khi tính tung độ gốc. Với hệ số góc 162/35, dùng 4.63 cho ra tung độ gốc 47.795 thay vì 47.8. Giữ nguyên hệ số góc chính xác suốt quá trình tính, chỉ làm tròn một lần ở cuối.
Nhầm lẫn giữa nΣx² và (Σx)². Với x = 1 đến 5, giá trị đầu là 5 × 55 = 275 còn giá trị sau là 15² = 225. Đổi chỗ chúng sẽ làm mẫu số đổi dấu.
Ghép các giá trị sai thứ tự. Giá trị x đầu tiên đi với giá trị y đầu tiên. Sắp xếp một cột mà không sắp xếp cột kia sẽ tạo ra một đường thẳng đi qua những điểm không tồn tại.
Ngoại suy quá xa dữ liệu. Đường thẳng mô tả khoảng dữ liệu đã dùng để khớp nó; một dự đoán nằm xa ngoài khoảng đó có thể sai hoàn toàn, ngay cả khi r gần bằng 1.
Coi r cao là bằng chứng rằng đường thẳng là mô hình đúng. Các số chính phương từ 0 đến 25 cho r ≈ 0.96 mà vẫn nằm trên một đường cong. Hãy xem các phần dư.
Hiểu hệ số góc là quan hệ nhân quả. Đường thẳng cho biết y có xu hướng thay đổi theo x như thế nào trong dữ liệu này, chứ không nói rằng thay đổi x sẽ làm y thay đổi.
Hồi quy x theo y khi đề bài yêu cầu y theo x. Hai đường hồi quy này khác nhau, trừ khi mọi điểm nằm trên cùng một đường thẳng.
Câu hỏi thường gặp về hồi quy tuyến tính
Làm sao để tính hồi quy tuyến tính bằng tay?
Lập bảng gồm x, y, xy và x² cho mỗi điểm rồi cộng các cột. Hệ số góc là m = (nΣxy trừ ΣxΣy) / (nΣx² trừ (Σx)²) và tung độ gốc là b = (Σy trừ mΣx) / n. Với x = 1 đến 5 và y = 2, 4, 5, 4, 5, bạn được m = 30/50 = 0.6 và b = 11/5 = 2.2, nên y = 0.6x + 2.2. Trang này in ra đúng bảng đó và điền số vào cả hai công thức để bạn kiểm tra từng dòng.
Đường hồi quy bình phương tối thiểu là gì?
Đó là đường thẳng làm cho tổng bình phương các phần dư nhỏ nhất có thể, trong đó phần dư là giá trị y thực tế của một điểm trừ đi giá trị y mà đường thẳng dự đoán. Đường này là duy nhất khi các giá trị x không bằng nhau hết. Với năm điểm ở trên, không có đường nào khác đưa tổng bình phương xuống dưới 2.4.
Hệ số góc và tung độ gốc có ý nghĩa gì?
Hệ số góc là mức thay đổi trung bình của y khi x tăng 1, tính bằng đơn vị của y trên mỗi đơn vị của x. Tung độ gốc là giá trị y dự đoán khi x bằng 0. Tung độ gốc chỉ có ý nghĩa nếu x = 0 nằm trong hoặc gần dữ liệu; hồi quy cân nặng theo chiều cao có tung độ gốc ở chiều cao 0, không mô tả một người thật nào cả.
Đường thẳng khớp nhất có giống đường hồi quy không?
Có. Trong thống kê, đường thẳng khớp nhất chính là đường hồi quy bình phương tối thiểu, và đó là thứ máy tính này tính ra. Một đường khớp nhất vẽ bằng mắt trên giấy chỉ là ước lượng của nó, và đường đó nên đi qua điểm trung bình, như đường được tính toán luôn làm.
Thế nào là r bình phương tốt cho một đường hồi quy?
Điều đó tùy vào lĩnh vực. r² là tỷ lệ biến thiên của y mà đường thẳng giải thích được, nên 0.9 nghĩa là 90%. Số đo từ một thí nghiệm vật lý có kiểm soát thường đạt 0.99; dữ liệu về con người thường chỉ dừng ở mức từ 0.3 đến 0.5 mà vẫn hữu ích. r² cao không chứng minh rằng đường thẳng là dạng đúng, nên hãy kiểm tra cả các phần dư.
Cần bao nhiêu điểm để làm hồi quy tuyến tính?
Hai điểm xác định một đường thẳng, nên máy tính chấp nhận hai điểm, nhưng đường đi qua hai điểm luôn khớp hoàn hảo và không nói gì về dữ liệu. Từ ba điểm trở lên, các phần dư, r và r² mới bắt đầu mang thông tin, và càng nhiều điểm thì hệ số góc càng đáng tin cậy.
Có thể dùng đường hồi quy để dự đoán không?
Trong khoảng các giá trị x của bạn thì có: đó là phép nội suy, và nó tốt ngang với độ khớp. Ngoài khoảng đó là phép ngoại suy, và không có gì trong dữ liệu cho thấy xu hướng còn tiếp tục. Ví dụ về điểm thi trên trang này dự đoán khoảng 103 điểm cho 12 giờ học, trên một bài thi thang điểm 100.
Tại sao đáp án là phân số thay vì số thập phân?
Vì hệ số góc và tung độ gốc của đường bình phương tối thiểu trên dữ liệu hữu tỉ là số hữu tỉ, và phân số là giá trị chính xác. 162/35 là hệ số góc; 4.6286 là giá trị làm tròn của nó, và mọi dự đoán dựa trên giá trị làm tròn đều mang theo sai số. Nút Sao chép cho bạn số thập phân khi cần.