רגרסיה לינארית מוצאת את הקו היחיד שמחטיא את הנקודות הכי פחות
נתונים אמיתיים אף פעם לא יושבים על קו ישר אחד, ולכן כל קו שתעבירו דרכם מחטיא את רוב הנקודות. כל החטאה היא שארית: ה־y בפועל פחות ה־y שהקו חוזה. רגרסיה לינארית מעלה כל שארית בריבוע, מחברת את הריבועים, ובוחרת את הקו היחיד שהופך את הסכום לקטן ככל האפשר. הקו הזה הוא קו הרגרסיה בשיטת הריבועים הפחותים, שנקרא גם קו ההתאמה הטוב ביותר, ויש בדיוק אחד כזה לכל קבוצת נקודות שערכי ה־x שלה לא כולם זהים.
כדי למצוא אותו צריך חמישה מספרים: המספר n והסכומים של x, y, xy ו־x². השיפוע הוא m = (nΣxy פחות ΣxΣy) חלקי (nΣx² פחות (Σx)²), ונקודת החיתוך היא b = (Σy פחות mΣx) חלקי n. הדף בונה את טבלת הסכומים האלה, מציב את המספרים שלכם בשתי הנוסחאות, ומראה כל שורה בפתרון, כי הטבלה היא החלק שמורה בודק.
השיפוע ונקודת החיתוך נשמרים כשברים מדויקים. על נתונים שבנויים ממספרים שלמים, עשרוניים ושברים הם תמיד רציונליים, כך ששיפוע של 162/35 מודפס כ־162/35 ולא כ־4.6286, שהוא עיגול שלו. מקדם המתאם r הוא שורש, ולכן הוא מופיע כשורש עם הערך העשרוני לצדו. כפתור ההעתקה נותן לכם את הקו במספרים עשרוניים, מוכן לגיליון אלקטרוני.
למה לשים לב בקו
הוא תמיד עובר דרך נקודת הממוצעים. עבור x = 1 עד 5 ו־y = 2, 4, 5, 4, 5 הממוצעים הם 3 ו־4, הקו הוא y = 0.6x + 2.2, ו־0.6 × 3 + 2.2 = 4.
סכום השאריות שלו תמיד אפס בדיוק. ההחטאות מעל הקו ומתחתיו מאזנות זו את זו, ובגלל זה השיטה מעלה אותן בריבוע לפני החיבור.
לשיפוע יש יחידות: יחידות y לכל יחידת x. שיפוע של 162/35 בשעות לימוד מול ציון במבחן פירושו כ־4.63 נקודות נוספות לכל שעה נוספת.
החלפה בין x ל־y נותנת קו אחר, לא אותו קו בסידור אחר. רגרסיה של y על x מקטינה את ההחטאות האנכיות; רגרסיה של x על y מקטינה את האופקיות.
השיפוע אומר כמה המגמה תלולה ו־r אומר עד כמה הנקודות צמודות אליה. תמיד יש להם אותו סימן, אבל לקו תלול יכול להיות r חלש ולקו מתון r חזק.
שתי נקודות תמיד נותנות התאמה מושלמת עם r = 1 או -1. זה לא אומר כלום על הנתונים; קו רגרסיה מתחיל להיות משמעותי עם שלוש נקודות או יותר.
איך מוצאים את קו הרגרסיה ידנית
1
בנו את הטבלה
כתבו כל נקודה כשורה עם ארבע עמודות: x, y, xy ו־x². סכמו כל עמודה וספרו את הנקודות. עבור x = 1, 2, 3, 4, 5 ו־y = 2, 4, 5, 4, 5 זה נותן n = 5, Σx = 15, Σy = 20, Σxy = 66 ו־Σx² = 55.
2
חשבו את השיפוע
m = (nΣxy פחות ΣxΣy) / (nΣx² פחות (Σx)²). כאן זה (5 × 66 פחות 15 × 20) / (5 × 55 פחות 15²) = 30 / 50 = 0.6. השאירו אותו כשבר אם הוא לא יוצא מספר עשרוני קצר.
3
חשבו את נקודת החיתוך
b = (Σy פחות mΣx) / n. כאן (20 פחות 0.6 × 15) / 5 = 11/5 = 2.2. השתמשו בשיפוע המדויק מהשלב הקודם, לא בשיפוע מעוגל.
4
כתבו את הקו ובדקו אותו
y = 0.6x + 2.2. בדקו שהוא עובר דרך נקודת הממוצעים (3, 4): 0.6 × 3 + 2.2 = 4. אם לא, אחד הסכומים שגוי.
5
העריכו את ההתאמה
חשבו את r, או הסתכלו על השאריות. כאן r = √15/5, בערך 0.7746, והשאריות הן -0.8, 0.6, 1, -0.6 ו־-0.2, וסכום הריבועים שלהן הוא 2.4.
קווי התאמה לקבוצות נתונים קטנות
כל שורה היא קבוצת נתונים אחת שהוקלדה במחשבון למעלה. השיפוע ונקודת החיתוך מדויקים; r מוצג כשורש עם הערך העשרוני שלו.
ערכי x
ערכי y
קו ההתאמה הטוב ביותר
r
r²
1, 2, 3, 4, 5
2, 4, 5, 4, 5
y = 0.6x + 2.2
√15/5 ≈ 0.7746
0.6
0, 1, 2, 3
7, 5, 3, 1
y = -2x + 7
-1
1
2, 4, 6, 8, 10
3, 7, 8, 12, 15
y = 1.45x + 0.3
29√215/430 ≈ 0.9889
841/860
1, 2, 3, 4, 5, 6
52, 58, 61, 67, 70, 76
y = (162/35)x + 47.8
9√15/35 ≈ 0.9959
243/245
1, 2, 3, 4, 5
3, 1, 4, 1, 5
y = 0.4x + 1.6
√2/4 ≈ 0.3536
0.125
1, 3
2, 8
y = 3x - 1
1
1
-2, -1, 0, 1, 2
4, 1, 0, 1, 4
y = 2
0
0
דוגמאות פתורות
קבוצת הנתונים מספר הלימוד
plain
x: 1, 2, 3, 4, 5; y: 2, 4, 5, 4, 5
הסכומים הם Σx = 15, Σy = 20, Σxy = 66 ו־Σx² = 55 עם n = 5. השיפוע הוא 30/50 = 0.6 ונקודת החיתוך היא 11/5 = 2.2, ולכן הקו הוא y = 0.6x + 2.2. השאריות הן -0.8, 0.6, 1, -0.6 ו־-0.2, שסכומן 0, וסכום הריבועים שלהן 2.4. המתאם הוא r = √15/5, בערך 0.7746: חזק וחיובי.
שיפוע שהוא שבר: שעות לימוד מול ציון במבחן
plain
x: 1, 2, 3, 4, 5, 6; y: 52, 58, 61, 67, 70, 76
הממוצעים הם 3.5 שעות ו־64 נקודות. השיפוע הוא 162/35, בערך 4.63 נקודות לשעה, ונקודת החיתוך היא 64 פחות (162/35) × 3.5 = 47.8, ולכן y = (162/35)x + 47.8 עם r ≈ 0.9959. ב־4.5 שעות הקו חוזה 2402/35, בערך 68.63. ב־12 שעות הוא חוזה כ־103.34 במבחן שהציון המקסימלי בו הוא 100: אקסטרפולציה שהנתונים לא יכולים לתמוך בה.
נקודות שכבר על קו
plain
x: 0, 1, 2, 3; y: 7, 5, 3, 1
כל צעד של 1 ב־x מוריד את y ב־2, ולכן הנקודות נמצאות בדיוק על y = -2x + 7. המחשבון מוצא את הקו הזה, כל שארית היא 0, סכום ריבועי השאריות הוא 0, ו־r = -1: מתאם שלילי מושלם.
חיזוי בתוך הנתונים ומחוץ להם
plain
x: 2, 4, 6, 8, 10; y: 3, 7, 8, 12, 15
הקו הוא y = 1.45x + 0.3 עם r ≈ 0.9889, והוא עובר דרך נקודת הממוצעים (6, 9). ב־x = 7, בתוך הנתונים, הוא חוזה 10.45, וזו אינטרפולציה שאפשר לסמוך עליה בערך כמו על ההתאמה. ב־x = 60 הוא חוזה 87.3, חמישים יחידות אחרי הנקודה האחרונה, ושם שום דבר בנתונים לא אומר שהמגמה עדיין מחזיקה.
r חזק שמסתיר עקומה
plain
x: 0, 1, 2, 3, 4, 5; y: 0, 1, 4, 9, 16, 25
קו ההתאמה הטוב ביותר הוא y = 5x - 10/3 עם r ≈ 0.9599, מה שנשמע מצוין. השאריות הן 10/3, -2/3, -8/3, -8/3, -2/3 ו־10/3: חיוביות בשני הקצוות ושליליות באמצע. צורת ה־U הזו אומרת שהנקודות נמצאות על עקומה, ורגרסיה ריבועית מתאימה אותן בדיוק כ־y = x².
טעויות נפוצות
לעגל את השיפוע לפני חישוב נקודת החיתוך. עם שיפוע של 162/35, שימוש ב־4.63 נותן נקודת חיתוך של 47.795 במקום 47.8. גררו את השיפוע המדויק לאורך כל הדרך, ועגלו פעם אחת בסוף.
לבלבל בין nΣx² ל־(Σx)². עבור x = 1 עד 5 הראשון הוא 5 × 55 = 275 והשני הוא 15² = 225. החלפה ביניהם הופכת את סימן המכנה.
לצמד את הערכים שלא לפי הסדר. ה־x הראשון שייך ל־y הראשון. מיון עמודה אחת בלי השנייה מייצר קו דרך נקודות שלא קיימות.
לבצע אקסטרפולציה הרבה מעבר לנתונים. הקו מתאר את הטווח שעליו הוא הותאם; חיזוי הרחק מחוץ לטווח הזה יכול להיות שגוי לגמרי גם כש־r קרוב ל־1.
לקחת r גבוה כהוכחה שקו ישר הוא המודל הנכון. הריבועים 0 עד 25 נותנים r ≈ 0.96 ועדיין נמצאים על עקומה. הסתכלו על השאריות.
לקרוא את השיפוע כסיבה. קו אומר איך y נוטה להשתנות עם x בנתונים האלה, לא ששינוי x ישנה את y.
להתאים x על y כשהשאלה מבקשת y על x. שני קווי הרגרסיה שונים, אלא אם כל הנקודות נמצאות על קו אחד.
שאלות נפוצות על רגרסיה לינארית
איך מחשבים רגרסיה לינארית ידנית?
בנו טבלה עם x, y, xy ו־x² לכל נקודה וסכמו את העמודות. השיפוע הוא m = (nΣxy פחות ΣxΣy) / (nΣx² פחות (Σx)²) ונקודת החיתוך היא b = (Σy פחות mΣx) / n. עבור x = 1 עד 5 ו־y = 2, 4, 5, 4, 5 זה נותן m = 30/50 = 0.6 ו־b = 11/5 = 2.2, ולכן y = 0.6x + 2.2. הדף מדפיס את אותה טבלה וממלא את שתי הנוסחאות כדי שתוכלו לבדוק כל שורה.
מהו קו הרגרסיה בשיטת הריבועים הפחותים?
הקו הישר שהופך את סכום ריבועי השאריות לקטן ככל האפשר, כאשר שארית היא ה־y בפועל של נקודה פחות ה־y שהקו חוזה. הוא יחיד בכל פעם שערכי x לא כולם שווים. עבור חמש הנקודות שלמעלה אף קו אחר לא מוריד את סכום הריבועים מתחת ל־2.4.
מה המשמעות של השיפוע ושל נקודת החיתוך?
השיפוע הוא בכמה y משתנה, בממוצע, בכל עלייה של 1 ב־x, ביחידות y לכל יחידת x. נקודת החיתוך היא ה־y החזוי כש־x הוא 0. לנקודת החיתוך יש משמעות רק אם x = 0 נמצא בתוך הנתונים או לידם; לרגרסיה של משקל על גובה יש נקודת חיתוך בגובה 0 שלא מתארת אף אדם אמיתי.
האם קו ההתאמה הטוב ביותר זהה לקו הרגרסיה?
כן. בסטטיסטיקה קו ההתאמה הטוב ביותר הוא קו הרגרסיה בשיטת הריבועים הפחותים, וזה מה שהמחשבון הזה מחשב. קו התאמה שמשורטט בעין על נייר הוא אומדן שלו, והוא צריך לעבור דרך נקודת הממוצעים, כמו שהקו המחושב תמיד עובר.
מהו r בריבוע טוב לקו רגרסיה?
זה תלוי בתחום. r² הוא החלק מהשונות ב־y שהקו מסביר, כך ש־0.9 פירושו 90%. מדידות מניסוי פיזיקה מבוקר מגיעות לעיתים קרובות ל־0.99; נתונים על אנשים נעצרים לעיתים קרובות ב־0.3 עד 0.5 ועדיין מועילים. r² גבוה לא מוכיח שקו ישר הוא הצורה הנכונה, אז בדקו גם את השאריות.
כמה נקודות צריך לרגרסיה לינארית?
שתי נקודות מגדירות קו, ולכן המחשבון מקבל שתיים, אבל קו דרך שתי נקודות תמיד מתאים בצורה מושלמת ולא אומר כלום על הנתונים. עם שלוש נקודות או יותר השאריות, r ו־r² מתחילים לשאת מידע, ויותר נקודות הופכות את השיפוע לאמין יותר.
אפשר להשתמש בקו הרגרסיה לחיזוי?
בתוך טווח ערכי ה־x שלכם, כן: זו אינטרפולציה, והיא טובה כמו ההתאמה. מחוץ לטווח זו אקסטרפולציה, ושום דבר בנתונים לא אומר שהמגמה נמשכת. דוגמת הציונים בדף הזה חוזה כ־103 נקודות ל־12 שעות לימוד, במבחן מתוך 100.
למה התשובות הן שברים ולא מספרים עשרוניים?
כי השיפוע ונקודת החיתוך של קו ריבועים פחותים על נתונים רציונליים הם מספרים רציונליים, והשבר הוא הערך המדויק. 162/35 הוא השיפוע; 4.6286 הוא עיגול שלו, וכל חיזוי שנעשה מהעיגול נושא את השגיאה. כפתור ההעתקה נותן מספרים עשרוניים כשצריך אותם.