רגרסיה ריבועית מתאימה את הפרבולה שמחטיאה את הנקודות הכי מעט
יש נתונים שעולים ואז יורדים, או יורדים ואז עולים: הגובה של כדור שנזרק, הרווח במחירים שונים, הדלק שמכונית שורפת במהירויות שונות. קו ישר דרך נתונים כאלה הוא הצורה הלא נכונה, לא משנה כמה טוב הוא ממוקם. רגרסיה ריבועית מתאימה במקומו פרבולה, y = ax² + bx + c, ובוחרת את a, b ו־c כך שסכום ריבועי ההחטאות האנכיות מהנקודות יהיה קטן ככל האפשר. זה אותו רעיון של ריבועים פחותים כמו ברגרסיה לינארית, עם מקדם אחד נוסף לבחור.
מזעור ריבועי ההחטאות מוביל לשלוש משוואות ב־a, b ו־c, שנקראות המשוואות הנורמליות, ובנויות מהסכומים של x, x², x³, x⁴, y, xy ו־x²y. מחשבון גרפי פותר אותן בנקודה צפה. הדף הזה פותר אותן בשברים מדויקים, כך שמקדם של -8/7 מודפס כ־-8/7 ולא כ־-1.142857, וגם R² הוא שבר מדויק.
הערך החזוי והשארית של כל נקודה מופיעים מתחת לתשובה. התאמה ריבועית טובה משאירה שאריות שנראות כמו רעש, מפוזרות מעל ומתחת לאפס בלי דפוס. אם הן עדיין מתעקלות, או גדלות בהתמדה לאורך הטבלה, גם פרבולה היא לא הצורה הנכונה, וכדאי לנסות מודל אחר.
למה לשים לב בפרבולה
הסימן של a קובע את הצורה: a שלילי נפתח כלפי מטה עם נקודה עליונה, a חיובי נפתח כלפי מעלה עם נקודה תחתונה.
שלוש נקודות עם ערכי x שונים תמיד מתאימות בדיוק. הנקודות (1, 4), (2, 9) ו־(3, 20) נמצאות על y = 3x² - 4x + 5 וכל השאריות הן 0, וזה לא אומר שום דבר על הנתונים.
R² לפרבולה הוא 1 פחות סכום ריבועי השאריות חלקי השונות הכוללת ב־y. הוא אף פעם לא יכול להיות נמוך מה־r² של קו ישר על אותם נתונים, כי קו הוא פרבולה עם a = 0.
הקודקוד של העקומה המותאמת נמצא ב־x = -b/(2a). עבור הנתונים 2, 6, 11, 13, 12, 8 ב־x = 1 עד 6 זה x = 33/8, שבו העקומה מגיעה לשיא של בערך 12.45.
אפשר לסמוך על העקומה המותאמת רק בין ה־x הקטן ביותר לגדול ביותר. מעבר לקצוות פרבולה מסתובבת ויוצאת לפלוס או מינוס אינסוף, לא משנה מה הנתונים עושים.
איך עושים רגרסיה ריבועית ביד
1
בנו את הסכומים
לכל נקודה חשבו x, x², x³, x⁴, y, xy ו־x²y, ואז סכמו כל עמודה וספרו את הנקודות. עבור x = 0, 1, 2, 3 ו־y = 1, 2, 5, 11: n = 4, Σx = 6, Σx² = 14, Σx³ = 36, Σx⁴ = 98, Σy = 19, Σxy = 45 ו־Σx²y = 121.
בטלו משתנה אחד בכל פעם, ושמרו על שברים מדויקים. המערכת הזו נותנת a = 1.25, b = -0.45 ו־c = 1.05, ולכן y = 1.25x² - 0.45x + 1.05.
4
בדקו בעזרת השאריות
הציבו כל x בעקומה והחסירו את החיזוי מה־y האמיתי. כאן השאריות הן -0.05, 0.15, -0.15 ו־0.05, סכום הריבועים שלהן הוא 0.05, ו־R² = 1214/1215, בערך 0.9992.
פרבולות התאמה טובה ביותר לקבוצות נתונים קטנות
כל שורה היא קבוצת נתונים אחת שהוקלדה במחשבון שלמעלה, עם המקדמים המדויקים וה־R² שהוא מדווח.
ערכי x
ערכי y
פרבולת ההתאמה הטובה ביותר
R²
0, 1, 2, 3
1, 2, 5, 11
y = 1.25x² - 0.45x + 1.05
1214/1215 ≈ 0.9992
-2, -1, 0, 1, 2, 3
9, 4, 1, 0, 1, 4
y = x² - 2x + 1
1
1, 2, 3, 4, 5, 6
2, 6, 11, 13, 12, 8
y = -(8/7)x² + (66/7)x - 7
887/917 ≈ 0.9673
0, 1, 2, 3, 4
2, 17, 22, 17, 2
y = -5x² + 20x + 2
1
1, 2, 3
4, 9, 20
y = 3x² - 4x + 5
1
0, 1, 2, 3, 4, 5
0, 1, 4, 9, 16, 25
y = x²
1
דוגמאות פתורות
התאמה קרובה עם מקדמים עשרוניים
plain
x: 0, 1, 2, 3; y: 1, 2, 5, 11
המשוואות הנורמליות נותנות a = 1.25, b = -0.45 ו־c = 1.05, ולכן y = 1.25x² - 0.45x + 1.05. החיזויים הם 1.05, 1.85, 5.15 ו־10.95, השאריות -0.05, 0.15, -0.15 ו־0.05, ו־R² = 1214/1215, בערך 0.9992.
נתונים שעולים ויורדים
plain
x: 1, 2, 3, 4, 5, 6; y: 2, 6, 11, 13, 12, 8
פרבולת ההתאמה הטובה ביותר היא y = -(8/7)x² + (66/7)x - 7 עם R² = 887/917, בערך 0.9673. מכיוון ש־a שלילי, לעקומה יש שיא, ב־x = 33/8 = 4.125 ו־y = 697/56, בערך 12.45. קו ישר דרך אותן נקודות מגיע רק ל־r² = 375/917, בערך 0.4089, כי הוא לא יכול להסתובב.
כדור שנזרק
plain
x: 0, 1, 2, 3, 4; y: 2, 17, 22, 17, 2
גבהים במטרים במרווחים של שנייה. ההתאמה מדויקת: y = -5x² + 20x + 2 כשכל השאריות 0 ו־R² = 1. ה־-5 הוא חצי מתאוצת הכובד מעוגלת ל־10 m/s², ה־20 הוא מהירות השיגור וה־2 הוא גובה השיגור. השיא נמצא ב־x = 2, y = 22.
נקודות שכבר היו פרבולה
plain
x: -2, -1, 0, 1, 2, 3; y: 9, 4, 1, 0, 1, 4
אלה הערכים של (x - 1)², והמחשבון מחזיר y = x² - 2x + 1, אותה פרבולה אחרי פתיחת סוגריים, עם R² = 1 וכל השאריות 0. זו דרך מהירה לבדוק שקבוצת ערכים באמת מגיעה מפונקציה ריבועית אחת.
טעויות נפוצות
שימוש בשלוש נקודות בלבד וקריאת R² = 1 כהתאמה מצוינת. כל שלוש נקודות עם ערכי x שונים נמצאות על פרבולה כלשהי.
עיגול הסכומים או המקדמים באמצע הדרך. המשוואות הנורמליות רגישות, ועיגול קטן ב־Σx⁴ יכול להזיז את c באופן מורגש. השאירו שברים עד הסוף.
כתיבת המשוואות עם הסכומים במקומות הלא נכונים. האיבר השמאלי העליון הוא Σx⁴ והימני התחתון הוא n; כל שורה מורידה את החזקות באחת.
חיזוי הרחק מחוץ לנתונים. הפרבולה מסתובבת ובורחת לאינסוף מעבר לקצוות שלה, בין אם הכמות האמיתית עושה זאת ובין אם לא.
בחירה בפרבולה כי R² עלה. R² לפרבולה תמיד לפחות ה־r² של קו על אותם נתונים; השאלה היא אם השאריות מאבדות את הדפוס שלהן.
שאלות נפוצות על רגרסיה ריבועית
מהי רגרסיה ריבועית?
התאמה של פרבולה y = ax² + bx + c לנתונים בשיטת הריבועים הפחותים: בחירת a, b ו־c כך שסכום ריבועי המרחקים האנכיים מהנקודות לעקומה יהיה קטן ככל האפשר. זו השיטה שמשתמשים בה כשדיאגרמת פיזור עולה ויורדת, או יורדת ועולה, במקום ללכת בקו ישר.
איך מוצאים את משוואת הרגרסיה הריבועית?
סוכמים את x, x², x³, x⁴, y, xy ו־x²y על פני הנקודות ופותרים את שלוש המשוואות הנורמליות aΣx⁴ + bΣx³ + cΣx² = Σx²y, aΣx³ + bΣx² + cΣx = Σxy ו־aΣx² + bΣx + cn = Σy. עבור x = 0, 1, 2, 3 ו־y = 1, 2, 5, 11 הפתרון הוא a = 1.25, b = -0.45, c = 1.05.
כמה נקודות צריך לרגרסיה ריבועית?
לפחות שלוש, עם לפחות שלושה ערכי x שונים. עם שלוש בדיוק הפרבולה עוברת דרך כולן ו־R² הוא 1 באופן אוטומטי, ולכן צריך ארבע נקודות או יותר לפני שההתאמה אומרת לכם משהו על הנתונים.
מה המשמעות של R² בהתאמה ריבועית?
R² = 1 פחות (סכום ריבועי השאריות) חלקי (השונות הכוללת של y סביב הממוצע שלו). זה החלק מהשונות ב־y שהפרבולה מסבירה. עבור y = 2, 6, 11, 13, 12, 8 ב־x = 1 עד 6, R² = 887/917, בערך 0.9673.
האם רגרסיה ריבועית זהה לרגרסיה פולינומית?
היא רגרסיה פולינומית ממעלה 2. התאמה ממעלה 3 מוסיפה איבר x³ ומשוואה נורמלית רביעית, וכן הלאה. מעלות גבוהות יותר תמיד מתאימות לנקודות מקרוב יותר, ומנקודה מסוימת הן מתאימות לרעש ולא למגמה, ולכן מעלה 2 היא בדרך כלל הכי רחוק שקבוצת נתונים קטנה צריכה ללכת.
איך מוצאים את הקודקוד של הפרבולה המותאמת?
כמו בכל פרבולה: x = -b/(2a), ואז מציבים את ה־x הזה במשוואה כדי לקבל את y. עבור y = -(8/7)x² + (66/7)x - 7 זה נותן x = 33/8 ו־y = 697/56, בערך 12.45, ושם המגמה המותאמת מגיעה לשיא.
למה המקדמים הם שברים?
כי פתרון המשוואות הנורמליות על נתונים שאפשר להקליד תמיד נותן מספרים רציונליים, והשבר הוא התשובה המדויקת. -8/7 הוא המקדם המוביל; -1.142857 הוא עיגול שלו. כפתור ההעתקה נותן את העקומה בשברים עשרוניים לגיליון אלקטרוני.