선형회귀 계산기

선형회귀는 점들을 가장 적게 빗나가는 단 하나의 직선을 찾습니다

실제 데이터는 결코 한 직선 위에 놓이지 않으므로, 어떤 직선을 그어도 대부분의 점을 빗나갑니다. 빗나간 각각의 양이 잔차입니다. 실제 y에서 직선이 예측한 y를 뺀 값이죠. 선형회귀는 모든 잔차를 제곱해 더하고, 그 합이 가장 작아지는 직선 하나를 고릅니다. 그 직선이 최소제곱 회귀직선이며, x 값이 모두 같지만 않다면 어떤 점들에 대해서도 정확히 하나만 존재합니다.

이 직선을 구하는 데는 수 다섯 개가 필요합니다. 개수 n, 그리고 x, y, xy, x²의 합입니다. 기울기는 m = (nΣxy에서 ΣxΣy를 뺀 값)을 (nΣx²에서 (Σx)²를 뺀 값)으로 나눈 것이고, 절편은 b = (Σy에서 mΣx를 뺀 값)을 n으로 나눈 것입니다. 이 페이지는 그 합계 표를 만들고, 여러분의 수를 두 공식에 넣고, 풀이를 한 줄씩 보여 줍니다. 선생님이 확인하는 것이 바로 그 표이기 때문입니다.

기울기와 절편은 정확한 분수로 유지됩니다. 정수, 소수, 분수로 된 데이터라면 이 둘은 언제나 유리수이므로, 기울기 162/35는 반올림한 값인 4.6286이 아니라 162/35로 표시됩니다. 상관계수 r은 제곱근이므로 근호로 나타내고 옆에 소수 값을 적습니다. 복사 버튼을 누르면 스프레드시트에 바로 쓸 수 있도록 소수로 된 직선을 얻습니다.

직선에서 눈여겨볼 점

• 회귀직선은 언제나 평균점을 지납니다. x = 1부터 5, y = 2, 4, 5, 4, 5라면 평균은 3과 4이고, 직선은 y = 0.6x + 2.2이며, 0.6 × 3 + 2.2 = 4입니다.
• 잔차를 모두 더하면 언제나 정확히 0입니다. 직선 위쪽과 아래쪽으로 빗나간 양이 균형을 이루므로, 이 방법은 잔차를 더하기 전에 제곱합니다.
• 기울기에는 단위가 있습니다. x 1단위당 y의 단위입니다. 공부 시간과 시험 점수에서 기울기가 162/35라면 한 시간 더 공부할 때마다 약 4.63점이 오른다는 뜻입니다.
• x와 y를 바꾸면 같은 직선을 정리한 것이 아니라 다른 직선이 나옵니다. x에 대한 y의 회귀는 세로 방향 오차를 줄이고, y에 대한 x의 회귀는 가로 방향 오차를 줄입니다.
• 기울기는 추세가 얼마나 가파른지를, r은 점들이 그 추세를 얼마나 가깝게 따르는지를 말합니다. 둘의 부호는 언제나 같지만, 가파른 직선의 r이 약할 수도 있고 완만한 직선의 r이 강할 수도 있습니다.
• 점이 두 개면 언제나 r = 1 또는 -1로 완벽하게 맞습니다. 이것은 데이터에 대해 아무것도 말해 주지 않습니다. 회귀직선은 점이 세 개 이상일 때부터 의미를 갖습니다.

회귀직선을 손으로 구하는 방법

1. 1

   표 만들기

   각 점을 x, y, xy, x²의 네 열을 가진 한 행으로 적습니다. 열마다 더하고 점의 개수를 셉니다. x = 1, 2, 3, 4, 5와 y = 2, 4, 5, 4, 5라면 n = 5, Σx = 15, Σy = 20, Σxy = 66, Σx² = 55입니다.

2. 2

   기울기 계산하기

   m = (nΣxy − ΣxΣy) / (nΣx² − (Σx)²). 여기서는 (5 × 66 − 15 × 20) / (5 × 55 − 15²) = 30 / 50 = 0.6입니다. 짧은 소수로 떨어지지 않으면 분수로 두세요.

3. 3

   절편 계산하기

   b = (Σy − mΣx) / n. 여기서는 (20 − 0.6 × 15) / 5 = 11/5 = 2.2입니다. 반올림한 기울기가 아니라 앞 단계의 정확한 기울기를 쓰세요.

4. 4

   직선을 쓰고 확인하기

   y = 0.6x + 2.2. 평균점 (3, 4)를 지나는지 확인합니다. 0.6 × 3 + 2.2 = 4. 지나지 않는다면 합 중 하나가 틀린 것입니다.

5. 5

   얼마나 잘 맞는지 판단하기

   r을 구하거나 잔차를 살펴봅니다. 여기서 r = √15/5, 약 0.7746이고, 잔차는 -0.8, 0.6, 1, -0.6, -0.2이며 그 제곱의 합은 2.4입니다.

작은 데이터의 회귀직선

각 행은 위 계산기에 입력한 데이터 하나입니다. 기울기와 절편은 정확한 값이고, r은 근호와 소수 값으로 나타냈습니다.

풀이 예제

x: 1, 2, 3, 4, 5; y: 2, 4, 5, 4, 5

x: 1, 2, 3, 4, 5, 6; y: 52, 58, 61, 67, 70, 76

x: 0, 1, 2, 3; y: 7, 5, 3, 1

x: 2, 4, 6, 8, 10; y: 3, 7, 8, 12, 15

x: 0, 1, 2, 3, 4, 5; y: 0, 1, 4, 9, 16, 25

자주 하는 실수

• 절편을 구하기 전에 기울기를 반올림하기. 기울기가 162/35일 때 4.63을 쓰면 절편이 47.8이 아니라 47.795가 됩니다. 정확한 기울기를 끝까지 들고 가서 마지막에 한 번만 반올림하세요.
• nΣx²와 (Σx)²를 혼동하기. x = 1부터 5라면 앞의 것은 5 × 55 = 275, 뒤의 것은 15² = 225입니다. 둘을 바꾸면 분모의 부호가 바뀝니다.
• 값의 짝을 어긋나게 맞추기. 첫 번째 x는 첫 번째 y와 짝입니다. 한 열만 정렬하면 존재하지 않는 점들을 지나는 직선이 나옵니다.
• 데이터 범위를 크게 벗어나 외삽하기. 직선은 맞춘 범위만 설명합니다. r이 1에 가까워도 범위 밖의 예측은 크게 틀릴 수 있습니다.
• r이 높다는 것을 직선 모형이 옳다는 증거로 받아들이기. 0부터 25까지의 제곱수는 r ≈ 0.96이지만 곡선 위에 있습니다. 잔차를 살펴보세요.
• 기울기를 원인으로 읽기. 직선은 이 데이터에서 x에 따라 y가 어떻게 변하는 경향이 있는지를 말할 뿐, x를 바꾸면 y가 바뀐다고 말하지 않습니다.
• x에 대한 y의 회귀를 묻는데 y에 대한 x의 회귀를 구하기. 모든 점이 한 직선 위에 있지 않은 한 두 회귀직선은 다릅니다.

선형회귀 자주 묻는 질문