Linear Regression · 학습

이번에 배울 내용

관측 범위를 벗어난 예측과 이상값이 회귀식에 미치는 영향을 확인합니다.

관측과 예측식

최소제곱은 예측과 관측의 차이를 제곱해 합한 값을 줄입니다. 이상값의 영향이 커질 수 있어 직선만 보지 말고 잔차도 확인합니다.

새 입력에서의 평가

관측 범위 안의 예측과 범위 밖의 예측은 근거가 다릅니다. 실무에서는 자료를 먼저 나누고, 전처리와 모델은 학습 자료에서만 fit합니다. Pipeline은 이 순서를 묶는 데 도움이 됩니다.

풀이 예제

$x=\begin{bmatrix}0&1&2&3&4&5\end{bmatrix}$, $y=\begin{bmatrix}1&3.2&4.8&7.1&8.9&11.2\end{bmatrix}$입니다. 모델은 y_hat=w*x+b입니다.

import numpy as np
import matplotlib.pyplot as plt
x=np.arange(6.);y=np.array([1,3.2,4.8,7.1,8.9,11.2]);X=np.c_[x,np.ones_like(x)]
coef=np.linalg.lstsq(X,y,rcond=None)[0]
print(coef)

[2.01142857 1.0047619 ]

참고 예제