ML — Basic Concepts 2

Regression 모델

일정량의 데이터 (a training set)을 가지고 학습한 후 특정 값을 입력(input)했을 때 학습한 내용을 토대로 결과 값을 출력(output).

Linear Regression : 머신 러닝에서 가장 이해하기 쉬운 알고리즘. Linear 모델의 목표는 학습 데이터들을 관통하는 하나의 직선을 찾아내는 것 — 이 직선을 찾아내기 위해서는 가설을 세우고 H(x) = Wx + b 라는 선형 함수에서 기울기 W와 bias 가 어떤 값을 갖는지 알아내야 한다.

어떤 가설이 더 나을까? 가설이 나타내는 점들 간의 거리를 비교해서 거리가 가까운지, 먼 지를 판단 기준으로 삼는다.

 

Cost Function (or Loss Function)

이렇게 가설과 실제 값 간의 거리를 측정하는 것을 Cost function 이라고 한다.

{H(x) — y }

보통 위 차이의 값보다는 차이의 제곱을 한 값을 사용한다. 제곱을 하게 되면 차이가 작을 때보다 차이가 클 때 값이 더 커지므로, 내가 세운 가설과 실제 값 간의 오차가 큰 경우에 대해 명확하게 구분할 수 있다.

W와 b의 값을 최소화 하는 것이 Linear Regression이 해야하는 학습

따라서 minimize (W, b), 즉 W와 b 값을 최소화 하는 것이 Linear regression의 목표가 된다.

출처: http://it.plusblog.co.kr/221238399644