사용안내 및 노트

홈으로/사용안내 및 노트
제목005. Linear Regression2020-06-21 20:29:16
작성자

☐ Linear Regression

 ○ Linear Regression is a method to predict a dependent variable based on values of independent variables. It can be used for the cases where we want to predict some continuous quantity.

 ○ Linear Regression = Least Squares Regression = Fitting a line to data

 ○ feature 수에 따라 2가지 형태로 구분: simple, multivariable

 ○ Simple regression: feature가 1개인 경우

  - y′ = b + w1x1

   · y′ : predicted label, desired output

   · b : bias term (뒤에 나오는 prediction bias와 의미가 다름), y-intercept
The inability to capture the true relationship between labels.

   · w1 : weight of feature1, slope

   · x1 : feature1, known input

  - loss function으로 MSE를 주로 사용한다.

   · MSE를 최소화하기 위해서 GDA를 사용한다.

 ○ Multivariable regression: feature가 2개 이상인 경우

  - y′ = b + w1x1 + w2x2 …

  - 학습을 수행하기 전에 데이터 normalizing을 해준다.

  - Simple regression과 마찬가지로 MSE와 GDA를 사용하지만, MSE 공식은 차이가 있다.