회귀 분석의 종류 및 개념 정리

지도학습의 회귀분석에는 여러 분석방법이 있다.

'단순 선형회귀' '다중 선형회귀' '다항 회귀' '로지스틱 회귀' 등등

 

1. 단순선형회귀분석(Simple Linear Regression Analysis)

두 변수간의 인과관계를 조사하는 방법, 원하는 데이터를 예측하는 알고리즘 의미, 가장 쉽고 기초가 되는 알고리즘이 단순선형회귀분석이다.

하나의 종속변수에 하나의 독립변수가 있을 때 단순선형회귀분석

2개 이상의 독립변수가 있을 때는 다중회귀분석이라고 한다.

 

ex)

데이터 : N개의 광고 예산과 판매량

목표 : 광고에 얼마나 투자했을 때 얼마나 팔릴까?

가정 : 광고예산과 판매량은 선형적 관계를 가진다.

 

문제 : 어떤 기울기와 절편(b0, b1) 이 가장 좋은 것일까? 

 

y = ax + b

y추세선? , a기울기. b절편(x,y 중 y값)

 

y = b0x + b1 -> y=종속변수, x=독립변수, b0=절편, b1=기울기

 

 

 

2. 다중선형회귀분석(Multiple Linear Regression Analysis)

 

 

 

 

 

 

 

 

귀무가설  : 독립변수는 종속변수에 영향을 미치지 않는다.

대립가설 : 독립변수는 종속변수에 영향을 미친다.

※이때 독립과 종속변수 간의 인과관계는 논리적으로 타당하여야 하고, 두 변수 모두 등간 또는 비율척도인 양적 변수 형태여야 한다