로지스틱회귀분석

https://heytech.tistory.com/123

[통계] 로지스틱 회귀분석(Logistic Regression)의 이해

1. 왜 $log\frac{\pi}{1-\pi}$로 변화시켜주는가?

$p(X)$ 가 $[0,1]$의 범위를 가지기 때문에 $ln\{p(x)\}$의 x축의 범위인 $[0,\infty]$를 커버할 수 가 없음.

이를 보완하고자 $p(X)$를 $\frac{\pi}{1-\pi}$로 치환하여

$$logit=ln\frac{\pi(x)}{1-\pi(x)}=\beta_0+\beta_1X_1+...+\beta_kX_k+\epsilon$$
이 모형을 사용

 

2. log 오즈비와 같은 형태
$x_i$가 1 증가할 때 특정 이벤트가 발생하지 않을 확률 대비 이벤트가 발생할 확률의 상대적인 비율(오즈비)는 $exp(\beta_i)$라고 할 수 있다.

 

3. "연결함수(Link Function)이란 범주형 목표변수 수준의 확률을 연속형 척도로 변환하는 함수로, 목표변수와 설명변수의 관계를 선형 회귀분석을 활용해 모델링하는 함수를 의미한다. 대표적인 연결함수로는 logit이 있다."

 

- 범주형 로지스틱 회귀모델: 목표변수의 범주가 3개 이상인 경우 로지스틱 회귀모델로 이항 로지스틱 모델의 확장
- 순서형 로지스틱 회귀모델: 목표변수가 순서를 가질 때 사용하는 로지스틱 회귀모델로, 정규분포의 누적분포 함수(PDF)인 프로빗 연결함수 사용