데이터 사이언스3 — 로지스틱 회귀분석의 필요성과 한계, 로지스틱 모형의 수학적 도출 + 5 more topics

선형 회귀를 이런 분류 문제에 그대로 적용하면, 예측값이 0보다 작거나 1보다 커질 수 있어요. 확률은 0에서 1 사이여야 하는데, 선형 회귀는 이런 조건을 만족시키지 못하죠. 또한, 이진 분류 문제에서 데이터의 분포는 일반적으로 S자 형태를 띠는데, 선형 회귀는 직선 형태라 이런 분포를 잘 설명하지 못합니다.

로지스틱 회귀는 이 문제를 해결하기 위해 시그모이드(sigmoid) 함수를 사용해요. 선형 회귀의 결과값을 시그모이드 함수에 통과시켜 0과 1 사이의 값으로 변환함으로써, 특정 사건이 발생할 확률을 예측할 수 있게 됩니다.

1. 선형 결합: 독립 변수들을 가중치와 곱하고 절편을 더해 선형 모델을 만듭니다. (z = β₀ + β₁x₁ + ... + βₚxₚ)
2. 시그모이드 함수 적용: 이 선형 결합의 결과 z를 시그모이드 함수 σ(z) = 1 / (1 + e^(-z))에 넣어 0과 1 사이의 확률값 p를 얻습니다.
3. 분류: 이 확률 p가 특정 임계값(예: 0.5)보다 크면 한 클래스로, 작으면 다른 클래스로 분류합니다.