[혼공학습단 14기_혼공머신 3주차] 로지스틱 회귀 (Logistic Regression)

"선형 회귀로 분류 문제를 풀고 싶다면, 로지스틱 회귀를 보아라"

로지스틱 회귀 (logistic regression)은 분류 문제, 특히 이진 분류 (binary classification) 문제를 해결하기 위한 대표적인 지도학습 알고리즘이다. 이름에 회귀라는 단어가 붙었지만, 실제로는 분류에 사용된다. 이 알고리즘은 선형 회귀와 동일하게 선형 방정식을 학습하여 연속적인 값을 예측한다.

하지만 이진 분류 문제에서는 결과가 0 또는 1 같은 범주형 값이어야 하기에, 선형 회귀를 사용하면 예측 값이 0보다 작거나 1보다 커질 수 있으며, 확률 해석이 불가능할 수 있다. 이를 위해서는 출력값이 0과 1 사이인 함수가 필요하며, 로지스틱 회귀에는 시그모이드 함수 (Sigmoid Function)를 활용한다.

 

시그모이드 함수 (Sigmoid Function)

시그모이드 함수는 실수 값을 입력받아, 0과 1사이의 확률 값으로 변환한다.

import numpy as np
import matplotlib.pyplot as plt

z = np.arange(-5, 5, 0.1)
phi = 1 / (1 + np.exp(-z))
plt.plot(z, phi)
plt.xlabel('z')
plt.ylabel('phi')
plt.title('Sigmoid Function', fontweight = 'bold')
plt.show()