로지스틱 회귀의 개념

로지스틱 회귀는 분류 문제에 사용되는 지도 학습 알고리즘입니다. 선형 회귀와 달리 범주형 결과(예: 예/아니요, 참/거짓)를 예측합니다.

금융, 의료, 마케팅과 같은 다양한 분야에서 널리 사용됩니다.

로지스틱 회귀의 작동 방식

로지스틱 회귀는 시그모이드 함수를 사용하여 선형 출력을 0과 1 사이의 확률값으로 변환합니다. 이 확률이 분류 레이블을 결정합니다.

시그모이드 함수

시그모이드 함수의 공식은 다음과 같습니다:

σ(z) = 1 / (1 + e^(-z))

여기서 z는 선형 방정식(mx + b)입니다. 시그모이드 함수는 z를 0에서 1 사이의 범위로 변환합니다.

로지스틱 회귀의 활용

로지스틱 회귀는 일반적으로 다음과 같은 작업에 사용됩니다:

• 스팸 탐지: 이메일을 스팸 또는 스팸이 아닌 것으로 분류합니다.
• 의료: 질병에 걸릴 가능성을 예측합니다.
• 마케팅: 구매 행동을 바탕으로 고객을 세분화합니다.

로지스틱 회귀의 유형

로지스틱 회귀는 다음 세 가지 유형으로 나눌 수 있습니다:

• 이진 로지스틱 회귀: 가능한 결과가 두 가지입니다(예: 예/아니요).
• 다항 로지스틱 회귀: 두 개보다 많은 범주를 다룹니다(예: 빨강/파랑/초록).
• 순서형 로지스틱 회귀: 순서가 있는 범주를 다룹니다(예: 낮음/중간/높음).

로지스틱 회귀의 장점

로지스틱 회귀에는 다음과 같은 장점이 있습니다:

• 구현하고 해석하기 쉽습니다.
• 이진 분류와 단순한 분류 작업에 효과적입니다.
• 의사 결정에 유용한 확률적 출력을 제공합니다.

로지스틱 회귀의 한계

로지스틱 회귀에는 다음과 같은 한계가 있습니다:

• 로그 오즈를 통해 변수 간 선형 관계를 가정합니다.
• 복잡하거나 비선형성이 매우 큰 데이터 집합에서는 성능이 좋지 않을 수 있습니다.
• 이상치에 민감할 수 있습니다.

로지스틱 회귀와 선형 회귀 비교

주요 차이점은 다음과 같습니다:

• 선형 회귀: 연속적인 값을 예측합니다.
• 로지스틱 회귀: 범주형 결과를 예측합니다.
• 출력: 로지스틱 회귀는 확률(0에서 1 사이)을 출력하는 반면, 선형 회귀는 실수를 출력합니다.

요약 및 다음 단계

이번 수업에서는 다음 내용을 다뤘습니다:

• 로지스틱 회귀의 개념과 작동 방식
• 시그모이드 함수와 분류에서의 역할
• 로지스틱 회귀의 활용, 장점 및 한계

다음으로 분류 문제를 해결하기 위해 Python에서 로지스틱 회귀를 구현해 보겠습니다.