Koncepcja regresji logistycznej

Pojęcie regresji logistycznej

Regresja logistyczna to algorytm uczenia nadzorowanego stosowany w problemach klasyfikacji. W przeciwieństwie do regresji liniowej przewiduje wynik kategorialny (np. tak/nie, prawda/fałsz).

Jest powszechnie stosowana w takich dziedzinach jak finanse, opieka zdrowotna i marketing.

Regresja logistyczna wykorzystuje funkcję sigmoidalną do przekształcenia wyniku liniowego w wartość prawdopodobieństwa z przedziału od 0 do 1. To prawdopodobieństwo określa etykietę klasy.

Wzór funkcji sigmoidalnej to:

σ(z) = 1 / (1 + e^(-z))

W tym wzorze z jest równaniem liniowym (mx + b). Funkcja sigmoidalna odwzorowuje z na przedział od 0 do 1.

Regresję logistyczną najczęściej stosuje się do:

• Wykrywania spamu: Klasyfikowania wiadomości e-mail jako spam lub wiadomości niespam.
• Opieki zdrowotnej: Przewidywania prawdopodobieństwa wystąpienia choroby.
• Marketingu: Segmentacji klientów na podstawie ich zachowań zakupowych.

Regresję logistyczną można podzielić na trzy rodzaje:

• Regresja logistyczna binarna: Dwa możliwe wyniki (np. tak/nie).
• Regresja logistyczna wielomianowa: Więcej niż dwie kategorie (np. czerwony/niebieski/zielony).
• Regresja logistyczna porządkowa: Uporządkowane kategorie (np. niski/średni/wysoki).

Regresja logistyczna ma kilka zalet:

• Jest łatwa we wdrożeniu i interpretacji.
• Dobrze sprawdza się w przypadku binarnych i prostych zadań klasyfikacji.
• Zapewnia wyniki probabilistyczne, które są przydatne przy podejmowaniu decyzji.

Do ograniczeń regresji logistycznej należą:

• Zakłada liniową zależność między zmiennymi (za pośrednictwem logarytmu szans).
• Może nie działać dobrze w przypadku złożonych lub silnie nieliniowych zbiorów danych.
• Może być wrażliwa na wartości odstające.

Najważniejsze różnice obejmują:

• Regresja liniowa: Przewiduje wartości ciągłe.
• Regresja logistyczna: Przewiduje wyniki kategoryczne.
• Wynik: Regresja logistyczna zwraca prawdopodobieństwa (od 0 do 1), natomiast regresja liniowa zwraca liczby rzeczywiste.

W tej lekcji omówiliśmy:

• Pojęcie regresji logistycznej i sposób jej działania.
• Funkcję sigmoidalną i jej rolę w klasyfikacji.
• Zastosowania, zalety i ograniczenia regresji logistycznej.

W następnym kroku zaimplementujemy regresję logistyczną w Pythonie, aby rozwiązywać problemy klasyfikacji.