Koncepcja regresji logistycznej

Pojęcie regresji logistycznej

Regresja logistyczna to algorytm uczenia nadzorowanego używany w problemach klasyfikacji. W przeciwieństwie do regresji liniowej przewiduje wynik kategoryczny (np. tak/nie, prawda/fałsz).

Jest szeroko stosowana w takich dziedzinach jak finanse, opieka zdrowotna i marketing.

Regresja logistyczna używa funkcji sigmoidalnej, aby przekształcić wynik liniowy w wartość prawdopodobieństwa z zakresu od 0 do 1. To prawdopodobieństwo określa etykietę klasy.

Wzór funkcji sigmoidalnej ma postać:

σ(z) = 1 / (1 + e^(-z))

W tym wzorze z jest równaniem liniowym (mx + b). Funkcja sigmoidalna odwzorowuje z na zakres od 0 do 1.

Regresja logistyczna jest często używana do:

• Wykrywania spamu: klasyfikowania wiadomości e-mail jako spam lub wiadomości niezawierających spamu.
• Opieki zdrowotnej: przewidywania prawdopodobieństwa wystąpienia choroby.
• Marketingu: segmentacji klientów na podstawie ich zachowań zakupowych.

Regresję logistyczną można podzielić na trzy rodzaje:

• Binarną regresję logistyczną: dwa możliwe wyniki (np. tak/nie).
• Wielomianową regresję logistyczną: więcej niż dwie kategorie (np. czerwony/niebieski/zielony).
• Porządkową regresję logistyczną: uporządkowane kategorie (np. niski/średni/wysoki).

Regresja logistyczna ma kilka zalet:

• Jest łatwa do implementacji i interpretacji.
• Dobrze sprawdza się w przypadku klasyfikacji binarnej i prostych zadań klasyfikacyjnych.
• Udostępnia wyniki probabilistyczne, które są przydatne przy podejmowaniu decyzji.

Do ograniczeń regresji logistycznej należą:

• Zakłada liniową zależność między zmiennymi (za pośrednictwem logarytmu ilorazu szans).
• Może nie działać dobrze w przypadku złożonych lub silnie nieliniowych zbiorów danych.
• Może być wrażliwa na wartości odstające.

Najważniejsze różnice to:

• Regresja liniowa: przewiduje wartości ciągłe.
• Regresja logistyczna: przewiduje wyniki kategoryczne.
• Wynik: regresja logistyczna zwraca prawdopodobieństwa (od 0 do 1), natomiast regresja liniowa zwraca liczby rzeczywiste.

W tej lekcji omówiliśmy:

• Pojęcie i sposób działania regresji logistycznej.
• Funkcję sigmoidalną i jej rolę w klasyfikacji.
• Zastosowania, zalety i ograniczenia regresji logistycznej.

Następnie zaimplementujemy regresję logistyczną w Pythonie, aby rozwiązywać problemy klasyfikacji.