Pojęcie regresji liniowej

Regresja liniowa to jeden z najprostszych i najczęściej stosowanych algorytmów uczenia nadzorowanego. Modeluje zależność między dwiema zmiennymi, dopasowując do danych linię prostą.

Linia ta nazywa się linią najlepszego dopasowania.

Regresja liniowa jest idealna do:

• Przewidywania wartości ciągłych (np. cen domów lub temperatury).
• Rozumienia zależności między zmiennymi niezależnymi i zależnymi.

Główne elementy modelu regresji liniowej to:

• Nachylenie: Określa kąt nachylenia linii.
• Wyraz wolny: Punkt, w którym linia przecina oś y.
• Błąd: Różnica między wartościami rzeczywistymi a przewidywanymi.

Wzór regresji liniowej to:

y = mx + b

• y: Zmienna zależna (wartość, którą chcemy przewidzieć).
• m: Nachylenie linii.
• x: Zmienna niezależna (dane wejściowe).
• b: Wyraz wolny (stała).

Regresja liniowa minimalizuje różnicę między wartościami rzeczywistymi a przewidywanymi, znajdując linię, dla której suma kwadratów błędów jest najmniejsza (metoda najmniejszych kwadratów).

Dzięki temu linia przebiega możliwie najbliżej wszystkich punktów danych.

Model regresji liniowej zazwyczaj przedstawia się za pomocą wykresu punktowego z punktami danych i linią najlepszego dopasowania.

Oto przykładowy zbiór danych:

• Zmienna niezależna (x): 1, 2, 3, 4, 5
• Zmienna zależna (y): 2, 4, 6, 8, 10

Regresja liniowa jest powszechnie stosowana w:

• Ekonomii: Przewidywaniu cen akcji.
• Opiece zdrowotnej: Szacowaniu czasu powrotu pacjenta do zdrowia.
• Marketingu: Przewidywaniu przychodów ze sprzedaży.

Regresja liniowa zakłada liniową zależność między zmiennymi, co nie zawsze musi być prawdą.

Jest również wrażliwa na wartości odstające, które mogą znacząco wpłynąć na linię najlepszego dopasowania.

W tej lekcji omówiliśmy:

• Pojęcie i wzór regresji liniowej.
• Zastosowanie regresji liniowej i jej najważniejsze elementy.
• Typowe zastosowania i ograniczenia.

W następnej kolejności zaimplementujemy regresję liniową w Pythonie podczas praktycznych ćwiczeń.