Понятие линейной регрессии

Линейная регрессия — один из самых простых и широко используемых алгоритмов обучения с учителем. Она моделирует зависимость между двумя переменными, подбирая для данных прямую линию.

Эта линия называется линией наилучшего соответствия.

Когда использовать линейную регрессию

Линейная регрессия идеально подходит для:

• Предсказания непрерывных значений (например, цен на жильё и температуры).
• Изучения зависимостей между независимыми и зависимыми переменными.

Основные компоненты линейной регрессии

Основными компонентами модели линейной регрессии являются:

• Наклон: определяет угол наклона линии.
• Свободный член: точка, в которой линия пересекает ось y.
• Ошибка: разница между фактическими и предсказанными значениями.

Формула линейной регрессии

Формула линейной регрессии имеет вид:

y = mx + b

• y: зависимая переменная (то, что требуется предсказать).
• m: наклон линии.
• x: независимая переменная (входные данные).
• b: свободный член (константа).

Как работает линейная регрессия

Линейная регрессия минимизирует разницу между фактическими и предсказанными значениями, находя линию, которая минимизирует сумму квадратов ошибок (метод наименьших квадратов).

Это позволяет провести линию как можно ближе ко всем точкам данных.

Визуальное представление линейной регрессии

Модель линейной регрессии обычно представляют в виде точечной диаграммы с точками данных и линией наилучшего соответствия.

Вот пример набора данных:

• Независимая переменная (x): 1, 2, 3, 4, 5
• Зависимая переменная (y): 2, 4, 6, 8, 10

Распространённые случаи применения линейной регрессии

Линейная регрессия широко используется в следующих областях:

• Экономика: предсказание цен на акции.
• Здравоохранение: оценка времени восстановления пациента.
• Маркетинг: предсказание выручки от продаж.

Ограничения линейной регрессии

Линейная регрессия предполагает линейную зависимость между переменными, но так бывает не всегда.

Она также чувствительна к выбросам, которые могут существенно повлиять на линию наилучшего соответствия.

Итоги и дальнейшие шаги

В этом уроке мы рассмотрели:

• Понятие и формулу линейной регрессии.
• Случаи её применения и основные компоненты.
• Распространённые случаи применения и ограничения.

Далее мы реализуем линейную регрессию на Python в ходе практического занятия.