Реализация LinearRegression на Python

Теперь, когда Вы понимаете понятие линейной регрессии, давайте реализуем её на Python. Для этого мы воспользуемся популярной библиотекой для машинного обучения.

Шаг 1: подготовка данных

Сначала нужно подготовить набор данных. В этом примере мы воспользуемся простым набором с одной независимой переменной (x) и одной зависимой переменной (y).

Вот данные:

• x: 1, 2, 3, 4, 5
• y: 2, 4, 6, 8, 10

Шаг 2: импорт необходимых библиотек

Нам нужно импортировать следующие библиотеки:

• numpy: для числовых вычислений.
• matplotlib: для визуализации.
• scikit-learn: для алгоритмов машинного обучения.

import numpy as np
import matplotlib.pyplot as plt
from sklearn.linear_model import LinearRegression

Шаг 3: создание модели

Мы создаём модель линейной регрессии с помощью класса LinearRegression из библиотеки scikit-learn и подгоняем её под данные.

x = np.array([1, 2, 3, 4, 5]).reshape(-1, 1)
y = np.array([2, 4, 6, 8, 10])

model = LinearRegression()
model.fit(x, y)

Шаг 4: получение предсказаний

После обучения модели мы можем использовать её для получения предсказаний. Например, можно предсказать значение y при x = 6.

prediction = model.predict(np.array([[6]]))
print(f"Predicted value for x=6: {prediction[0]}")

Шаг 5: визуализация результатов

Мы можем построить точки данных и линию регрессии, чтобы визуально оценить, насколько хорошо модель соответствует данным.

plt.scatter(x, y, color='blue', label='Data points')
plt.plot(x, model.predict(x), color='red', label='Regression line')
plt.title('Linear Regression Visualization')
plt.xlabel('X')
plt.ylabel('Y')
plt.legend()
plt.show()

Шаг 6: оценка модели

Мы оцениваем эффективность модели с помощью таких метрик, как R-квадрат. Он показывает, насколько хорошо модель объясняет изменчивость данных.

r_squared = model.score(x, y)
print(f"R-squared value: {r_squared}")

При реализации линейной регрессии Вы можете столкнуться с такими трудностями, как:

• Переобучение на небольших наборах данных.
• Чувствительность к выбросам.
• Обработка мультиколлинеарности при наличии нескольких переменных.

В этом уроке мы:

• Научились реализовывать линейную регрессию с помощью scikit-learn.
• Получали предсказания и визуализировали результаты.
• Оценивали модель с помощью R-квадрата.

Далее мы рассмотрим понятие логистической регрессии для задач классификации.