Implémenter la régression linéaire en Python

Maintenant que vous comprenez le concept de régression linéaire, implémentons-la avec Python. Nous utiliserons pour cela la bibliothèque populaire scikit-learn.

Étape 1 : préparer les données

Nous devons d’abord préparer un jeu de données. Dans cet exemple, nous utiliserons un jeu de données simple avec une variable indépendante (x) et une variable dépendante (y).

Voici les données :

• x : 1, 2, 3, 4, 5
• y : 2, 4, 6, 8, 10

Étape 2 : importer les bibliothèques nécessaires

Nous devons importer les bibliothèques suivantes :

• numpy : pour les calculs numériques.
• matplotlib : pour les visualisations.
• scikit-learn : pour les algorithmes d’apprentissage automatique.

import numpy as np
import matplotlib.pyplot as plt
from sklearn.linear_model import LinearRegression

Étape 3 : créer le modèle

Nous créons un modèle de régression linéaire à l’aide de la classe LinearRegression de scikit-learn, puis nous l’ajustons aux données.

x = np.array([1, 2, 3, 4, 5]).reshape(-1, 1)
y = np.array([2, 4, 6, 8, 10])

model = LinearRegression()
model.fit(x, y)

Étape 4 : effectuer des prédictions

Une fois le modèle entraîné, nous pouvons l’utiliser pour effectuer des prédictions. Par exemple, pour prédire la valeur de y lorsque x = 6.

prediction = model.predict(np.array([[6]]))
print(f"Predicted value for x=6: {prediction[0]}")

Étape 5 : visualiser les résultats

Nous pouvons représenter les points de données et la droite de régression afin de visualiser la qualité de l’ajustement du modèle aux données.

plt.scatter(x, y, color='blue', label='Data points')
plt.plot(x, model.predict(x), color='red', label='Regression line')
plt.title('Linear Regression Visualization')
plt.xlabel('X')
plt.ylabel('Y')
plt.legend()
plt.show()

Étape 6 : évaluer le modèle

Nous évaluons les performances du modèle à l’aide de mesures telles que R au carré. Cette mesure indique dans quelle mesure le modèle explique la variabilité des données.

r_squared = model.score(x, y)
print(f"R-squared value: {r_squared}")

Lors de l’implémentation de la régression linéaire, vous pouvez rencontrer des difficultés telles que :

• Le surapprentissage avec de petits jeux de données.
• La sensibilité aux valeurs aberrantes.
• La gestion de la multicolinéarité entre plusieurs variables.

Dans cette leçon, nous avons :

• Appris à implémenter la régression linéaire avec scikit-learn.
• Effectué des prédictions et visualisé les résultats.
• Évalué le modèle à l’aide de R au carré.

Ensuite, nous explorerons le concept de régression logistique pour les problèmes de classification.