Le concept de régression logistique

Le concept de la régression logistique

La régression logistique est un algorithme d'apprentissage supervisé utilisé pour les problèmes de classification. Contrairement à la régression linéaire, elle prédit un résultat catégoriel (par exemple, oui/non ou vrai/faux).

Elle est largement utilisée dans des domaines comme la finance, la santé et le marketing.

La régression logistique utilise la fonction sigmoïde pour transformer une sortie linéaire en une probabilité comprise entre 0 et 1. Cette probabilité détermine l'étiquette de classe.

La formule de la fonction sigmoïde est :

σ(z) = 1 / (1 + e^(-z))

Ici, z est l'équation linéaire (mx + b). La fonction sigmoïde associe à z une valeur comprise entre 0 et 1.

La régression logistique est couramment utilisée pour :

• Détection des courriels indésirables : Classer les courriels comme indésirables ou non.
• Santé : Prédire la probabilité qu'une maladie survienne.
• Marketing : Segmenter les clients en fonction de leur comportement d'achat.

La régression logistique peut être classée en trois types :

• Régression logistique binaire : Deux résultats possibles (par exemple, oui/non).
• Régression logistique multinomiale : Plus de deux catégories (par exemple, rouge/bleu/vert).
• Régression logistique ordinale : Catégories ordonnées (par exemple, faible/moyen/élevé).

La régression logistique présente plusieurs avantages :

• Elle est facile à implémenter et à interpréter.
• Elle fonctionne bien pour les tâches de classification binaire et simple.
• Elle fournit des sorties probabilistes utiles à la prise de décision.

La régression logistique présente notamment les limites suivantes :

• Elle suppose une relation linéaire entre les variables (par l'intermédiaire des log-cotes).
• Elle peut être peu performante avec des jeux de données complexes ou fortement non linéaires.
• Elle peut être sensible aux valeurs aberrantes.

Les principales différences sont les suivantes :

• Régression linéaire : Prédit des valeurs continues.
• Régression logistique : Prédit des résultats catégoriels.
• Sortie : La régression logistique produit des probabilités (de 0 à 1), tandis que la régression linéaire produit des nombres réels.

Dans cette leçon, nous avons abordé :

• Le concept et le fonctionnement de la régression logistique.
• La fonction sigmoïde et son rôle dans la classification.
• Les applications, les avantages et les limites de la régression logistique.

Nous allons ensuite implémenter la régression logistique en Python pour résoudre des problèmes de classification.