Regroupement par K-moyennes

K-moyennes est l’un des algorithmes de regroupement les plus populaires. Il répartit les données en un nombre prédéfini de groupes (K) en minimisant les distances intragroupes.

Il fonctionne de manière itérative afin de trouver les meilleures affectations aux groupes et les meilleurs centres.

Fonctionnement de K-moyennes

K-moyennes fonctionne selon les étapes suivantes :

1. Initialiser K centres aléatoires.
2. Affecter chaque point de données au centre le plus proche.
3. Recalculer les centres comme la moyenne de tous les points d’un groupe.
4. Répéter les étapes 2 et 3 jusqu’à ce que les centres se stabilisent ou qu’un nombre maximal d’itérations soit atteint.

Choisir le nombre de groupes

La valeur de K est un paramètre essentiel. Parmi les méthodes courantes pour choisir K, citons :

• Méthode du coude : Représentez graphiquement la somme des carrés intra-groupes (WCSS) pour différentes valeurs de K et recherchez le « point du coude ».
• Score de silhouette : Mesure le degré de séparation des groupes.

Jeu de données d’exemple pour les K-moyennes

Considérons un jeu de données composé de points répartis dans un espace en 2D. Chaque point possède :

• X : Coordonnée sur l’axe horizontal.
• Y : Coordonnée sur l’axe vertical.

Les K-moyennes regrouperont ces points en fonction de leur proximité.

Implémenter les K-moyennes en Python

Nous utiliserons la classe KMeans de la bibliothèque scikit-learn pour implémenter l’algorithme :

from sklearn.cluster import KMeans
import numpy as np

# Example dataset
X = np.array([[1, 2], [1, 4], [1, 0], [4, 2], [4, 4], [4, 0]])

# K-Means model
kmeans = KMeans(n_clusters=2, random_state=0)
kmeans.fit(X)

print("Cluster Centers:", kmeans.cluster_centers_)
print("Labels:", kmeans.labels_)

Visualiser les groupes

Nous pouvons visualiser les groupes en représentant graphiquement les points de données et les centroïdes :

import matplotlib.pyplot as plt

# Scatter plot of data points
plt.scatter(X[:, 0], X[:, 1], c=kmeans.labels_, cmap='viridis')

# Plot cluster centers
plt.scatter(kmeans.cluster_centers_[:, 0], kmeans.cluster_centers_[:, 1], s=200, c='red', marker='X')
plt.title('K-Means Clustering')
plt.show()

Avantages des K-moyennes

Les K-moyennes présentent plusieurs avantages :

• Simples et faciles à implémenter.
• Efficaces pour les grands jeux de données.
• Fonctionnent bien lorsque les groupes sont clairement définis.

Limites des K-moyennes

Les K-moyennes présentent notamment les limites suivantes :

• Sensibilité à la position initiale des centroïdes.
• Difficulté à gérer les groupes non sphériques.
• Sensibilité aux valeurs aberrantes et aux données bruitées.

Résumé et prochaines étapes

Dans cette leçon, nous avons étudié :

• Le fonctionnement du regroupement par K-moyennes.
• Le choix du nombre de groupes à l’aide de méthodes comme la méthode du coude.
• L’implémentation et la visualisation des K-moyennes en Python.

Ensuite, nous appliquerons les K-moyennes à un jeu de données réel afin d’acquérir une expérience pratique.