Regroupement K-Means

K-Means est l’un des algorithmes de regroupement les plus populaires. Il répartit les données dans un nombre prédéfini de groupes (K) en minimisant les distances intragroupes.

Il fonctionne de manière itérative afin de trouver les meilleures affectations aux groupes et les meilleurs centroïdes.

Fonctionnement de K-Means

K-Means fonctionne selon les étapes suivantes :

1. Initialisez K centroïdes aléatoires.
2. Affectez chaque point de données au centroïde le plus proche.
3. Recalculez les centroïdes comme la moyenne de tous les points d’un groupe.
4. Répétez les étapes 2 et 3 jusqu’à ce que les centroïdes se stabilisent ou qu’un nombre maximal d’itérations soit atteint.

Choisir le nombre de groupes

La valeur de K est un paramètre essentiel. Parmi les méthodes courantes pour choisir K :

• Méthode du coude : tracez la somme des carrés intra-groupes (WCSS) pour différentes valeurs de K et recherchez le « point du coude ».
• Score de silhouette : mesure la séparation des groupes.

Jeu de données d’exemple pour K-Means

Considérons un jeu de données contenant des points répartis dans un espace à deux dimensions. Chaque point possède :

• X : une coordonnée sur l’axe horizontal.
• Y : une coordonnée sur l’axe vertical.

K-Means regroupera ces points en fonction de leur proximité.

Implémenter K-Means en Python

Nous utiliserons la classe KMeans de la bibliothèque scikit-learn pour implémenter l’algorithme :

from sklearn.cluster import KMeans
import numpy as np

# Example dataset
X = np.array([[1, 2], [1, 4], [1, 0], [4, 2], [4, 4], [4, 0]])

# K-Means model
kmeans = KMeans(n_clusters=2, random_state=0)
kmeans.fit(X)

print("Cluster Centers:", kmeans.cluster_centers_)
print("Labels:", kmeans.labels_)

Visualiser les groupes

Nous pouvons visualiser les groupes en représentant graphiquement les points de données et les centroïdes :

import matplotlib.pyplot as plt

# Scatter plot of data points
plt.scatter(X[:, 0], X[:, 1], c=kmeans.labels_, cmap='viridis')

# Plot cluster centers
plt.scatter(kmeans.cluster_centers_[:, 0], kmeans.cluster_centers_[:, 1], s=200, c='red', marker='X')
plt.title('K-Means Clustering')
plt.show()

Avantages de K-Means

K-Means présente plusieurs avantages :

• Il est simple et facile à implémenter.
• Il est efficace avec les grands jeux de données.
• Il fonctionne bien lorsque les groupes sont clairement définis.

Limites de K-Means

K-Means présente notamment les limites suivantes :

• Il est sensible au positionnement initial des centroïdes.
• Il a des difficultés à gérer les groupes non sphériques.
• Il est sensible aux valeurs aberrantes et aux données bruitées.

Résumé et prochaines étapes

Dans cette leçon, nous avons vu :

• Le fonctionnement du regroupement par K-moyennes.
• Le choix du nombre de groupes à l’aide de méthodes comme la méthode du coude.
• La mise en œuvre et la visualisation des K-moyennes en Python.

Ensuite, nous appliquerons les K-moyennes à un jeu de données réel afin d’acquérir une expérience pratique.