Clustering K-Means

K-Means è uno degli algoritmi di clustering più diffusi. Suddivide i dati in un numero predefinito di cluster (K) minimizzando le distanze intra-cluster.

Funziona in modo iterativo per trovare le migliori assegnazioni ai cluster e i centroidi.

Come funziona K-Means

K-Means opera secondo i seguenti passaggi:

1. Inizializzare K centroidi casuali.
2. Assegnare ogni punto dati al centroide più vicino.
3. Ricalcolare i centroidi come media di tutti i punti di un cluster.
4. Ripetere i passaggi 2 e 3 finché i centroidi non si stabilizzano o non viene raggiunto il numero massimo di iterazioni.

Scelta del numero di cluster

Il valore di K è un parametro fondamentale. I metodi comuni per scegliere K includono:

• Metodo del gomito: Tracciare la somma dei quadrati all'interno dei cluster (WCSS) per diversi valori di K e individuare il "punto del gomito".
• Punteggio della silhouette: Misura quanto sono ben separati i cluster.

Dataset di esempio per K-Means

Consideriamo un dataset con punti distribuiti nello spazio 2D. Ogni punto ha:

• X: Coordinata sull'asse orizzontale.
• Y: Coordinata sull'asse verticale.

K-Means raggrupperà questi punti in cluster in base alla loro vicinanza.

Implementazione di K-Means in Python

Usiamo la classe KMeans della libreria scikit-learn per implementare l'algoritmo:

from sklearn.cluster import KMeans
import numpy as np

# Example dataset
X = np.array([[1, 2], [1, 4], [1, 0], [4, 2], [4, 4], [4, 0]])

# K-Means model
kmeans = KMeans(n_clusters=2, random_state=0)
kmeans.fit(X)

print("Cluster Centers:", kmeans.cluster_centers_)
print("Labels:", kmeans.labels_)

Visualizzazione dei cluster

Possiamo visualizzare i cluster tracciando i punti dati e i centroidi:

import matplotlib.pyplot as plt

# Scatter plot of data points
plt.scatter(X[:, 0], X[:, 1], c=kmeans.labels_, cmap='viridis')

# Plot cluster centers
plt.scatter(kmeans.cluster_centers_[:, 0], kmeans.cluster_centers_[:, 1], s=200, c='red', marker='X')
plt.title('K-Means Clustering')
plt.show()

Vantaggi di K-Means

K-Means offre diversi vantaggi:

• Semplice e facile da implementare.
• Efficiente per dataset di grandi dimensioni.
• Funziona bene quando i cluster sono chiaramente definiti.

Limitazioni di K-Means

Alcune limitazioni di K-Means includono:

• Sensibilità al posizionamento iniziale dei centroidi.
• Difficoltà nella gestione di cluster non sferici.
• Sensibilità ai valori anomali e ai dati rumorosi.

Riepilogo e prossimi passaggi

In questa lezione abbiamo visto:

• Come funziona il clustering K-Means.
• Come scegliere il numero di cluster usando metodi come il metodo del gomito.
• Come implementare e visualizzare K-Means in Python.

Nel prossimo passaggio applicheremo K-Means a un dataset reale per acquisire esperienza pratica.