Klasteryzacja K-Means

K-Means to jeden z najpopularniejszych algorytmów klasteryzacji. Dzieli dane na z góry określoną liczbę klastrów (K), minimalizując odległości wewnątrzklastrowe.

Działa iteracyjnie, aby znaleźć najlepsze przypisania do klastrów i centroidy.

Jak działa K-Means

Algorytm K-Means działa w następujących krokach:

1. Inicjalizuje K losowych centroidów.
2. Przypisuje każdy punkt danych do najbliższego centroidu.
3. Przelicza centroidy jako średnią wszystkich punktów w klastrze.
4. Powtarza kroki 2 i 3, aż centroidy się ustabilizują lub zostanie osiągnięta maksymalna liczba iteracji.

Wybór liczby klastrów

Wartość K jest kluczowym parametrem. Do popularnych metod wyboru K należą:

• Metoda łokcia: Należy wykreślić sumę kwadratów wewnątrz klastrów (WCSS) dla różnych wartości K i znaleźć „punkt łokcia”.
• Współczynnik sylwetki: Mierzy, jak dobrze klastry są od siebie oddzielone.

Przykładowy zbiór danych dla K-Means

Rozważmy zbiór danych z punktami rozmieszczonymi w przestrzeni 2D. Każdy punkt ma:

• X: Współrzędną na osi poziomej.
• Y: Współrzędną na osi pionowej.

K-Means pogrupuje te punkty w klastry na podstawie ich wzajemnej bliskości.

Implementowanie K-Means w języku Python

Do zaimplementowania algorytmu użyjemy klasy KMeans z biblioteki scikit-learn:

from sklearn.cluster import KMeans
import numpy as np

# Example dataset
X = np.array([[1, 2], [1, 4], [1, 0], [4, 2], [4, 4], [4, 0]])

# K-Means model
kmeans = KMeans(n_clusters=2, random_state=0)
kmeans.fit(X)

print("Cluster Centers:", kmeans.cluster_centers_)
print("Labels:", kmeans.labels_)

Wizualizacja klastrów

Możemy zwizualizować klastry, przedstawiając na wykresie punkty danych i centroidy:

import matplotlib.pyplot as plt

# Scatter plot of data points
plt.scatter(X[:, 0], X[:, 1], c=kmeans.labels_, cmap='viridis')

# Plot cluster centers
plt.scatter(kmeans.cluster_centers_[:, 0], kmeans.cluster_centers_[:, 1], s=200, c='red', marker='X')
plt.title('K-Means Clustering')
plt.show()

Zalety K-Means

K-Means ma kilka zalet:

• Jest prosty i łatwy do zaimplementowania.
• Jest wydajny w przypadku dużych zbiorów danych.
• Dobrze działa, gdy klastry są wyraźnie zdefiniowane.

Ograniczenia K-Means

Do ograniczeń K-Means należą:

• Wrażliwość na początkowe rozmieszczenie centroidów.
• Trudności z obsługą klastrów o kształcie innym niż kulisty.
• Wrażliwość na wartości odstające i zaszumione dane.

Podsumowanie i kolejne kroki

W tej lekcji omówiliśmy:

• Sposób działania klasteryzacji K-Means.
• Wybór liczby klastrów za pomocą metod takich jak metoda łokcia.
• Implementowanie i wizualizowanie K-Means w języku Python.

Następnie zastosujemy K-Means do rzeczywistego zbioru danych, aby zdobyć praktyczne doświadczenie.