K-Means-Clustering

K-Means-Clustering

K-Means ist einer der beliebtesten Clustering-Algorithmen. Er unterteilt Daten in eine vorgegebene Anzahl von Clustern (K), indem er die Intra-Cluster-Distanzen minimiert.

Der Algorithmus arbeitet iterativ, um die besten Clusterzuweisungen und Zentroiden zu finden.

Funktionsweise von K-Means

K-Means arbeitet in den folgenden Schritten:

1. K zufällige Zentroiden initialisieren.
2. Jeden Datenpunkt dem nächstgelegenen Zentroiden zuweisen.
3. Die Zentroiden als Mittelwert aller Punkte in einem Cluster neu berechnen.
4. Die Schritte 2 und 3 wiederholen, bis sich die Zentroiden stabilisieren oder die maximale Anzahl an Iterationen erreicht ist.

Anzahl der Cluster auswählen

Der Wert von K ist ein entscheidender Parameter. Zu den gängigen Methoden zur Auswahl von K gehören:

• Ellbogenmethode: Tragen Sie die Summe der Quadrate innerhalb der Cluster (WCSS) für verschiedene K-Werte auf und suchen Sie nach dem „Ellbogenpunkt“.
• Silhouettenkoeffizient: Misst, wie gut die Cluster voneinander getrennt sind.

Beispieldatensatz für K-Means

Betrachten wir einen Datensatz mit Punkten, die im zweidimensionalen Raum verteilt sind. Jeder Punkt verfügt über:

• X: Koordinate auf der horizontalen Achse.
• Y: Koordinate auf der vertikalen Achse.

K-Means gruppiert diese Punkte anhand ihrer Nähe zueinander in Cluster.

K-Means in Python implementieren

Wir verwenden die Klasse KMeans aus der Bibliothek scikit-learn, um den Algorithmus zu implementieren:

from sklearn.cluster import KMeans
import numpy as np

# Example dataset
X = np.array([[1, 2], [1, 4], [1, 0], [4, 2], [4, 4], [4, 0]])

# K-Means model
kmeans = KMeans(n_clusters=2, random_state=0)
kmeans.fit(X)

print("Cluster Centers:", kmeans.cluster_centers_)
print("Labels:", kmeans.labels_)

Cluster visualisieren

Wir können die Cluster visualisieren, indem wir die Datenpunkte und Zentroiden darstellen:

import matplotlib.pyplot as plt

# Scatter plot of data points
plt.scatter(X[:, 0], X[:, 1], c=kmeans.labels_, cmap='viridis')

# Plot cluster centers
plt.scatter(kmeans.cluster_centers_[:, 0], kmeans.cluster_centers_[:, 1], s=200, c='red', marker='X')
plt.title('K-Means Clustering')
plt.show()

Vorteile von K-Means

K-Means bietet mehrere Vorteile:

• Einfach und leicht zu implementieren.
• Effizient bei großen Datensätzen.
• Funktioniert gut, wenn die Cluster klar abgegrenzt sind.

Einschränkungen von K-Means

Zu den Einschränkungen von K-Means gehören:

• Empfindlichkeit gegenüber der anfänglichen Platzierung der Zentroiden.
• Schwierigkeiten beim Umgang mit nicht kugelförmigen Clustern.
• Empfindlichkeit gegenüber Ausreißern und verrauschten Daten.

Zusammenfassung und nächste Schritte

In dieser Lektion haben wir Folgendes behandelt:

• Die Funktionsweise des K-Means-Clustering.
• Die Auswahl der Clusteranzahl mithilfe von Methoden wie der Ellbogenmethode.
• Die Implementierung und Visualisierung von K-Means in Python.

Als Nächstes wenden wir K-Means auf einen realen Datensatz an, um praktische Erfahrung zu sammeln.