Кластеризация K-Means

K-Means — один из самых популярных алгоритмов кластеризации. Он разделяет данные на заранее заданное число кластеров (K), минимизируя внутрикластерные расстояния.

Алгоритм итеративно подбирает наилучшую принадлежность точек к кластерам и центроиды.

Как работает метод K-средних

Метод K-средних выполняет следующие шаги:

1. Инициализируйте K случайных центроидов.
2. Назначьте каждую точку данных ближайшему центроиду.
3. Пересчитайте центроиды как среднее значение всех точек в кластере.
4. Повторяйте шаги 2 и 3, пока центроиды не стабилизируются или не будет достигнуто максимальное количество итераций.

Выбор количества кластеров

Значение K — важный параметр. К распространённым методам выбора K относятся:

• Метод локтя: постройте график суммы квадратов расстояний внутри кластеров (WCSS) для разных значений K и найдите «точку локтя».
• Коэффициент силуэта: показывает, насколько хорошо разделены кластеры.

Пример набора данных для K-Means

Рассмотрим набор данных с точками, распределёнными в двумерном пространстве. Каждая точка имеет:

• X: Координату на горизонтальной оси.
• Y: Координату на вертикальной оси.

K-Means сгруппирует эти точки в кластеры на основе их близости.

Реализация K-Means в Python

Для реализации алгоритма мы воспользуемся классом KMeans из библиотеки scikit-learn:

from sklearn.cluster import KMeans
import numpy as np

# Example dataset
X = np.array([[1, 2], [1, 4], [1, 0], [4, 2], [4, 4], [4, 0]])

# K-Means model
kmeans = KMeans(n_clusters=2, random_state=0)
kmeans.fit(X)

print("Cluster Centers:", kmeans.cluster_centers_)
print("Labels:", kmeans.labels_)

Визуализация кластеров

Мы можем визуализировать кластеры, построив график с точками данных и центроидами:

import matplotlib.pyplot as plt

# Scatter plot of data points
plt.scatter(X[:, 0], X[:, 1], c=kmeans.labels_, cmap='viridis')

# Plot cluster centers
plt.scatter(kmeans.cluster_centers_[:, 0], kmeans.cluster_centers_[:, 1], s=200, c='red', marker='X')
plt.title('K-Means Clustering')
plt.show()

Преимущества K-Means

K-Means имеет несколько преимуществ:

• Простота и лёгкость реализации.
• Эффективность при работе с большими наборами данных.
• Хорошая работа с чётко определёнными кластерами.

Ограничения K-Means

К ограничениям K-Means относятся:

• Чувствительность к начальному размещению центроидов.
• Сложности при работе с несферическими кластерами.
• Чувствительность к выбросам и зашумлённым данным.

Итоги и следующие шаги

В этом уроке мы рассмотрели:

• принцип работы кластеризации методом K-средних;
• выбор количества кластеров с помощью таких методов, как метод локтя;
• реализацию и визуализацию метода K-средних в Python.

Далее мы применим метод K-средних к реальному набору данных, чтобы получить практический опыт.