K-Means 聚类

K-Means 是最常用的聚类算法之一。它通过最小化簇内距离，将数据划分为预先确定数量的簇（K）。

它通过迭代寻找最佳的簇分配方案和质心。

K-Means 的工作原理

K-Means 按照以下步骤运行：

1. 初始化 K 个随机质心。
2. 将每个数据点分配给距离最近的质心。
3. 将一个簇中所有数据点的均值重新计算为质心。
4. 重复步骤 2 和 3，直到质心稳定或达到最大迭代次数。

选择聚类数量

K 的取值是一个关键参数。选择 K 的常用方法包括：

• 肘部法：绘制不同 K 值对应的簇内平方和（WCSS），并寻找“肘部点”。
• 轮廓系数：衡量各簇的分离程度。

K-Means 示例数据集

假设有一个数据集，其中的点分布在二维空间中。每个点包含：

• X：水平方向上的坐标。
• Y：垂直方向上的坐标。

K-Means 将根据这些点之间的接近程度，将它们分组到不同的簇中。

在 Python 中实现 K-Means

我们将使用 scikit-learn 库中的 KMeans 类来实现该算法：

from sklearn.cluster import KMeans
import numpy as np

# Example dataset
X = np.array([[1, 2], [1, 4], [1, 0], [4, 2], [4, 4], [4, 0]])

# K-Means model
kmeans = KMeans(n_clusters=2, random_state=0)
kmeans.fit(X)

print("Cluster Centers:", kmeans.cluster_centers_)
print("Labels:", kmeans.labels_)

可视化簇

我们可以通过绘制数据点和质心来可视化这些簇：

import matplotlib.pyplot as plt

# Scatter plot of data points
plt.scatter(X[:, 0], X[:, 1], c=kmeans.labels_, cmap='viridis')

# Plot cluster centers
plt.scatter(kmeans.cluster_centers_[:, 0], kmeans.cluster_centers_[:, 1], s=200, c='red', marker='X')
plt.title('K-Means Clustering')
plt.show()

K-Means 的优点

K-Means 具有以下优点：

• 简单易懂，易于实现。
• 适用于大型数据集，效率较高。
• 当簇的边界清晰时，效果良好。

K-Means 的局限性

K-Means 存在以下局限性：

• 对质心初始位置敏感。
• 难以处理非球形簇。
• 对离群值和噪声数据敏感。

总结与下一步

本课中，我们学习了：

• K 均值聚类的工作原理。
• 如何使用肘部法等方法选择簇的数量。
• 如何在 Python 中实现并可视化 K 均值聚类。

接下来，我们将把 K 均值应用于真实数据集，以获得实践经验。