K-Means算法理论及Python实现

简述

K-means Algorithm(s)

• Assumes Euclidean space/distance 假设是在欧式空间下的。因为means本身是需要在欧式空间下才可以计算。但K-means有很多的推广版本，将欧式空间中所提到的Centroid转成Clustroid，是一种比较常见的推广方式。
• 算法先取k个类： Initialization 的时候需要避免ill-initialization 这里考虑到病态的初始化。最为经典的是使用 Rival penalized competitive learning¹

总之，通过一定的方式，可以实现初始化的K个类中心的选取。

算法流程

• For each point, place it in the cluster whose current centroid it is nearest.对于每个点，将其放在那个类中心离它最近的那个类中。
• After all points are assigned, update the locations of centroids of the K clusters. 每个点都被分配完之后，更新每个类的中心位置。
• Reassign all points to their closet centroid. 再分配每个点（方法类似）直到整个分配没什么变化。（直到收敛）

收敛性证明

这里我只给出不是很严谨的证明~ 至于详细的可以看60年前的那篇论文。

我们认为K-means一定会收敛。
下面使用反证法：
假设该算法不收敛。

那么根据假设就存在有这样的一个点。在添加它之后，即类中心发生移动后，就该删除掉它。
而这是不合理的。添加上该点之后，该类中心会向该点的发生移动。即距离比之前更近了。而根据算法，我们知道这样的点是不会被抛弃的。所以，这样的点不存在。即该算法会收敛。

证明不是很严谨，但是却可以拿来做对于算法收敛的直观认知~
欢迎大家在评论区补充~

Python实现

• 注意，这里采用的是完全随机初始化，这样的效果不是很好。因为可能会存在有病态的初始化结果。

def k_means(X, k=3):
    index_list = np.arange(len(X))
    np.random.shuffle(index_list)
    centroids_index = index_list[:k]
    centroids = X[centroids_index]
    y = np.arange(len(X))
    while True:
        y_new = np.arange(len(X))
        for i, xi in enumerate(X):
            y_new[i] = np.argmin([np.linalg.norm(xi - cj) for cj in centroids])
        if sum(y != y_new) == 0:
            break
        for j in range(k):
            centroids[j] = np.mean(X[np.where(y_new == j)], axis=0)
        y = y_new.copy()
    return y

• 直接用PCA截取部分特征，主要是为了画图

from sklearn import datasets
iris = datasets.load_iris()
from sklearn.decomposition import PCA
X_reduced = PCA(n_components=2).fit_transform(iris.data)
import matplotlib.pyplot as plt
plt.scatter(X_reduced[:, 0], X_reduced[:, 1], c=y, cmap=plt.cm.Set1)

原图：

K-means:

• 直接选用前两个特征

plt.scatter(iris.data[:, 0], iris.data[:, 1], c=y, cmap=plt.cm.Set1)
y_test_2 = k_means(iris.data)
plt.scatter(iris.data[:, 0], iris.data[:, 1], c=y_test, cmap=plt.cm.Set1)

原图：

K-means：