【机器学习】26. 聚类评估方法

1. Unsupervised Measure

• 一个集群内的相似性高，集群之间的相似性低
• 这些措施也被称为internal

1.1. Method 1: measure cohesion and separation

cohesion 和separation使用距离测量
cohesion ：每个点与集群中心的距离（曼哈顿）
整体cohesion ：直接相加

separation：每个类的中心的距离
整体separation：乘以数量权重再相加

也可以用平方距离 名字改成SSE BSE

Silhouette coefficient

对于某个点i:
a_I: 点i到簇内所有其他点的平均距离, 代表凝聚度
b_i: 首先找到点i到另一个簇中所有点的平均距离, 然后取这些平均距离的最小值

s的范围是[−1,1]，越高越好

Method 2：Correlation between two similarity matrices

• 第一个相似度矩阵从距离得出
• 第二个相似度矩阵从聚类结果得出 0 不同，1相同
计算这两个相似度矩阵的相关性.

Method 3：Visual Inspection of similarity matrix

Plot the similarity matrix using coloring based on the similarity

主对角线的块状结构越清晰越好

2. Supervised measures

• 将聚类结果与“ground truth”（专家提供的正确聚类标签）进行比较
• 也叫External

3. 决定cluster的数量

elbow method
运行几个k的聚类算法，绘制SSE或其他无监督度量与簇的数量
寻找明显的膝盖或峰=大量的集群

4. 确定聚类趋势

Hopkins statistic