【西瓜书】9.聚类

• 聚类任务是无监督学习的一种
• 用于分类等其他任务的前驱过程，作为数据清洗，基于聚类结果训练分类模型

1.聚类性能度量（有效性指标）

• 分类任务的性能度量有错误率、精度、准确率P、召回率R、F1度量(P-R的调和平均)、TPR、FPR、AUC
• 回归任务的性能度量有均方误差MSE、根均方误差RMSE、平均绝对误差MAE、R-Squared
• 聚类任务的性能度量分为三个外部指标+两个内部指标

外部指标：和一个参考模型比

        若对m个样本聚类，分成了k个簇，两两样本比较，可组为m(m-1)/2组，每组要么位于相同簇(1)要么位于不同簇(0)，对参考模型做同样操作，我们希望两个模型对于m(m-1)/2组样本组合划分的结果都为1或都为0的尽可能多，则分为如下三个外部指标（都是越大越好）：

• Jaccard系数：JC=a/(a+b+c)（在两个模型中都为同一个簇的尽可能多）
• FM指数：FMI=sqrt(a/(a+b)+a/(a+c))
• Rand指数：RI=(a+d)/(a+b+c+d)（在两个模型中都为同一个簇或都不为同一个簇的尽可能多）

内部指标：内部簇间距离大，簇内距离小

• DB指数：越小越好
• Dumn指数：越大越好

2.距离计算

2.1.连续属性：具有非负性、直递性、对称性、同一性

计算闵可夫斯基距离：

• 曼哈顿距离：绝对值相加
• 欧氏距离：绝对值平方相加开根号

2.2.离散属性： VDM法（没太理解不确定）

3.原型聚类

3.1.k-means

---

3.2.DBSCAN密度聚类

        由核心对象出发，找到与该核心对象密度可达的所有样本形成一个聚类簇。

（1）概念：邻域参数 eps (每个点的方圆eps内有几个样本)和 Minpts(eps的一个分界点)

（2）样本点之间的三种关系：

密度可达和密度相连区别在于方向不同：

• x1—>x2—>x3的x1到x3是密度可达
• x1<—x2—>x3的x1和x3是密度相连

其中密度可达是不一定对称的，密度相连是对称的，如下题目：

x1到x2直接密度可达；x1到x3密度可达；x3与x4密度相连(通过x1)

---

3.3.AGNES层次聚类 

 自底向上聚合的层次聚类算法，它先会将数据集中的每个样本看作一个初始簇，然后在算法运行的每一步中找出距离最近的两个簇进行合并，直至达到预设的簇的数量。