聚类：原型聚类、层次聚类、密度聚类

首先介绍三种类型的聚类方法：

• 原型聚类：假设聚类结构能够通过一组原型求解。通常算法先对原型进行初始化，然后进行迭代求解。不同的原型表示、不同的迭代求解方式，将会产生不同的原型聚类算法。

  1. k均值算法：在一定程度上描述了样本围绕簇均值的紧密程度

  2. 学习向量量化（LVQ）：LVQ假设样本带有类别标记，学习过程通过利用样本的这些监督信息辅助聚类。原型向量的初始化为每个类别的样本集中随机选取一个样本作为原型向量

     image-20200405145537285.png

• 密度聚类：此类算法假设聚类结构能通过样本分布的紧密程度确定。从样本密度的角度来考察样本之间的可连接性，并基于可连接样本不断扩展聚类簇来获得最终的聚类结果。
• 例如：DBSCAN

image-20200405145937790.png

• 层次聚类：试图在不同层次对数据集进行划分，从而形成树形的聚类结构。数据集划分可采用自底向上的聚合策略，也可采用自顶向下的分拆策略。

  例如AGNES：

  1. AGNES首先对仅含有一个样本的初始聚类簇和相应的距离矩阵进行初始化；

  2. 然后AGNES不断合并距离最近的聚类簇，并对合并得到的聚类簇的距离矩阵进行更新；

  3. 不断重复，直至达到预设的聚类簇数