2017-06-23
机器学习-聚类

• 分类: ml • 标签: ml

Clustering

聚类属于无监督学习，以往的回归、朴素贝叶斯、SVM等都是有类别标签y的，也就是说样例中已经给出了样例的分类。

聚类分析中的“类”（cluster）和分类的“类”（class）是不同的，对cluster更加准确的翻译应该是“簇”。聚类的任务是把所有的实例分配到若干的簇，使得同一个簇的实例聚集在一个簇中心的周围，它们之间距离的比较近；而不同簇实例之间的距离比较远。对于由数值型属性刻画的实例来说，这个距离通常指欧氏距离
两个算法应该都属于机器学习范围，用途非常广，包括机器视觉，数据挖掘等。分类是有监督的学习，需要事先标记样本，而聚类是无监督学习，不需要经验数据，但两者都是为了归类问题

Partitioning approach:
- 建立数据的不同分割，然后用相同标准评价聚类结果。（比如最小化平方误差和）
- 典型算法：K-Means, K-Medoids
Model-based:
- 对于每个类假定一个分布模型，试图找到每个类最好的模型
- 典型算法：GMM（混合高斯）
Dimensionality Reduction Approach:
- 先降维，再聚类
- 典型算法：Spectral clustering，Ncut

样本点满足高斯分布

两个阈值的选择

Clustering by fast search and find of density peaks—密度中心聚类算法

“Clustering by fast search and find of density peaks”是在2014年《Science》期刊上发表的一篇论文，这篇文章提出一种新型的基于密度的聚类算法。这个新聚类算法的核心思想在于对聚类中心的刻画上。

需要事先计算好所有点与点之间的距离。如果样本太大则整个距离矩阵的内存开销特别大，因此如果只需要得到最终聚类中心，则可以考虑牺牲速度的方式计算每一个样本点的和，避免直接加载距离矩阵。
文中提到聚类中心可以自动确定，但是从作者提供的示例代码看来，其判定过程还是需要人为地干预选择

dzzxjl