机器学习-周志华-个人练习9.6

聚类参考资料

机器学习(周志华) 参考答案 第九章 聚类机器学习(周志华西瓜书) 参考答案 总目录 http://blog.csdn.net/icefire_tyh/article/details/52064910 聚类由于不存在客观标准，任何有点道理的角度都能提出新的聚类算法。 1.试证明：P≥1P \geq 1时，闽可夫斯基距离满足度量的四条基本性质；0≤P<10\leq P < 1时，闽可夫斯基距离

AGNES（AGglomerative NESting 的简写）是一种采用自底向上聚合策略的层次聚类算法。 【工作过程】： 先将数据集中的每个样本看作一个初始聚类簇； 然后在算法运行的每一步中找出距离最近的两个聚类簇进行合并； 步骤（2）不断重复，直至达到预设的聚类簇的个数。 【关键】：如何计算聚类簇之间的距离。 实际上，每个簇是一个样本集合，因此，只需采用关于集合的某种距离即可。 最小距离：...

平均距离描述的是两个簇之间样本的平均距离。例如下图中圆圈和菱形分别代表两个簇，计算两个簇之间的所有样本之间的欧式距离并求其平均值。最小距离描述的是两个簇之间距离最近的两个样本所对应的距离。例如下图中圆圈和菱形分别代表两个簇，两个簇之间离得最近的样本的。最大距离描述的是两个簇之间距离最远的两个样本所对应的距离。例如下图中圆圈和菱形分别代表两个簇，两个簇之间离得最远的样本的。，然后在算法运行的每一步中找出距离最近的两个簇进行合并，直至达到预设的簇的数量。算法需要不断的计算簇之间的距离，这也符合聚类的核心思想（

10.6 试使用MATLAB中的PCA 函数对Yale人脸数据集进行降维，并观察前20个特征向量所对应的图像。 为了便于练习，未使用MATLAB，而是用了scikit-learn.decomposition模块下的PCA进行练习。书上给的Yale人脸数据集访问有点慢（貌似被墙了），我重新上传了一份到百度云（点此下载）。数据集共有样本166个，每张图像的分辨率为320*243（用numpy的sha

算法思想： 初始每个数据都是一个簇； 寻找每个簇之间的距离，获取距离列表； 合并距离最近的两个簇Ci，Cj，并删除Cj，更新距离列表，使簇个数减1； 重复第3步，直到簇个数等于所需个数k。

9.1 证明：p≥1p\geq 1时，闵可夫斯基距离满足距离度量的四条基本性质。0≤p<10\leq p < 1时，闵可夫斯基距离只满足非负性、规范性和对称性，不满足三角不等式。当p趋向于无穷大时，闵可夫斯基距离等于对应分量的最大绝对距离，也称为切比雪夫距离： limp→+∞(∑u=1n|xiu−xju|p)1p=maxu|xiu−xju|.\lim_{p\rightarrow +\infty}\

前言   层次聚类和K-means聚类以及DBSCAN聚类又截然不同。层次聚类的核心思想是试图在不同层次对数据集进行划分，形成树形的结构。本章主要介绍层次聚类的思想，算法具体步骤和Matlab编程实践。 算法原理   层次聚类有两种思路：自底向上和自顶向下，这两种思路带来的是两种不同的算法。本文主要介绍AGNES（自底向上）。   自底向上如果从树状图中看，就是从树的最底端不断向上搜索。先将数据集中的每个样本看作一个初始聚类簇（如果有NNN个样本点，则初始时有NNN个簇），然后在算法运行的每一步中找到距离最

层次凝聚的代表是AGNES(AGglomerative NESting)算法。AGNES 算法最初将每个对象作为一个簇，然后这些簇根据某些准则被一步步地合并。两个簇间的相似度有多种不同的计算方法。聚类的合并过程反复进行直到所有的对象最终满足簇数目。

  这个层次聚类算法AGNES就很简单了， 看书就能看明白，估计没人搜索吧，哈哈。   最主要的是定义两个簇之间的距离： 1.可以是两个簇之间 的最大距离： 两个簇 的 两个样本之间的距离最远 时的距离 2.可以是两个簇之间 的最小距离：两个簇 的 两个样本之间的距离最短时的距离 3.可以是两个簇之间 的平均距离：两个簇所有样本间距离的均值     取层次聚类 - 自底向上聚类策...

层次凝聚算法——AGNES AGNES算法是一种基于层次凝聚的聚类算法，它的思想十分朴素。假设现在有一个待聚类的数据集，那么根据分而治之的思想我们可以首先将每一个样本点看成是一个类，然后根据一定的规则将这些比较“小”的类进行合并，进而达到最终想要的结果。 那么这个合并的规则是什么？通常我们将样本点之间的距离看成相似度。在两个小类中，第一个类和第二个类中的点它们之间的距离有很多，如果第一个类有n个样本点，第二个类有m个样本点，那么不同的类点和点之间的距离就会有m*n个，到底如何定义这个规则呢？ 一般而.

模式识别中最大最小距离算法及matlab实现。

AGNES是一种自底向上聚合策略的层次聚类算法。

Linux的三种登录方式：匿名登录、本地用户登录和虚拟用户登 匿名登录：在登录FTP时使用默认的登录名 本地用户登录：使用系统用户登录，在etc/passwd中 虚拟用户登：这是FTP专有用户，有两种方法实现虚拟登录，本地数据文件和数据库服务器 转载于:https://www.cnblogs.com/xiaowoniu1/p/9599448.html...

CH9 聚类