距离度量：欧氏距离，余弦距离，KL散度，马氏距离（含python代码实现）

1. 欧氏距离（Euclidean Distance）

欧氏距离，又称欧几里得度量，绝对距离， 是欧几里得空间中两点间“普通”（即直线）距离。

定义如下：

2. 余弦距离（余弦相似度）

余弦距离，Cosine distance， 是用两个向量的夹角的余弦来衡量向量A，B的距离，余弦相似性最常用于高维正空间。
例如在信息检索中，每个词项被赋予不同的维度，而一个文档由一个向量表示，其各个维度上的值对应于该词项在文档中出现的频率。余弦相似度因此可以给出两篇文档在其主题方面的相似度。

余弦距离关注的是向量的角度关系，不关心绝对大小，取值 [-1,1].

2. 1 余弦距离和欧氏距离的区别，联系

归一化后的欧式距离和余弦距离关系：

（1）欧氏距离体现了绝对差异，余弦距离体现方向上的相对差异。

如果分析两个用户对不同视频的偏好，更关注相对差异，需要使用余弦距离。比如用户A的观看向量（0，1），B的观看向量（1，0），这时余弦距离是很大的。
如果分析用户的活跃度，如登录的次数，时长，这时，需要使用欧氏距离。

3. KL散度

4. 马哈拉诺比斯距离

马哈拉诺比斯距离, Mahalanobis distance, 表示数据的协方差距离。它是一种有效的计算两个未知样本集的相似度的方法。

与欧氏距离不同的是它考虑到各种特性之间的联系（例如：一条关于身高的信息会带来一条关于体重的信息，因为两者是有关联的）并且是尺度无关的（scale-invariant），即独立于测量尺度。 对于一个均值为$\mu =({\mu }_1,{\mu }_2,{\mu }_3,\dots ,{\mu }_p{)}^T$，协方差矩阵为 $\Sigma$ 的多变量向量 $x=(x_1,x_2,x_3,\dots ,x_p$