11种距离计算方法

11种距离计算方法在做分类时常常需要估算不同样本之间的相似性度量 SimilarityMe 这时通常采用的方法就是计算样本间的 距离 Distance

大家好,欢迎来到IT知识分享网。

  1. 欧氏距离(Euclidean Distance)
    欧氏距离是最易于理解的一种距离计算方法,源自欧氏空间中两点间的距离公式。
    (1) 二维平面上两点a(x1,y1) 与 b(x2,y2)间的欧氏距离:
    在这里插入图片描述
    (2) 三维空间两点a(x1,y1,z1)与b(x2,y2,z2)间的欧氏距离:
    在这里插入图片描述




  1. 切比雪夫距离 ( Chebyshev Distance )
    国际象棋种国王走一步能够移动到相邻的8个方格中的任意一个。那么国王从格子(x1,y1)走到格子(x2,y2)最少需要多少步?自己走走试试。你会发现最少步数总是max( | x2-x1 | , | y2-y1 | ) 步 。有一种类似的一种距离度量方法叫切比雪夫距离。
    (1) 二维平面两点a(x1,y1)与b(x2,y2)间的切比雪夫距离

在这里插入图片描述
(2) 两个n维向量a(x11,x12,…,x1n)与 b(x21,x22,…,x2n)间的切比雪夫距离
在这里插入图片描述
这个公式的另一种等价形式是


在这里插入图片描述

看不出两个公式是等价的?提示一下:试试用放缩法和夹逼法则来证明。

  1. 闵可夫斯基距离(Minkowski Distance)
    闵氏距离不是一种距离,而是一组距离的定义。
    (1) 闵氏距离的定义
    两个n维变量a(x11,x12,…,x1n)与 b(x21,x22,…,x2n)间的闵可夫斯基距离定义为:
    在这里插入图片描述
    其中p是一个变参数。
    当p=1时,就是曼哈顿距离
    当p=2时,就是欧氏距离
    当p→∞时,就是切比雪夫距离
    根据变参数的不同,闵氏距离可以表示一类的距离。
    (2)闵氏距离的缺点
    闵氏距离,包括曼哈顿距离、欧氏距离和切比雪夫距离都存在明显的缺点。
    举个例子:二维样本(身高,体重),其中身高范围是150-190,体重范围是50-60,有三个样本:a(180,50),b(190,50),c(180,60)。那么a与b之间的闵氏距离(无论是曼哈顿距离、欧氏距离或切比雪夫距离)等于a与c之间的闵氏距离,但是身高的10cm真的等价于体重的10kg么?因此用闵氏距离来衡量这些样本间的相似度很有问题。
    简单说来,闵氏距离的缺点主要有两个:
    (1) 将各个分量的量纲(scale),也就是“单位”当作相同的看待了。
    (2) 没有考虑各个分量的分布(期望,方差等)可能是不同的。














  2. 标准化欧氏距离 (Standardized Euclidean distance )
    (1) 标准欧氏距离的定义
    标准化欧氏距离是针对简单欧氏距离的缺点而作的一种改进方案。标准欧氏距离的思路:既然数据各维分量的分布不一样,好吧!那我先将各个分量都“标准化”到均值、方差相等吧。均值和方差标准化到多少呢?这里先复习点统计学知识吧,假设样本集X的均值(mean)为m,标准差(standard deviation)为s,那么X的“标准化变量”表示为:

在这里插入图片描述
而其中向量Xi与Xj之间的马氏距离定义为:

在这里插入图片描述
若协方差矩阵是单位矩阵(各个样本向量之间独立同分布),则公式就成了:
在这里插入图片描述

  1. 汉明距离(Hamming distance)
    (1)汉明距离的定义
    两个等长字符串s1与s2之间的汉明距离定义为将其中一个变为另外一个所需要作的最小替换次数。例如字符串“1111”与“1001”之间的汉明距离为2。
    应用:信息编码(为了增强容错性,应使得编码间的最小汉明距离尽可能大)。


  2. 杰卡德相似系数(Jaccard similarity coefficient)
    (1) 杰卡德相似系数
    两个集合A和B的交集元素在A,B的并集中所占的比例,称为两个集合的杰卡德相似系数,用符号J(A,B)表示。

在这里插入图片描述
杰卡德相似系数是衡量两个集合的相似度一种指标。
(2) 杰卡德距离
与杰卡德相似系数相反的概念是杰卡德距离(Jaccard distance)。杰卡德距离可用如下公式表示:


在这里插入图片描述

免责声明:本站所有文章内容,图片,视频等均是来源于用户投稿和互联网及文摘转载整编而成,不代表本站观点,不承担相关法律责任。其著作权各归其原作者或其出版社所有。如发现本站有涉嫌抄袭侵权/违法违规的内容,侵犯到您的权益,请在线联系站长,一经查实,本站将立刻删除。 本文来自网络,若有侵权,请联系删除,如若转载,请注明出处:https://haidsoft.com/134735.html

(0)
上一篇 2025-07-09 22:00
下一篇 2025-07-09 22:10

相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注微信