知识图谱常用评价指标:MRR,MR,HITS@K,Recall@K,Precision@K

知识图谱常用评价指标:MRR,MR,HITS@K,Recall@K,Precision@K本文详细介绍了知识图谱链接预测中的关键评估指标 包括 MRR MeanReciproc MR MeanRank HITS K 以及 Recall K

大家好,欢迎来到IT知识分享网。

一、MRR

MRR的全称是Mean Reciprocal Ranking(排名的倒数),其中Reciprocal是指“倒数的”的意思。该指标越大越好(即预测排名越靠前,倒数就越大,求和结果越大越好)。具体的计算方法如下:

M R R = 1 ∣ S ∣ ∑ i = 1 ∣ S ∣ 1 r a n k i = 1 ∣ S ∣ ( 1 r a n k 1 + 1 r a n k 2 + ⋅ ⋅ ⋅ + 1 r a n k i ) MRR=\frac{1}{|S|} \sum_{i=1}^{|S|} \frac{1}{rank_i}=\frac{1}{|S|}(\frac{1}{rank_1}+\frac{1}{rank_2}+\cdot\cdot\cdot+\frac{1}{rank_i }) MRR=S1i=1Sranki1=S1(rank11+rank21++ranki1)

其中 S S S是三元组集合, ∣ S ∣ |S| S是三元组集合个数, r a n k i rank_i ranki是指第 i i i个三元组的链接预测排名。例如,对于三元组(Jack,born_in,Italy),链接预测的结果可能是:

h r t score rank
Jack born_in Ireland 0.789 1
Jack born_in Italy 0.753 2
Jack born_in Germany 0.695 3
Jack born_in China 0.456 4
Jack born_in Thomas 0.234 5

那么,三元组(Jack,born_in,Italy)的链接预测排名则是2.

二、MR

MR的全称是Mean Rank。该指标越小越好(排名越靠前rank越小,求和也就更小),具体的计算方法如下:
M R = 1 ∣ S ∣ ∑ i = 1 ∣ S ∣ r a n k i = 1 ∣ S ∣ ( r a n k 1 + r a n k 2 + ⋅ ⋅ ⋅ + r a n k i ) MR=\frac{1}{|S|} \sum_{i=1}^{|S|} rank_i=\frac{1}{|S|}(rank_1+rank_2+\cdot\cdot\cdot+rank_i) MR=S1i=1Sranki=S1(rank1+rank2++ranki)

三、HITS@K

top-k推荐:从最后的按得分排序的推荐列表中返回前k个结果。
该指标是指在链接预测中排名小于 k k k的三元组的平均占比。具体的计算方法如下:

H I T S @ K = 1 ∣ S ∣ ∑ i = 1 ∣ S ∣ I ( r a n k i ≤ k ) HITS@K=\frac{1}{|S|} \sum_{i=1}^{|S|} \mathbb{I}(rank_i\le k) HITS@K=S1i=1SI(rankik)

其中,上述公式涉及的符号和MRR计算公式中涉及的符号一样,另外 I ( ⋅ ) \mathbb{I}(\cdot) I()是indicator函数(若条件真则函数值为1,否则为0)。一般地,取k等于1、3或者10。该指标越大越好。

四、Recall@K,Precision@K

首先需要搞清Recall和Precision的含义,具体含义参考:分类之混淆矩阵(Confusion Matrix);类比HITS@K。

参考链接

  1. KGE性能指标:MRR,MR,HITS@1,HITS@3,HITS@10
  2. 评测标准召回率Recall@K的理解与实例解析
  3. 知识图谱-常用评价指标-MRR、MR和HIT@n
  4. MRR,MAP等评估方法(常用与IR和QA任务)

免责声明:本站所有文章内容,图片,视频等均是来源于用户投稿和互联网及文摘转载整编而成,不代表本站观点,不承担相关法律责任。其著作权各归其原作者或其出版社所有。如发现本站有涉嫌抄袭侵权/违法违规的内容,侵犯到您的权益,请在线联系站长,一经查实,本站将立刻删除。 本文来自网络,若有侵权,请联系删除,如若转载,请注明出处:https://haidsoft.com/150216.html

(0)
上一篇 2025-03-20 12:10
下一篇 2025-03-20 12:15

相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注微信