计算机研究与发展

北大核心,JST,Pж(AJ),EI,CSCD

国内刊号:11-1777/TP

国际刊号:1000-1239

计算机研究与发展杂志2024年第8期:基于规则提示的知识图谱通用推理预训练模型

发布日期:

作者:崔员宁,孙泽群,胡伟,

关键词:知识图谱, 规则, 通用推理, 预训练, 提示学习, 关系IO图,

知识图谱是存储真实世界海量知识的图数据库,为大量知识驱动的下游任务提供了数据支持.知识图谱往往具有不完备性,存在大量缺失的事实,因此知识图谱推理任务基于已知事实推理新结论来补全知识图谱.随着知识工程及其商业应用的研究与发展,大量通用和领域知识图谱被构建.现有知识图谱推理方法大多面向单一知识图谱的补全,不具备通用推理能力.近年来,受预训练大语言模型通用能力的启发,一些通用的知识图谱推理预训练模型被提出.针对现有预训练模型无法识别高质量推理模式的问题,提出一个基于规则提示的知识图谱通用推理预训练模型——RulePreM,该模型筛选与利用高质量推理规则来提高知识图谱上的推理能力.首先基于推理规则构建关系IO图和一个编码器RuleGNN对关系进行编码,然后将关系编码作为提示来编码知识图谱中的实体,最后对候选实体进行打分预测.还提出一种结合规则置信度的注意力机制,来进一步减少低质量推理模式的影响.实验结果表明,所提出的模型在43个不同设定下的知识图谱上具有良好的通用推理能力,平均性能指标均优于现有的有监督模型和预训练模型.

来源:2024年第8期

《计算机研究与发展》期刊编辑部

查看计算机研究与发展杂志2024年第8期

联系我们

  • 地址:北京中关村科学院南路6号
  • 电话:(010)62620696
  • E-mail:crad@ict.ac.cn

咨询工作人员