国内刊号:11-1777/TP
国际刊号:1000-1239
发布日期:
作者:崔员宁,孙泽群,胡伟,
关键词:知识图谱, 规则, 通用推理, 预训练, 提示学习, 关系IO图,
知识图谱是存储真实世界海量知识的图数据库,为大量知识驱动的下游任务提供了数据支持.知识图谱往往具有不完备性,存在大量缺失的事实,因此知识图谱推理任务基于已知事实推理新结论来补全知识图谱.随着知识工程及其商业应用的研究与发展,大量通用和领域知识图谱被构建.现有知识图谱推理方法大多面向单一知识图谱的补全,不具备通用推理能力.近年来,受预训练大语言模型通用能力的启发,一些通用的知识图谱推理预训练模型被提出.针对现有预训练模型无法识别高质量推理模式的问题,提出一个基于规则提示的知识图谱通用推理预训练模型——RulePreM,该模型筛选与利用高质量推理规则来提高知识图谱上的推理能力.首先基于推理规则构建关系IO图和一个编码器RuleGNN对关系进行编码,然后将关系编码作为提示来编码知识图谱中的实体,最后对候选实体进行打分预测.还提出一种结合规则置信度的注意力机制,来进一步减少低质量推理模式的影响.实验结果表明,所提出的模型在43个不同设定下的知识图谱上具有良好的通用推理能力,平均性能指标均优于现有的有监督模型和预训练模型.
来源:2024年第8期
《计算机研究与发展》期刊编辑部