计算机研究与发展

作者：张乃洲,曹薇,张啸剑,李石君,

关键词：基于知识的对话, 知识选择, 预训练语言模型, 条件变分自编码, 注意力机制, 记忆网络,

基于知识的神经对话研究常常面临外部知识包含冗余甚至与对话主题不相关信息的问题，从而导致对话系统性能下降.知识选择成为解决该问题的重要途径，但现有研究对诸如知识选择器的设计、选择出的知识的利用以及知识选择对话方法适用的场景等问题，还缺乏深入研究.针对这些问题，提出了一个新的基于变分注意力知识选择和预训练模型的神经对话方法，使用一个基于条件变分自编码（conditionalvariationalautoencoder，CVAE）和多层注意力机制的知识选择算法，自动选择出与当前对话最相关文本知识集合.该算法有效利用了训练数据中的对话回复来提高知识选择的效率.使用预训练语言模型Bart作为编码器-解码器架构，将选择的文本知识合并到Bart模型中，并在训练过程中对其进行微调.实验结果表明，与现有的一些代表性研究方法相比，提出的模型能生成多样性和连贯性更好、准确率更高的对话回复.

来源：2025年第8期

《计算机研究与发展》期刊编辑部

查看计算机研究与发展杂志2025年第8期