计算机研究与发展

作者：李昆泽,张宇,

关键词：无监督学习, 问题生成, 预训练模型, 深度学习, 自然语言处理,

在传统的问答任务中，模型一般需要大量的数据进行训练，而标注这些数据需要较多的时间和人力成本.无监督问题生成是解决问答任务训练数据匮乏的一种有效方法，但是目前使用该方法生成的问题存在难以回答、种类单一、语义不明等问题.针对这些问题，提出了一个自适应的多模块流水线式模型ADVICE，多个模块分别从问题可回答性、问题多样性和语法规范性对现有方法进行改进.在问题可回答性模块中，使用了共指消解和命名实体识别技术来提升问题的可回答性.在问题多样性模块中，针对不同提问方式的问题设计了不同的规则来提升问题类型多样性与答案类型多样性.在语法规范性模块中，基于T5训练了一个针对问句的语法错误纠正模型，并设计了一个筛选模块对纠正后的问答数据进行过滤.最后，训练了一个分类器自动选择所需要的模块.实验表明，使用改进后的问题生成方法，下游的问答模型在SQuAD数据集上的EM值平均提升了2.9个百分点，F1值平均提升了4.4个百分点.

来源：2025年第4期

《计算机研究与发展》期刊编辑部

查看计算机研究与发展杂志2025年第4期