计算机研究与发展

北大核心,JST,Pж(AJ),EI,CSCD

国内刊号:11-1777/TP

国际刊号:1000-1239

计算机研究与发展杂志2025年第7期:基于滑动窗口策略的大语言模型检索增强生成系统

发布日期:

作者:毕枫林,张豈明,张嘉睿,王衍童,陈阳,张琰彬,王伟,周烜,

关键词:检索增强生成, 滑动窗口机制, 大语言模型, 信息检索, 文档问答,

提出了一种基于滑动窗口策略的检索增强生成系统,旨在提升大语言模型(largelanguagemodels,LLMs)输出的事实准确性和可靠性.该系统通过在索引阶段应用滑动窗口机制,有效解决了传统固定大小上下文窗口和静态检索方法的局限性.研究提出3种具体的滑动窗口策略以有效处理和分割文本,包括:固定窗口大小和固定步长分割(fixedwindowsizeandfixedsteplengthsplit,FFS)、动态窗口大小和固定步长分割(dynamicwindowsizeandfixedsteplengthsplit,DFS)以及动态窗口大小和动态步长分割(dynamicwindowsizeanddynamicsteplengthsplit,DDS).此外,研究还探讨了使用多查询技术进一步提高检索的准确性和相关性.实验评估使用LLaMA-3模型在多个数据集上进行,结果表明系统在窗口大小为1024和步长为3的配置下达到最佳性能,该配置显著提高了F1得分,体现了在文档段长度和滑动窗口步长之间保持平衡的重要性.滑动窗口策略有效保留了上下文信息,减少了信息丢失,并展示了在不同数据集和查询类型中的适应性.

来源:2025年第7期

《计算机研究与发展》期刊编辑部

查看计算机研究与发展杂志2025年第7期

声明

严正声明:本站非期刊官网,非中介代理。

本站仅提供学术规范服务:快速预审、润色编辑服务、中英文查重、降重、去重服务、推荐合适的期刊投稿等学术规范服务。 如需提供学术规范服务请联系在线编辑。

联系我们

  • 地址:北京中关村科学院南路6号
  • 电话:(010)62620696
  • E-mail:crad@ict.ac.cn

咨询工作人员