计算机研究与发展杂志

计算机研究与发展杂志2025年第3期

• 大语言模型推理中的存储优化技术综述

  葛旭冉,欧洋,王博,赵宇,吴利舟,王子聪,陈志广,肖侬,

  近年来，大语言模型在多个领域展现出卓越的性能，显著改变了人类的生活方式.然而，随着模型规模的不断增长和用户对长上下文推理需求的增加，大语言模型推理系统在存储方面面临诸多问题.首先，庞大的模型参数和键值缓存导致GPU显存资源不足；其次，分布式大语言模型推理系统难以充分利用GPU集群的存储资源，存在资源过度配置和存储容错的问题.因此，从显存优化、异构存储和分布式存储3方面入手，归纳总结了现有研究在解决GPU显存容量不足和资源利用率低下方面的努力.基于显存优化的大语言模型推理系统通过高效的键值缓存管理、压缩以及注意力算子优化，提高了GPU显存利用率，降低了显存占用.基于异构存储的大语言模型推理系统利用多种类别的存储资源扩展存储容量，通过张量放置策略、异步数据传输以及智能显存分配与预取技术，降低了异构存储带来的I/O开销.基于分布式存储的大语言模型推理系统通过批处理、多级调度、冗余复制等策略，优化了多机存储和计算资源的利用，提高了大语言模型推理任务的执行效率和容错能力.最后，总结了现有研究，并对未来的研究方向进行了展望.

• 大语言模型对抗性攻击与防御综述

  台建玮,杨双宁,王佳佳,李亚凯,刘奇旭,贾晓启,

  随着自然语言处理与深度学习技术的快速发展，大语言模型在文本处理、语言理解、图像生成和代码审计等领域中的应用不断深入，成为了当前学术界与工业界共同关注的研究热点.然而，攻击者可以通过对抗性攻击手段引导大语言模型输出错误的、不合伦理的或虚假的内容，使得大语言模型面临的安全威胁日益严峻.对近年来针对大语言模型的对抗性攻击方法和防御策略进行总结，详细梳理了相关研究的基本原理、实施方法与研究结论.在此基础上，对提示注入攻击、间接提示注入攻击、越狱攻击和后门攻击这4类主流的攻击模式进行了深入的技术探讨.更进一步地，对大语言模型安全的研究现状与未来方向进行了探讨，并展望了大语言模型结合多模态数据分析与集成等技术的应用前景.

• ScaleFS：面向大语言模型的高性能可扩展元数据设计

  尚碧筠,韩银俊,肖蓉,陈正华,屠要峰,董振江,

  近年来，以ChatGPT为代表的大语言模型（largelanguagemodel，LLM）技术发展迅速.随着模型参数规模的持续增长，构建和应用大模型对数据存储规模和存储访问效率提出了更高要求，这对传统存储系统带来了严峻挑战.首先分析了大模型在数据准备、模型训练和推理阶段的存储访问特征，深入探讨了传统存储系统在大模型场景下面临的主要问题和瓶颈.针对这些挑战，提出并实现了一种高性能、可扩展的分布式元数据设计ScaleFS.通过目录树元数据与属性元数据解耦的架构设计，并结合深度与广度均衡的目录树分层分区策略设计，ScaleFS实现了高效的路径解析、负载均衡和系统扩展能力，能够高效管理千亿级文件.此外，ScaleFS设计了细粒度元数据结构，优化了元数据访问模式，并构建了面向文件语义优化的元数据键值存储底座，显著提升了元数据访问效率并减少了磁盘I/O操作.实验结果表明，ScaleFS的每秒操作次数(operationspersecond，OPS)是HDFS的1.04~7.12倍，而延迟仅为HDFS的12.67%~99.55%.在千亿级文件规模下，ScaleFS的大部分操作性能优于HDFS在十亿级文件规模下的表现，展现出更高的扩展性和访问效率，能够更好地满足大模型场景对千亿级文件存储及高效访问的需求.

• 大语言模型和知识图谱协同的跨域异质数据查询框架

  吴文隆,尹海莲,王宁,徐梦飞,赵鑫喆,殷崭祚,刘元睿,王昊奋,丁岩,李博涵,

  大语言模型（largelanguagemodel，LLM）技术热潮对数据质量的要求提升到了一个新的高度.在现实场景中，数据通常来源不同且高度相关.但由于数据隐私安全问题，跨域异质数据往往不允许集中共享，难以被LLM高效利用.鉴于此，提出了一种LLM和知识图谱（knowledgegraph，KG）协同的跨域异质数据查询框架，在LLM+KG的范式下给出跨域异质数据查询的一个治理方案.为确保LLM能够适应多场景中的跨域异质数据，首先采用适配器对跨域异质数据进行融合，并构建相应的知识图谱.为提高查询效率，引入线性知识图，并提出同源知识图抽取算法HKGE来实现知识图谱的重构，可显著提高查询性能，确保跨域异质数据治理的高效性.进而，为保证多域数据查询的高可信度，提出可信候选子图匹配算法TrustHKGM，用于检验跨域同源数据的置信度计算和可信候选子图匹配，剔除低质量节点.最后，提出基于线性知识图提示的多域数据查询算法MKLGP，实现LLM+KG范式下的高效可信跨域查询.该方法在多个真实数据集上进行了广泛实验，验证了所提方法的有效性和高效性.

• 面向低磨损存内计算的多状态逻辑门综合

  赵安宁,许诺,刘康,罗莉,潘炳征,薄子怡,谭承浩,

  通过融合布尔逻辑和非易失存储的功能，忆阻状态逻辑电路可以消除计算过程中的数据移动，实现在存储器中计算，打破传统冯?诺依曼计算系统的“存储墙”和“能耗墙”.近年来，通过构建条件转变到数学逻辑关系之间的映射，已经有一系列存内状态逻辑门被提出，功能覆盖IMP，NAND，NOR，NIMP等多个逻辑运算.然而，复杂计算过程到存内状态逻辑实现的自动化综合映射方法仍处于萌芽阶段，特别是缺少针对器件磨损的探讨，限制了设备维修不便的边缘计算场景应用.为降低复杂存内状态逻辑计算过程的磨损（翻转率），实现了一种面向低磨损存内计算的多状态逻辑门综合映射过程.与领域内熟知的SIMPLERMAGIC状态逻辑综合流程相比，该综合映射流程在复杂计算过程的翻转率上实现了对EPFL，LGSynth91的典型基准测试电路分别平均35.55%，47.26%以上的改进；与最新提出的LOSSS状态逻辑综合流程相比，在复杂计算过程的翻转率上实现了对EPFL，LGSynth91的典型基准测试电路分别平均8.48%，6.72%以上的改进.

• 面向SCSI子系统的用户空间存储架构设计

  郝栋栋,高聪明,舒继武,

  近年来存储行业经历了巨大的变革，以固态硬盘（solidstatedrive,SSD）为代表的半导体存储设备迅猛发展，在性能上显著超越了通过磁头移动寻址的机械硬盘（harddiskdrive,HDD）.目前支持SSD的2种协议主要包括非易失性内存主机控制器接口规范（nonvolatilememoryexpress,NVMe）协议与串行SCSI（serialattachedsmallcomputersysteminterface,SAS）协议，即SAS.NVMe是专为SSD设计的高性能存储协议，能够很大限度地发挥SSD的性能；而SAS协议则充分考虑数据中心的需求，在提供高可靠性与高可扩展性的同时，兼顾了系统性能与成本的平衡.相对于日益增速的存储介质，针对慢速存储设备所设计的软件栈在一次I/O过程中所耗费的时间开销愈发显著.针对该问题学界及工业界都相继提出了众多解决方案，例如Intel提出的高性能存储开发包（storageperformancedevelopmentkit,SPDK）通过将设备驱动实现在用户空间，并采用轮询感知I/O完成等方式大幅度缩短了NVMeSSD对应用程序的响应时间，极大地提升了整个系统的整体性能.然而之前的研究工作针对SASSSD存储软件栈的优化非常有限，为此在用户空间实现了针对SASSSD的软件栈优化.实验结果表明，该优化能够有效缩短存储设备对应用程序的响应时间，提高应用对存储设备的访存效率.此外，为了准确评估I/O栈中存储设备的时间开销，硬件性能测试工具HwPerfIO被提出，能够消除大部分软件开销的影响以测得更加准确的存储设备性能.

• 2024年国家自然科学基金人工智能学科项目受理与资助情况

  谢国,张怀文,王乐,廖清,张奥千,周志立,葛慧林,王志衡,吴国政,

  为便于广大科研人员及时了解国家自然科学基金“人工智能”学科方向项目的申请、受理和资助情况，对2024年的本学科项目情况进行了统计分析.首先介绍了2024年国家自然科学基金委员会的重要改革举措；其次，总结分析了本年“人工智能”学科（F06）研究系列项目与人才系列项目的申请与资助情况.重点梳理了在新的改革举措下该领域项目申请与资助的变化情况、年龄变化情况与依托单位分布情况；最后对“人工智能”领域优先发展方向进行了展望.

• 基于对比学习的跨模态实体链接模型

  王苑铮,孙文祥,范意兴,廖华明,郭嘉丰,

  图文跨模态实体链接是对传统实体链接任务的扩展，其输入为包含实体的图像，目标是将其链接到文本模态的知识库实体上.现有模型通常采用双编码器架构，将图像、文本模态的实体分别编码为向量，利用点乘计算两者的相似度，从而链接到与图像实体相似度最高的文本实体.其训练过程通常采用基于InfoNCE损失的对比学习任务，即提高一个实体某模态与自身另一模态的向量相似度，降低与其他实体另一模态的向量相似度.然而此模型忽视了图文2个模态内部表示难度的差异：图像模态中的相似实体，通常比文本模态中的相似实体更难以区分，导致外观相似的图像实体很容易链接错误.因此，提出2个新的对比学习任务来提升向量的判别能力.一个是自对比学习，用于提升图像向量之间的区分度；另一个是难负例对比学习，让文本向量更容易区分几个相似的图像向量.在开源数据集WikiPerson上进行实验，在12万规模的实体库上，相比于采用InfoNCE损失的最佳基线模型，模型正确率提升了4.5个百分点.

• 用户需求驱动的5G基站选址方法

  黄文辉,王笳辉,周丽萍,岳昆,

  随着5G网络的不断发展和相关应用的快速普及，用户设备数量及潜在需求急剧增加.然而，5G信号的高频特性导致其传播损耗较大，为实现5G网络对用户设备更好的覆盖，需要以低成本、高效率为目标对已建5G基站站址进行优化或指导新建基站选址.现有选址方法大多采用启发式算法进行站址优化，当候选5G基站站址数量增加时，算法的收敛时间会呈指数级上升，为站址优化带来了诸多挑战.因此，从用户的通信需求出发，提出了一种用户需求驱动的5G基站选址方法.利用规划区域网格化方法来降低基站所覆盖用户需求点的计算时间复杂度，提出基站间分离度的概念并使用基站所覆盖的需求点数对其进行度量，进而给出满足子模性的目标函数，利用贪心算法得到基站最优选址方案.实验结果表明，用户需求驱动的选址方法在各项评价指标上均优于其他对比算法，在相同的基站规划区域内，能用最少的基站数量达到最大覆盖率.

• 玲珑：一个小规模的高质量中文预训练语言模型

  李东闻,钟震宇,孙羽菲,申峻宇,马子智,于川越,张玉志,

  近年来，大规模的、基于自回归的中文预训练语言模型在各种自然语言处理任务上表现出优异性能.然而，高昂的计算成本以及基于中文词切分数据给中文预训练语言模型实际应用带来了巨大挑战.此外，大多基于自回归的模型只能使用单向前文信息，可能会导致模型在上下文敏感任务上的性能有所下降.为了解决以上问题，提出并训练了一个高质量的小型中文预训练语言模型——玲珑.该模型仅有3.17亿个参数，较小的规模使得玲珑十分容易部署和应用.使用基于汉字的策略对训练语料进行切分，可以有效减轻未知标记和分词错误带来的负面影响，增强了玲珑在下游任务上的性能.此外，通过对每条训练数据的输入顺序进行逆序处理，训练了一个反向玲珑模型.将玲珑与其反向版本相结合，可以实现在下游任务中使用双向信息.多种自然语言处理下游任务的实验结果表明，玲珑具有不错的处理下游任务的能力.在6个数据集上玲珑超越了相近规模模型的性能，在5个数据集上超越了大模型的性能.

• 融合图神经网络的高效子图匹配算法

  薛欣,朱天晨,孙庆赟,周号益,李建欣,

  子图匹配是在大型目标图中找出给定查询子图的全部匹配位置，在社交网络、生物化学和认知科学等多个领域都具有关键意义.基于回溯搜索的子图匹配算法时间复杂度高，需要有效的剪枝策略减少运行时间.然而，现有启发式剪枝算法只能依据当前状态的粗略邻域信息做出结构冲突判断，使得大量无效状态难以被筛出，导致子图匹配的性能不佳.提出了一种高效、准确、自适应的融合图神经网络的子图匹配算法，通过图神经网络捕获细粒度邻域结构信息，生成全局结构关联，利用模型推理代替传统剪枝策略，估算剪枝概率.该算法能够在单次查询中有效利用全局信息，显著提升对无效状态的筛选效率.此外，还设计了一种数据采样机制，以缓解样本分布不均衡导致的网络训练崩溃问题.实验证明，以基于图神经网络的算法替代回溯式算法的剪枝策略，能够显著提高其搜索效率.

• 时序图流上的快速子图近似计数算法

  王晶晶,王延昊,姜文君,曾一夫,祝团飞,

  图数据中包含丰富的时间信息，其拓扑结构随时间动态演变，通常建模为时序图流.时序图流由一组节点和一系列带时间戳的有向边组成，节点、时序边随时间动态增加.其中时序子图是由传统子图模式推广而来，不仅考虑拓扑结构，同时将时序边的顺序和持续时间纳入考量.在时序图流中计算时序子图的出现次数是时序图研究中的一个基础问题.然而，传统流式子图计数方法不支持时序匹配，仅适用于不包含时间信息的简单无向图或有向图；并且，现有时序子图计数算法在不断产生新数据的时序图流场景下效率不高.因此，对时序图流上时序子图近似计数问题进行了研究，提出了基于蓄水池采样的流式边采样（streamingedgesampling,SES）算法，并从期望、方差、时间复杂度3个方面对SES算法进行了理论分析.最后，在4个真实数据集上进行了大量实验.实验结果表明，与基线方法相比，SES虽然返回的计数相对误差略大，但计算效率取得了最高3个数量级的大幅提升.

• Wi-HFM：基于WiFi信道特征的人流量监测方法

  杨志勇,卢超,王俊杰,

  随着人们对人数统计需求的不断增长，基于信道状态信息（channelstateinformation，CSI）的人流量监测技术因其易于部署、保护隐私和适用性强等优势而备受关注.然而，在现有的人流量监测工作中，人数识别的准确率容易受到人群密集程度的影响.为了保证监测精度，通常只能在人群稀疏的情况下进行监测，这导致了基于CSI的人流量监测技术缺乏实用性.为了解决这一问题，提出了一种能够识别连续性人流的监测方法.该方法首先利用解卷绕和线性相位校正算法，对原始数据进行相位补偿并消除随机相位偏移；然后通过标准差和方差提取连续性人流数据中的有效数据包；最后将时域上的相位差信息作为特征信号输入到深度学习的CLDNN（convolutional，longshort-termmemory，deepneuralnetwork）中进行人数识别.经过实验测试,该方法在前后排行人距离不小于1m的情况下，分别实现了室外96.7%和室内94.1%的准确率，优于现有的人流量监测方法.

• 自适应张量奇异值收缩的多视角聚类

  钱罗雄,陈梅,马学艳,张弛,张锦宏,

  现有多视角聚类算法存在：1）在学习低维表征的过程中无法准确捕获或忽略嵌入在多视角数据中的高阶信息和互补信息；2）未能准确捕获数据局部信息；3）信息捕获方法缺少对噪声点鲁棒性等问题.为解决上述问题，提出一种自适应张量奇异值收缩的多视角聚类（multi-viewclusteringbasedonadaptivetensorsingularvalueshrinkage，ATSVS）算法.ATSVS首先提出一种符合秩特性的张量对数行列式函数对表示张量施加低秩约束，在张量奇异值分解（tensorsingularvaluedecomposition,t-SVD）过程中能够根据奇异值自身大小进行自适应收缩，更加准确地进行张量秩估计，进而从全局角度精准捕获多视角数据的高阶信息和互补信息.然后采用一种结合稀疏表示和流形正则技术优势的l_1,2范数捕获数据的局部信息，并结合l_2,1范数对噪声施加稀疏约束，提升算法对噪声点的鲁棒性.与11个对比算法在9个数据集上的实验结果显示，ATSVS的聚类性能均优于其他对比算法.因此，ATSVS是一个能够有效处理多视角数据聚类任务的优秀算法.

• 针对音频识别的物理世界音素对抗攻击

  王嘉凯,孔宇升,陈镇东,胡琎,尹子鑫,马宇晴,杨晴虹,刘祥龙,

  语音识别等智能技术在自动驾驶、物联网等场景下得到了广泛的应用.近年来，针对语音识别的对抗攻击研究逐渐受到关注.然而，现有的大多数研究主要依赖于粗粒度的音频特征来在实例级别生成对抗噪声，这导致生成时间成本高昂且攻击能力弱.考虑到所有语音可以被视为基本音素的不同组合，提出了一个基于音素的通用对抗攻击方法——音素对抗噪声（phonemicadversarialnoise，PAN），该方法通过攻击在音频数据中普遍存在的音素级别的细粒度音频特征，以生成音素级对抗噪声，取得了更快的对抗噪声生成速度并具备更强的通用攻击能力.为了全面地评估所提出的PAN框架，在实验中基于LibriSpeech等多种语音识别任务中被广泛采用的公开数据集，对提出的音素对抗噪声的攻击有效性、跨数据集的泛化能力、跨模型迁移攻击能力和跨任务迁移攻击能力进行了验证，并进一步在物理世界设备中证实了对民用智能音频识别应用的攻击效果.实验结果表明，所提出的方法比其他对比方法的攻击能力提高了38％，生成速度快了24倍以上，且提出的采样策略和学习方法对降低训练时间和提升攻击能力具有重要作用.

• MNDetector：基于多层网络的异常访问检测方法

  袁子淇,孙庆赟,周号益,朱祖坤,李建欣,

  针对频发的网络安全事件，异常访问检测被广泛应用于恶意行为的识别.然而，异常访问通常仅在部分属性字段上体现出显著的异常特性，检测结果易被异常特性不显著的字段所干扰.针对这一问题，提出MNDetector，将多层网络结构引入异常访问检测领域，基于关联紧密的属性字段构建单层网络，并添加层间关联以形成多层网络.随后利用适应多层网络的跨层游走获得同层及跨层节点序列以计算节点表示.最终利用分层生成对抗网络（GAN）融合各层重构损失与判别结果，实现异常检测.实验结果表明，MNDetector在多个公开数据集上的检测效果超过了最优方法，相较于常用方法实现了约8%的F1分数提升.进一步的案例研究通过分析异常特性在属性字段上的分布解释了不同场景的检测效果差异，并从网络结构的角度解释了各层检测结果差异，验证了MNDetector能够解决异常特性不显著的属性字段造成的属性干扰问题.

• 基于对联载体的生成式信息隐藏方法

  李欣然,李蓉受,秦川,钱振兴,张新鹏,

  为了提高信息隐藏算法的隐藏容量，同时保持生成文本的质量，提出一种基于对联载体的生成式信息隐藏方法.首先通过对对联文本数据进行预训练，在多流预训练和微调框架的基础上建立对联生成模型；其次将主题词作为输入生成上联，且模型可以在同一主题词上生成多个上联；然后将上联作为输入生成下联.通过对主题词、候选上联以及生成下联的候选词的不同选择，可有效地隐藏秘密信息.实验结果表明，该方法可获得较高的隐藏容量，7字对联的平均隐藏容量可达10.24B，生成的对联结果满足对联严格的形式和内容要求，即字数相等、语义相对和语调相协，所提方法整体性能优于当前主流的生成式文本信息隐藏方案.

• CBFuzzer：基于执行上下文导向及保护突破的程序缺陷模糊检测

  唐成华,蔡维嘉,杨萌萌,强保华,

  大量的应用实践证明了模糊测试用于检测程序脆弱性的有效性.现有的模糊测试方法缺少针对具体测试任务表现的差异性进行分析并适当地调整测试策略，更多的是采取统一流程导致测试结果差强人意.有必要根据测试过程中的具体信息对策略进行修正以达到更好的测试表现，提出了一种新的基于执行上下文导向的程序缺陷模糊测试方法，并能突破保护机制，通过捕获并分析受检程序对输入测试用例实际处理过程中的具体上下文信息，快速探索程序结构特征，对样本突变策略进行优化.同时，在相关算法的基础上实现了基于执行上下文导向的程序缺陷模糊检测原型工具CBFuzzer.实验结果表明，CBFuzzer能有效地实现对程序内部结构的快速探索（包括对保护机制的突破）、非常规程序状态转换的模拟以及更高效的脆弱点暴露.与对照方法相比，CBFuzzer在脆弱点暴露能力方面有6.8%~36.76%不同程度的提升，实际脆弱点的检出数量提升率最高达到66.67%.在可接受范围内的少量额外测试资源的投入下，CBFuzzer不仅在常规漏洞类型的检出效果上得到提高，并且对于隐匿性强的漏洞类型有更高的检测能力.截至2023年8月10日，通过CBFuzzer在13个测试任务中共发现了126个新的漏洞（已报告给软件开发者，并提交给CVE?组织）.

• 基于时空约束和成本感知的集合空间关键字查询

  李松,曹文琪,郝晓红,张丽平,郝忠孝,

  集合空间关键字查询在空间数据库、位置服务、智能推荐和群智感知等领域具有重要的作用.现有的集合空间关键字查询方法没有考虑要求同时带有时空约束和成本感知的问题，不能满足大部分用户在时空约束条件下的查询需求问题，已有研究成果具有较大的局限性.为了弥补已有方法的不足，提出一种基于时空约束和成本感知的集合空间关键字查询TDCCA-CoSKQ.为了解决现有索引中无法同时包含关键字信息和时间信息的问题，提出了一种TDCIR-Tree索引，该索引融合了倒排文件和时间属性标签文件，可以减小查询计算的开销；为了有效地筛选出符合查询条件的集合，提出了一种TDCCA_PP算法，其中包括第1层剪枝算法、组间有序排列和第2层剪枝算法，可以提高关键字的查询效率；进一步提出了一种基于TDC成本函数的排序算法，TDC成本函数是由距离成本和时间成本组成的，其中包含代表用户偏好度的自变量系数α和β，可以增加用户的选择自由度，有效解决了现有的成本函数无法满足时空约束和成本感知的集合空间关键字查询的问题.理论研究与实验表明，所提出的方法具有较好的效率与准确性.