计算机研究与发展杂志2024年第11期
-
- 面向大模型时代的网络基础设施研究:挑战、阶段成果与展望
- 翟恩南,操佳敏,钱坤,关宇,
- 拥有千亿级别参数的大语言模型(largelanguagemodel,LLM)已为今天的人工智能和云服务带来了巨大的技术和商业变革.然而,大模型训练与传统的通用云计算(例如,亚马逊EC2弹性计算服务)之间存在较多根本性的网络行为差异,从而带来了很多新的挑战,主要包括流量模式差异造成负载难均衡(挑战1)、多训练任务通信竞争影响GPU利用率(挑战2),以及对网络故障的高敏感性(挑战3)等.因此,为通用云计算设计的数据中心网络技术(例如,网络架构、选路方法、流量调度,以及可靠性保障方法等)已不适合今天的大模型训练,这要求专门为大模型训练设计新型的数据中心网络以及配套的技术方案.介绍了阿里云专门为大模型训练设计的数据中心网络HPN以及多任务通信调度方法Crux解决上述3个挑战.HPN通过引入了一种2层、双平面(dual-plane)的网络架构,不但能够在一个Pod内高速互联15000个GPU,还能做到适用大模型训练的精准选路(解决挑战1).此外,HPN提出了一种新型的去堆叠双ToR(top-of-rack)设计来替代传统数据中心网络的单ToR交换机连接方式,根本性地避免了单点失效可靠性风险(部分解决挑战3).针对挑战2,Crux通过对GPU利用率优化问题的建模与证明,将该NP完全问题近似成GPU强度相关的流量调度问题.随后,Crux提出了一个方法优先处理具有高GPU计算强度的任务流,从而极大降低了多任务的通信竞争,优化了GPU利用率.与相关工作对比,Crux可以将GPU利用率提高多达23个百分点.HPN和Crux均已在阿里云生产环境规模化部署超过8个月,后续会持续演进迭代.在此基础上,进一步展望了大模型训练与推理领域可能的研究方向,为后续工作提供指导性建议.
-
- 基于区块链的群智感知双向信誉评估隐私保护
- 邓清勇,左清华,李哲涛,王恩,郭斌,
- 在移动群智感知系统中,信誉管理是提高数据收集质量的有效途径,但现有基于主观评价的方案难以实现隐私保护下的工人信誉真实评估.为此,提出了一种基于区块链的分布式群智感知双向信誉评估隐私保护(bilateralreputationevaluationprivacy-preserving,BREPP)方案.首先采用随机干扰、佩德森承诺隐藏工人信誉更新的参数,利用紧凑型可链接自发匿名群签名匿名验证了信誉更新过程,联合Bulletproofs范围证明与Schnnor签名验证了工人的信誉评估过程;然后,采用子地址方法实现工人和请求者身份匿名下的快速定位检索;最后在HyperledgerFabric上部署了实验原型系统并进行了性能评估.结果表明,BREPP方案与已有信誉隐私保护方案相比,信誉管理总时延和信誉评估误差率分别至少降低了2.00个百分点和24.96个百分点;与无隐私方案相比,在信誉评估准确率与总时延之间取得了较好均衡.
-
- 面向立体化异构网络的智融协同传输方法
- 季翔,许长桥,张宏科,
- 为应对空天地立体化异构网络中由于节点异构性及连通变化带来的复杂挑战,提出了具备有界无环无阻策略更新能力的传输控制方法HWCTC.该方法以跨层协同控制的方式将网络路由算法引入传输控制框架;在此基础上将路由更新节点的选择问题建模为节点搜索问题,使网络传输中需考虑被调用的资源限定在有界范围内.在此基础上,设计了一种基于广度优先的启发式递增搜索算法,该算法能够有效进行全局和局部的路由配置更新,同时确保新路径无环路且无网络黑洞.此外,为适应空天地立体化异构网络环境的波动性,还设计了一种多模式混合的拥塞控制机制,该机制能在接近网络带宽阈值时切换到更平缓的增窗模式,及时调整策略以应对网络中可能出现的多种情况.仿真实验的结果表明,HWCTC方法在动态且高丢包率的空天地立体化异构网络环境下,不仅提供了高质量的数据传输服务,且相比于经典的Cubic和Reno方法,实现了约61.5%的吞吐量提升,显著增强了数据传输的稳定性,有效减少了节点路由动态变化对传输性能的影响.
-
- 面向大语言模型驱动的智能体的计划复用机制
- 李国鹏,吴瑞骐,谈海生,陈国良,
- 将大语言模型集成到个人助手中(如小爱同学、蓝心小V等)能有效提升个人助手与人类交互、解决复杂问题、管理物联网设备等能力,这类助手也被称为大模型驱动的智能体,也可称其为智能体.智能体接收到用户请求后,首先调用大模型生成计划,之后调用各类工具执行计划并将响应返回给用户.上述过程中,智能体使用大模型生成计划的延迟可达数十秒,十分影响用户体验.对真实数据的分析显示,智能体接收到的请求中约有30%是相同或相似的,此类请求可复用先前生成的计划,以降低智能体响应延迟.然而,直接对请求原始文本进行相似度评估难以准确界定智能体接收到的请求文本间的相似性.此外,自然语言表达的多样性和大模型生成的非结构化计划文本导致难以对计划进行有效复用.针对上述问题,提出并实现了面向大模型驱动的智能体的计划复用机制AgentReuse,通过利用请求文本间语义的相似性和差异性,采用基于意图分类的方法来界定请求间的相似性并实现计划复用.基于真实数据集的实验结果表明,AgentReuse对计划的有效复用率为93%,对请求进行相似性界定的F1分数为0.9718,准确率为0.9459,与不采用复用机制相比,可减少93.12%的延迟.
-
- 基于环境振动的IR-UWB超感知范围人体跌倒检测方法
- 王冬子,郭政鑫,桂林卿,盛碧云,蔡惠,肖甫,
- 跌倒检测在老年人医疗保健中至关重要,传统方案主要依赖于可穿戴设备进行感知.为了避免可穿戴设备带来的负担和不适,采用射频(radiofrequency,RF)的非接触式方法因其具有的普适性和非侵入性,逐渐成为一种有前景的替代方案.现有的非接触式方法主要从无线射频信号中提取人体跌倒产生的速度和加速度等运动生理特征,通过分析运动时间序列来判断目标是否发生跌倒行为.虽然目前的方法可以在视距状态下获取较高的检测精度,但是其在感知范围和非视距路径下的感知效果仍存在局限性.为解决以上问题,提出了利用最先进的商用IR-UWB设备来识别超感知范围外的人体跌倒检测方法.该方法的关键是通过识别感知范围外人体跌倒引发的环境振动特征来判断是否发生跌倒事件,并通过设计IQ熵和最远点对距离算法从微小振动中提取人体跌倒产生的信号特征.通过在商用IR-UWB设备上搭建UWFall原型系统并在各种环境下开展大量的实验测试,结果表明,单台收发器的UWFall系统识别准确率超过90%.同时,UWFall系统对7m范围外的目标跌倒检测准确率超过86%,且在非视距场景下依然保持高鲁棒性.
-
- 基于多任务注意力网络的非接触式睡眠监测
- 李思恒,金蓓弘,张扶桑,王志,马俊麒,苏畅,任晓勇,刘海琴,
- 睡眠几乎占据了一个人每天三分之一的时间,它与人体的健康状况紧密相关.由于睡眠过程中各睡眠阶段的持续时间和转换情况直接影响人的睡眠质量,因此识别睡眠阶段是睡眠监测最基本和最重要的任务.然而,睡眠中出现的睡眠障碍会导致睡眠结构变得复杂,这增加了睡眠阶段分类的难度.已有的非接触式睡眠阶段分类工作大多对睡眠结构的复杂性认识不足,忽视了睡眠阶段和睡眠障碍之间的联系.因此,这些工作难以在睡眠障碍患者上取得较好的性能.提出一种非接触式睡眠监测系统,利用超宽带(ultra-wideband,UWB)信号来识别人体睡眠阶段的变化情况.该系统包含了一个序列预测模型,使用一个基于注意力机制的序列编码器挖掘不同睡眠阶段之间的时序转换关系,并通过一个对比学习模块提高编码器的泛化性.值得一提的是,该序列预测模型采用了一个基于多任务学习的两阶段训练框架,并在模型的微调阶段通过多专家学习模块将睡眠障碍信息融入模型中,从而降低了睡眠障碍对睡眠阶段预测造成的干扰.在110名受试者(包括健康个体和不同程度睡眠障碍患者)中进行实验评估,实验结果表明所提出的模型的性能优于基线方法.
-
- 智能物联网低功耗感知综述
- 李向阳,尚飞,闫宇博,王山岳,韩飞宇,迟国轩,杨铮,陈晓江,
- 随着人-机-物三元融合的程度逐渐加深,越来越多的轻量级、大规模的感知需求不断涌现.为了适应多场景、大规模的部署需求,低成本、低功耗的感知方案愈受青睐.然而,在低功耗感知领域仍有一些共性和特性挑战阻碍了其进一步发展和实际应用.尽管先前有许多优秀的综述就某一具体感知模态或感知应用进行了整理,目前仍缺少对整个低功耗感知领域进行梳理的工作.对近年来的低功耗感知进行了总结,介绍了包括惯性运动单元(IMU)、麦克风、射频信号在内的3种感知模态,总结了它们的相关挑战,从硬件和软件层面介绍了相关的解决思路.最后,从表面感知、性质感知、生理感知、隐私感知保护等4个方面沿从表面及内里、从物体到人体、从感知到安全的方向介绍了感知方案在不同场景中的应用,并总结了展望以供探索.
-
- 频谱受限下容量优化的多标签并发反射通信系统
- 李向阳,王山岳,张弛,闫宇博,谈海生,
- 无源反射通信技术因其微瓦级别的功耗,使得物联网设备易于部署且免维护.多标签并发反射通信技术使反射标签无需实现冲突避免等复杂协议,从而在降低设备功耗的同时提升系统的吞吐量和规模.然而,反射标签可用的频谱资源有限,导致多标签并发面临相互干扰和频谱利用效率低的问题.为此,提出了CamScatter,一个容量优化的多标签并发反射通信系统,设计了针对有限频谱资源进行最优化信道划分和高效分配的策略,避免标签之间的干扰,显著提升系统的容量.在预处理阶段,提出了带宽最大化的信道划分算法,为系统通信提供频谱上互不干扰且带宽利用率高的信道划分方案.在初始化阶段,提出了高效信道分配和最优化速率分配方案,根据系统中所有标签的信噪比,为标签分配最合适的信道和速率,以解决标签能量差异造成的信号干扰,提升系统吞吐量.在运行阶段,系统利用边带聚合和匹配滤波技术增强待解调标签信号的强度,减轻其他标签的信号干扰.系统可以利用的带宽范围为142.4~773.5kHz,由于谐波干扰限制,理论上最大频谱利用率为81.1%,避免干扰的情况下最大系统容量为2925kbps.仿真实验表明,算法可以实现78.6%的频谱利用率,最大系统容量可达1914kbps.实际部署实验验证,本系统最高支持305kbps的系统吞吐量,最多可支持30个标签的并发通信,有效解决了标签之间的相互干扰问题.
-
- 基于连续学习的视频物联网任务需求理解与调度方法
- 徐冬竹,周安福,马华东,张园,
- 云网资源与视频任务的高效调度是保障视频物联网(videoInternetofthings,VIoT)应用性能的关键.然而,目前运营化VIoT所用调度算法对差异化的任务需求和高度动态的云网资源变化适应能力不足,导致VIoT应用性能不佳.针对上述问题,提出了一种基于连续学习的视频物联网任务需求理解与调度方法(continuouslearning-basedtaskdemandunderstandingandschedulingmethodforVIoT,CLTUS).与传统启发式或机器学习驱动的调度算法不同,将连续学习引入云网资源与视频任务需求的匹配中.首先,基于通用的连续学习框架实现各类视频任务需求的准确理解;其次,依据视频任务之间的需求依赖关系,实现任务与服务器的适配,以精细化调度云网资源;最后,将所提方法部署于软件定义的VIoT实验平台上.与传统方法相比,CLTUS不仅将视频任务的平均处理效率提高了127.73%,还将云网资源利用均衡率提高至67.2%,有效增强了VIoT应用性能.
-
- C-V2X环境下基于队友模型的多智能体通信切换优化
- 刘冰艺,王东东,施海勇,王恩澍,吴黎兵,汪建平,
- 蜂窝车联网(cellularvehicle-to-everything,C-V2X)通信技术是未来智能交通系统(intelligenttransportationsystems,ITS)的重要组成部分.毫米波(millimeterwave,mmWave)作为C-V2X通信技术的主要载体之一,可以为用户提供高带宽.然而,由于传播距离有限和对遮挡的敏感性,毫米波基站必须密集部署以维持可靠的通信,这使得智能联网车辆(intelligentconnectedvehicle,ICV)在行驶过程中不得不频繁地进行通信切换,极易造成局部资源短缺,进而导致服务质量低下和用户体验不佳.为了应对这些挑战,每辆ICV被视为一个智能体,并将ICV的通信切换问题建模为一个合作型多智能体博弈问题.为了解决这一问题,提出了一个基于队友模型的合作型强化学习框架.具体来说,首先设计了一个队友模型,用于量化复杂动态环境下智能体之间的相互依赖关系;接着提出了一种动态权重分配方案,生成了队友间的加权互信息,用于混合网络的输入,旨在帮助队友切换到可以提供良好QoS和QoE的基站,以获得高吞吐量和低通信切换频率.在算法训练过程中,设计了一种激励相容训练算法,旨在协调智能体的个体目标与集体目标的一致性,提升通信吞吐量.实验结果显示,提出的方法在不同规模车辆的场景中均展示出了卓越的性能,相较于现有的基于通信基准方法有13.8%~38.2%的吞吐量提升.
-
- 一种面向耳戴式设备的用户安全连续认证方法
- 王勇,熊毅,杨天宇,沈益冉,
- 耳戴式设备作为典型智能物联网边端感知设备应用场景众多,保护其合法用户隐私以及防止非法使用至关重要.针对当前耳戴式设备用户身份认证方法受输入界面、传感器成本以及设备功耗等限制导致安全性不足、普适性不高以及用户体验不佳等问题,提出一种基于耳戴式设备内置惯性测量单元的用户身份认证方法,该方法通过采集用户执行面部交互手势所产生的振动信号来提取用户特异性信息,并基于上述信息的智能分析实现多样化的隐式用户连续身份认证.为了提取精准可靠的用户特异性信息,提出了一种基于孪生网络的深度神经网络特征编码器,将同一用户的手势样本映射到特征空间中更近的位置,放大不同用户的手势样本之间的距离,实现用户特异性信息的有效编码.对于基于用户特异性信息的用户身份连续认证,提出了一种基于单类支持向量机超平面距离的加权投票策略,能够自适应地优化判别边界来更好地捕捉蕴含的特征和结构,根据超平面内外样本点与超平面的距离决定该样本的置信程度,以此设计加权投票实现认证.实验结果表明,所提方法在单次投票中实现了97.33%的认证准确率,7轮投票的连续认证后取得99.993%的认证准确率,优于对比的所有方法,无需密码的同时提供更流畅的用户体验和更高级别的安全性,具有较高的实际应用价值.
-
- 智能物联网技术赋能算网一体数据库的效能优化
- 朱茂盛,王宝晗,康曼聪,于巍,杨利超,
- 海量感知数据的采集、存储和共享技术推动了物联网的兴起,其大规模应用对数据库系统提出了数据强一致和资源高效能的迫切要求.然而,现有的数据库系统架构和管控方法在保证一致性的约束下,较多采用降低传输数据量和增加节点存储副本的方式降低通信成本,缺少对系统网络资源的一体化感知和优化,从而导致数据库效能低下.为此,构建算网一体数据库系统,驱动算力资源和网络的一体化感知表征,并将智能物联网(artificialintelligenceofthings,AIoT)技术赋能数据库,实现算力资源和网络的联合智能调度,以降低综合成本和提升算网效能.首先,构建算网一体的分布式数据库网络,并分析其架构特点.然后,为实现计算和通信优化变量的统一表征,构建了一体化代价感知模型.并在此基础上提出了智能化的一站式资源优化算法,满足一致性时延约束的前提下,最优化数据库系统的整体算网效能.最后,仿真实验验证了所提架构和算法在算网性能、算法收敛、集成代价和资源效率上均具有优越性.
-
- 神经渲染及其硬件加速综述
- 严忻恺,霍宇驰,鲍虎军,
- 神经渲染是一种基于深度学习的新兴图像和视频生成方法,它将深度学习模型和计算机图形学的物理模型相结合,从而获得可控和逼真的场景表示和渲染,实现对诸如光照、相机参数、姿态等场景属性的控制.一方面,神经渲染既可以充分利用深度学习的优势,实现传统前向渲染流程的加速,也可以为影像的逆向渲染和3维场景重建等特定任务提供新的解决方案;另一方面设计适应神经渲染流水线的创新硬件结构,突破现有图形处理器的并行计算和功耗瓶颈,有望为虚拟现实和增强现实、影视创作和数字娱乐、人工智能和元宇宙等未来重点领域提供重要支撑.综述了神经渲染的技术内涵、主要挑战和研究进展,在此基础上分析了神经渲染流水线对硬件加速支持的共性需求和当前主流神经渲染硬件加速结构的特点,进而讨论了神经渲染处理器架构的设计挑战,最后展望了其未来的发展趋势.
-
- 基于图的点云研究综述
- 梁循,李志莹,蒋洪迅,
- 点云的处理、传输、语义分割等是3维计算机视觉领域重要的分析任务.现如今,图神经网络和图结构在点云研究方面的有效性已被证实,基于图的点云(graph-basedpointcloud,GPC)研究不断涌现.因此,一种统一的研究角度、框架和方法论亟待形成.系统性梳理了GPC研究的各种应用场景,包括配准、降噪、压缩、表示学习、分类、分割、检测等任务,概括出GPC研究的一般性框架,提出了一条覆盖当前GPC全域研究的技术路线.具体来说,给出了GPC研究的分层概念范畴,包括底层数据处理、中层表示学习、高层识别任务;综述了各领域中的GPC模型或算法,包括静态和动态点云的处理算法、有监督和无监督的表示学习模型、传统或机器学习的GPC识别算法;总结了其中代表性的成果及其核心思想,譬如动态更新每层特征空间对应的最近邻图、分层以及参数共享的动态点聚合模块,结合图划分和图卷积提高分割精度;对比了模型性能,包括总体精度(overallaccuracy,OA)、平均精度(meanaccuracy,mAcc)、平均交并比(meanintersectionoverunion,mIoU);在分析比较现有模型和方法的基础上,归纳了GPC目前面临的主要挑战,提出相应的研究问题,并展望未来的研究方向.建立的GPC研究框架具有一般性和通用性,为后续研究者从事GPC这个新型交叉领域研究提供了领域定位、技术总结及宏观视角.点云研究的出现,是探测器硬件技术长足进步后应运而生的结果;点云研究的现状表明在理论和实践之间存在一些挑战,一些关键问题还有待解决.同时,点云研究的发展将推动人工智能进入新的时代.
-
- 一种基于双重语义协作网络的图像描述方法
- 江泽涛,朱文才,金鑫,廖培期,黄景帆,
- CLIP(contrastivelanguage-imagepre-training)视觉编码器提取的网格特征作为一种更加靠近文本域的视觉特征,具有易转化为对应语义自然语言的特点,可以缓解语义鸿沟问题,因而未来可能成为图像描述任务中视觉特征的重要来源.但该方法中未考虑图像内容的划分,可能使一个完整的目标被划分到若干个网格中,目标被切割势必会导致特征提取结果中缺少对目标信息的完整表达,进而导致生成的描述语句中缺少对目标及目标间关系的准确表述.针对CLIP视觉编码器提取网格特征这一现象,提出一种基于双重语义协作网络(dualsemanticcollaborativenetwork,DSC-Net)的图像描述方法.具体来说:首先提出双重语义协作自注意力(dualsemanticcollaborativeself-attention,DSCS)模块增强CLIP网格特征对目标信息的表达能力;接着提出双重语义协作交叉注意力(dualsemanticcollaborativecross-attention,DSCC)模块,综合网格和目标2个层面的语义构造与文本相关的视觉特征,进行描述语句预测;最后提出双重语义融合(dualsemanticfusion,DSF)模块,为上述的2个语义协作模块提供以区域为主导的融合特征,解决在语义协作过程中可能出现的相关性冲突问题.经过在COCO数据集上的大量实验,提出的模型在Karpathy等人划分的离线测试集上取得了138.5%的CIDEr分数,在官方在线测试中取得了137.6%的CIDEr分数,与目前主流的图像描述方法相比具有显著优势.
-
- 基于归一分解的并行多目标Dividing Rectangles算法
- 李晨,陈逸东,陆忠华,杨雪莹,王子田,迟学斌,
- 多目标优化问题普遍存在且难以解决,目前多采用多目标进化算法进行求解.然而,这些方法通常在种群初始化阶段和进化过程中包含随机操作以保持多样性,导致了其结果不可复现且缺乏全局收敛的理论保证.鉴于此,提出了一种基于归一分解的多目标DividingRectangles(DIRECT)算法,首先通过一种可较好捕捉复杂前沿的归一分解方法将原问题分解为一系列子问题,以降低问题计算复杂度;其次,采用DividingRectangles算法同时优化分解得到的子问题,并在优化过程中基于全局关联机制将生成的候选解分配给相应的子问题,以更好地保留优秀候选解并提高算法搜索效率;最后,证明了算法的收敛性.此外,为了进一步提高计算效率,提出了一种基于自适应关联迁移策略的多层次多粒度并行方案,并基于该方案对所提出的算法进行了并行化.将所提算法应用于多个基准优化问题,实验结果表明,相比于NSGA-II,所提串行算法能够产生收敛性、多样性更为优越的帕累托最优解集,并行算法可在大规模缩短问题求解时间的同时,进一步提升帕累托前沿近似精度.
-
- 双重结构保持的在线跨模态哈希
- 康潇,刘兴波,卢鹏宇,赵志杰,聂秀山,王少华,尹义龙,
- 近年来,在线跨模态哈希因其能处理更为贴近现实的流数据场景而受到广泛关注.虽然取得了不错的进展,但现有方法大都依赖准确清晰的数据标记.目前,针对无监督学习模式下在线跨模态哈希的研究相对较少,还有很多问题有待解决.例如,新到达的数据流通常规模较小,因此常常存在分布不平衡的现象.而现有模型极少关注这个问题,导致模型对离群样本敏感,鲁棒性较差.并且,现有方法大都关注样本的整体结构而忽视了邻域信息对于生成公共哈希码的帮助.为了解决上述问题,提出了基于双重结构保持的无监督在线跨模态哈希方法,称为SPOCH(structurepreservingonlinecross-modalhashing).该方法的基本思想是同时挖掘样本空间的全局结构信息和邻域结构信息来生成相应的公共表示,用以指导哈希码和哈希函数的学习.针对全局结构的学习,引入L_2,1范数取代L_2范数来约束损失函数,利用L_2,1范数结构化稀疏的性质缓解模型对离群样本的敏感性;针对邻域结构的学习,利用多模态融合的邻域样本进行样本重构,使得所学公共表示更好地表征多模态信息.此外,为了缓解遗忘问题,提出在新旧数据上联合优化,并设计相应的更新策略提高算法的训练效率,实现在线检索.在2个广泛使用的跨模态检索数据集上进行的实验结果表明,较现有最先进的无监督在线跨模态哈希方法,SPOCH在可比较甚至更短的训练时间内取得了更优的检索精度,验证了所提方法的有效性.
