计算机研究与发展杂志

计算机研究与发展杂志2020年第12期

• 人机混合增强智能的典型应用专题前言

  郑庆华,

  当前人工智能在不确定性、脆弱性和开放性实际应用环境中面临重大挑战，任何程度的机器智能都无法完全取代人类.一种新的学习范——“知识引导+数据驱动”的人机混合增强智能的新模式应运而生，基本思路是：综合人类在记忆、常识、直觉、推理、归纳、演绎等高阶认知方面的优势和机器在存储、计算、特征识别、搜索、优化等方面的认知计算优势，将人类推理和随机决策方面的能力引入到机器高效的计算过程中，实现人在回路的混合增强智能.《计算机研究与发展》推出了人机混合增强智能的典型应用专题，以促进该方向创新研究与发展.本期专题得到同行的广泛关注，通过公开征文收到19篇高质量投稿稿件，这些论文阐述了人机混合增强智能的重要研究成果和发展前景.特邀编委先后邀请了十余位相关领域的专家参与评审，历经初审、复审、终审等阶段,最终遴选出4篇高质量的论文入选本专题.内容涵盖了主动学习、排序学习、表示学习等关键技术，在一定程度上反映了当前国内学者在脑机接口、网络舆情演化趋势评估、知识图谱搜索与问答等方面的典型应用.

• 基于多尺度特征提取与挤压激励模型的运动想象分类方法

  贾子钰,林友芳,刘天航,杨凯昕,张鑫旺,王晶,

  基于运动想象的脑机接口技术能够建立大脑与外界之间的联系，逐渐成为人机混合增强智能的重要应用，并广泛应用于医学康复治疗等领域.由于脑电信号具有非线性、非平稳和低信噪比等特点，使得准确的分类运动想象脑电信号具有很大挑战.为此，提出一种新颖的多尺度特征提取与挤压激励模型对运动想象脑电信号进行高精度分类.首先，基于多尺度卷积模块自动提取原始脑电信号的时域、频域和时频域特征；然后，使用残差模块和挤压激励模块分别进行特征的融合和选择；最后，利用全连接网络层进行运动想象脑电信号的分类.实验在2个公开的脑机接口竞赛数据集上进行分析,结果表明该模型与现有先进模型相比，有效地提升了运动想象脑电信号的识别效果，在2个数据集上分别取得了78.0％和82.5％的平均准确度，该模型可以在脑电通道较少的情况下有效地分类脑电信号且无需手动设计特征，具有较高的应用价值.

• 基于排序学习的网络舆情演化趋势评估方法研究

  秦涛,沈壮,刘欢,陈周国,

  社交网络中的舆情事件关乎社会的和谐与稳定，分析事件的演化趋势并进行管控能够有效降低恶性舆情事件的影响.但是，高效的舆情管控却面临标注数据少、管控资源有限的难题，采用人机混合增强技术，充分利用少量标注样本中的专家知识，是建立舆情演化态势评估模型的可行思路之一.据此，提出一种基于排序学习的舆情事件演化趋势重要性评估算法，在模型训练过程中，充分利用标注数据中的专家知识以及有标签数据和无标签数据的关联关系，筛选重要舆情事件进行管控，提升管控资源利用效能.首先，结合舆情管控经验和需求，从“人”“事”“势”等三要素出发，构建易获取、可量化、有含义的舆情事件演化态势评估指标体系；其次，基于图卷积神经网络构建舆情演化趋势评估模型，利用局部敏感Hash算法挖掘数据的空间结构信息，并利用图卷积求取数据及其邻域的混合特征；最后，针对有标签数据和无标签数据设计相应的损失函数，实现标注数据中专家知识和无标注数据中空间结构信息的综合利用.在公开数据集MQ2007-semi和MQ2008-semi上验证了算法的有效性，在自主构建的舆情数据集上验证了算法的实用性和泛化性.实验结果表明，所提算法可以根据少量的专家知识或标注数据，实现网络舆情事件演化态势的评估，为资源有限条件下的舆情事件管控提供决策支撑.

• 人机混合的知识图谱主动搜索

  王萌,王靖婷,江胤霖,漆桂林,

  在知识图谱进行有效的搜索可以为智能问答、语义检索等智能应用提供有效支撑.然而，当用户不能给出明确的查询意图时，一个搜索系统要如何精准捕获用户的兴趣并找到对应的查询目标是项难题.人机混合的主动搜索为缓解用户和机器之间的理解鸿沟提供了桥梁.人机混合的主动搜索核心在于让机器主动地向用户提出相关的问题，从用户的反馈中获取信息，再基于这些信息对检索候选项进行搜索，形成人机混合的回路，最终精准定位用户意图并返回查询结果.在知识图谱表示学习技术的基础上，将知识图谱的搜索任务建模成向量空间中人机混合的主动搜索任务.具体来说，首先将知识图谱和用户的兴趣偏好嵌入到同一低维向量空间.然后，机器主动向用户提问，通过让用户对具体实体进行打分的方式获取相应的反馈信息，进而更新用户偏好在向量空间中的定位.设计了一种评价方式，基于偏好点与其他实体之间的欧氏距离来度量用户对某个实体的兴趣，最终在人机多轮交互后找到对应的目标实体返回给用户.在实验部分，对知识图谱的嵌入过程和主动搜索的过程分别进行了实验，实验结果显示，所提出的方法具有一定的效果.

• 规则引导的知识图谱联合嵌入方法

  姚思雨,赵天哲,王瑞杰,刘均,

  近年来，大量研究工作致力于知识图谱的嵌入学习，旨在将知识图谱中的实体与关系映射到低维连续的向量空间中.且所学习到的嵌入表示已被成功用于缓解大规模知识图谱的计算效率低下问题.然而，大多数现有嵌入学习模型仅考虑知识图谱的结构信息.知识图谱中还包含有丰富的上下文信息和文本信息，它们也可被用于学习更准确的嵌入表示.针对这一问题，提出了一种规则引导的知识图谱联合嵌入学习模型，基于图卷积网络，将上下文信息与文本信息融合到实体与关系的嵌入表示中.特别是针对上下文信息的卷积编码，通过计算单条上下文信息的置信度与关联度来度量其重要程度.对于置信度，定义了一个简单有效的规则并依据该规则进行计算.对于关联度，提出了一种基于文本表示的计算方法.最后，在2个基准数据集上进行的实验结果证明了模型的有效性.

• 教育大数据中认知跟踪模型研究进展

  胡学钢,刘菲,卜晨阳,

  教育信息化的不断推进和在线教育的蓬勃发展产生了海量的教育数据，如何挖掘和分析教育大数据成为了教育领域和大数据知识工程领域亟待解决的问题.认知跟踪模型通过获取学生作答习题的得分表现，追踪学生随时间变化的认知状态，从而预测学生在未来时间的作答表现.对教育大数据中认知跟踪模型进行了回顾、分析和展望.首先从模型的原理、步骤和方法等维度详细介绍了认知跟踪模型，包括基于贝叶斯方法和深度学习方法2类认知跟踪模型.同时，从学生作答表现预测、认知状态评估、心理因素分析、习题序列分析和编程练习5个方面阐述认知跟踪模型的应用情景.最后，以经典的贝叶斯认知跟踪模型和深度认知跟踪模型为例分析了2类模型的优缺点，并探讨和展望认知跟踪模型未来可能的研究方向.

• 多特征信息融合LSTM-RNN检测OSA方法

  朱兆坤,李金宝,

  阻塞性睡眠呼吸暂停(obstructivesleepapnea,OSA)是最常见的睡眠呼吸疾病，它对人体的很多生理系统尤其对心血管系统是一个潜在的威胁.现有使用心电信号(electrocardiograph,ECG)提取浅层特征检测OSA的方法在长片段、高噪声的ECG信号和大数据集上表现较差.针对上述问题，提出一种多特征心电信号融合的长短期记忆循环神经网络，融合从ECG信号中提取的多种浅层特征信号，通过在融合信号上学习深层特征来检测OSA，提升模型在长片段ECG上的检测准确率和大数据集上的泛化能力.同时还针对浅层特征信号提出一种有效的数据预处理方法，用以突出OSA的时序变化，提高神经网络训练的收敛性，并降低由异常值噪声带来的影响，进一步提升模型在高噪声ECG片段上的检测准确率.实验证明：提出的方法在片段OSA检测准确率上优于已有的方法.

• 基于超图的EBSN个性化推荐及优化算法

  于亚新,张文超,李振国,李莹,

  基于事件的社交网(event-basedsocialnetworks,EBSN)中的个性化推荐服务是一个十分重要且颇具应用价值的问题,现有研究工作主要基于普通图来对EBSN中的关系进行建模,但由于EBSN是一种异构型复杂社交网络,具有多种不同类型实体,因而用普通图建模EBSN会存在高维信息丢失问题,导致推荐质量降低.基于此,首先提出一种基于超图模型的EBSN个性化推荐(hypergraph-basedpersonalizedrecommendationinEBSN,PRH)算法,其基本思想在于利用超图具有不丢失高维数据信息之特点来更准确地对EBSN中复杂社交关系数据进行高维建模,并利用流形排序正则化计算获取初步推荐结果.其次,又分别从查询向量设置方式改进和对不同类超边施以不同权重等角度,提出了优化的PRH(optimizedPRH,oPRH)算法以进一步优化PRH算法所获推荐结果,从而实现精准推荐.扩展实验表明,基于超图的EBSN个性化推荐及其优化算法,推荐结果相比于以前基于普通图的推荐算法具有更高准确性.

• 一种面向边缘计算的高效异步联邦学习机制

  芦效峰,廖钰盈,PietroLio,PanHui,

  随着物联网和移动设备性能的不断提高，一种新型计算架构——边缘计算——应运而生.边缘计算的出现改变了数据需要集中上传到云端进行处理的局面，最大化利用边缘物联网设备的计算和存储能力.边缘计算节点对本地数据进行处理，不再需要把大量的本地数据上传到云端进行处理，减少了数据传输的延时.在边缘网络设备上进行人工智能运算的需求也在逐日增大，因为联邦学习机制不需要把数据集中后进行模型训练，所以更适合于节点平均数据量有限的边缘网络机器学习的场景.针对以上挑战，提出了一种面向边缘网络计算的高效异步联邦学习机制(efficientasynchronousfederatedlearningmechanismforedgenetworkcomputing，EAFLM)，根据自适应的阈值对训练过程中节点与参数服务器之间的冗余通信进行压缩.其中，双重权重修正的梯度更新算法，允许节点在学习的任何过程中加入或退出联邦学习.实验显示提出的方法将梯度通信压缩至原通信次数的8.77%时，准确率仅降低0.03%.

• 基于注意力机制的多通道CNN和BiGRU的文本情感倾向性分析

  程艳,尧磊波,张光河,唐天伟,项国雄,陈豪迈,冯悦,蔡壮,

  近年来，卷积神经网络(convolutionalneuralnetwork,CNN)和循环神经网络(recurrentneuralnetwork,RNN)已在文本情感分析领域得到广泛应用，并取得了不错的效果.然而，文本之间存在上下文依赖问题，虽然CNN能提取到句子连续词间的局部信息，但是会忽略词语之间上下文语义信息；双向门控循环单元(bidirectionalgatedrecurrentunit,BiGRU)网络不仅能够解决传统RNN模型存在的梯度消失或梯度爆炸问题，而且还能很好地弥补CNN不能有效提取长文本的上下文语义信息的缺陷，但却无法像CNN那样很好地提取句子局部特征.因此提出一种基于注意力机制的多通道CNN和双向门控循环单元(MC-AttCNN-AttBiGRU)的神经网络模型.该模型不仅能够通过注意力机制关注到句子中对情感极性分类重要的词语，而且结合了CNN提取文本局部特征和BiGRU网络提取长文本上下文语义信息的优势，提高了模型的文本特征提取能力.在谭松波酒店评论数据集和IMDB数据集上的实验结果表明：提出的模型相较于其他几种基线模型可以提取到更丰富的文本特征，可以取得比其他基线模型更好的分类效果.

• AccSMBO:一种基于超参梯度和元学习的SMBO加速算法

  程大宁,张汉平,夏粉,李士刚,袁良,张云泉,

  为了利用最佳超参高概率范围和超参梯度，提出了加速的序列模型优化算法(sequentialmodel-basedoptimizationalgorithms,SMBO)——AccSMBO算法.AccSMBO使用了具有良好抗噪能力的基于梯度的多核高斯过程回归方法，利用元学习数据集的meta-acquisition函数.AccSMBO自然对应的并行算法则使用了基于元学习数据集的并行算法资源调度方案.基于梯度的多核高斯过程回归可以避免超参梯度噪音对拟合高斯过程的影响，加快构建较好超参-效果模型的速度.meta-acquisition函数通过读取元学习数据集，总结最佳超参高概率范围，加快最优超参搜索.在AccSMBO自然对应的并行算法中，并行资源调度方法使更多的并行计算资源用于计算最佳超参高概率范围中的超参，更快探索最佳超参高概率范围.上述3个技术充分利用超参梯度和最佳超参高概率范围加速SMBO算法.在实验中，相比于基于传统的SMBO算法实现的SMAC(sequentialmodel-basedalgorithmconfiguration)算法、基于梯度下降的HOAG(hyperparameteroptimizationwithapproximategradient)算法和常用的随机搜索算法，AccSMBO使用最少的资源找到了效果最好的超参.

• 飞腾处理器上向量三角函数的设计实现与优化

  沈洁,龙标,姜浩,黄春,

  得益于单指令多数据(singleinstructionmultipledata,SIMD)向量化技术，处理器浮点计算能力获得了成倍的提升，然而当前SIMD向量部件和指令集仅支持加、减、乘、除、逻辑运算等基本操作，对浮点超越函数没有提供直接的支持.作为浮点计算中最耗时的一类函数，如何提高其性能成为底层数学库优化工作的一个重点.面向超越函数中的三角函数，提出一种利用SIMD向量部件设计、实现与优化向量三角函数的方法.该方法结合标量数学库分段计算与向量数学库向量化实现的优势，增加和优化了向量三角函数中的分支处理，既减少了函数实现中的冗余计算,又提高了分支情况下向量部件的利用率.在飞腾处理器上的实验表明:所提优化方法既保证了向量三角函数的精度，同时有效提高了函数性能，与原始向量三角函数相比平均性能加速比为2.04倍.

• 一种基于空间密铺的星型Stencil并行算法

  曹杭,袁良,黄珊,张云泉,徐勇军,陆鹏起,张广婷,

  Stencil计算(模板计算)是科学工程应用中一类常见的嵌套循环算法.分块方法是提高数据局部性和并行性的高效优化技术之一，目前已有大量针对分块方法的探索，但现有工作往往对不同Stencil形状都采用同一处理方法.首先在空间层面引出“自然块”的概念来区分星型Stencil和盒型Stencil的特征，然后提出一个新的针对星型Stencil的2层密铺方案，此方案中自然块和它的后继块可以密铺数据空间区域，这些分块沿着时间维度扩展，能够密铺整个迭代空间.此外，针对星型Stencil设计了一个新颖的“2次更新”优化技术，改善了核内数据重用模式.理论分析表明：此方案相比现有方法有更低的缓存复杂度，实验结果证实了此方案的有效性.

• 并行对称矩阵三对角化算法在GPU集群上的有效实现

  刘世芳,赵永华,于天禹,黄荣锋,

  对称矩阵三对角化是求解稠密特征问题的关键计算过程.针对GPU集群采用了MPI(messagepassinginterface)和GPU级2级并行方法设计实现了基于MPI和CUDA(computeunifieddevicearchitecture)的稠密对称矩阵三对角化算法.在MPI集群级并行中，通过将2维通信域中行-列通信域间的全局数据通信设计为完全并行的点-点数据通信方式，改善了三对角化MPI并行算法的通信性能.通过改进原矩阵三对角化的MPI并行算法，避免了在GPU级并行中使用的不规则的矩阵-向量运算，这部分的并行性能提升了1倍左右.并且，将在GPU并行中存在的小粒度计算合并为较大粒度计算，该策略可通过加大计算密集度来充分地发挥GPU的计算能力，增加GPU的利用率，从而提升了算法的性能.此外，利用多个CUDA流使算法中独立的CUDA操作可以在不同的流中并发执行.并且，在并行算法中，利用CPU与GPU之间的异步数据传输，使得在不同流中的数据传输和核函数同时执行，隐藏了数据传输的时间，进一步提升了算法的性能.在中国科学院超级计算机系统“元”上，使用NvidiaTeslaK20GPGPU测试了不同规模矩阵的基于MPI+CUDA的三对角化并行块算法的性能，取得了较好的加速效果与性能，并且具有良好的可扩展性.

• 基于内容中心性的概率缓存内容放置方法

  李黎,柳寰宇,鲁来凤,

  为减少信息中心网络的缓存冗余，改善缓存命中率和利用率，提出了一种基于内容中心性的概率缓存内容放置方法(content-centrality-basedprobabilisticcachingcontentplacementmethod,CCPCP).与传统网络中仅用来刻画网络拓扑结构的中心性指标不同，采用的内容中心性指标，不仅能刻画缓存节点的位置中心属性，而且能刻画信息内容本身属性.该方法中，沿途各缓存节点综合考虑内容中心性和内容获取时延自适应地计算各自缓存概率，即内容所在节点位置越居于中心，内容热度越高，内容获取时延节省越优的内容被缓存的概率就越高.仿真实验表明:与现有基于概率缓存内容放置方法相比较，CCPCP方法缓存内容副本数目较少，减少率可达到32%以上，CCPCP方法显著地减少了缓存冗余，降低了内容获取时延，提高了缓存命中率和缓存内容利用率.

• 基于自适应广义回归神经网络的链路质量评估

  舒坚,高素,陈宇斌,

  为选择合适的链路质量参数，进一步提高链路质量评估的性能和泛化能力、降低时间复杂度，确定链路质量参数的备选集M\-CS=μ,r,σ\+2，其中μ=μ\-lqi,μ\-rssi,μ\-snr，r=r\-lqi,r\-rssi,r\-snr，σ\+2=σ\+2\-lqi,σ\+2\-rssi,σ\+2\-snr；提出包裹式链路质量参数选取算法，采用自适应广义回归神经网络(adaptivegeneralregressionneuralnetwork，AGRNN)评价各备选子集的重要性，选择链路质量参数；借助广义回归神经网络(generalregressionneuralnetwork，GRNN)在分类以及时间上的优势，提出基于AGRNN的链路质量评估模型，该模型为每个链路质量参数分配不同的光滑因子，采用误差反向传播的思想对其进行自适应修正；采用准确率、召回率、泛化误差和计算时间评价链路质量评估模型.室内、公园和公路场景下的实验表明:与基于多项式法、随机森林、支持向量分类器的链路质量评估模型相比，基于AGRNN的链路质量评估模型具有更优的评估性能和更好的泛化能力以及更低的时间复杂度.

• 基于散度的网络流概念漂移分类方法

  程光,钱德鑫,郭建伟,史海滨,吴桦,赵玉宇,

  网络流量特征分布的动态变化产生概念漂移问题，造成基于机器学习的网络流量分类模型精度下降.定期更新分类模型耗时且无法保证分类模型的泛化能力.基于此，提出一种基于散度的网络流概念漂移分类方法(ensembleclassificationbasedondivergencedetection,ECDD)，采用双层窗口机制，从信息熵的角度出发，根据流量特征分布的JS散度，记为JSD(Jensen-Shannondivergence)来度量滑动窗口内数据分布的差异，从而检测概念漂移.借鉴增量集成学习的思想，检测到漂移时对于新样本重新训练出新的分类器，之后通过分类器权值排序，保留性能较高的分类器，加权集成分类结果对样本进行分类.抓取常见的网络应用流量，根据应用特征分布的不同构建概念漂移数据集，将该方法与常见的概念漂移检测方法进行实验对比，实验结果表明：该方法可以有效地检测概念漂移和更新分类器，表现出较好的分类性能.

• 一种分布式异构带宽环境下的高效数据分区方法

  马卿云,季航旭,赵宇海,毛克明,王国仁,

  在分布式大数据处理框架的作业运行过程中，会有大量的数据通过网络传输，数据在各节点之间传输所需的时间已成为作业运行的主要开销之一.在节点异构带宽的情况下，因为带宽瓶颈节点的存在，传统的数据分区方法效率低下.针对这个问题，建立了节点间的数据传输模型，该模型以降低数据传输时间为目标，根据各节点的上下行带宽和初始数据量大小，计算出各节点的最优数据分发比例.以该模型为基础，设计了基于带宽的数据分区方法，该数据分区方法使得各节点按最优数据分发比例来分配数据.最后在ApacheFlink框架中将基于带宽的数据分区方法进行了实现，并通过实验进行了验证.实验结果表明:异构带宽条件下，基于带宽的数据分区方法可以有效减少数据分区所需的时间.

• 基于SMT求解器的微处理器指令验证数据约束生成技术

  谭坚,罗巧玲,王丽一,胡夏晖,范昊,徐占,

  处理器研制过程中需要对指令算术数据路径进行覆盖验证.针对现有模拟验证方法存在的不足，提出了一种基于可满足模理论(satisfiabilitymodulotheory,SMT)的指令约束求解方法：利用可满足模理论求解器将指令级功能验证任务转化成数据约束求解满足问题.在结果操作数约束、操作数间约束、指令内部约束以及浮点操作数约束4个方面分别给出示例，并分别给出了利用SMT求解器进行约束建模的关键过程以及可以用于指令级功能验证的元组数据.为提高求解模型效率，提出了2种解决方法：首先利用时间阈值实现问题求解超时即终止的策略；其次是结合进程管理与线程管理技术，实现了指令功能约束并行求解框架，将串行求解任务分派给可并行执行的多个线程，提高了求解速度.该技术已成功应用于系统级验证中，有效提升了测试覆盖与质量，取得了很好的效益.

• 一种基于HashGraph的NoSQL型分布式存储因果一致性模型

  田俊峰,王彦骉,

  分布式环境中的数据因果一致性指的是对具有因果依赖性的数据进行更新时，须同步更新其他分布式副本中的依赖性元数据，同时满足较高的可用性和性能需求.为解决现有成果中更新可见延迟较高的问题，在数据中心稳定向量的基础上，结合混合逻辑时钟和HashGraph原理，提出了Causal-Pdh模型.使用部分向量和校验值作为消息签名代替了所有向量，并且借鉴HashGraph的原理，改进了各个数据中心同步最新条目的过程，各个父节点随机与其他父节点同步最新状态，从而降低了虚拟投票所使用的时间.最后通过实验验证了Causal-Pdh模型不仅没有影响客户端的吞吐量，而且在时钟偏移较严重时降低了20.85%的用户PUT等待延迟，在系统中存在查询放大的情况时，PUT响应时间降低了23.27%.