计算机研究与发展

作者：李前,蔺琛皓,杨雨龙,沈超,方黎明,

关键词：人工智能安全, 对抗攻击, 对抗防御, 深度神经网络, 轻量化网络,

在万物互联的智能时代，以深度学习为代表的人工智能技术正全方位改变人类的生产和生活方式.与此同时，云边端计算架构的成熟和发展使得边缘计算正在日益走向智能时代的舞台中央，轻量化模型在计算资源受限的嵌入式和物联网设备大规模部署和运行.然而，随着人工智能技术蓬勃发展，其算法的鲁棒脆弱性及易受对抗攻击等特点也给人工智能系统的广泛应用带来了极大的安全隐患.针对此问题，国内外学术界和工业界已经开展了人工智能安全的相关研究，其中针对深度学习的对抗攻御研究已成为了当前的研究热点.因此，聚焦于云边端全场景下的人工智能技术安全问题，分别整理归纳了针对大型神经网络和轻量化神经网络的对抗攻防技术，对相关理论与研究方法进行了系统性的综述研究.首先，介绍了多种主流的对抗攻击生成方法.其次，从鲁棒先验视角出发，将现有对抗防御工作分为基于对抗训练的防御、基于正则化的对抗防御以及基于模型结构的对抗防御三大类.同时，对现有的研究工作进行了系统总结和科学归纳，分析了当前研究的优势和不足.最后，探讨了在云边端全场景下深度学习模型对抗攻击和防御研究当前所面临的挑战以及未来潜在的研究方向.

来源：2022年第10期

《计算机研究与发展》期刊编辑部

查看计算机研究与发展杂志2022年第10期