计算机研究与发展

作者：朱素霞,王金印,孙广路,

关键词：后门攻击, 隐蔽后门, 投毒攻击, 深度学习, 模型安全,

深度学习模型容易受到后门攻击，在处理干净数据时表现正常，但在处理具有触发模式的有毒样本时会表现出恶意行为.然而，目前大多数后门攻击产生的后门图像容易被人眼察觉，导致后门攻击隐蔽性不足.因此提出了一种基于感知相似性的多目标优化隐蔽图像后门攻击方法.首先，使用感知相似性损失函数减少后门图像与原始图像之间的视觉差异.其次，采用多目标优化方法解决中毒模型上任务间冲突的问题，从而确保模型投毒后性能稳定.最后，采取了两阶段训练方法，使触发模式的生成自动化，提高训练效率.最终实验结果表明，在干净准确率不下降的情况下，人眼很难将生成的后门图像与原始图像区分开.同时，在目标分类模型上成功进行了后门攻击，all-to-one攻击策略下所有实验数据集的攻击成功率均达到了100%.相比其他隐蔽图像后门攻击方法，具有更好的隐蔽性.

来源：2024年第5期

《计算机研究与发展》期刊编辑部

查看计算机研究与发展杂志2024年第5期