计算机研究与发展

作者：刘昊,张泽辉,夏晓帆,高铁杠,

关键词：对抗样本, 黑盒攻击, 几何攻击, 自注意力机制, 深度学习, 神经网络,

随着深度学习应用的愈发广泛，针对深度学习模型的安全性研究也变得至关重要.在商业应用中，深度学习的模型往往处于应用的底层，一旦对底层模型攻击成功，可能会给商业应用带来巨大的损失.好的攻击算法可以很好的对深度学习模型进行风险评估，从而避免损失.针对实际场景中存在的Hard-label问题，现存算法解决此问题都需要上万次查询，具有很高的攻击成本，提出了FastGBA（fastgeometricboundaryattack）攻击算法：一种在样本空间内针对决策边界进行几何探测的攻击算法，初始从具有较大扰动的对抗样本出发，进行二分逼近至决策边界附近，最终在决策边界附近进行邻域几何探测来缩短样本距离.FastGBA攻击算法在4个深度学习模型上同SurFree攻击算法以及HSJA（hopskipjumpattack）攻击算法进行了对比实验,在查询次数不超过500次，中等扰动（L2距离\leqslant10）的限制条件下，攻击成功率在4个深度学习模型上相较于SurFree攻击算法提升了14.5%~24.4%，相较于HSJA攻击算法提升了28.9%~36.8%.

来源：2023年第2期

《计算机研究与发展》期刊编辑部

查看计算机研究与发展杂志2023年第2期