计算机研究与发展

作者：陈大卫,付安民,周纯毅,陈珍珠,

关键词：联邦学习, 生成式对抗网络, 后门攻击, 触发器, 水印,

联邦学习使用户在数据不出本地的情形下参与协作式的模型训练，降低了用户数据隐私泄露风险，广泛地应用于智慧金融、智慧医疗等领域.但联邦学习对后门攻击表现出固有的脆弱性，攻击者通过上传模型参数植入后门，一旦全局模型识别带有触发器的输入时，会按照攻击者指定的标签进行误分类.因此针对联邦学习提出了一种新型后门攻击方案Bac_GAN，通过结合生成式对抗网络技术将触发器以水印的形式植入干净样本，降低了触发器特征与干净样本特征之间的差异，提升了触发器的隐蔽性，并通过缩放后门模型，避免了参数聚合过程中后门贡献被抵消的问题，使得后门模型在短时间内达到收敛，从而显著提升了后门攻击成功率.此外，论文对触发器生成、水印系数、缩放系数等后门攻击核心要素进行了实验测试，给出了影响后门攻击性能的最佳参数，并在MNIST,CIFAR-10等数据集上验证了Bac_GAN方案的攻击有效性.

来源：2021年第11期

《计算机研究与发展》期刊编辑部

查看计算机研究与发展杂志2021年第11期