计算机研究与发展

作者：刘嘉浪,郭延明,老明瑞,于天元,武与伦,冯云浩,吴嘉壮,

关键词：联邦学习, 后门攻击, 后门防御, 数据隐私, 数据安全,

联邦学习旨在解决数据隐私和数据安全问题，大量客户端在本地进行分布式训练后，中央服务器再聚合各本地客户端提供的模型参数更新，但中央服务器无法看到这些参数的具体更新过程，这种特性会带来严重的安全问题，即恶意参与者可以在本地模型中训练中毒模型并上传参数，再在全局模型中引入后门功能.关注于联邦学习特有场景下的安全性和鲁棒性研究，即后门攻击与防御，总结了联邦学习下产生后门攻击的场景，并归纳了联邦学习下后门攻击和防御的最新方法，对各种攻击和防御方法的性能进行了比较和分析，揭示了其优势和局限.最后，指出了联邦学习下后门攻击和防御的各种潜在方向和新的挑战.

来源：2024年第10期

《计算机研究与发展》期刊编辑部

查看计算机研究与发展杂志2024年第10期