计算机研究与发展

作者：陈景雪,高克寒,周尔强,秦臻,

关键词：物联网, 隐私保护, 联邦学习, 洗牌, 投毒攻击检测,

随着物联网(Internetofthings,IoT)和人工智能(artificialintelligence,AI)技术的快速发展，大量的数据被物联网设备收集.使用机器学习或深度学习等人工智能技术可以对这些数据进行训练.训练好的模型是物联网中分析网络环境、提高服务质量(qualityofservice,QoS)的重要组成部分.然而，大多数数据提供者(物联网终端用户)不愿意将个人数据直接分享给任何第三方进行学术研究或商业分析，因为个人数据中包含私人敏感信息.因此，研究物联网中的安全与隐私保护是一个重要研究方向.联邦学习(federatedlearning，FL)允许多方物联网终端用户作为训练参与者将数据保存在本地，仅上传本地训练模型至参数服务器以进行聚合，通过这种方式可以保护参与者数据隐私.具体来说，FL面临的攻击主要有2种，即推理攻击和投毒攻击.为了同时抵抗推理攻击和检测投毒攻击，提出了一个全新的源匿名数据洗牌方案Re-Shuffle.提出的Re-Shuffle采用不经意传输协议实现FL中参与者模型的匿名上传，保证参数服务器只能获得参与者的原始本地模型，而不知道来自哪个参与者.此外，为了更适应IoT环境，Re-Shuffle采用了秘密共享机制，在保证梯度数据原始性的同时，解决了传统shuffle协议中参与者的退出问题.Re-Shuffle既保证了局部模型的原始性，又保证了局部模型的隐私性，从而在保护隐私的同时检查中毒攻击.最后给出了安全证明，对方案的检测效果进行了评价，并在Re-Shuffle方案下对2种投毒攻击检测方案的计算开销进行了评估.结果表明Re-Shuffle能够在可接受的开销下为毒化攻击检测方案提供隐私保护.

来源：2023年第10期

《计算机研究与发展》期刊编辑部

查看计算机研究与发展杂志2023年第10期