计算机研究与发展

作者：魏立斐,陈聪聪,张蕾,李梦思,陈玉娇,王勤,

关键词：机器学习, 隐私保护, 安全威胁, 安全多方计算, 同态加密, 差分隐私,

近年来，机器学习迅速地发展，给人们带来便利的同时，也带来极大的安全隐患.机器学习的安全与隐私问题已经成为其发展的绊脚石.机器学习模型的训练和预测均是基于大量的数据，而数据中可能包含敏感或隐私信息，随着数据安全与隐私泄露事件频发、泄露规模连年加剧，如何保证数据的安全与隐私引发科学界和工业界的广泛关注.首先，介绍了机器学习隐私保护中的敌手模型的概念;其次总结机器学习在训练和预测阶段常见的安全及隐私威胁，如训练数据的隐私泄露、投毒攻击、对抗攻击、隐私攻击等.随后介绍了常见的安全防御方法和隐私保护方法，重点介绍了同态加密技术、安全多方计算技术、差分隐私技术等，并比较了典型的方案及3种技术的适用场景.最后，展望机器学习隐私保护的未来发展趋势和研究方向.

来源：2020年第10期

《计算机研究与发展》期刊编辑部

查看计算机研究与发展杂志2020年第10期