计算机研究与发展

作者：潘旭东,张谧,颜一帆,陆逸凡,杨珉,

关键词：深度学习隐私; 通用语言模型; 自然语言处理; 深度学习, 人工智能, 信息安全,

近年来，自然语言处理领域涌现出多种基于Transformer网络结构的通用深度学习语言模型，简称“通用语言模型(general-purposelanguagemodels,GPLMs)”，包括Google提出的BERT(bidirectionalencoderrepresentationfromtransformers)模型等，已在多个标准数据集和多项重要自然语言处理任务上刷新了最优基线指标，并已逐渐在商业场景中得到应用.尽管其具有很好的泛用性和性能表现，在实际部署场景中，通用语言模型的安全性却鲜为研究者所重视.近年有研究工作指出，如果攻击者利用中间人攻击或作为半诚实(honest-but-curious)服务提供方截获用户输入文本经由通用语言模型计算产生的文本特征，它将以较高的准确度推测原始文本中是否包含特定敏感词.然而，该工作仅采用了特定敏感词存在与否这一单一敏感信息窃取任务，依赖一些较为严格的攻击假设，且未涉及除英语外其他语种的使用场景.为解决上述问题，提出1条针对通用文本特征的隐私窃取链，从更多维度评估通用语言模型使用中潜在的隐私风险.实验结果表明：仅根据通用语言模型提取出的文本表征，攻击者能以近100％的准确度推断其模型来源，以超70％的准确度推断其原始文本长度，最终推断出最有可能出现的敏感词列表，以重建原始文本的敏感语义.此外，额外针对3种典型的中文预训练通用语言模型开展了相应的隐私窃取风险评估，评估结果表明中文通用语言模型同样存在着不可忽视的隐私风险.

来源：2021年第5期

《计算机研究与发展》期刊编辑部

查看计算机研究与发展杂志2021年第5期