计算机研究与发展

作者：王笑尘,张坤,张鹏,

关键词：大模型, 大模型线上服务, 安全系统, 人工智能伦理, 大模型安全形势分析,

随着人工智能领域大模型（largemodel）的广泛应用，大模型，尤其是大语言模型（largelanguagemodel，LLM）的安全问题受到了广泛关注.大模型作为一种新兴技术，与之相关的安全态势分析以及安全体系建设均亟待挖掘与探索.从社会关系以及技术应用2个视角，分析了大模型安全的整体趋势.同时，基于大模型自身的特点，梳理了大模型安全能力建设的实践思路，为大模型研发、大模型应用构建提供了安全体系构建的参考方案.介绍的大模型安全能力实践方案包括安全评估基准建设、模型价值观对齐方法、模型线上服务安全系统建设3个部分.

来源：2024年第5期

《计算机研究与发展》期刊编辑部

查看计算机研究与发展杂志2024年第5期