生成式人工智能安全评估体系构建

---

---

前言

《全球人工智能治理倡议》以“以人为本”为核心理念，推动建立一个公正、开放、有效的全球人工智能治理机制，确保人工智能技术朝着有利于人类文明进步的方向发展.首先概述了人工智能技术的快速发展及其带来的机遇与风险，然后分析了国内外安全治理的现状，揭示了不同国家和地区在人工智能治理策略上的差异，特别是在技术伦理、数据隐私和消费者权益保护方面的多样性.进一步强调构建生成式人工智能安全评估体系的重要性，详细讨论了该体系的4大原则包括全维度考量、体系化应对、责任边界清晰和多方协同发展，及这一体系对于有效应对人工智能技术发展中的安全风险、促进产业健康发展具有关键作用.

随着人工智能技术的不断进步和应用范围的扩大，如何平衡其发展与伦理、治理之间的关系，确保人工智能技术造福于人类，避免潜在风险，已成为全球共同关注的问题.《倡议》不仅是对中国智慧、中国经验的总结，也是对当前全球人工智能治理现状和挑战的回应，为国际社会提供了一个可行的合作框架，有助于推动形成更加公正、透明的全球人工智能治理机制.通过各国的共同努力，有望构建一个安全、公平、公正的人工智能全球治理体系，共同推动构建人类命运共同体。

---

一、人工智能安全治理的现状

随着大模型技术和多智能体协同技术的快速发展，人工智能对复杂任务的认知和决策能力快速提升.人工智能技术的进步拓展了其在处理复杂任务方面的能力，也引发了一系列前所未有的安全风险.这些风险贯穿于人工智能发展全生命周期中的各个环节，从数据的收集和标注，到模型的研发和训练、部署和上线，再到最终的开放应用，无一不受其影响，如图1所示：

随着人工智能应用领域的不断拓展，其风险的影响范围也从技术层面扩展到了特定行业，乃至整个社会.从全生命周期来看，在数据采集和标注阶段，风险不仅涉及数据质量问题，还可能包括侵犯知识产权和导致个人隐私泄露；在模型研发和训练阶段，除了关注模型的鲁棒性和有效性，还需要考虑其可解释性和可审计性上的风险；在模型部署上线阶段，风险从代码安全、网络安全等技术问题，扩展到价值观和意识形态引导，以及虚假信息和幻觉等问题；在模型开放应用阶段，风险不仅包括社会对技术本身的信任问题，还涉及难以控制的人工智能可能引发的灾难性后果，如战争、失业和社会动荡等[2-3].此外，随着智能体交互协作等技术的发展和应用，一些新型风险如协助作恶、帮助犯罪等问题的影响范围也呈现出快速扩大的趋势，引起了各国政府、科研机构、企业等社会各界的高度重视.因此，采取全方位、系统化的安全治理措施来应对这些风险，已经成为国内外的普遍共识.

1.1 国际安全治理现状

各国企业和研究机构