人工智能安全治理的中国认知与方案

---

前言

近年来，人工智能技术迅速发展，在推动社会经济进步的同时，也带来了安全隐患与风险挑战。2023 年 10 月，我国面向世界提出《全球人工智能治理倡议》（以下简称《倡议》），系统阐述了人工智能治理的中国方案。《倡议》呼吁不断提高人工智能技术的安全性、可靠性、可控性与公平性，倡导建立具有广泛共识的治理框架和标准规范。2024 年 9 月，《人工智能安全治理框架》（以下简称《框架》）发布，内容涵盖治理原则、框架构成、风险分类、技术应对、综合治理和安全指引六个部分，较为全面地总结了中国人工智能安全治理的经验和观点。

《框架》以鼓励人工智能创新发展为要旨，协调政府、国际组织、企业、科研院所、民间机构和社会公众等各方达成广泛共识，为人工智能风险防范化解和监督管理等提供重要指引。

---

一、立足本土治理认知，构建风险分类体系

总体国家安全观是国家安全工作的指导思想，融合贯通人民安全、政治安全、国家利益至上的有机统一，不断推动中国特色国家安全理论构建和实践。人工智能技术的应用已经超越产业领域，不断向军事、政治、经济等领域扩散，展现出巨大发展潜力同时也意味着全面而深刻的安全格局变化。人工智能技术天然地与安全议题联系，其适用性的延伸使得在认知领域、生产领域的内生风险逐渐显现，通用人工智能已被证实可以介入致命武器生产、意识形态争端或深刻地改变社会生产结构。人工智能安全涉及综合网络安全、数据安全等多个方面，直接关系到国家政治、经济活动的安全可控。特定的安全领域往往指向人工智能技术的应用服务场景，人工智能安全治理需要在综合治理框架内展开，避免治理缺漏与职能重叠。《框架》以总体国家安全观为基础，结合人工智能安全治理认知与实践经验，构建本土安全风险分类体系，推动形成人工智能全周期安全治理格局。

1、《框架》沿风险治理思路，系统梳理了人工智能安全风险类型，为有效识别人工智能安全风险提供了重要依据。

《框架》将人工智能安全风险分为内生安全风险与应用安全风险两个层次，涵盖人工智能训练、部署、更新、维护等多个阶段。内生安全风险源自人工智能技术的构成要素和固有特性，包括偏见歧视风险、对抗攻击风险等由模型算法缺陷导致的风险类型，训练数据的违规使用、泄露或遭受“投毒”等数据安全风险，以及大规模后门攻击、算力短