《人工智能安全治理框架2.0版》是由全国网络安全标准化技术委员会与国家计算机网络应急技术处理协调中心于2025年9月联合发布的权威指导文件,旨在应对人工智能技术快速发展带来的新风险与新挑战。
该框架秉持"以人为本、智能向善"的发展理念,在1.0版基础上进行了全面升级。面对高性能推理模型、高效能轻量级开源模型、智能体应用形态演进以及具身智能等前沿技术的突破,框架动态调整了风险分类体系,创新性地提出了风险分级方法,并系统性地完善了防范治理措施。
**核心内容包括:**
- **九大治理原则**:涵盖包容审慎、敏捷治理、技管结合、开放合作、可控可信等核心理念
- **三大风险类别**:技术内生安全风险、技术应用安全风险、应用衍生安全风险
- **技术应对措施**:针对模型算法、训练数据、网络系统、信息内容等关键领域的具体防护手段
- **综合治理机制**:从法律法规、伦理准则、全生命周期管理、开源生态安全、国际协作等多维度构建治理体系
- **分级分类管理**:建立基于应用场景、智能水平、应用规模的风险评估与分级响应机制
该框架特别强调了人工智能生成内容(AIGC)的可追溯管理、关键行业应用的安全释放、供应链安全保障以及失控风险防范等重要议题,为推动全球人工智能安全治理共识、促进协同共治与普惠共享提供了中国方案。