2024年9月9日，全国网络安全标准化委员会在2024年国家网络安全宣传周主论坛上发布《人工智能安全治理框架》1.0版，以鼓励人工智能创新发展为第一要务，以有效防范化解人工智能安全风险为出发点和落脚点，广泛联合治理行为体，有利于推动各方积极参与形成共识，对完善我国人工智能安全治理，深化人工智能国际治理合作，建立全球人工智能治理体系将起到积极作用。

该框架是在人工智能发展关键期提出的重要政策文件，既对内完善了我国人工智能治理体系，同时也对外回应了全球人工智能技术与治理发展趋势。框架提出的“包容审慎、确保安全，风险导向、敏捷治理，技管结合、协同应对，开放合作、共治共享”等核心治理原则，为各方提供了一个共同遵循的规范，有助于推动政府、企业、科研机构及公众等多元主体在统一理念下展开深入交流，形成广泛共识。

该框架将人工智能安全风险分为模型算法安全、数据安全和系统安全等13项内生安全风险和网络域、现实域、认知域、伦理域等13项应用安全风险，并提出39项技术应对措施和9项综合治理措施，并提出了人工智能安全开发应用指引，为相关主体参与治理提供了重要参考以及政策箱与工具集。

该框架明确了模型算法研发者、服务提供者、重点领域使用者以及社会公众等不同行为体的安全责任，以确保人工智能“安全开发”“安全服务”“安全使用”“安全普及”；同时明确技术研发机构、服务提供者、用户、政府部门、行业协会、社会组织等各方发现、防范、应对人工智能安全风险的措施手段。《框架》真正将安全责任贯穿于人工智能系统全生命周期过程，以形成政府监管、行业自律、社会监督的协同治理格局。

该框架指出当前人工智能研发应用仍在快速发展，将根据风险导向、敏捷治理的治理原则，关注安全风险发展变化，快速动态精准调整治理措施，持续优化治理机制和方式。这也预示着，框架将根据实际情况和各方反馈，不断优化完善治理措施和指引规范，确保其始终能够适应人工智能发展的最新需求。这种动态调整的过程，有助于保持治理框架的时效性和有效性，推动各方在持续讨论中深化共识。

信息来源：

https://mp.weixin.qq.com/s/PDeznXrPwyxb8STicjUe3g

https://mp.weixin.qq.com/s/3JAIMte9mWHXJZcpiIEsnw