该框架主要内容分为两部分，第一部分探讨人工智能相关风险的梳理建构方法，并概述可信赖人工智能系统的特征。人工智能系统构建主要有四方面考量。一是风险框架，包括对风险、影响、危害的理解与处理，以及人工智能风险管理的挑战、风险承受度、风险等级排序。二是目标受众，理想情况下，AI RMF应当适用于人工智能的全生命周期和多维度活动。三是风险和可信度，可信赖的人工智能系统应当满足诸多条件，信度效度兼备始终是首要条件和必备基础。四是有效性评估，包括衡量人工智能系统可信度基础改进的方法，涉及对政策、流程、实践、实施计划、指标、量度和预期结果的定期评估。

第二部分介绍了AI RMF核心的四大功能，即治理（govern）、映射（map）、测量（measure）和管理（manage），每个功能项下还分为不同的类别和子类别。

（1）治理功能。这是对人工智能系统全生命周期实行有效风险管理的内在要求。包括六个类别：一是政策、流程、程序和实践均应完善透明且有效实施；二是完善问责机制；三是优先考虑雇员的多样性、平等性、包容性和可访问性；四是建设风险预警的管理团队，完善风险信息交流共享；五是跟踪并及时反馈对社会和用户的潜在影响；六是完善解决机制，及时处理由第三方软件、数据、供应链引发的风险和潜在影响。

（2）映射功能。包括五个类别：一是明确系统运行的相关背景因素和预期环境；二是进行系统分类；三是了解系统功能、目标用途、成本收益等信息；四是将风险和收益映射到系统的所有组件和环节；五是评估对个人、群体、组织、社会的潜在有益和有害影响。

（3）测量功能。测量是指采用定量、定性或混合工具，对人工智能系统的风险和潜在影响进行分析、评估、测试和控制。包括四个类别：一是确定并采用适当的方法和指标，定期记录、评估和更新；二是评估系统的可信性特征，涉及代表性、有效性、安全性、稳健性和可持续性等；三是完善特定风险识别跟踪机制；四是定期评估和反馈测量功能的有效性。

（4）管理功能。包括四个类别：一是基于映射和测量功能的评估和分析结果，对系统风险进行判定、排序和响应；二是制定实施最大化收益和最小化负面影响策略，明确风险响应步骤；三是有效管理来自第三方的风险和收益，定期监控记录；四是完善风险响应和恢复机制，对已识别、可测量的系统风险加强沟通交流和记录监控。

信息来源：

https://www.nist.gov/itl/ai-risk-management-framework

https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-1.pdf

https://mp.weixin.qq.com/s/vFf8PggnDQghqlwlAwEk_g