美国土安全部发布指南 确保AI在关键基础设施中的安全可靠部署
| 来源:【字号:大 中 小】
2024年11月14日,美国国土安全部发布了一份关于在关键基础设施中负责任地使用AI的新指南——《关键基础设施中人工智能的角色和职责框架》。该框架由AI供应链各层实体共同开发,旨在为云和计算提供商、AI开发者、关键基础设施所有者和运营商,以及民间社会和公共部门实体提供指导,确保AI在美国关键基础设施中的安全和可靠部署,同时保护公民权利和自由,并推进AI安全的研究。
电力、水处理、交通和数字网络等对国家安全至关重要的关键基础设施,越来越多地依赖AI来提升服务、建立弹性和应对威胁。然而,AI的漏洞让这些关键基础设施面临着被恶意操纵的风险。因此,该框架针对美国关键基础设施中AI开发和部署的每类关键利益相关者提出了以下建议:
(1)云和计算基础设施服务提供商在保护关键基础设施中的AI开发环境方面发挥着重要作用,涉及审查硬件和软件供应商、建立强大的访问管理、保护为AI系统提供支持的数据中心的物理安全等。该框架鼓励云和计算基础设施服务提供商通过监控异常活动并建立明确的途径来报告可疑和有害活动,从而为AI开发下游的客户和流程提供支持。
(2)AI开发人员通常通过软件工具或特定应用程序使关键基础设施能够访问AI模型。该框架建议AI开发人员采用安全设计方法,评估AI模型的危险能力,并确保模型秉持以人为本的价值观。该框架同时鼓励AI开发人员采取强有力的隐私保护措施,通过评估以检测潜在的偏见、故障模式和安全漏洞;同时,框架还支持对那些对关键基础设施系统及其用户构成高风险的模型进行独立评估。
(3)该框架建议关键基础设施所有者和运营商应采购和部署安全的AI系统。具体包括推进网络安全实践以应对AI相关风险,在微调AI产品时保护客户数据,以及在使用AI向公众提供商品、服务或福利方面时提供有意义的透明度。该框架还鼓励关键基础设施实体积极监测相关AI系统的性能,并与AI开发人员和研究人员分享结果,帮助他们更好地理解模型行为与现实世界结果之间的关系。
(4)该框架建议公民社会和公共部门一起参与标准制定,研究关键基础设施用例的AI评估。公民社会包括大学、研究机构和消费者权益倡导者。
(5)该框架鼓励联邦政府与国际伙伴继续开展合作,以保护全球公民的利益,并鼓励各级政府之间进行协作,共同资助和支持AI安全与保障的基础研究。
信息来源:
https://www.dhs.gov/news/2024/11/14/groundbreaking-framework-safe-and-secure-deployment-ai-critical-infrastructure#:~:text
https://apnews.com/article/ai-artificial-intelligence-infrastructure-national-defense-infrastructure-3b4a0c6962ad75ef50422b726e7e04e0
https://mp.weixin.qq.com/s/cRGGfj4M32heNsoJv4BahA