2024年4月15日，美国网络安全与基础设施安全局、联邦调查局、澳大利亚网络安全中心、加拿大网络安全中心、新西兰国家网络安全中心和英国国家网络安全中心等五眼联盟国家的网络安全主管机构共同发布了安全部署人工智能（AI）系统的新指南，设定了三大核心目标：提高AI系统的机密性和完整性；确保消除已知的网络安全漏洞；实施一系列强有力的保护措施来检测和防止恶意活动。

该指南指出，恶意行为者可能会利用针对AI系统特有的攻击媒介对AI系统进行攻击。由于攻击媒介种类繁多，AI系统安全防御需要多样化。因此，新指南特别建议在AI系统部署之前和部署期间对相关软件进行严密审查。

五眼联盟网络安全主管机构指出，降低风险的关键是利用加密协议和数字签名来确认通过系统的每个工件的完整性和来源，同时存储所有形式的代码以供进一步验证，并记录系统上的任何改动。

该指南还建议部署AI模型时，在网络中实现自动化检测、分析和响应，可帮助减轻信息技术和安全团队的工作负担。

信息来源：

https://www.nextgov.com/artificial-intelligence/2024/04/five-eyes-agencies-issue-guidance-securing-ai/395758/