2023年11月26日，美国、英国、德国、意大利等18个国家签署了《安全AI系统开发指南》，敦促企业打造“设计安全”的AI系统。协议由英国国家网络安全中心（NCSC）主导，并与美国网络安全与基础设施安全局（CISA）共同制定，以此建立了AI领域的全球合作。

该指南旨在提高AI的网络安全水平，确保AI在设计、开发和部署等环节的安全，但指南不具备约束力，主要是提供一些一般性的建议。根据指南，18个国家一致认为，企业需要以确保客户和公众免受滥用的方式开发和部署AI系统。

该指南将帮助AI系统的开发人员在开发过程的每个阶段做出明智的网络安全决策，包括四个方面的关键内容：安全设计，包括建模的风险和威胁、系统和模型设计需要考虑的因素等内容；安全开发，包括供应链安全、文档及资产管理等内容；安全部署，包括基础设施保护、开发事件管理流程、负责任地发布等内容；安全操作和维护，包括日志记录和监控、更新管理和信息共享等内容。

信息来源：

https://www.reuters.com/technology/us-britain-other-countries-ink-agreement-make-ai-secure-by-design-2023-11-27/

https://www.cisa.gov/news-events/alerts/2023/11/26/cisa-and-uk-ncsc-unveil-joint-guidelines-secure-ai-system-development

https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development

https://3w.huanqiu.com/a/de583b/4FXBFjEH595

https://mp.weixin.qq.com/s/0EvOqWkwuhxo3j7s9Y79AA