2023年11月1日，美国拜登政府指示商务部在国家标准与技术研究院（NIST）内成立美国人工智能安全研究所（USAISI），领导政府在人工智能安全和信任方面的工作，特别是在评估先进人工智能模型方面，以支持拜登总统签署的《关于安全、可靠和可信的人工智能行政命令》。

USAISI将促进人工智能模型的安全、安保及测试标准的制定，制定人工智能生成内容的验证标准，并为研究人员提供测试环境，评估新的人工智能风险，解决已知的影响。此外，USAISI还将与国际同行进行信息共享和研究合作，包括与英国（计划中的）人工智能安全研究所，以及来自民间社会、学术界和工业界的外部专家合作，并为人工智能安全和信任建立指导方针，构建工具和测试环境。

2023年11月2日，英国首相宣布建立首个专门研究人工智能安全的研究机构，旨在提高人们对人工智能安全性的认识，并深入审查、评估和测试新型人工智能技术，探讨人工智能技术的危害和风险，包括偏见、错误信息等。该研究所在成立初期三项核心职责为：①研发先进的人工智能系统，全面评估人工智能系统的安全属性；②推动人工智能安全基础研究，如人工智能治理工具研发、新型的人工智能安全方法研究；③促进信息交流，建立有效的信息共享机制，缩小行业、政府、学术界和公众在人工智能安全认知上的差距，加强与政府其他职能部门的合作，成为值得信赖的中介机构。

信息来源：

https://www.commerce.gov/news/press-releases/2023/11/direction-president-biden-department-commerce-establish-us-artificial

https://www.gov.uk/government/publications/ai-safety-institute-overview

https://www.gov.uk/government/publications/ai-safety-institute-overview/introducing-the-ai-safety-institute