2024年11月21日，美国国家标准与技术研究院（NIST）下属的美国AI安全研究所宣布成立AI国家安全风险测试（TRAINS）工作组，致力于评估AI模型的安全。

工作组将在辐射和核安全、化学和生物安全、网络安全、关键基础设施、常规军事能力等关键的国家安全和公共安全领域，对先进的AI模型进行协调测试和评估。

该工作组成员由美国多个部门及研究机构的专家组成，包括美国国防部首席数字和AI办公室（CDAO）、国家安全局、能源部及其下属国家实验室、国土安全部、网络安全与基础设施安全局、美国卫生与公众服务部下属国立卫生研究院。工作组成员负责为工作组提供专业知识、技术基础设施和资源，并合作开发新的AI评估方法和基准，开展联合国家安全风险评估和红队演习。

美国商务部部长表示，实现安全、可靠和值得信赖的AI不仅是一项经济优先事项，更是公共安全和国家安全的当务之急。美国AI安全研究所将继续发挥领导作用，利用AI的优势造福美国人民和美国企业。

信息来源：

https://www.nist.gov/news-events/news/2024/11/us-ai-safety-institute-establishes-new-us-government-taskforce-collaborate

https://www.nextgov.com/artificial-intelligence/2024/11/nist-sets-new-task-force-ai-and-national-security/401214/?oref=ng-homepage-river