2024年10月4日，美国国家标准与技术研究院在《联邦公报》上发布了有关《化学和生物AI模型的安全注意事项》的通知。通知显示，美国人工智能安全研究所（AISI）正在征集利益相关者对化学和生物AI模型风险和安全性的意见。AISI认为化学和生物AI模型在加速药物发现、医学对策开发和精准医疗等领域发展的同时，也伴随着潜在风险，呼吁利益相关者尽可能提供与化学和生物AI测试与安全程序相关的实例、最佳实践、案例研究及具体建议。

AISI将化学和生物AI模型定义为可以帮助分析、预测和生成新的化学和生物序列、结构与功能的AI模型，包括但不限于：使用化学或生物数据训练的基础模型、蛋白质设计工具、小生物分子设计工具、病毒载体设计工具、基因组组装工具、实验模拟工具和自主实验平台。

本次意见征集的主题包括：评估化学和生物AI模型双重用途风险的方法，降低化学和生物AI模型滥用风险的方法，化学和生物AI模型间交互的安全和安保协议，化学和生物AI模型对生物防御和生物安全的影响，以及化学和生物AI模型安全保障的未来。

信息来源：

https://www.federalregister.gov/documents/2024/10/04/2024-22974/safety-considerations-for-chemical-andor-biological-ai-models

https://www.meritalk.com/articles/nist-seeks-input-on-chem-bio-ai-model-risks-and-safety/