2026年6月1日，美国国防高级研究计划局（DARPA）与国家科学基金会（NSF）联合启动“人工智能锻造”（AI Forge）基础研究计划，旨在弥合AI基础研究与军事应用之间的断层，通过政府资源填补国家安全导向的科研空白，构建由高校、企业、军方和情报机构共同参与的研发生态。美国国家标准与技术研究院（NIST）人工智能标准与创新中心（CAISI）也加入合作。

针对战场环境中AI“黑箱”导致的决策误判风险，以及对手通过对抗样本发起攻击的现实威胁，“AI锻造”计划聚焦AI可解释性、AI控制能力与对抗鲁棒性三大方向，并提出15项国家安全关键AI研究挑战。在AI可解释性方面，致力于将AI的“黑箱”决策转化为清晰的作战逻辑，让指挥官不仅知道系统给出了什么结论，还能明白其背后的推理过程，从而在复杂战场环境中准确判断是否采信该建议；在AI控制能力方面，重点开发验证AI行为边界的工具，确保系统运行可审计、可靠且可验证，为未来更强大的AI系统保留有效的人类控制权；在对抗鲁棒性方面，旨在提升AI系统抵御敌方干扰和欺骗的能力，确保其在面对主动攻击时仍能保持完整性和预期性能。

此外，面对快速演进的AI技术，该计划将建立动态评估机制，每六个月对各项研究挑战进行重新审视，确保研究目标始终与最前沿的技术发展保持同步。

信息来源：

https://www.darpa.mil/news/2026/ai-forge-accelerating-ai-breakthroughs-national-security

https://mp.weixin.qq.com/s/mja34gc8MN3iwXGCYcQ-Wg

https://www.toutiao.com/article/7648125101161906694/