2024年9月9日，美国商务部下属工业与安全局（BIS）发布公告，提议要求尖端人工智能（AI）开发商和云计算提供商提供详细的基础模型开发报告，并将强制企业向美国政府报告“前沿”AI模型和计算集群的开发活动，以确保这些技术的安全性并能抵御网络攻击。

拟议规则定义了“两用基础模型”和其他相关术语。“两用基础模型”是指一种高级AI模型，在广泛数据上训练，使用自我监督，包含至少数千亿参数。这些模型能够高效地执行多种任务，但同时也带来了高风险性，包括降低非专业人士使用危险武器的门槛、增强网络攻击的能力，或是规避人类控制等。尽管这些模型提供了技术保障措施以防滥用，但仍存在潜在风险。其他术语包括：AI红队测试是指寻找和测试AI系统潜在缺陷的过程，模型权重是指神经网络中的参数，训练是指AI模型学习数据的过程。拟议规则通过这些定义帮助BIS明确监管目标和要求。

拟议规则要求开发或计划开发两用基础AI模型的公司，以及获取、开发或拥有潜在大规模计算集群的公司、个人或其他实体，必须向BIS报告相关信息。

拟议规则要求相关实体每季度向BIS报告一次，报告的内容主要包括正在进行或计划中的与训练、开发或生产两用基础模型相关的活动，模型权重的所有权和占有情况，以及任何开发的两用基础模型在相关AI红队测试中的性能结果等。

信息来源：

https://www.bis.gov/press-release/commerce-proposes-reporting-requirements-frontier-ai-developers-and-compute-providers

https://www.bis.gov/sites/default/files/press-release-uploads/2024-09/Press%20Release%20for%20DPA%20AI%20Survey.pdf

https://mp.weixin.qq.com/s/VapAH_1dEyyb5ZxeMosAoA