2023年9月12日，美国政府为管理人工智能（AI）带来的潜在风险，获得了八家AI公司的自愿承诺，进一步巩固了七家领先AI公司七月份的承诺。这些自愿承诺构成了政府行动和立法的重要前奏，旨在推动AI技术安全、可靠和可信发展。

这八家AI公司是Adobe、Cohere、IBM、Nvidia、Palantir、Salesforce、Scale AI和Stability，它们在保障AI技术的安全性和可信度方面做出了重要承诺。这些承诺强调了三大关键原则：安全、安保、信任。

八家公司承诺在公众引入其产品之前，对其AI系统进行内部和外部的安全测试。这些测试将部分由独立专家进行，以防范AI可能带来的最重大风险，如生物安全和网络安全及其对社会的广泛影响。此外，它们承诺在AI风险管理方面与行业内和政府、社会团体以及学术界共享信息，包括安全最佳实践、尝试规避保障措施的信息以及技术合作。

八家公司还承诺加大投资，确保内部威胁防护和网络安全，以保护专有和未发布的模型权重，这些权重是AI系统最重要的组成部分。此外，它们将鼓励第三方发现和报告其AI系统的漏洞，以便能够快速修复一些在AI系统发布后仍可能存在的问题。

为了赢得公众的信任，八家公司承诺开发强大的技术机制，如采用水印系统，确保用户知道内容是否由AI生成。此举旨在促进AI的创造力和生产力，同时减少欺诈和欺骗的风险。它们还承诺公开报告其AI系统的能力、限制以及适用和不适用的领域，这些报告将涵盖安全风险和社会风险，如对公平性和偏见的影响。

此外，这些公司承诺优先研究AI系统可能带来的社会风险，包括避免有害的偏见和歧视，以及保护隐私。他们还认识到AI的潜在威胁和影响的广泛性，承诺推出可以减轻这些风险的AI技术，以解决社会面临的重大挑战，从癌症预防到减缓气候变化等。

这些承诺是政府行动和政策制定的一部分，为政府制定AI领域的规则和法律提供了关键的基础。政府正积极制定行政命令，以确保AI的负责任发展，保护美国人的权利和安全。与此同时，政府还在国际层面与盟友和伙伴合作，共同探讨AI政策，以确保AI的安全和负责任发展。

总之，这一系列措施标志着美国政府在管理和引导AI技术发展方面的决心，同时确保AI不仅具有巨大的潜力，还能够安全和负责任地造福社会。这些承诺的实施将有助于保护美国人免受AI可能带来的潜在危害和歧视，以及维护AI的安全和可信度。

信息来源：

https://www.whitehouse.gov/briefing-room/statements-releases/2023/09/12/fact-sheet-biden-harris-administration-secures-voluntary-commitments-from-eight-additional-artificial-intelligence-companies-to-manage-the-risks-posed-by-ai/