2023年8月31日，英国科学创新和技术委员会发布了《人工智能治理》中期报告，提出了AI治理必须解决的12项基本挑战。科学创新和技术委员会自2022年10月20日启动调查，研究分析了AI的广泛用途及其对社会、经济等不同领域的影响，以及英国政府现有的人工智能治理和监管方法，提出了AI治理必须解决的12项基本挑战。

（1）偏见挑战

人工智能系统的数据、算法可能会存在个人偏见，将偏见编码到人工智能模型和工具中的风险是显而易见的。

（2）隐私挑战

人工智能可识别个人身份，并以超出公共需求的方式使用有关他们的个人信息。

（3）虚假信息挑战

人工智能可生成故意歪曲某人行为、观点或性格的材料。数据可用性与人工智能工具结合极大地扩大了恶意行为者伪造与特定个人或组织相关内容的机会。人工智能还能模拟一个人的语音模式，编造他从未说过的话。

（4）数据访问挑战

强大的人工智能需要非常大的数据集，但这些数据集一般由少数组织所有，因此数据获取也是人工智能领域公平竞争所面临的一个挑战。

（5）算力挑战

强大的人工智能需要强大的算力支撑，然而算力成本昂贵。英国政府计划建立一个百万兆次级超级计算机设施和一个人工智能专用的计算资源来支撑人工智能研究。

（6）透明度

一些人工智能模型和工具无法解释它们生成特定结果的原因，这对透明度要求构成了挑战。甚至性能越好的人工智能模型和工具，可解释性就越低。此外，提高可解释性也将有助于提高公众对人工智能模型和工具的信任。

（7）开源挑战

对于用于运行人工智能模型和工具的代码是应该开源或是专有目前还存在不同的看法。一方面，开源人工智能代码可增加人工智能的透明度并促进人工智能技术创新的发展。另一方面，让人工智能技术专有可防止滥用，能对危害进行更可靠的监管。

（8）知识产权和版权挑战

一些人工智能模型和工具未经许可利用其他人的内容，政府应制定政策以保护这些内容创建者的合法权利。

（9）责任归属挑战

如果第三方使用人工智能模型和工具造成了伤害，政府应该制定政策明确开发人员或提供者对造成的伤害是否承担责任。

（10）就业挑战

人工智能可能会取代现有的部分人类工作，政策制定者应预测到这种颠覆，并做好应对措施。

（11）国际协调挑战

人工智能技术是一项全球性的技术，治理框架的制定和使用应该是一项国际性工作，全球应协调一致、共同应对。

（12）生存挑战

部分人认为人工智能对人类的生命造成威胁，因此，人工智能治理应对国家安全提供保护。

信息来源：

https://publications.parliament.uk/pa/cm5803/cmselect/cmsctech/1769/report.html