2021年4月下旬，应欧盟和美国政府的要求，可信人工智能（AI）研究和咨询专业公司Adversa发表了业界首个全面的人工智能安全性和可信度研究报告——《安全可靠的AI之路》。该报告还结合了信息技术研究和分析公司Gartner的相关预测以及最近对AI的对抗性攻击事件。

报告主要结论包括：

• 现实世界中，汽车、生物识别、机器人技术和互联网行业中的AI事故呈上升趋势。作为AI的早期采用者，最受关注的行业是互联网（23％）、网络安全（17％）、生物识别技术（16％）和自治（13％）。
• AI的指数级增长促使政府、学术界和行业在过去两年发表了比过去20年更多的AI安全研究，3500篇论文。
• 受攻击最多的AI领域是计算机视觉（65％），其次是分析和语言。
• 在可信赖的AI竞赛中，中美之间的僵局预计将继续，美国占所有研究论文的47％，但中国（13％）正在以更高的速度增长，并可能在接下来的几年中超越。
• 按人均研究论文排名，前三的国家是瑞士、新加坡和以色列。
• AI行业对于现实世界针对AI系统的攻击还没有做好充分的准备，行业中常用的前60种ML模型至少都有一个漏洞。

信息来源：

https://adversa.ai/report-secure-and-trusted-ai/

https://www.helpnetsecurity.com/2021/04/26/ai-industry-attacks/

https://www.prnewswire.com/news-releases/exclusive-secure-and-trusted-ai-report-in-response-to-eu-ai-regulations-retrospective-trends-predictions-301273511.html

http://paper.sciencenet.cn/sbhtmlnews/2021/5/362736.shtm?id=362736