2017年2月，牛津大学召开了一次为期两天的研讨会。来自人工智能、无人机、网络安全、自主武器系统、反恐等领域的众多专家共同探究了伴随着人工智能的发展可能带来的安全问题。时过一年，OpenAI、牛津大学、剑桥大学等14家机构和高校于2018年2月底联合发布《人工智能恶意使用：预测、预防和缓解》，该报告指出人工智能和机器学习技术正以前所未有的速度发展，这些技术在机器翻译、医学图像处理等领域有着广泛的应用前景，在未来很长一段时间内，基于这些技术所开发出的应用程序也会越来越多。然而，很少有人会注意到这些技术会被恶意使用。研究人员调查了恶意应用人工智能技术会造成的潜在威胁，以及预测、预防和减少这些威胁的方法，同时，还展示了如果防御不当的话可能会遭受到的攻击。 

　　1. 威胁变化 

　　（1）现有威胁范围会扩大 

　　（2）产生新的威胁 

　　（3）安全威胁的典型特征会发生改变 

　　2. 特定领域分析 

　　（1）数字安全领域 

　　（2）物理安全领域 

　　（3）政治安全领域 

　　3. 高级建议和干预措施 

　　来源：OpenAI