据美国政府计算机网站（GCN）2018年12月3日报道，黑客正在使用对抗技术来篡改人们的训练数据从而破坏人工智能和机器学习模型。为了确保人工智能和机器学习系统的安全，美国情报高级研究计划局（IARPA）发布项目资助信息，旨在防御隐私攻击，避免泄漏训练数据集中的个人信息。 

　　IARPA安全、保证、智能学习系统（SAILS）项目的目标是开发一种即使受到如下两种攻击也不会泄露敏感信息的模型：（1）模型反转攻击——可从模型预测中重建训练数据；（2）成员推理攻击——可确定训练数据集中的成员。SAILS将专注于文本应用程序以及面部和语音识别系统模型的隐私攻击，以防黑客拥有白盒访问权限，或充分了解到目标人工智能和机器学习模型。 

　　来源：美国政府计算机网站（GCN）