DARPA推出ANSR项目推进可信赖人工智能研究
| 来源:【字号:大 中 小】
2022年6月3日,美国国防部高级研究计划局(DARPA)宣布推出最新的人工智能(AI)项目——有保证的神经符号学习和推理(ANSR),试图以新的、混合的(神经符号)AI算法的形式来解决诸多挑战。该算法将符号推理与数据驱动的学习深度融合,以创建强大的、有保证的、值得信赖的系统。
尽管当前机器学习取得了巨大进步,但高度自治系统仍难以实现。DARPA认为造成这种情况的原因是双重的。首先,数据驱动的机器学习缺乏透明度、可解释性和鲁棒性,并且存在不可持续的计算和数据需求。其次,传统的依赖知识表示和符号推理构建智能应用程序和自治系统的方法可以得到保证,但对现实世界中遇到的不确定性并不稳健。
ANSR将探索的多样化混合架构,以先验知识为种子,通过学习获得统计和符号知识,并调整表示学习。该计划包括通过相关军事用例(其中保障和自主性是关键任务)演示对混合AI技术的评估。具体而言,被选定的团队将使用配备ANSR技术的完全自主系统,开发动态、密集的城市环境的通用操作图。AI将为作战人员提供洞察力,帮助确定友好、对抗和中立的实体、作战环境、威胁和安全走廊的特征。
信息来源:
https://www.darpa.mil/news-events/2022-06-03