2022年7月14日，国际顶级学术期刊《科学机器人》发表了朱松纯团队的最新研究成果——实时双向人机价值对齐。论文同时被《科学》官网和《科学机器人》官网头条刊登。

社交协调的先决条件是队友之间的双向沟通，每个人同时扮演听众和表达者两个角色。在人机协同中，机器人也需要既充当有效的倾听者，从指令和反馈中推断人类用户的意图，也充当表达者向用户解释其决策过程。但对于与人类一起工作的机器人来说，在复杂的情况下，多个目标的重要性不同，如果不能满足其中任何一个角色的期望，就会因为人与机器人之间的价值观不一致而破坏团队绩效。

为此，论文研究如何在价值对齐的背景下促进有效的双向人机交流——协作机器人和用户对可能的任务目标的重要性形成一致的理解。文章提出了一个可解释的人工智能(XAI)系统，其中一组机器人通过考虑现场反馈来预测用户的价值，同时通过解释将他们的决策过程传达给用户。为了从人类反馈中学习，该XAI系统集成了一个合作沟通模型，用于推断与多个理想目标相关的人类价值。为了便于人类解释，该系统模拟人类心理动态并使用图形模型预测最佳解释。文章通过心理实验检查了所提出计算框架的核心组成部分，结果表明，通过基于双向通信的学习模型可以实现复杂协作任务中的实时人机相互理解。

信息来源：

https://www.science.org/doi/10.1126/scirobotics.abm4183

https://mp.weixin.qq.com/s/WMiZeQr0zyU8YqQnpd5Uug