对于机器人可靠性可能比推理更重要

一个人信任机器人需要什么?这就是陆军研究人员在一项有关人与机器人如何协同工作的新研究中发现的东西。对人员代理团队或HAT的研究已经检查了人员(例如机器人，无人驾驶车辆或软件人员)的透明度如何影响人员的信任度，任务绩效，工作量和对人员的看法。代理透明性是指其向人类传达其意图，推理过程和未来计划的能力。

由陆军领导的新研究发现，即使机器人在推理过程中是透明的，但一旦犯错，人们对机器人的信心就会下降。论文“人机交互中的代理透明性和可靠性：对用户信心和感知可靠性的影响”已发表在8月刊的IEEE-Transactions on Human-Machine Systems上。

迄今为止，研究主要集中在具有完全可靠的智能代理的HAT上，这意味着代理不会犯错，但这是探索代理透明性与代理可靠性如何相互作用的少数研究之一。在这项最新研究中，人类目睹了一个机器人犯了一个错误，并且研究人员着重研究了人类是否认为机器人的可靠性不高，即使人类已经了解了机器人的推理过程。

“了解机器人的行为如何影响他们的人类队友，对于有效的人类机器人团队的发展以及团队成员之间的接口和交流方法的设计至关重要，”该项目的首席研究员兼研究员朱莉娅·赖特博士说。在美国陆军作战能力发展司令部的陆军研究实验室(也称为ARL)。“这项研究有助于陆军的多域作战工作，以确保人工智能功能的超匹配。但这也是跨学科的，因为其发现将为心理学家，机器人手，工程师，

这项研究是ARL与中央佛罗里达大学模拟与培训学院的共同努力，也是由国防部长办公室的自治研究试点计划赞助的自治小队成员(ASM)项目的第三项也是最后一项研究。ASM是与步兵小队互动并与之通信的小型地面机器人。