了解人们如何发展对AI的信任并为AI的使用提供信息

人工智能(AI)的使用可以与环境互动并模拟人类智能，因此有可能极大地改变我们的工作方式。成功地将AI集成到组织中取决于工人对该技术的信任程度。一项新的评论调查了人们如何发展对AI的信任的二十年研究。作者得出的结论是，AI表示或“体现”的方式以及AI的能力有助于建立信任。他们还提出了一个框架，以解决影响用户对AI的认知和情感信任的要素，这可以帮助使用AI的组织。

由卡内基·梅隆大学和巴伊兰大学的研究人员撰写的评论发表在《管理学年鉴》上。

卡内基梅隆大学特珀商学院组织行为与理论副教授安妮塔·威廉姆斯·伍利解释说：“用户对人工智能的信任将是决定其在组织中的作用的核心。” “我们通过探索与不同的AI表示(例如，机器人，虚拟代理或嵌入式)交互的人们如何发展信任以及促进信任发展的AI特性，解决了信任的动态本质。”

具体来说，研究人员观察了有形性(感知或触摸的能力)，透明度(技术的操作规则和逻辑对用户显而易见的水平)和可靠性(无论技术是否表现出相同的预期行为)的作用。随着时间的推移)。他们还考虑了任务特征(如何处理技术与人际关系的判断)和即时行为(旨在提高人际关系的社交姿势，例如主动倾听和反应能力)。他们还研究了拟人化(对技术可以具有人类素质的看法)。

作者在Google学术搜索中搜索了1999年至2019年之间发表的有关人类对人工智能的信任的文章，确定了约200篇经过同行评审的文章和会议记录。代表的字段包括组织行为，人机交互，机器人人机交互，信息系统，信息技术和工程。他们还使用了三个数据库来识别另外50篇文章。最后，他们回顾了约150篇文章，介绍了人类对AI信任的实证研究。

作者发现，AI的表示在人们发展的认知信任的性质中起着重要作用。对于机器人AI而言，建立信任的轨迹类似于在人际关系中建立信任的轨迹，这种关系从低端开始并随着更多的经验而增加。但是对于虚拟和嵌入式AI，情况恰恰相反：随着经验的积累，高初始信任度下降。

作者还发现，表征AI的机器智能水平可能会缓和认知信任的发展，而高智能水平会导致在使用和体验后获得更高的信任度。对于机器人AI，高水平的机器智能通常会导致高信任度的更快发展。对于虚拟和嵌入式AI，高机器智能为维持最初的高度信任提供了可能性。透明度也是在虚拟和嵌入式AI中建立认知信任的重要因素，尽管可靠性与AI信任发展之间的关系很复杂。

拟人化对于情感信任的发展具有独特的重要性，但其作用因AI的形式而异。对于虚拟AI，拟人化具有积极作用。对于机器人AI，效果好坏参半：人们倾向于喜欢拟人化的机器人，而不是看起来像机械的机器人，但这些类似于人的机器人也可能会引起不适和紧张感。

这组作者总结说，影响情感信任的因素与影响认知信任的因素不同，某些因素可能对每个人都有不同的含义。

为了将AI集成到组织的工作中，作者提出了一个框架。他们将使用AI的形式，机器智能的水平，诸如响应性和可靠性等行为视为影响人们如何在认知和情感上建立对AI信任的因素。

“信任可以预测对技术的依赖程度，而某人的信任与该技术的功能之间的对应程度(称为校准)可以影响该技术的使用方式，”加州大学研究生院助理教授Ella Glikson说。这项研究的共同作者是巴伊兰大学的工商管理专业。