综述:重建人工智能的信任:归因、拟人化与差异幻象

《Current Opinion in Psychology》:Repairing Trust in AI: Attribution, Anthropomorphism, and the Illusion of Difference

【字体: 大 中 小 】 时间:2026年08月30日 来源:Current Opinion in Psychology 7.4

编辑推荐:

   摘要人与AI系统之间的信任修复是一个新兴的研究领域,该领域建立在人与人(HH)互动研究的良好文献基础之上。本综述考察了关键的HH研究结论——特别是能力违规与诚信违规之后修复策略的差异性效果——如何推广至人机互动(HRI)领域。虽然某些模式仍然成立,但也存在重要的差异。本文认为

  

摘要

人与AI系统之间的信任修复是一个新兴的研究领域,该领域建立在人与人(HH)互动研究的良好文献基础之上。本综述考察了关键的HH研究结论——特别是能力违规与诚信违规之后修复策略的差异性效果——如何推广至人机互动(HRI)领域。虽然某些模式仍然成立,但也存在重要的差异。本文认为,改进诚信违规的操作化定义以及增加拟人化程度,可以使HRI的研究发现与HH研究更加一致。然而,关于拟人化设计的伦理问题、AI应采纳的道德价值观,以及AI应如何向人类延伸信任,仍然存在长期挑战。

引言

信任在谈判的成功中扮演着关键角色[1]。然而,信任经常被违背,并且需要修复。理解这一修复过程的一种方式,是将其视为身份协商,即观察者认为目标不可信,而目标则认为应该获得更多信任,双方互动以协调这些分歧观点[2]。这一视角得到了大量关于人与人之间信任修复的研究支持,包括证据表明不同修复策略的效果取决于发生的违规类型[2]、[3]。
例如,在人与人(HH)情境下的研究发现,当信任因能力不足(即无法有效完成任务)而被打破时,传达悔意的修复策略(例如道歉、承担责任、表达遗憾、承诺改变行为,和/或实施实质性补救措施)可能是有效的[4]、[5]、[6]、[7]、[8]、[9]。然而,在诚信违规(即未能遵守道德或伦理原则)之后,此类回应可能不那么有效,甚至不如试图转移或减轻责任归咎的策略(例如否认、借口或辩解)[4]、[5]、[6]、[7]、[8]、[9](见表1)。情境也起作用,对违规者的判断取决于评估者是独自一人还是与他人在一起、其文化取向,甚至判断的时间[9]、[10]、[11]。综合来看,这些发现强调了违规类型、回应类型和评估情境如何共同影响信任修复尝试的成功。
最近,研究人员开始调查这些HH信任修复结论是否推广至人机互动(HRI)[12]、[13]、[14]。随着机器人在各种情境中被更频繁地使用,包括在谈判和争端解决中[15]、[16],这个问题变得越来越重要。由于这些系统往往达不到预期,它们的持续接受和使用很可能取决于在失败之后信任是否能够被修复。
机器人是为在人类世界中运作以实现特定任务而设计的机器。它们沿两个关键维度变化——自动化(即在无实时人类干预下运作的能力)和智能(即表现出人类水平推理的能力),因此根据其自主程度和认知能力可能属于四种类别之一[17](见图1)。AI占据了该框架中高度自主、高智能的象限,尽管即使在这个类别内部也存在巨大的差异。因此,HH结论在多大程度上推广至HRI,可能取决于所研究的AI系统的特定特征。
本综述背后的一个重要问题不仅仅是如何修复对AI系统的信任,而是这些系统在多大程度上应该被信任。只有当增加的信任为AI系统的实际能力、可靠性和与人类利益的一致性所证明时,信任修复才是可取的。随着AI变得越来越自主和智能,区分适当校准的信任和被表面设计特征夸大的信任变得越来越重要。因此,本综述关注HRI中信任如何被修复,同时也提出了关于在何种条件下对AI系统的信任——甚至来自AI系统的信任——是适当的更广泛问题。

章节摘要

人机互动中的证据:结果不一

关于HH结论推广至HRI的研究产生了不一的结果。尽管修复策略在HRI中仍然具有差异性效果,但模式并不总是干净地映射到HH情境中观察到的模式。
对HRI研究的元分析发现,道歉和解释是在各种情境中修复信任最行之有效的回应[18]。HRI文献还为信任修复过程中的文化调节提供了初步支持

将HH框架推广至HRI的复杂问题

与HH互动相比,HRI中更广泛的否认惩罚指出了两个重要复杂问题。
首先,与大多数关于HH信任修复的研究不同,HRI中机器人的责任通常是明确的[12]、[24]。重要的是,关于HH互动的研究也发现,在明确有罪的情况下,否认在所有违规类型中都是有害的[4]。更明确的过错也可能解释了为什么解释性道歉——即提供原因的

更好地近似HRI中诚信违规的含义

HRI中涉及道德关切的操作化的诚信违规(即让机器人
故意违背普遍持有的规范性原则)表明,这可能有助于弥合HH和HRI情境之间发现的差距。例如,通过让机器人以自利的方式行事并违背先前承诺为团队共同利益行事而引发对机器人道德关切的诚信违规,对信任的损害比表现的

拟人化的作用

引发对机器人道德关切的含义指向关于被信任的机器人本质的更广泛问题。表面设计特征通过塑造人类对这些系统的心理表征来显著影响对机器人的信任[34]、[35],包括机器人被赋予的人类特征程度。正如HH研究[2]中一样,已观察到对机器人的初始和后续信任发展取决于这些表面特征和后续表现是否影响

暂时性问题与持久性问题

本综述及最新证据[52]表明,随着机器人越来越拟人化,HRI和HH情境之间的差异可能会减小。然而,它也提出了三个更持久的问题。
首先,由于拟人化会影响信任的基线水平以及信任修复的可能性,它引发了关于何时这种增加最终是合理的问题[38]。在多大程度上机器人确实不具备拥有情感的能力,将它们设计为表现出

结论

本综述比较了关于HH互动中信任修复的大量文献与日益增长的关于HRI的研究。得出了几个结论。首先,HH文献中的核心发现,包括修复策略的差异性效果,在推广至HRI方面显示出一定的普适性,但存在重要复杂问题,这既反映了方法论上的差异(在如何操作化过错和诚信违规方面),也反映了事物性质上的真正差异

利益声明

无。

在稿件准备过程中使用生成式AI和AI辅助技术的声明

在准备本工作期间,作者使用ChatGPT、Claude和Gemini开始识别文献综述的相关研究,然后基于作者制定的详细大纲起草了一些初步文本以整合该研究。在使用这些工具/服务之后,作者根据需要审查和编辑了内容,并对已发表文章的内容承担全部责任。

利益声明

无。
Peter H. Kim|Alys Ferragamo
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号