你愿意原谅那些使用生成式人工智能的“医生”吗?在在线健康咨询服务出现故障后,如何修复信任关系?

《Frontiers in Psychology》:Are you willing to forgive generative AI doctors? Trust repair after failures in online health consultation services

【字体: 时间:2025年10月25日 来源:Frontiers in Psychology 2.9

编辑推荐:

  信任修复与行为意图:生成式AI医生服务失败后的归因、社会支持与拟人化影响

  随着人工智能技术的不断发展,生成式人工智能医生(Generative AI Doctors, GAI doctors)在在线健康咨询服务(Online Health Consultation Services, OHCSV)中的应用日益广泛。这些AI医生基于先进的算法,能够通过分析用户输入和检索相关医学知识,提供预设的回复。相比传统的人类医生,GAI医生具有全天候服务、突破地域限制以及补充医疗资源不足的优势。然而,用户对AI医生的信任是其广泛应用的基础,一旦出现信任危机,例如因系统错误导致的诊断偏差或建议不足,可能显著影响用户继续使用这些系统的意愿。因此,研究如何在AI医生服务失败后修复信任,具有重要的理论和实践意义。

在本研究中,我们探讨了归因风格、社会支持和拟人化对用户信任修复及行为意向的影响。研究采用了一个2×2×2的被试间实验设计,共招募了512名参与者。归因风格分为内部归因(将服务失败归因于AI系统自身)和外部归因(将失败归因于用户提供的信息不足);社会支持则分为信息性支持(提供专业建议和解释)和情感性支持(表达关心与理解);拟人化则分为具有人类特征的AI医生和标准的非拟人化AI医生。实验结果表明,参与者在内部归因、情感性支持或拟人化条件下报告了更高的信任修复水平。拟人化不仅增强了用户对AI医生的信任,还影响了归因风格和社会支持在信任修复中的效果。此外,研究发现归因风格与社会支持之间存在有趣的交互作用:在内部归因的情况下,信息性支持更为有效;而在外部归因的背景下,情感性支持则更有利于信任修复。最后,社会支持对行为意向的影响完全通过信任修复间接实现,这表明信任修复在用户行为决策中起着关键作用。

在探讨信任与信任修复的概念时,我们可以发现,信任不仅仅是对AI医生能力的认可,更是一种在不确定和脆弱情境下,用户相信其能够帮助实现自身目标的态度。然而,信任修复则是在信任被破坏后,通过特定的策略或行为,使用户重新建立对AI医生的信任。这通常涉及对失败原因的归因、对关系的修复以及对环境的支持。在人机交互(Human-Machine Interaction, HMI)领域,信任修复的研究主要集中在归因机制、社会均衡机制和结构机制。归因机制强调用户如何解释失败的原因,这在信任修复过程中起着关键作用;社会均衡机制关注通过缓解负面情绪来修复受损的关系;而结构机制则强调外部环境对信任修复的支持作用。

在归因理论的视角下,AI医生的归因方式对用户信任修复的影响显著。内部归因意味着AI医生主动承认错误,表现出对服务失败的责任感,这往往能增强用户对AI医生的信任。相比之下,外部归因将失败归因于用户自身,可能导致用户认为AI医生不负责任或缺乏能力。然而,研究也指出,归因方式并非总是直接影响信任修复的效果,其作用可能因AI医生的拟人化程度而有所不同。在拟人化较高的情况下,用户更容易接受外部归因,认为AI医生具有一定的“人性”,从而更愿意给予理解与原谅。而在非拟人化的背景下,用户更倾向于认为AI医生是技术工具,因此内部归因更能体现其责任感,从而更有效地修复信任。

社会支持在信任修复中同样发挥着重要作用。信息性支持通过提供详细的解释和专业建议,帮助用户理解AI医生的错误并找到解决方案,从而增强其对AI医生的信任。情感性支持则通过表达关心、理解与安慰,缓解用户的情绪压力,使其感受到被重视和被支持。然而,本研究发现,在AI医生服务失败的情境下,情感性支持比信息性支持更有效。这可能是因为用户在面对失败时,更需要情感上的共鸣和心理上的安慰,而非仅仅是信息上的补救。尽管信息性支持有助于用户解决问题,但情感性支持在修复信任方面具有更强的影响力。

此外,研究还发现拟人化在信任修复过程中具有独特的作用。拟人化AI医生因其具有人类特征,如情感表达和社交互动能力,能够更好地与用户建立情感联系,从而提升其可信度和亲和力。这一发现与之前的理论一致,即拟人化有助于增强用户对AI的信任。在健康咨询的特殊情境下,用户往往更加关注AI医生的可靠性,而拟人化能够有效缓解他们对AI医生的不信任感。因此,设计具有拟人化特征的AI医生,不仅能够增强用户的信任,还可能提高其对AI服务的容忍度。

值得注意的是,归因风格、社会支持和拟人化之间的交互作用对信任修复具有重要影响。研究发现,当AI医生具有拟人化特征时,外部归因比内部归因更有利于信任修复;而在非拟人化的背景下,内部归因则更有效。这表明,用户对AI医生的信任修复方式可能受到其是否具有拟人化特征的影响。拟人化能够改变用户对AI医生的认知框架,使其更倾向于采用“人类启发式”来评估AI医生的行为,从而接受更宽松的归因方式。相反,非拟人化的AI医生则更容易被用户视为技术工具,因此更需要通过内部归因来展示其责任感。

同样,归因风格与社会支持之间的交互作用也对信任修复产生了影响。在内部归因的情况下,信息性支持更能促进信任修复,因为用户能够更清楚地了解失败的原因,并得到相应的解决方案。而在外部归因的情况下,情感性支持则更有效,因为它能够缓解用户的负面情绪,增强其对AI医生的认同感。这一发现表明,AI医生在面对服务失败时,可以灵活调整其支持策略,以适应不同的归因方式,从而更有效地修复信任。

此外,研究还发现,社会支持对行为意向的影响完全通过信任修复实现。这意味着,即使AI医生提供了情感性或信息性支持,如果用户未能修复对AI医生的信任,其行为意向可能不会受到显著影响。因此,信任修复在用户是否继续使用AI健康咨询服务中扮演着关键角色。这为AI医生的设计提供了重要启示,即在服务失败后,不仅要关注如何修复信任,还要通过有效的支持策略来促进用户的再次使用意愿。

本研究的理论贡献在于,它扩展了信任修复领域的研究,尤其是在健康咨询的背景下。以往的信任修复研究多集中于非健康服务场景,而本研究则关注了AI医生在健康咨询中的信任修复机制。此外,研究首次系统地探讨了社会支持在信任修复中的作用,以及其与归因风格和拟人化之间的交互影响。这些发现为信任修复理论提供了新的视角,并为AI医生的设计与优化提供了实践指导。

从实践角度来看,研究结果表明,AI医生在服务失败后,应根据其是否具有拟人化特征,灵活调整归因方式和支持策略。例如,如果AI医生具有拟人化特征,那么在服务失败时,使用外部归因和情感性支持可能更有效;而在非拟人化的场景下,内部归因和信息性支持则更具优势。此外,研究还指出,AI医生不应总是承担全部责任,而是可以根据失败的原因,选择更合适的归因方式和支持类型,以实现更有效的信任修复。

然而,本研究也存在一些局限性。首先,实验设计采用了横断面的方式,未能充分考察用户在长期使用AI健康咨询服务过程中信任的变化。因此,未来研究可以采用纵向设计,追踪用户在不同时间段的信任变化,以更深入地理解信任修复的动态过程。其次,研究主要关注了归因风格、社会支持和拟人化对信任修复的影响,但未探讨个体特征,如AI素养、在线医疗经验或社会经济地位,是否会对信任修复产生影响。未来研究可以进一步探索这些变量如何与信任修复机制相互作用,从而更全面地理解用户对AI医生的信任修复过程。

总的来说,本研究揭示了AI医生在服务失败后,如何通过归因风格、社会支持和拟人化来修复信任,并影响用户的行为意向。这些发现不仅为AI医生的设计提供了理论依据,也为优化其与用户之间的互动方式提供了实践指导。未来的研究可以进一步拓展这些发现,探索更复杂的信任修复机制,并结合真实应用场景,验证AI医生在实际服务中的信任修复效果。
相关新闻
生物通微信公众号
微信
新浪微博
  • 急聘职位
  • 高薪职位

知名企业招聘

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号