可解释的医疗人工智能：智能体类型与解释类型对健康说服的影响

《Journal of Business Research》：Explainable medical artificial intelligence: The impact of agent and explanation types on health persuasion

　　

解释方式与智能体类型的匹配可提高健康情境下的依从性
AI智能体在使用机制性（而非目的论性）解释时更具说服力
人类智能体在使用目的论性（而非机制性）解释时更有效
自我效能和反应效能是匹配效应影响依从性的中介变量

引言
大语言模型的近期进展迅速拓展了人工智能（AI）在医疗健康领域的应用，例如临床决策支持和医学影像分析，使AI系统能够以专家级能力执行许多诊断和咨询任务（Cadario等，2021）。例如，谷歌的AI Med-PaLM在MedQA医学考试基准测试中达到了86.5%的准确率，与专家考生的表现相当（Google Research, 2023）。然而，尽管取得了这些技术进步，许多患者仍然不愿依赖AI生成的医疗建议（Longoni等，2019）。这种不信任源于用户对AI理解有限，以及认为AI缺乏认知灵活性和同理心（Cadario等，2021；Longoni等，2019；Promberger和Baron, 2006）。因此，识别有效的策略以促进用户对医疗AI的接受，已成为医疗行业面临的重要挑战（Cadario等，2021；Ramon等，2021）。

提高用户对医疗AI接受度的一个潜在方法是提供解释，帮助用户理解和评估AI生成的建议。现有可解释人工智能（XAI）研究主要聚焦于通过技术解释来提高用户对AI系统的理解，例如透明性和事后解释（Adadi和Berrada, 2018；Arrieta等，2020；Lu等，2019；Riveiro和Thill, 2021）。然而，较少有研究从用户视角出发，探讨AI和人类医生应如何通过不同的解释格式来传达医疗建议。

Kim和Duhachek（2020）在这方面迈出了基础性的一步，他们证明了AI与人类医生之间的接受度差距源于用户对这两种智能体截然不同的认知表征。具体而言，他们发现AI被视为机械任务执行者（低水平概念化），而人类医生被视为有意决策者（高水平概念化），从而导致用户偏好与各智能体感知特征相匹配的信息。尽管先前的研究建立了信源-信息匹配的抽象结构逻辑，但仍存在一个重要空白。具体而言，尚不清楚这种抽象的认知匹配如何转化为现实生活中普遍且关键的医疗沟通中的具体解释格式（即机制性解释与目的论性解释）。此外，匹配解释影响健康依从性的具体心理机制仍需进一步阐明。

本研究在Kim和Duhachek（2020）理论基础之上，将智能体-信息匹配模型延伸至可解释人工智能领域，探讨了与医疗健康高度相关的两种不同解释类型。具体而言，我们考察了机制性解释（聚焦于结果如何产生的因果机制）和目的论性解释（聚焦于结果为何被创造的功能或目标）（Lombrozo和Carey, 2006；Lombrozo等，2007）。我们提出解释效果取决于解释类型与传达智能体感知特征之间的匹配度。具体而言，由于AI智能体通常被视为缺乏自主性，机制性解释可能对AI建议特别有效，而人类医生作为有意图的智能体，可能更受益于目的论性解释。我们进一步检验这些智能体-解释匹配是否通过基于效能的路径影响健康依从性。对于AI，机制性解释可能通过澄清可操作的逐步程序来增强自我效能；而对于人类医生，目的论性解释可能通过强调建议行为的益处和适当性来增强反应效能（Han等，2016；Keller, 2006）。

本研究做出了多项贡献。从理论角度来看，首先，本研究建立在已确立的概念化水平信源-信息匹配框架之上，将其抽象匹配逻辑转化为与医疗沟通相关的具体解释格式（机制性与目的论性）。其次，本研究通过识别匹配解释如何影响不同的效能信念——具体而言是自我效能和反应效能——来塑造健康依从性，推进了对智能体-解释匹配底层说服机制的理解。第三，本研究通过将焦点从技术透明度转向面向用户的解释策略，为新兴的可解释人工智能（XAI）领域做出贡献。第四，本研究通过强调解释框架作为改善AI在医疗情境中用户反应的额外沟通策略，拓展了关于算法厌恶的先前研究。从实践角度来看，我们的发现表明，医疗保健营销人员和从业者可以通过考虑解释类型与智能体类型之间的匹配来提高健康说服力。具体而言，他们可以为AI智能体采用机制性解释以增强用户的自我效能，并为人类智能体采用目的论性解释以增强用户的反应效能。

我们首先回顾XAI和解释类型的文献，然后解释智能体类型与解释类型之间的匹配如何影响健康说服。此外，我们报告了四项研究以检验匹配效应和所提出的底层机制。最后，我们讨论了本工作的理论和实践意义以及未来研究方向。

可解释人工智能
用户常常拒绝采用AI产品或服务，因为它们技术上难以理解。信息和计算机科学领域的学者正试图通过算法透明性和事后解释来打开AI算法的黑箱（Arrieta等，2020）。具体而言，透明的机器学习（ML），如线性/逻辑回归和决策树，可以向用户解释模型的工作原理，而非透明的复杂ML，如神经网络和支持向量机，则不具备这种透明度。

研究概述
我们进行了四项研究以检验关于解释类型与智能体类型匹配对健康依从性匹配效应的假设。研究1考察了在人乳头瘤病毒（HPV）疫苗接种情境下的匹配效应（H1和H2）。在通过预实验验证解释类型的概念化水平解释后，研究2在乳腺癌筛查情境下考察了匹配效应，并探究了自我效能和反应效能的底层机制（H3）。

研究1：智能体-解释匹配提高HPV疫苗接种的健康依从性
研究1旨在在HPV疫苗接种情境下检验假设1和假设2。具体而言，我们假设如果AI智能体提供机制性（而非目的论性）解释，以及如果人类智能体提供目的论性（而非机制性）解释，用户的健康依从性将更高。

研究2：自我效能和反应效能的中介作用
研究2在乳腺癌筛查情境下设计了两个主要目标。首先，为了直接验证我们理论框架的基本假设，我们进行了一项独立的预实验以验证解释类型的概念化水平解释，以及智能体类型与解释类型之间匹配的认知适当性。其次，在主研究中，我们试图考察自我效能和反应效能的核心中介作用。

结果
解释类型操作检验。独立样本t检验表明解释类型的操作是成功的。具体而言，机制性推广被评价为更具机制性（M机制性 = 6.00, SD = 1.24）而非目的论性推广（M目的论性 = 3.68, SD = 2.29, t(316) = 11.30, p < 0.001）。目的论性推广被评价为更具目的论性（M目的论性 = 6.32, SD = 0.99）而非机制性推广（M机制性 = 5.30, SD = 1.73, t(316) = 6.46。

研究3：加工流畅性的替代解释
研究3旨在为匹配效应和所提出的基于效能的机制提供更直接的证据。此外，我们考察了加工流畅性（Alter和Oppenheimer, 2009；Schwarz, 2004）是否介导了匹配效应，因为概念化水平与信息类型之间的匹配可以增强加工流畅性（White等，2011）。通过检验加工流畅性作为潜在替代中介变量，我们进一步考察了匹配效应是否可由加工流畅性来解释。

研究4：检验信息框架的影响
先前研究表明，AI在预防导向的信息中往往更具说服力（Chang & Wang, 2023），这表明AI在损失框架信息中也可能更有效（Lee和Aaker, 2004；Uskul等，2009）。基于这一见解，本研究旨在考察在不同目的论性框架条件下——具体而言，损失框架信息与获益框架信息——解释类型与智能体类型之间的匹配效应是否仍然存在。此外，先前的工作...

总体讨论
在本研究中，我们考察了健康沟通中的两种智能体类型——AI和人类智能体，并检验了智能体类型与解释类型（机制性 vs. 目的论性）匹配对健康说服的影响。我们的结果表明，当AI智能体（而非人类智能体）提供机制性（而非目的论性）解释时，用户更可能遵从医疗建议（研究1）。AI智能体提供的机制性解释增强了自我效能，而目的论性解释...

CRediT作者贡献声明
李瑜：写作–审阅与编辑、写作–原稿撰写、验证、监督、项目管理、方法论、经费获取、概念化。柴少伟：写作–审阅与编辑、写作–原稿撰写、可视化、验证、方法论、形式分析、数据整理、概念化。

利益冲突声明
作者声明他们没有已知的竞争性经济利益或个人关系，这些关系可能影响本论文所述工作的报告。

致谢
我们感谢副主编和匿名审稿人富有洞察力的评论和建设性的建议，这些建议显著提高了我们工作的质量。我们还感谢同事们在整个研究过程中提供的宝贵反馈，以及教育部人文社科研究项目、国家自然科学基金和中央高校基本科研业务费对我们的支持。

李瑜是中国武汉理工大学管理学院副教授。她的主要研究方向包括算法厌恶、AI-人类协作、社交媒体和全渠道营销。她的成果已发表在Journal of the Academy of Marketing Science、Journal of Business Research、International Journal of Information Management、Psychology & Marketing、International Journal of Contemporary Hospitality Management等期刊上。

李瑜 | 柴少伟