皮肤科医生对AI临床决策支持系统的心理依赖因素:基于信任与经验的多维度实验研究

【字体: 时间:2025年06月06日 来源:Journal of Medical Internet Research 5.8

编辑推荐:

  为解决AI临床决策支持系统(CDSS)在医疗实践中依赖度不足或过度的问题,研究人员针对223名皮肤科医生开展实验,探究心理因素(如技术信任倾向、医学经验)如何影响对AI建议的适当依赖(RAIR/RSR)。结果显示,医生更倾向自我依赖(RSR 85.6%),且医学经验负向预测AI依赖,而技术信任倾向通过信任中介正向影响依赖行为。该研究为优化人机协作设计提供了关键依据。

  

在医疗人工智能(AI)快速发展的今天,AI临床决策支持系统(CDSS)已成为辅助医生决策的重要工具。然而,一个关键矛盾始终存在:医生对AI建议的依赖既可能不足(导致错失正确建议),也可能过度(盲目跟随错误建议)。这种依赖失衡不仅影响诊断准确性,更可能引发伦理和法律风险。尤其在皮肤癌诊断等高风险领域,AI系统如卷积神经网络(CNN)虽能达到与专业医生相当的准确度,但医生如何平衡自我判断与AI建议,成为实现"人机协作"的核心挑战。

德国杜伊斯堡-埃森大学的研究团队在《Journal of Medical Internet Research》发表了一项开创性研究。他们通过精心设计的在线实验,招募223名平均从业15年的皮肤科医生,采用皮肤病变图像分类任务(24组图像,含5组AI故意误判案例),结合心理学量表(技术信任倾向、技术亲和力等),首次系统揭示了影响医生对AI依赖的心理机制。研究创新性地引入相对AI依赖(RAIR)和相对自我依赖(RSR)指标,量化了"适当依赖"这一抽象概念。

关键技术方法包括:1)基于皮肤病变图像的二阶段分类实验设计(初始判断→AI建议→最终决策);2)权重建议(WoA)算法量化依赖程度;3)心理学量表(如Wischnewski信任量表、Franke技术亲和力量表);4)结构方程模型分析心理因素与依赖行为的关联。

主要结果
准确性及依赖模式
数据显示,AI辅助仅使诊断准确率提升1%(P<0.001,Cohen d=4.5),但医生表现出显著的选择性依赖:对正确建议的依赖强度(WoA=0.1)高于错误建议(P<0.001)。RAIR仅10.04%,而RSR高达85.6%,揭示医生普遍倾向坚持自我判断。

信任、依赖与信心的关系
信任显著正向预测RAIR(解释24.1%方差)且负向预测RSR(21%方差)。但与传统假设不同,决策信心(通过滑块位置代理测量)未显著调节信任与依赖的关系(P=0.88),而是独立关联:高信心决策更少采纳AI建议(与RSR正相关)。

心理因素与医学经验的作用
技术信任倾向通过提升信任间接增加AI依赖(间接效应=0.024,95%CI 0.008-0.042),而医学经验则通过降低信任减少依赖(间接效应=-0.001,95%CI -0.002至-0.001)。值得注意的是,技术亲和力、控制信念等传统技术接受因素未显示显著影响,突显医疗场景的特殊性。

讨论与意义
这项研究首次在专业医疗群体中验证了"适当依赖"的双向性:医生虽能部分识别AI错误(支持假设1),但整体仍过度依赖自身经验(低RAIR)。这一发现与Küper和Kr?mer在非专业人群中的研究形成鲜明对比,证实领域专业知识会显著改变人机交互模式。

研究揭示了医学经验的"双刃剑"效应:经验丰富者更少被错误AI误导(高RSR),但也更可能忽视正确建议(低RAIR)。这为CDSS设计提供了关键启示:对新手医生需强化AI错误警示(如通过可解释AI技术),而对专家则应设计激励机制促使其重新评估与AI的分歧。

值得注意的是,技术信任倾向的强预测作用表明,系统开发需纳入用户心理特征评估。相比之下,技术亲和力等传统因素的失效提示,医疗AI设计不能简单套用通用技术接受模型,必须结合专业决策场景的特殊性。

该研究的局限在于未测试可解释AI(XAI)对依赖行为的影响,未来研究可探索如何通过解释性界面平衡经验与算法建议。此外,医学经验与AI依赖的非线性关系(如5年阈值效应)仍需更大样本验证。

这些发现为医疗AI的"人机协作"优化提供了实证基础:既警示了盲目依赖技术的风险,也为构建"医生-AI"互补体系指明了方向。正如作者强调,理想的CDSS应像"值得信赖的同事",既能被质疑,也能质疑他人——这正是医疗AI走向成熟的关键一步。

相关新闻
生物通微信公众号
微信
新浪微博
  • 急聘职位
  • 高薪职位

知名企业招聘

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号