可解释AI困境：知识失衡下青光眼专科AI转诊辅助的挑战与启示

《npj Digital Medicine》：The explainable AI dilemma under knowledge imbalance in specialist AI for glaucoma referrals in primary care

本研究针对初级眼保健中青光眼转诊存在的知识失衡问题，探讨了可解释人工智能(XAI)在专科AI辅助决策中的作用。研究人员通过开发预测青光眼手术需求的AI模型，并设计内在解释(评分卡)与事后解释(特征重要性)两种机制，对87名验光师进行用户研究。结果发现：人机团队准确率(60%)虽高于人类单独决策(51%)，但低于AI单独性能(80%)；解释机制非但未提升性能，反而增加了对错误建议的过度依赖与锚定偏差。研究表明，在知识失衡场景下，XAI未能有效校准用户信任，未来需探索超越解释机制的新型辅助策略。

　　

在初级眼保健体系中，青光眼作为不可逆性致盲眼病，其早期识别与及时转诊至专科医生至关重要。然而当前面临双重挑战：一方面，眼科医生数量无法满足日益增长的筛查需求，验光师作为前线服务提供者，其转诊决策存在显著差异；另一方面，专科人工智能(AI)虽能通过分析视觉视野(VF)、光学相干断层扫描(OCT)等多模态数据实现高精度预测，但其依赖有限数据子集与潜在伪相关性的特点，与临床医生基于病理生理学知识和上下文经验的决策模式形成“知识失衡”。这种失衡导致人类与AI的协作效率受限——当人类性能低于AI时，使用者难以判断何时信任算法或坚持自身判断。

为破解这一困境，约翰斯·霍普金斯大学团队在《npj Digital Medicine》发表研究，创新性地将可解释AI(XAI)引入青光眼转诊决策场景。研究团队开发了预测青光眼手术需求的AI模型（包括基于视觉变换器(ViT)的黑盒模型和内在可解释的评分卡模型），并设计两种解释机制：事后解释通过SHAP算法呈现Top3特征重要性，内在解释则通过评分卡公式直观展示风险计算过程。通过87名验光师评估20例临床虚拟病例发现，人机团队准确率（无解释组58%，特征重要性组60%，评分卡组62%）虽显著优于人类单独决策（51%），但均未达到AI单独性能（80%）。更值得关注的是，解释机制并未如预期般提升决策质量：事后解释反而使参与者对错误AI建议的过度依赖率从0.77升至0.92，且两种解释均引发锚定偏差，导致参与者更少调整AI初始建议。主观评估显示，评分卡解释虽提升感知帮助度和临床使用意愿，但未转化为实际性能增益。

关键方法概述

研究基于威尔默眼科研究所2500只眼的回顾性队列，构建手术需求预测模型。黑盒模型采用视觉变换器(ViT)处理VF/OCT图像特征，结合15项临床特征分类；评分卡模型通过逻辑回归生成可解释风险分数。从测试集筛选20例AI预测一致的病例（含4例错误案例），通过在线平台让验光师在四种条件（无辅助/黑盒AI/特征解释/评分卡解释）下完成转诊决策任务，量化准确性、过度依赖等指标。

结果分析

准确性差异：AI辅助显著提升转诊准确率（p<0.001），但解释机制间无统计学差异。评分卡模型在测试集准确率为71%，略低于黑盒模型（76%）。

用户与AI的互动：事后解释显著增加对错误建议的同意率（p=0.02），而评分卡解释降低过度转诊率（over-claims），但对漏诊（under-claims）无改善。AI偏差分数显示，无解释时参与者调整幅度更大（0.33 vs. 解释组0.22-0.24），说明解释强化了决策锚定。

主观感知：评分卡解释在帮助度（p=0.023）和临床使用意愿（p=0.037）上获更高评分，54%参与者将其列为首选方式，反映临床工作者对规则透明性的偏好。

结论与展望

本研究揭示了知识失衡场景下XAI的应用困境：解释机制虽提升用户体验信任，却未能有效校准依赖度，甚至引入新风险。这一“可解释AI困境”提示，单纯提供解释不足以弥合人类与专科AI的认知差距，未来需探索动态信任校准、多阶段决策交互等机制。值得注意的是，人机团队性能仍低于AI单独工作，说明当前辅助模式未充分发挥人类临床经验与AI专项能力的互补优势。研究呼吁重新审视XAI在医疗决策中的定位，转向构建能融合通用专业知识与AI洞察的协同框架，而非仅追求技术可解释性。

作为首项在真实临床知识失衡场景中系统评估XAI效用的研究，其价值不仅在于揭示现有方法的局限性，更为下一代医疗AI协作系统设计指明方向：唯有将人类临床智慧与AI专项能力有机融合，方能实现“1+1>2”的协同效应，真正推动精准医疗的发展。