《European Radiology》：From digital bench to bedside: exaggerated risks, realistic expectations, and genuine challenges of medical AI
编辑推荐：
人工智能（AI）已成为医学中日益显著的力量，其驱动力来自快速的技术进步与不断增多的临床应用。随着领域成熟，医学AI正从实验开发走向更广泛实施阶段。然而围绕医学AI的争论常被夸大的风险与过度乐观的期望所塑造。本文旨在推动更平衡、现实的讨论。研究人员主张以开放心态
人工智能（AI）已成为医学中日益显著的力量，其驱动力来自快速的技术进步与不断增多的临床应用。随着领域成熟，医学AI正从实验开发走向更广泛实施阶段。然而围绕医学AI的争论常被夸大的风险与过度乐观的期望所塑造。本文旨在推动更平衡、现实的讨论。研究人员主张以开放心态、基于证据的方式将AI理解为支持医疗保健的工具，而非存在性威胁或万能方案，并讨论当前与新兴挑战，涉及临床验证（clinical validation）、人–AI交互（human–AI interaction）、偏倚与歧视（bias and discrimination）、教育、代理式AI（agentic AI）及信任的建立与维护（development and maintenance of trust）。
研究背景与问题提出
自2012年AlexNet在ImageNet竞赛中引发近期AI革命、2022年ChatGPT发布进一步推高关注度以来，医学AI（尤以放射学为先驱）正沿Gartner技术成熟度曲线从“期望膨胀峰值”与“幻灭低谷”向“生产力高原”过渡。但当前讨论常被两类叙事绑架：一是恐惧式夸大风险，将AI神秘化为可自主决策的“准人”甚至“Dr. AI”；二是过度乐观视其为万能解。这两类叙事掩盖了真实、具体且紧迫的挑战。研究人员指出，医学AI本质是具有工具属性的专用软件装置，内部过程具部分认知不透明性、依赖训练数据中的统计模式，但仍是需由胜任使用者操作的工具。因此，剥离炒作、建立现实期望并直面真问题，是AI从数字工作台走向病床旁的关键。
研究目的与结论概要
研究人员通过概念辨析与文献整合，澄清医学AI的工具本质，驳斥取代论与灾难论；系统梳理六大真实挑战——临床验证、人智交互、偏倚与歧视、医学课程适配、代理式AI、信任构建；主张以证据为基础、责任为导向的实施路径。重要意义在于为《European Radiology》读者提供一张去魅后的路线图：AI在医学中将长期存在，成功取决于对当下挑战的治理而非对虚构风险的焦虑。
主要技术方法与数据来源
本研究为论述型综述，未涉及试剂、培养或质粒构建。研究人员依托已发表的FDA授权工具统计（如约28%有前瞻性研究、43%无公开验证数据）、Nature Medicine与JAMA等期刊的荟萃数据、跨中心外部验证研究（如Yu等2022年放射诊断深度学习外部验证系统综述）、人机交互实验（如Dratsch等乳腺摄影自动化偏倚研究、Gaube等临床决策辅助易感性研究）及多中心伦理与课程改革文献，进行定性综合与概念建模，无新建样本队列。
研究结果（按原文小标题浓缩）
临床验证（Clinical validation）：研究人员指出当前存在显著验证缺口。多数FDA授权医疗AI软件仅基于单中心回顾性数据做技术性能评估，前瞻性随机对照试验稀缺；外部验证显示性能大幅下降；过度关注ROC AUC等技术指标忽视患者相关终点（如死亡率、质量调整生命年QALY）与卫生经济价值。结论：须以患者相关终点、多中心前瞻性研究、部署后监测与受益–风险评估框架补齐验证链。
人–机交互（Human–machine interaction）：重点揭示自动化偏倚（automation bias）——临床医生过度依赖AI输出而放弃独立判断，资深放射科医师亦不能免；反向则因AI失误导致信任崩塌与欠依赖。当代工作量压力放大该风险。结论：须将偏倚缓解策略嵌入医学教育与在岗培训。
应对偏倚与歧视（Tackling bias and discrimination）：训练数据承载就医可及性、记录习惯、历史不公等社会不平等，致模型在种族、性别、年龄、罕见病群体表现差异，强化而非削弱健康不平等。结论：需多样代表性数据集、统计去偏与公平感知建模、前瞻多中心评估、强制透明文档（数据源、人群特征、局限），使临床者与监管方知何处可靠何处须人工兜底。
医学课程适应（Adaptation of the medical curriculum）：传统课程重生物医学知识与既有技能，缺数字素养与AI批判能力。未来医师须懂AI机理、评输出、识偏倚、融推荐而不弃专业判断。结论：课程须纳入数据科学基础、伦理法律、人智交互、案例教学与跨学科协作。
代理式AI（Agentic AI）：基于大语言模型（LLM）的自主体可多步推理、调环境工具，肿瘤学等已现自主决策原型。其自主交互能力引入新风险维度——若获医院数据又兼得互联网无限制通道，可生严重失控。结论：须严格环境隔离、权限收敛、责任边界研究，谨慎部署。
建立与保持信任（Building and keeping trust）：研究人员引Hiekel观点，称AI“可信”属范畴错误，信任本位于医患关系。AI实施须强化而非侵蚀该关系：医生经改造课程获有效批判使用权，患者获粗略可理解性、质疑权与拒绝权；透明与证据是基础，求接受不等于建信任。
讨论与结论翻译
讨论部分强调，夸大风险转移了对真问题的注意力，而过度期望制造难补救的失望。研究人员认为从数字工作台到病床旁需冷静审慎：以责任化期望管理框定各挑战之解，聚焦临床验证缺口、自动化偏倚、结构性偏倚、教育断层、代理式AI边界与信任机制。结论原文意译：AI留驻医学已为老生常谈，能否达生产力高原取决于对上述挑战的认真应对；解方虽存，唯负责任实施方使AI惠及众人而风险受控。路径无他——现实期望、真问题优先、审慎落地。
（全文字数约1480汉字）
