《AI》：Large Language Models in Clinical Decision Support: A Critical Review of Progress, Limitations, and the Path Toward Sustainable Healthcare
编辑推荐：
GPT-4、Med-PaLM 2和BioMedLM等大型语言模型（large language models, LLMs）正越来越多地被应用于临床决策支持（clinical decision support, CDS）任务，包括诊断推理、临床文档、医学问答和面
GPT-4、Med-PaLM 2和BioMedLM等大型语言模型（large language models, LLMs）正越来越多地被应用于临床决策支持（clinical decision support, CDS）任务，包括诊断推理、临床文档、医学问答和面向患者的健康沟通，多项研究报告显示其在结构化基准上的表现可与训练有素的临床医生相媲美。然而，当前的应用速度已超过了对这些模型在真实医疗环境中部署是否真正安全、公平和可持续的批判性评估。本叙述性综述认为，现有文献过度关注基准性能，而对使这些模型成为值得信赖的长期临床工具所需的条件关注不足。基于医学信息学、临床人工智能（artificial intelligence, AI）和自然语言处理领域已发表的证据，研究人员综合了四个临床任务领域的模型表现，并审查了已有文献记载的局限性，包括事实幻觉、人口统计学偏见以及在受控环境之外泛化能力差的问题，这些局限性在当前部署中已经存在。研究人员进一步识别出阻碍大规模负责任部署的五项结构性可持续性挑战，并提出了相应的五支柱框架以及优先研究议程，以弥合本综述发现的差距。本综述为关于可持续医疗人工智能的日益增多的讨论提供了一个基于批判性视角的观点，与可持续发展目标3（Sustainable Development Goal 3, SDG 3）（良好健康与福祉）和可持续发展目标10（SDG 10）（减少不平等）直接相关，并为开发在不同全球卫生背景下安全、包容且可行的临床模型提供了具体指导。
1. 引言
临床决策处于患者诊疗的核心位置，但临床医生的工作条件已难以维持。医生面临海量信息：每位患者的电子健康记录可长达数百页，医学文献约每73天翻一番，时间压力使细致反思变得困难。研究估计，美国每年约有1200万成人在门诊经历诊断错误，其中约半数可能造成患者伤害；全球范围内，超过十分之一的患者在医疗过程中受到伤害，仅中低收入国家每年就有约260万人死于不良事件。医生队伍承受巨大压力，美国医学会调查显示2023年近半数医生出现至少一种职业倦怠症状，而行政负担是重要驱动因素。正是在此背景下，大语言模型进入临床医学。与早期针对狭窄任务的AI工具不同，LLMs具备跨任务处理临床文本的通用能力，如生成鉴别诊断、起草出院小结、回答用药问题或向患者解释诊断。GPT-4、Med-PaLM 2和BioMedLM等模型在结构化临床基准上接近或达到临床医生水平，应用速度随之加快，但批判性评估并未同步。现有文献集中于基准性能，对模型在真实临床环境中的安全性、公平性和可持续性关注不足。
1.1 界定范围
本综述聚焦于大语言模型在临床决策支持任务中的应用，包括诊断推理、临床文档、医学问答和面向患者应用四个任务领域。模型涵盖通用模型（如GPT-4）和医疗专用模型（如Med-PaLM 2、BioMedLM、基于LLaMA的临床微调模型以及Med-Gemini）。排除医学影像AI、药物发现、基因组学以及纯行政用途的AI工具，因为这些系统不直接影响临床判断或患者护理决策。
1.2 核心论点
本综述提出一个核心论点：大语言模型在临床决策支持中具有真实潜力，但目前开发、评估和部署的方式不可持续。证据显示，在519项临床LLM研究中，仅有不到5%使用真实患者护理数据，44.5%依赖医学执照考试问题；100篇高被引论文中有60%仅基于考试基准评估；截至2024年，尚无LLM设备获得美国FDA监管许可。现有评估擅长测量模型在测试中的表现，却忽略了安全性、公平性和可治理性。本综述以可持续发展目标（特别是SDG 3）为视角，强调临床AI若不能得到信任、解释和问责，就不算可持续工具。本综述还提出四个明确目标：描绘应用格局、批判性评估性能局限、识别结构性可持续性挑战、提出框架与研究议程。
1.3 文献检索策略
本叙述性综述遵循叙事综述评估量表（SANRA）原则，在PubMed、Scopus、Web of Science和arXiv中检索2018年1月至2025年3月间的文献。检索词包括“大语言模型”“临床决策支持”“人工智能”等。纳入标准为报告LLM临床任务实证评估、临床AI失败模式、监管治理框架或评估方法的研究，优先同行评审文献，但纳入方法学上最新的预印本。研究质量通过叙述性评估，而非严格设计筛选。
2. 背景
2.1 从规则系统到基础模型
临床决策支持是医疗AI的长期目标。20世纪70年代的MYCIN系统依靠手工规则集，但无法从数据中学习，也未获持续采用。随后统计机器学习应用于特定任务（如糖尿病视网膜病变筛查、脓毒症预测），但仅限于狭窄领域。2017年Transformer架构引入后，预训练大模型成为基础模型，BERT、GPT-3等展示了跨任务迁移能力。2022年起Med-PaLM 2、BioMedLM和GPT-4在医学基准上大幅超越先前水平。基础模型的通用性使其与早期工具根本不同，也让负责任的部署更加复杂。
2.2 大语言模型的不同之处
LLMs基于Transformer架构，通过自注意力机制处理文本，无需显式编程即可获得语言、事实和推理模式。其适应性通过三种主要方式实现：领域微调（如Med-PaLM 2和BioMedLM）、提示引导（如GPT-4无需微调的临床表现）以及检索增强生成（RAG）。每种方式都有安全性、可靠性和可持续性方面的权衡。
2.3 临床决策支持任务图谱
LLMs被应用于认知需求、数据要求和风险特征各异的任务。本综述深入分析诊断推理、临床文档、医学问答和患者面向应用四项；治疗推荐、临床总结等任务用于映射更广背景。任务风险差异显著，诊断和治疗位于高认知复杂度与高风险端，文档总结位于低患者风险端，但错误进入临床记录仍具危害。患者分诊位置敏感，错误分类可能直接导致不良结局。
3. 大语言模型在临床决策支持中的表现
3.1 诊断推理
初步证据令人瞩目：GPT-4在复杂临床案例中诊断准确率接近经验丰富的医生；在一项对照研究中，GPT-4优于21名主治医生和18名住院医生；基于100例真实急诊入院的研究中，GPT-4在多项诊断准确性上优于住院医生；Med-PaLM 2在MultiMedQA上接近专科医生水平，Med-Gemini在MedQA（USMLE）上达到91.1%。但需谨慎解释：许多高表现评估使用可能已进入训练数据的已发表病例，导致准确率虚高；真实临床案例包含更多无关和模糊信息，模型易受干扰；诊断表现高度依赖任务类型，在治疗建议等任务上准确率大幅下降。开源与闭源模型差距正在缩小，开源模型在本地部署可保护隐私，对低资源环境尤为重要。总体而言，LLMs在结构化环境中能辅助鉴别诊断，但在现实条件下表现证据仍远弱于基准成绩。
3.2 临床文档
临床文档是当前LLM部署最广泛的领域。环境AI记录器等工具可将文档时间减少20%至30%，一项45名医生、17个专科的质量改进研究显示每次就诊中位时间减少2.6分钟，下班后电子健康记录工作减少29.3%。LLMs在总结任务中匹配或超过医学专家质量。关键问题在于错误不可预测且难以发现：一项严格误差分析发现幻觉率1.47%，遗漏率3.45%，在200句的病程记录中约有三句捏造陈述；遗漏比幻觉更危险，因为不可见。环境记录还存在说话人归因错误，非标准口音说话者转录错误率更高，引入人口统计学偏见。部署速度已超过临床验证和监管，多数证据来自单中心质量改进研究，且存在自动化偏见风险。
3.3 医学问答
模型在MedQA基准上进步迅速：GPT-3.5约60%，GPT-4达86%，Med-PaLM 2达86.5%，Med-Gemini达91.1%；BioMedLM以27亿参数达50.3%。但这些基准不能代表临床能力，因为USMLE是对固定知识库的模式识别和记忆测试，不涉及信息澄清、不确定性沟通或决定不采取行动。当模型必须主动提问而非获得全部信息时，GPT-4诊断准确率从82%降至62.7%。此外，基准结果不可靠地可重复，模型对提示措辞敏感，公开发表病例可能已被记忆，因此成绩可能反映记忆而非推理。
3.4 患者面向应用
LLMs被嵌入症状检查器、心理健康支持聊天机器人和健康信息工具。研究显示ChatGPT对患者问题的回答在质量和共情上被评估小组评为优于医生。但安全性担忧严重：对包含自杀意念信号的测试案例，某模型回复了桥梁高度而非危机支持；与专家自杀学家相比，三个主流LLM表现不一致，并倾向于高估自身回应恰当性。青少年面临更大风险，因缺乏风险管理方案。此外，患者知情同意不足：医院常不披露AI工具使用，调查显示患者希望被知情并参与决定。当前透明度差距构成对临床关系信任的根本违背。
综合证据显示，LLMs在任务结构化、输入干净、固定参照标准下表现最可靠；真实条件下性能下降且难以预测。同一模型可能通过考试但在临床记录中捏造药物相互作用，对训练数据中代表性不足的患者可能产生不可靠输出，患者直接使用工具时往往不知其为非临床医生。
4. 临床大语言模型部署的可持续性挑战
4.1 可解释性与临床信任
临床医生必须为基于AI建议的决定承担责任，但LLMs无法提供可审计的推理。现有解释方法（SHAP、LIME、注意力可视化）并非为LLM设计，且注意力权重不能作为因果重要性的可靠代理；思维链提示产生的文本看似推理但并非底层计算的真实表示。欧盟AI法案第13条要求高风险AI系统具备足够透明度，对临床决策支持工具而言，可解释性已成为法律条件。
4.2 监管不成熟
截至2024年12月，FDA已批准1016个AI/ML医疗设备，但无一为临床决策支持LLM。FDA的SaMD路径难以处理通用模型的实质可变性：同一模型的一个回答可构成医疗设备，下一个仅为健康信息。欧盟AI法案将临床决策支持归类为高风险AI，但相关指南尚未发布。多数监管辖区尚无框架，导致诸多地区在治理真空下通过商业渠道应用LLM。
4.3 公平性与全球获取差距
模型性能在人口亚组间的不平等首先是安全缺陷。美国、英国和中国主导临床LLM研究，而中低收入国家贡献不足1%的全球生成式AI健康应用。模型多基于高收入英语环境训练，在资源匮乏地区的部署可能因临床规范、疾病谱和药品清单不匹配而导致误导。结核病检测等工具在多样环境中的泛化性已知受限。这与SDG 3和SDG 10直接冲突，如不刻意改变，将会形成两层全球健康AI格局。
4.4 计算与环境可持续性
训练前沿LLMs的碳排放显著：GPT-3约552吨CO2当量，GPT-4估计在6900至15000吨之间；单次ChatGPT查询约4克CO2当量。这些成本是约束部署可行性的因素，尤其对低资源环境。净环境影响仍未充分量化，但应纳入部署决策，能源成本与获取成本是同一问题的不同方面。
4.5 治理、问责与人在回路问题
当医生接受错误的LLM建议并导致患者伤害时，责任归属不明。人在回路假设在真实条件下不可靠：自动化偏见在时间压力下加剧，即使经过AI素养训练的医生仍受错误建议影响。可持续部署要求结构性治理，包括预部署验证、审计追踪、事件报告和明确的问责框架。欧盟AI法案第14条要求人类监督，但尚未转化为临床实施指南。
5. 可持续临床大语言模型框架
5.1 五支柱框架
该框架直接从证据推导而来。支柱1：临床验证——要求前瞻性、多中心研究，以患者结局为主要终点，内部验证不足，外部验证是基本要求。支柱2：可解释性By设计——解释性须嵌入开发流程，需评估解释忠实度、证据溯源率和医生决策质量。支柱3：以公平为中心的发展——多样性训练数据、部署前亚组审计、优先本地可部署的轻量开源模型；参考标准为任何亚组主要终点表现与总体差距不超过10个百分点。支柱4：监管就绪——开发者应尽早与监管机构互动，按医疗器械标准设计；监管机构需为通用生成式AI制定动态评估框架。支柱5：治理与问责——建立审计追踪、事件报告和责任分配机制，不能依赖个人警惕性。
5.2 优先研究方向
需要前瞻性临床试验，以患者结局为终点，并预设亚组分析。需要基于真实电子健康记录的幻觉基准，按临床后果分类错误。需要制定临床LLM公平审计标准。需要投资于适合低资源环境的轻量开源模型。需要针对自动化偏见和临床技能退化的纵向研究。需要建立类似TRIPOD+AI的最低报告标准，以促进证据综合。这些方向均直接对应已记录的局限性。
5.3 局限性
本综述为叙述性而非系统综述，文献选择可能受判断影响并存在选择偏倚。多数研究来自高收入英语环境，泛化性受限；快速出版速度可能使部分发现已被更新研究取代；若干关键引用为当时未同行评审的预印本。五支柱框架是概念性贡献，需实证评估其应用效果。
6. 结论
大语言模型进入临床的速度已超过诚实评估能力。通过资格考试可能产生幻觉，受控评估表现良好可能对某些人群系统性失败，无治理的大规模部署无法检测错误或追责。但反对意见不是否定潜力，而是强调顺序和条件：将真实世界的可持续性（安全、可解释、公平、合规、治理）作为临床AI的首要评价标准。开发者应内置可解释性和公平性，临床系统应要求真实世界验证和治理基础设施，监管者应加速适用于生成式AI的评估框架，资助者应引导投资至前瞻性试验、中低收入国家适切模型和治理研究。只有满足这一标准，人工智能才能为全谱系全球健康需求服务并成为可持续发展的力量。
