大型语言模型融入临床决策的机遇与挑战：增强而非替代临床推理的新范式

《Communications Medicine》：Implications of integrating large language models into clinical decision making

本研究聚焦于将大型语言模型(LLM)整合入临床决策所引发的深刻影响。研究人员系统探讨了LLM如何辅助临床推理的三大支柱——问诊信息整合、诊断推理及患者管理，并指出LLM虽能提升决策效率，但其缺乏临床直觉、情境理解及假设检验能力。研究强调必须坚持“人在回路”原则，LLM应作为增强人类能力的工具而非替代者，同时需警惕算法偏见与伦理问题，为AI在医学领域的负责任整合提供了关键框架。

　　

在医疗实践中，临床推理是确保诊疗质量的核心环节，它要求医生像侦探一样，从纷繁复杂的症状、体征和检查结果中抽丝剥茧，最终形成准确的诊断并制定个性化的治疗方案。然而，面对海量的医学知识和不断更新的临床指南，即使是经验丰富的医生也时常感到压力巨大。同时，医疗资源的分布不均、医生工作负荷过重等问题，也使得临床决策的准确性和效率面临严峻挑战。近年来，人工智能技术，特别是大型语言模型（Large Language Models, LLMs）的迅猛发展，为解决这些难题带来了新的曙光。这些模型能够理解和生成类人文本，在知识密集型任务中展现出惊人潜力。那么，一个关键问题随之而来：LLMs能否真正理解复杂的医学问题，达到甚至超越人类医生的临床推理水平？它们是将成为医生的得力助手，还是潜在的替代者？为了回答这些问题，研究人员在《Communications Medicine》上发表了这项具有前瞻性的研究。

本研究并非报告一项具体的实验，而是一篇深度评述性文章。作者通过系统性地梳理现有文献和临床试验证据，构建了一个清晰的分析框架。他们主要依赖于对已发表的学术论文（包括随机对照试验和观察性研究）、临床指南以及现有LLM在医疗领域应用案例的批判性综合与分析。例如，研究引用了涉及AI辅助虚拟急诊护理的研究，以及比较医生使用GPT-4辅助与使用传统资源在管理推理方面表现的随机对照试验结果。这些方法帮助作者从宏观层面评估了LLMs在当前临床推理实践中的能力、局限性和整合策略。

临床推理的三大支柱与LLMs的整合潜力

作者将临床推理解构为三个相互关联的支柱，并逐一分析了LLMs在各环节中的作用与局限。

支柱一：构建临床接触框架（信息收集与整理）

这一阶段的核心是全面、有序地收集和整理患者信息，以确定核心问题并评估其严重性。研究表明，LLMs能够模仿这一初始过程。它们可以电子健康记录（EHR）、临床笔记、实验室结果和症状描述等结构化和非结构化数据源中提取、分类和整合信息，生成一个结构化的概述，突出关键临床发现，从而提供初步的分诊评估。这类似于临床医生运用先验知识对数据进行考量。然而，LLMs的显著短板在于其无法进行直接的患者互动。它无法捕捉面部的细微表情、语调的变化或是床边的举止——这些需要人类触觉的领域是不可替代的。因此，LLMs擅长组织既有数据，但仍需临床医生运用判断力进行情境验证和提示工程，即精心设计提问以引导LLM提取最相关的信息。

支柱二：诊断推理（制定和细化诊断）

诊断推理要求医生运用概率性洞察和自身经验，生成、优化和区分一系列可能的诊断。研究指出，LLMs通过将患者信息与其庞大的训练数据集（包括教科书、临床指南和去标识化的病例史）进行比对来应对此项任务。给定一个临床案例，LLM可以提出一个带有排序的鉴别诊断列表，并附上基于相关特征的论证。这个过程反映了临床医生如何在脑海中检索“疾病脚本”（illness scripts）——一种连接风险因素、潜在机制和临床表现的认知框架。LLMs甚至可以被引导去评估和区分不同的诊断选项。有研究显示，在超过半数的案例中，LLMs生成的诊断和管理计划与临床医生的最终决定一致，有时在方案最优性上评分更高。但LLMs的根本缺陷在于其不进行假设检验或元认知分析。它们无法评估内部一致性，也无法根据新信息主动调整判断，除非被再次提示。相比之下，人类医生在适应新的或演变的信息方面表现出色，这是专家临床判断的关键特质。此外，LLMs作为模式匹配系统，可能会忽略其学习模式之外的罕见病或不典型表现。

支柱三：治疗与管理（优先干预和个性化护理）

此阶段侧重于优先选择干预措施、根据患者个体情况定制治疗方案并持续监测反应。研究发现，LLMs在此过程中同样能发挥作用，例如检索和总结循证治疗指南，推荐药物和非药物选择，并提供不同治疗选择的比较有效性信息。一项随机对照试验揭示，获得GPT-4辅助的医生在管理推理任务上的表现显著优于使用传统资源的临床医生。在确诊诊断后，LLM可以阐述标准护理管理计划，详细说明一线治疗、存在禁忌症患者的替代方案以及增强症状管理的辅助措施。LLMs还能通过生成易于理解的患教材料来支持共同决策。尽管如此，治疗决策必须个体化，需考虑患者的合并症、过敏史、当前用药、生活方式、社会经济因素和个人偏好，这些是LLM无法完全把握的。临床医生负责根据患者互动和持续监测来调整方案，这是一个LLM无法内生执行的迭代过程。同时，伦理和经济考量，如资源分配和公平性，以及在与患者沟通和促进共同决策中的核心作用，仍然牢牢掌握在临床医生手中。

界定LLM能力与人类认知

研究强调，LLMs是强大的统计引擎，擅长在庞大数据集中识别模式和关联，但它们缺乏意识、直觉或真正的临床判断。其核心优势在于快速处理和合成海量文本数据的能力，这能减少医生用于数据审查和信息收集的时间，使其能专注于更高层次的任务。相反，人类医生拥有LLMs无法复制的多方面技能：直接的患者互动与观察（捕捉非语言线索、解读复杂情绪、共情沟通）、对每位患者独特的心理社会背景的理解、通过多年经验积累的临床直觉，以及进行元认知分析、假设检验和批判性评估信息可靠性的能力。因此，研究坚决主张“人在回路”（human-in-the-loop）的范式，即LLMs是增强人类能力的复杂工具，而非替代品。

偏见与伦理考量

研究明确指出，人工智能算法和LLMs普遍存在偏见，因为它们反映了训练数据中存在的偏见信息。临床医生必须警惕LLM输出可能使医疗数据中的历史偏见永久化，导致对某些人口群体的不公平护理。每项LLM生成的建议都应仔细审查是否存在与种族、性别、社会经济地位或其他受保护属性相关的偏见迹象。此外，当LLMs辅助决策时，责任归属、对患者的透明度、数据隐私与安全以及确保LLMs的使用不削弱患者自主权等更广泛的伦理问题至关重要。作者呼吁建立强大的监管和伦理框架，进行严格的独立临床验证试验，并开发清晰的法律和伦理问责机制。

结论与展望

本项深度评述得出结论，大型语言模型（LLMs）是一项强大的技术进步，具有显著增强临床推理和改善患者护理的潜力。然而，要最大化其效用，必须将其视为一类需要知情监督、批判性评估并深刻理解其内在能力和局限性的复杂工具，而非人类判断的替代品。LLMs在模式识别和数据检索方面表现出色，能够辅助信息整合、生成鉴别诊断和总结治疗指南，但其缺乏真正的临床直觉、情境理解能力、假设检验功能以及应对模糊性和罕见情况的能力。因此，成功的整合策略在于“人机协作”，由临床医生主导，将LLMs战略性融入临床推理的各个支柱，同时积极管理其局限性、偏见和伦理风险。未来的方向包括推动在多样化、有代表性的数据集上训练LLMs，进行大规模前瞻性临床结果研究，以及设计能够无缝增强而非颠覆既定医疗工作流程的AI系统。这项研究为医疗保健领域负责任地开发和部署LLMs奠定了重要的概念基础，强调在利用技术提升医疗质量和效率的同时，必须守护医学不可或缺的人文要素。