《ESMO Real World Data and Digital Oncology》：Artificial intelligence in oncology: empowering clinicians for responsible integration
人工智能（AI）正在迅速重塑肿瘤学实践，从诊断到治疗规划再到临床研究。本文提出，在人工智能时代，肿瘤科医生应成为能够批判性解读、监督并向患者沟通AI输出的临床医师，同时理解这些工具的基本原理、局限性及伦理影响。研究基于一项覆盖475名英国受访者的调查，包括癌症患者与幸存者、公众成员及医护人员。结果显示，公众对AI的接受度较高但具有条件性：自我报告的AI理解程度越高，接受度越高；同时，患者更倾向于在临床医生参与、结果透明及数据安全有保障的前提下接受AI。围绕这些发现，本文构建了三项核心担忧：AI将取代临床医生、AI可能存在偏倚且不公平、AI无法保障数据安全。以癌症治疗推荐系统为例，作者展示了通过概念驱动建模（concept-based modelling）、不确定性量化（uncertainty quantification）和联邦学习（federated learning）等技术路径来应对上述问题。最后，作者强调AI技能培养应成为肿瘤学教育的组成部分，使肿瘤科医生不仅能够安全使用AI，还能解释、情境化并批判性塑造其在以患者为中心的癌症照护中的整合方式。
人工智能（AI）在肿瘤学中的应用
人工智能正在医疗领域快速扩展，肿瘤学与AI的融合有望重塑癌症诊疗、科研与临床工作流程。随着基于AI的工具逐步进入病理图像分析、治疗反应预测等日常流程，肿瘤科医生的角色正从单纯使用者转变为与AI协同工作的知情合作者。作者指出，新时代的肿瘤科医生不仅需要会使用AI，更要理解其原理、局限与在临床决策中的增益作用，从而确保技术创新真正转化为患者获益。与此同时，AI是否改善结局，不仅取决于技术性能，也取决于患者对其理解与信任。
文中提到，关于临床AI可信性的问题已在多个伦理与报告/评估框架中被广泛讨论，包括世界卫生组织（WHO）指南、CONSORT-AI、SPIRIT-AI、DECIDE-AI、TRIPOD+AI以及FUTURE-AI共识指南。本文并非全面综述实施挑战，而是将若干既有原则转化为肿瘤科医生在评估、沟通或监督AI工具时可直接理解和应用的实践概念。
癌症路径中的AI应用已出现于筛查、病理、放射学和内镜等狭义任务，但尚未普及到完全整合的肿瘤学决策。现有案例包括乳腺筛查试验、皮肤癌分诊系统、结直肠腺瘤检测系统以及前列腺病理工具等。未来，AI可能进一步支持肿瘤分级、分期、生物标志物定量、治疗推荐、复发与毒性预测、可穿戴设备监测，以及面向患者的教育、症状追踪和依从性支持工具。更高级的代理式AI（agentic AI）系统甚至可能在临床医生监督下，基于纵向多模态数据和医学指南协助患者路径中的部分环节；AI也可能用于临床研究，包括试验招募、模拟对照臂、药物发现和生物标志物识别，同时通过环境式AI（ambient AI）减轻文书、编码、排班、资源分配和文献整理等行政负担。
这一广泛应用前景提示肿瘤学需要专门的AI标准。欧洲肿瘤内科学会（ESMO）已提出基于AI生物标志物的基本要求（EBAI）和大型语言模型临床实践使用指南（ELCAP），分别用于界定AI生物标志物类型及其临床采纳所需证据，并为大型语言模型（LLM）的安全使用提供指导。
患者信任与肿瘤学中的AI素养
标准、治理与性能优良的工具只解决了临床采纳的一部分问题，另一部分在于患者是否愿意接受AI参与其诊疗。调查显示，公众对AI的兴趣与谨慎并存：仅3%的受访者完全信任AI做出准确且无偏的医疗决策，16%完全不信任AI；约三分之一的人对AI辅助诊断（33%）或治疗（36%）仍持犹豫或不接受态度。
接受度的主要分界并非人口学特征，而是教育程度，尤其是自我报告的AI理解水平。对AI辅助诊断感到放心的比例，从“完全不了解AI”的32%上升到“了解良好”的93%；对AI的信任和总体正面态度也呈现类似梯度。在控制年龄、性别与族裔后，这一关联仍然存在：AI理解每提升一个等级，接受度约增加2.5倍。对消费级AI应用的较高接触，也与更高的信任和舒适度相关，提示AI接受度并非固定不变，而可能随着熟悉度和理解加深而提高。
这意味着肿瘤科医生处于负责任整合AI的中心位置。老年受访者既最愿意接受AI辅助诊断，也最不可能自认对其有良好理解，因此弥合这一认知差距的任务落在临床医生身上。作为患者最信任的解释者，肿瘤科医生是AI工具与患者之间最自然的桥梁。然而，要完成这一角色，必须具备足够的AI素养，能够清晰解释工具、情境化其输出，并建立患者信任所依赖的理解基础。患者最看重的正是这一点：61%的受访者表示，清楚说明AI工作原理会提高其在医疗中的可接受度。
AI工具的伦理与解释性监督
肿瘤科医生需要对所使用的AI工具保持伦理与解释性监督。随着AI深度嵌入肿瘤学实践，临床医生必须将专业能力扩展到新型临床工具和方法上。正如医生需要清晰说明癌症治疗的风险、获益和作用机制，现今也必须理解并解释AI模型在患者照护中的功能、输出与局限。作者以患者导向的病理门诊为类比指出，如果临床医生能帮助患者理解并情境化AI衍生信息，将有助于提升透明度与信心。
对AI模型训练方式的基础理解同样关键，因为这有助于识别可能影响临床决策的偏倚来源。同时，肿瘤科医生还必须监督患者数据在AI工具开发和验证中的使用方式，确保数据处理发生在符合严格安全与治理标准的平台上。为说明这些原则，作者以一个用于乳腺癌辅助治疗推荐的概念性AI工具为例，整合病理、影像、分子数据和临床报告。
随着治疗方案日益增多、患者又被越来越多的生物标志物细分，AI有望帮助临床医生综合多模态诊断和临床数据，推荐个体化且及时的治疗方案。文中强调了概念性AI工具的关键设计特征：临床可解释性与可审计性、公平性以及安全的数据处理。这些元素都需要AI开发者与临床医生持续监测，并依赖稳健的监管框架来推动责任导向的整合。
“AI会取代临床医生”
患者最突出的担忧之一，是AI可能取代而不是辅助临床医生。约三分之一表达担忧的受访者主动提出，应由人类专业人员掌控并监督AI输出；另有相当一部分担心癌症护理中的人文关怀会因此丧失。患者普遍强调，AI应与人类医护专业人员协同使用，而最终决定必须由合格临床医生作出。因此，患者并非拒绝AI，而是要求肿瘤科医生作为责任主体，持续监督、解释并在必要时推翻AI建议，这即是人类在环（human-in-the-loop）模式。
但要使监督真正有效，肿瘤科医生必须看见并判断AI为何得出某项推荐。若AI在接收临床数据后直接给出治疗路径，却无法解释其推理过程，就形成“黑箱”问题，临床监督将失去实质意义。对于乳腺癌患者而言，若AI建议化疗却不说明依据是肿瘤分级、分期还是基因组模式，医生便难以向患者背书。要安全地整合进肿瘤实践，AI工具必须达到与人类专家同等水平的论证和可审计性要求；这种透明性不仅关乎临床问责，也关系到患者对治疗逻辑的理解与信任。
当前AI开发常优先追求预测准确性，而非可解释性。文中区分了事后可解释性与内建可解释性：前者是模型训练后再对结果作解释，后者则是在模型设计之初就嵌入临床上有意义的结构。对于影像任务，常见的事后工具会高亮模型认为重要的区域，但这并不能保证其决策真正基于临床或生物学上有效的概念。多模态场景下，解释问题更为复杂，因为治疗推荐可能融合放射、病理、分子与临床报告等多源数据，临床医生看到的解释可能只是部分或误导性的信息，难以判断各模态在最终结论中的权重。
因此，作者主张AI应以肿瘤科医生本就使用的临床概念进行推理，并将决策过程显式表达为这些概念，从而实现实时监督并提高信任。以乳腺癌为例，这些概念包括分期、分级和增殖指数等标准生物标志物。基于此，作者提出概念瓶颈模型（Concept Bottleneck Model），即先从多模态数据中预测临床概念，再基于这些可解释特征生成治疗推荐。这样，肿瘤科医生可以直接审查、校正或覆盖中间概念，并据此更新最终治疗建议，从而形成可追踪、可审计的人机协作流程。
“AI可能有偏倚且不公平”
除人类监督外，AI可靠性与公平性也是患者最常见的担忧之一。受访者担心AI会出错、产生“幻觉”，或者对某些群体不公平。作者指出，这些顾虑并非空穴来风，因为AI开发中偏倚被编码进模型的情况已有充分证据。临床场景中，偏倚可能表现为分诊优先级错误、罕见癌症漏检，或临床试验资格推荐失真。
偏倚可在模型开发的多个阶段进入系统。首先是训练数据本身，若样本分布不均衡，模型往往会对代表性不足的人群表现较差，例如在浅肤色人群数据上训练的皮肤病分类器在深肤色或罕见病变上性能下降。其次是模型结构设计，不同架构对输入特征的侧重不同，例如卷积神经网络（CNN）可能更敏感于纹理而非形状，从而使某些临床特征表达方式不同的亚群体处于不利地位。第三是在部署阶段，当临床条件与训练环境不一致时，模型原先学到的偏倚可能被放大，表现为性能漂移（performance drift）。
缓解这些风险需要多种策略并行：开发者应使用大型、充分多样且具代表性的数据集训练模型，并使模型架构与训练策略与此目标一致；供应商与部署机构应合作对模型进行本地适配，例如使用反映当地人群、工作流程和人口学特征的回顾性数据进行微调。即便如此，作者强调真实世界部署中仍难以完全消除偏倚，因此在整个部署周期内持续、严格地监测偏倚与公平性是必要的。
原则上，可通过回顾性分析不同亚群的错误来识别偏倚，但实际操作常受限于缺乏可靠的临床真实值，尤其是在复杂或多学科病例中。因此，部署后的性能评估往往难以精确完成。更重要的是，只有在事后发现偏倚本身也具有伦理局限：这意味着已有部分患者未从AI中受益，甚至可能受到不利影响。
对此，作者提出应将不确定性沟通前移至患者个体层面。AI系统应在每项推荐旁提供明确的置信度估计，使肿瘤科医生判断输出可信度，并决定是否采纳。若不确定性较高，系统可自动触发升级路径，如高级临床医生复核或追加检查，从而增强安全性。若特定亚群持续呈现较高不确定性，则提示可能存在系统性偏倚，促使开发者通过更具代表性的数据重新训练模型或调整设计。
此外，AI不应只给出单一推荐，而应报告各治疗方案成为最佳选择的概率。然而，这些概率是模型估计值，未必等同于真实临床概率。对于训练集中代表性不足的罕见病例，模型可能表现出不恰当的过度自信，类似大型语言模型在证据不足时仍给出看似合理但不真实的“幻觉”。因此，在临床部署前必须采用概率校准（probability calibration）和保形预测（conformal prediction）等方法，使概率与真实疗效更一致，并增强安全保障。
“AI无法保障数据安全”
患者对个人健康数据安全与隐私的担忧同样显著，主要集中于数据泄露、未经授权访问，以及记录被私营公司共享或出售。对于参与AI系统共设计或数据提供的肿瘤科医生而言，必须确认这些流程符合严格隐私法规与伦理标准。更广泛地说，临床医生应确信所用AI工具能够保护患者数据，并了解将敏感健康信息输入外部系统的风险。
在数据采集与模型训练阶段，核心挑战在于临床数据本身具有可识别性。将这些数据汇聚起来训练大规模AI模型，会带来显著的隐私泄露和未经授权访问风险，因此需要强有力的保护措施与透明治理。安全的AI开发还依赖于数据满足FAIR原则，即可发现、可访问、可互操作、可重复使用，并配备统一元数据、共同数据模型、来源追踪和清晰的数据质量检查。
联邦学习（federated learning）是在训练阶段应对安全问题的有前景方案。在这一架构中，患者数据保留在本地机构，仅模型更新或汇总结果被发送至中央节点进行聚合，从而降低患者信息跨机构泄露的风险，并使机构保有对自身数据资产的控制权。尽管联邦学习仍在发展且需要严格治理，但它提供了切实的技术解决路径。不过，当临床数据高度异质时，联邦学习仍存在开放性挑战，因此与其配套的不确定性量化方法也需在本地及多中心环境中谨慎评估后再使用。
作者还指出，已出现一些实践尝试，例如构建联邦和隐私保护基础设施以支持多机构健康与生物医学数据安全利用。对于点位使用预训练AI模型的肿瘤科医生和患者而言，通用系统（如ChatGPT）虽便于信息总结与临床问题回答，但若脱离机构治理，责任将转移给个体用户，风险包括将敏感信息输入提示词、模型版本与检索流程不透明、缺乏本地验证、提示模板与输出格式不标准、审计轨迹不足以及机构监督薄弱。因此，此类工具应视为信息辅助工具，除非其运行于经批准的临床治理与数据处理框架中。
更安全的实时临床应用模式更可能依赖机构治理架构：如部署于医院服务器或私有云的本地开源权重LLM，或由技术合作伙伴在明确合同、技术与审计控制下提供的中心化系统。这些架构可支持路径聊天机器人、环境式AI、临床记录自动书写、肿瘤决策支持界面，以及从临床记录中提取结构化信息用于研究或试验筛选。其优势在于对数据权限、模型版本、提示模板、输出格式、日志记录和人工复核有更强控制；但也需要投入安全IT基础设施、电子病历整合、网络安全、采购、临床验证、模型监测和责任界定。
总体而言，数据安全并非单个AI模型的属性，而是整个部署架构的属性。未来路径不仅取决于技术，也取决于机构治理、政策与监管，临床医生也应参与AI监管设计并要求技术公司严格合规。
负责任整合AI的监管框架
AI进入肿瘤门诊还会引出责任与法律问题：最终决策是否仍由临床团队承担？若AI预测失误或“幻觉”被采纳，责任由谁承担？工具开发者或监管者应承担多大责任？为回应这些问题，国家与国际层面的监管框架正在形成。欧盟AI法案（EU AI Act）第13至15条明确要求透明、人类监督及不确定性量化；若工具属于医疗器械，则欧盟医疗器械法规同样适用；BS/AAMI 34971:2023则为采用机器学习（ML）的医疗技术提供了风险管理指引。英国也已设立新的国家委员会，推动制定加速安全接入医疗AI的监管规则。
监管、治理与指南在AI工具进入临床前的严格验证中将发挥关键作用。患者也明确希望看到这一点：调查中，证明工具经过测试且安全，是第二常见的可接受条件，获得70%的支持。美国食品药品监督管理局（FDA）已发布良好机器学习实践（Good ML Practice）原则，英国也已建立评估医疗AI使用的新标准。AI系统部署后的持续监测同样不可或缺，以确保长期安全有效。作者据此指出，应进一步强化上市后监测和不良事件报告机制。
在稳健监管框架完全建立之前，肿瘤科医生需要主动寻找实践指南，并与已有AI使用经验的同行建立联系与共同规范。例如，某些经批准的AI工具已促使专业协会建立实践社群，以便共享经验并制定安全使用指南。因此，在国家监管成熟前，肿瘤科医生可能需要带头形成类似社群，为AI在癌症照护中的负责任使用设定共同标准。
为AI整合做好肿瘤科医生准备
随着AI技术不断演进，其进入肿瘤学几乎不可避免。为当前及未来肿瘤科医生做好准备，需要结构化且务实的培训。作者指出，AI涵盖广泛方法，肿瘤科医生需要熟悉相关术语。许多机构和学术组织已提出将AI教育纳入肿瘤学培训体系的框架，这些项目不仅要传授技术与理论知识，也要涵盖伦理、法律和沟通问题。
在哈佛医学院等机构，生成式AI已被引入医学病例讨论，用以帮助学生理解AI与人类协作的复杂决策过程。作者认为，早期让学员亲手使用生成式副驾驶（copilot）式工具作为临床决策支持，并系统讨论其风险（如幻觉），将有助于增强医生未来使用这些工具的信心。
培训还必须在促进AI协作与保持独立临床推理之间取得平衡，以降低自动化偏差（automation bias，即过度依赖AI而忽视其局限）和技能退化（deskilling，即因过度依赖AI而导致临床技能弱化）的风险。鉴于技术迭代迅速，持续教育至关重要，肿瘤科医生应能通过在线学习等便捷方式不断更新能力。作者设想，未来医生可能需要定期接受AI理解及其临床含义的评估，类似病理学中的外部质量保证体系。
以患者为中心推动AI驱动的肿瘤学转型
本文总结了AI在肿瘤学中的多种潜在用途，涵盖临床决策支持、减轻行政负担以及患者支持与参与工具。通过乳腺癌治疗推荐系统这一示例，作者讨论了透明性、偏倚和安全性等关键概念，以及AI领域正在发展的应对方法。
未来，肿瘤学中的AI系统可能类似初级临床医生：可以提出治疗选项，但必须同时给出支持证据、推理过程和置信水平。这样，资深肿瘤科医生便可在与患者协商的基础上批判性评估、质疑或覆盖AI建议，从而保持以患者为中心的人类在环模式。当前，LLM在临床中的应用仍受其作为通用AI工具的定位限制，因为医疗场景中的AI工具必须具有明确且狭窄的用途。然而，这也引出一个哲学问题：肿瘤科医生的角色是否会逐渐转向通过精确提示词引导基于LLM或代理式AI的系统，从而在复杂临床场景中塑造其输出。
随着AI愈发深度嵌入癌症照护与研究，其整合必须真正服务于患者最佳利益。患者应参与AI生命周期的各个阶段，包括工具设计、临床部署与测试、监管框架制定以及肿瘤学教育。作者指出，截至2022年，只有22%的临床AI工具在开发全过程中持续纳入临床医生参与，多数只是开发完成后才征询意见。未来肿瘤学的发展不只是技术进步的结果，更取决于肿瘤科医生与患者的协作。计算机科学研究者也在其中承担关键作用，即为临床医生提供理论基础与实践技能，使其能够自信地评估、共设计并实施AI系统。在这种高度协作的框架下，肿瘤科医生将被赋能，把技术进步转化为真正改善癌症照护与患者结局的创新。
