数字病理学中可解释人工智能的方法学解读：过去十年（2015–2026）276项研究的系统综述

《Patterns》：Interpreting interpretable AI in digital pathology

　　

数字病理学（digital pathology）已成为现代肿瘤学的重要组成部分。先进成像与染色技术加速了人工智能（AI）的整合。此类方法虽可实现自动化临床分析，但其可解释性的缺失可能成为可信部署与法规合规的瓶颈。本文对过去十年（N=276，2015–2026）数字病理学中的可解释AI方法与应用进行了全面综述。与既往研究不同，本文采用以方法学为中心的视角，提出可解释AI方法的系统分类体系（taxonomy），将其划分为设计即可解释（interpretable-by-design）与事后（post-hoc）技术两大类。在每一类别内，进一步依据其在关键数字病理学问题与应用中的效用进行分析。本文另附一份关于可解释AI的技术手册（technical handbook），供希望深入了解方法本身的读者参考。通过回顾现状、指出局限并勾勒潜在未来方向，本综述旨在加速AI在真实临床环境中的可信应用。

引言部分指出，成像、扫描与存储技术的进步使传统病理学进入数字化时代，苏木精-伊红（H&E）染色组织切片被数字化为千兆像素级的高分辨率全切片图像（WSI），可捕捉细胞、血管等生物结构的形态、纹理与空间组织特征；多重蛋白组学与空间转录组学等新型 profiling 技术进一步拓展了信息捕获能力。数字病理学亦推动了切片的计算分析及其与人工智能（AI）的整合，部分AI辅助诊断系统在多项任务上已达到专家级表现，可减轻病理医师工作量、缓解观察者间变异，并应用于生存预测、治疗获益人群筛选、个体化治疗方案制定及生物标志物发现。然而，AI系统的复杂性与可解释性之间存在内在权衡：现代深度学习技术虽性能优越，却常被视为“黑箱”。这种不透明性在医疗与临床应用中尤需警惕，可解释性虽非总是明确的监管前提，但常为期望特性，能直接增强用户信任；同时，可解释性正成为AI监管的新兴需求——欧盟《通用数据保护条例》（GDPR）赋予数据主体获知算法决策解释的权利，经济合作与发展组织（OECD）AI原则明确将透明度与可解释性列为核心原则，美国食品药品监督管理局（FDA）发布的《机器学习赋能医疗器械透明度：指导原则》强调模型的“逻辑”在可得时应清晰传达给相关受众。鉴于可解释AI在数字病理学中的重要性与复杂性，既往综述多截至2020年，或聚焦于多示例学习（MIL）等特定方法、临床使用、利益相关者需求、用户评估及工作流程整合等视角；本文则采取以方法为中心（method-centric）的路径，对可解释AI方法进行系统分类并映射至数字病理学应用，阐释其相关性、用法与局限。文中将可解释AI方法大致分为设计即可解释与事后技术两类，并依据其基本机制进一步分组；正文对方法描述保持简略与高层次，侧重其与病理学情境的关联并举例说明，附录则提供同一分类体系下的深入技术背景。全文结构安排为：首先概述分类体系及所涉疾病与任务的统计；随后依次讨论设计即可解释模型（含经典机器学习、注意力机制、原型模型与先验知识引导模型四个小节）与事后解释技术（含归因方法与潜在空间理解两个小节）；继而分析研究局限，最后进行讨论与总结。文中特别说明，可解释性（interpretability）、可解释性（explainability）、可解释AI（XAI）与透明度（transparency）等术语在文献中常互换使用，其区分微妙且不明确，本综述不作具体区分。摘要主体部分首先介绍分类体系概览：该综述基于Web of Science（WoS）的结构化定量文献检索与人工筛选，最终纳入2015年至2026年7月1日的276篇文献。所涉研究绝大多数聚焦肿瘤学，86.2%针对原发肿瘤（含浸润性癌与癌前病变），乳腺癌、肺癌与结直肠癌研究最多，另3.6%涉及癌症转移（以乳腺癌淋巴结转移最常见），10.2%涵盖炎症性疾病、感染性疾病与阿尔茨海默病等其他疾病。研究按主要任务分为五个临床相关主题：诊断（检测疾病存在、分类亚型/分级/分期或识别转移来源）、预后（预测生存与治疗反应、发现预后生物标志物）、组织与细胞分析（分割、分类与量化细胞核、组织及其他病理特异性结构）、分子与遗传 profiling（从组织病理图像直接预测基因表达、突变状态、甲基化模式与基因组不稳定性）以及其他任务（如无监督表征学习与合成病理图像生成）；这些类别相互关联，如肿瘤浸润淋巴细胞（TIL）与三级淋巴结构（TLS）等病理特异性结构的检测常支撑预后任务，部分诊断任务亦借助分子与遗传 profiling。最后，研究聚焦可解释性方法，将其大体分为设计即可解释（从头即以可解释方式构建）与事后解释（适用于一般黑箱方法）两类，每类依基本机制细分，并给出方法在各疾病与任务中应用频率的概览。

设计即可解释模型部分指出，此类模型采用本质上可解释的架构或算法设计，涵盖从经典白箱简单模型（线性模型、决策树）到含特定可解释组件的复杂深度学习模型（注意力机制、原型层、先验知识引导规则），并综述四类代表性原理。其一为经典机器学习（ML）预测器：此类模型参数少、决策规则简单、推理过程透明，如逻辑回归、支持向量机（SVM）、Cox比例风险模型、线性判别分析（LDA）与决策树；随机森林与XGBoost虽因集成策略非完全可解释，仍属近白箱模型，可借助Gini不纯度与分裂增益等模型专属技术提供特征重要性排序。由于经典ML无法直接处理高维图像，常需大量特征工程，所提取特征多为生物实体的定量描述，即人类可解释特征（HIF）：先分割细胞核、导管、腺体、滤泡、肾小球及各类组织等生物实体，再测量其几何、颜色、强度、频率与密度等定量特征，并以均值、方差、偏度、峰度、熵、直方图及数量比值等描述性统计概括整幅图像；实体空间组织亦常被测量，尤其用于免疫 profiling，如肿瘤与免疫细胞的空间交互及TLS的空间排布，常借助图论将细胞、腺体等表示为节点、以边编码物理或语义邻近性，并计算节点度、中心性与模块度等图统计量；提取此类HIF时常用QuPath、ImageJ、HistomicsTK、CellProfiler与PyRadiomics等现成算法与工具箱。部分特征直接受临床指南与领域知识启发，如依据国际心肺移植学会（ISHLT）指南提取154项与淋巴细胞密度、方向及空间排布相关的定量特征以预测心脏移植细胞排斥，依据美国临床肿瘤学会/美国病理学家学会（ASCO/CAP）关于乳腺癌CerbB2/HER2评分的推荐量化环周膜染色强度与完整性并构建基于规则的模型预测HER2状态，以及依据Bethesda指南量化上皮内淋巴细胞、黏液成分与TLS并以逻辑回归和随机森林预测结直肠癌微卫星不稳定性（MSI）；亦有研究反向而行，先以QuPath与PyRadiomics提取HIF、识别最重要特征，再经肿瘤学家与病理学家小组验证的病理组学词典映射回公认的病理生物学性状。此类系统虽设计上可解释，但能否达到复杂深度神经网络（DNN）的预测性能仍是问题，由此引出“灰箱”模型——采用现代深度学习框架但融入特定可解释模块或原理——作为折衷方案。其二为注意力机制：在综述的全部可解释性技术中最为普遍，出现于105篇论文（38.0%）；其广义上对特征进行加权聚合，权重随输入自适应并为特定预测任务学习，自然指示输入中最相关的成分并以显著性图呈现，既可作为提取特征的驱动机制（如视觉Transformer，ViT），也可作为灵活插件模块（尤见于MIL与图神经网络，GNN）。注意力在数字病理学中主要经MIL广泛使用：WSI规模巨大（数千兆像素），需先切分为小块，自然契合以小块为“实例”、整张WSI为“包”的MIL框架，模型在无法获取实例标签的情况下预测包标签，此情境下的可解释性即识别驱动切片级预测（如是否存在癌）的关键小块（如含癌细胞者）；早期MIL方法假设包内至少一个实例阳性则包阳性，采用“先预测后聚合”策略，实例级预测分数直接反映小块重要性，其后向嵌入空间的扩展虽提升性能却使解释不再直接，注意力MIL通过以实例特征的可学习函数为权重的加权平均聚合实例特征予以解决，特征编码器、注意力模块与分类器端到端训练，使模型对与预测任务相关的小块赋予更高权重；注意力MIL已成为数字病理学的主导范式，近期趋势是以病理基础模型（如UNI、CONCH、ProvGigaPath）作为冻结的小块编码器替代ImageNet预训练的卷积神经网络（CNN）骨干。注意力的另一流行应用是与GNN结合：组织病理图像被建模为图，节点表示小块、细胞、腺体或组织区域，边编码空间或语义邻近性，节点特征经消息传递聚合邻居信息后池化为图读出并输入分类器，注意力以类似MIL的方式将图读出表述为节点特征的可学习加权平均，其权重生成突出重要节点与子图的显著性图；图注意力网络（GAT）将注意力整合进消息传递过程以突出节点分类中的重要邻居，目前在文献中使用有限但具潜力；注意力作为图读出策略已应用于多种癌症的诊断、分子 profiling、肿瘤微环境分析与生存预测。此外，自注意力是ViT的核心机制，其将图像切分为小块并编码为 token，经多层多头编码器块处理，每个注意力头生成的注意力矩阵量化小块间的信息流，权重随ViT参数一同学习并指示任务相关的小块间相关性，跨层检视可了解各层影响预测的区域并找出最相关部分，ViT正日益用于肿瘤检测、分型、分级与基因表达状态预测。注意力亦用于MIL、GNN、ViT三大框架之外的架构：长短期记忆（LSTM）等循环神经网络（RNN）中注意力动态加权图像特征以服务于诊断与病理报告生成；CNN中注意力为不同特征通道学习权重并赋予任务相关通道、空间区域与卷积块更高权重；部分工作采用双分支交叉注意力连接局部小块细节与周边区域上下文；注意力亦用于多模态学习以理解不同模态间的相关性，如将组织病理图像与病理报告或影像学特征配对、以额外模态作为查询选择病理图像中最相关区域，更常见的框架是将图像与分子数据（尤其 bulk RNA测序基因表达数据）结合，使形态学特征锚定于分子机制。其三为基于原型的模型：通过类似基于案例推理（case-based reasoning）的过程实现可解释性，即通过识别训练样本中先前见过的熟悉模式（原型）对新样本作出决策，原型可以是代表性样本、训练样本簇乃至可学习向量，其定义与生成通常依应用情境调整。经典原型模型为视觉词袋（BoVW）模型（亦称局部特征袋），将训练图像（如WSI提取者）的局部小块聚类，每个簇即编码独特局部视觉模式的原型或“视觉词”；类似原型思想亦见于作者自身的BiGraph方法，其通过构建细胞图建模乳腺癌患者肿瘤微环境以从多重病理图像中发现生物标志物，提取并聚类子图形成不同细胞模式，每位患者表示为这些模式的直方图以用于下游风险分层，最终发现生存结局不同的患者亚组可由特定细胞模式的丰度解释，从而得到候选预后生物标志物。原型亦可定义为代表性训练样本：一项非典型乳腺病变诊断研究基于多位病理学家共识构建由代表性感兴趣区域（ROI）组成的原型集，以预定义距离函数将新ROI与各原型比较，再以广义线性模型预测类别标签，线性系数指示各原型对预测结果的正负贡献；相关但具对比性的变体则从两类中检索与新病例相似的稀疏训练图像集——与模型预测类别相同者（支持性证据）与相反类别者（反驳性证据），使临床医师可直接将新病例与支持及反例比较。原型原理亦被整合进现代深度学习架构，尤与MIL框架结合：证据字典网络与ProtoMIL均将WSI切分为小块、经特征编码器映射至潜在空间，并构建由一组可学习向量（Uehara等称证据字典）组成的原型层，每个向量对应一种组织学模式，小块与之比较得到相似度分数，再聚合为WSI级预测，决策即被解释为既定原型的出现；训练时特征编码器、原型层与分类器端到端训练以确保学习任务相关原型，两项研究均在目标函数中加入正则项以促使学得原型具有有意义的视觉模式——Uehara等引入字典损失促使小块围绕原型聚类、并引入对比损失使外观相似的小块映射相近，ProtoMIL则设计聚类损失确保每个学得原型至少与一个训练小块相似；二者概念上与著名的原型部件网络（ProtoPNet）高度相关并适配于MIL设定。较新的PTCMIL将全局原型扩展为切片特异原型以更好捕捉数据集异质性，按切片聚类小块并以加权平均计算簇质心、权重针对特定预测任务学习；ProtoTree-MIL将原为常规尺寸自然图像设计的ProtoTree扩展至千兆像素WSI，构建软决策树，每个内部节点表示一个可学习原型、路由准则取决于WSI与原型相似性，鉴于单张WSI可含数万小块，该方法以注意力机制将小块特征聚合为包表示再与原型比较，内部节点编码的原型与注意力权重端到端训练，训练后通过检索训练集中最近的真实小块可视化原型；该方法已应用于淋巴结转移检测、非小细胞肺癌（NSCLC）分型、肾癌分型及胃炎与胃癌分类等多项诊断任务。原型原理亦可应用于比单个小块所定义局部形态更粗的粒度，甚至以整个患者病例为比较单元：一个框架利用WSI与免疫基因组学 profile 联合表示患者，通过从队列中检索多模态 profile 相似的其他患者以支持新病例决策；近期该原理还被扩展至提示大型多模态基础模型，即在提示基础模型推理新查询图像前，检索相似且带标签的图像-诊断对作为支持集加入提示作为上下文，显著提升回答质量。综上，尽管具体表述与应用任务各异，本节所述原型方法均遵循“此（样本）看起来像彼（原型）”的简单思想，此类可解释性契合人类直觉，因为人们常基于与经验和先验知识的类比作决策；许多工作亦与更广泛AI领域的经典原型方法（如字典学习、ProtoPNet与ProtoTree）概念相关。其四为先验知识引导模型：将已知证据、临床指南或生物学假设整合进模型设计的不同阶段（从特征工程到架构设计、优化与后处理），此类先验知识常施加约束以确保模型决策与既定规则一致，从而自然增强可解释性。一种标准用法是以先验知识引导特征工程与选择，确保模型基于具临床意义且人类可理解的特征训练，如诊断模型常用细胞形态学特征，预测患者结局时则常纳入TIL与坏死等特征的量化，这些选择基于生物学洞见、主流临床实践与研究假设。先验知识亦可作为流程设计原则，促成更可控可解释的决策过程：两项相关工作通过分解子问题预测宫颈上皮内瘤变严重程度——先预测四种临床属性（湿疣、细胞极性、细胞拥挤与核多形性）的严重程度，再以这些中间分数训练最终预测器，此思想与概念瓶颈模型（CBM）相契合；概念相关的方法还有潜在空间解耦，即Wu等将病理图像投影至三个独立潜在空间（分别编码组织背景、细胞存在与细胞密度），三者特征结合以检测TIL，最终预测可归因于各特定潜在空间；CoD-MIL则将思维链方法用于基于WSI的癌症诊断，模仿（尽管较为松散）病理学家的逐步诊断过程：先在低倍率定位肿瘤区域，再放大进行更精细定位，最后在高倍率捕捉详细局部特征，每一步由大型语言模型（LLM）提供文本病理学指导并用于视觉-语言对比学习模块；另一工作亦以LLM注入先验知识，但于决策融合阶段而非上述分阶段定位，其训练若干独立视觉模型后由LLM仲裁其预测并生成最终决策的自然语言论证；这些工作虽仍基于复杂深度学习架构，但人为定义且可解释的中间步骤使其较标准黑箱模型更可解释。对于有临床规程的问题，先验知识可编码为预测模型中的显式或隐式规则：如Mantrala等构建模拟手动Nottingham分级系统（NGS）的乳腺癌分级模型，分别分割并量化三个关键成分（小管形成、核多形性与核分裂计数），再严格遵循NGS标准聚合为最终分级；乳腺癌HER2评分方面，Pham等构建遵循ASCO/CAP临床指南的模型，先将小块分为四个HER2类别（0、1+、2+、3+），再依指南推导切片级评分（如若≥10%肿瘤细胞被判为3+则切片评分为3+），训练中算法识别导致切片级预测错误的潜在误分类小块并在下一轮训练中对其加权；干燥综合征诊断方面，其有确立的组织病理学规则（约4 mm²腺体组织内淋巴细胞聚集超过50个），Zhang等构建模拟临床流程的管線，包括细胞检测、淋巴细胞空间聚类与阈值化，并将阈值锚定于实际临床定义而非仅依性能调优的自由参数。其他工作以较软、较不显式的方式纳入临床原则：一项研究在预测三阴性乳腺癌（TNBC）患者对新辅助化疗的病理完全缓解（pCR）时，通过注意力对Ki67与PHH3双阳性肿瘤细胞区域赋予高注意力权重，模仿病理学家对富集活跃增殖肿瘤细胞热点区域的关注；另一例为基于临床Bethesda系统的自动宫颈癌筛查框架，先将异常细胞分类为具临床意义的类别，再遵循人类病理学家的决策逻辑——先检查鳞状细胞癌，再查高级别病变，最后查低级别病变，训练后的模型生成由一系列“if-then”陈述组成的人类可解释决策规则。总之，先验知识可在模型开发的不同阶段以多种方式整合，为复杂模型引入可控且可解释的组件，这些组件可为用户定义特征、特定预测机制、显式硬编码规则以及软性纳入的原则与假设，体现了数字病理学界使AI模型更贴合临床且更可解释的努力。

事后解释技术部分指出，此类技术试图解释已训练且通常不透明或过于复杂而无法直接解读的模型的决策过程，其运行原则是不改变已训练模型的预测，从而避免为可解释性牺牲预测能力（此可为设计即可解释方法的缺点），但仅凭事后解释推断预测机制的能力较为有限；本节将近期事后方法分为两类：将模型决策归因于特定输入部分的归因方法（attribution methods），以及分析潜在表征以刻画有意义结构与模式的方法。归因解释旨在回答模型作出预测时聚焦于输入何处，其“何处”的单元取决于输入格式、数据类型与分析分辨率（如图像模型通常为像素、表格数据可为列，文中以“特征”统称该单元层级）；不同方法从不同视角作答：以输出对特征变化的敏感性定义特征重要性者得梯度法，以遮挡或扰动特征是否影响模型输出定义重要性者为扰动法，以近似模型行为的规则逐层传播贡献以重新分配预测分数者为分解法，以较简单模型近似复杂模型以解释其预测者为代理法。其一为梯度法：依文献统计，其为所有事后技术中最常见的子类，主因灵活性与计算效率，通常对模型架构无要求或要求极低，因梯度可经链式法则与反向传播在PyTorch、TensorFlow等现代框架中便捷计算；早期朴素梯度（简单以特征梯度为重要性指标）仍见于近期工作，积分梯度沿从基线到输入的路径对梯度积分以稳定并平滑结果，广泛用于多样任务与疾病；相当一部分梯度法属类激活图（CAM）家族，包括Grad-CAM、Grad-CAM++、引导Grad-CAM与score-CAM，此类方法亦计算梯度，但针对某中间层计算的特定特征（通常为高维张量，即激活图）进行，激活图的每个通道可视为特定视觉模式的检测器（含此模式的输入导致强激活条目），激活图按通道重要性（即模型输出梯度）加权后跨通道平均，不同CAM变体公式略有差异；CAM方法尤以Grad-CAM在多种疾病与临床任务中广泛使用。其二为扰动法：在收集文献中为归因技术中第二常见，其以受控扰动版本的输入（如遮挡图像某区域或打乱表格某列）评估模型并以输出变化作为重要性指标；相较梯度法实践中使用较少，主要因计算效率——扰动与重跑通常重复多次，在输入特征维度上有时呈指数级；其中，Shapley值（SV）方法最受欢迎，因其满足一组公平分配贡献的理想（公理）性质，实践中因精确SV计算成本过高，多数研究采用Shapley加性解释（SHAP）以近似（且更快的）SV，SHAP可应用于图像生成显著性图，亦可应用于HIF以提供特征重要性排序；在数字病理学情境下，SHAP已用于解释黑箱模型预测结直肠癌MSI、评估肿瘤细胞度并预测乳腺癌BRCA1/2突变、淋巴瘤分型、缺血性卒中诊断、前列腺癌分级及胃癌免疫治疗反应预测；其他扰动法亦偶有使用，如遮挡敏感性用于前列腺癌检测、前列腺癌分级与肝细胞癌生存分析，分层扰动用于子宫内膜癌检测，基于优化的扰动用于NSCLC生存分析；一项相关方法确定维持MIL模型预测所需的最小WSI区域，作为注意力权重与基于CAM的显著性图的替代。其三为分解法与代理法：此类事后方法在数字病理学中较少见，收集文献中有两项工作使用逐层相关性传播（LRP），其一将DNN输出逐层追溯至输入图像以突出乳腺癌与肺癌诊断的重要区域，其二将LRP与Grad-CAM和score-CAM结合用于胃癌组织分类；局部可解释模型无关解释（LIME）是收集文献中最常用的代理方法，以可解释线性模型近似特定样本处的模型预测，已用于解释癌症检测、分型、分级与分子 profiling 的黑箱模型；除这些经典且现成的方法外，另一研究以含细胞大小、形状与纹理等可解释特征的决策树近似用于细胞核分类的深度学习模型，并将其视为原模型的代理。除上述分类外，对GNN等图模型的解释可不同于图像模型，因图不具规则欧氏结构、节点连接可不规则，但许多图解释方法为归因方法的直接扩展：GraphGrad-CAM是Grad-CAM面向GNN的扩展并已用于TLS成熟度预测，Graph-CAM与GraphLRP分别为CAM、Grad-CAM与LRP的直接扩展，与原版一样为图生成各节点获显著性分数的显著性图；SubgraphX是SHAP面向图结构的特化，旨在识别重要子图；GraphLIME将LIME扩展至图结构数据并已用于多癌种分型、分期与疾病检测；GNNExplainer采用基于优化的扰动方法识别重要子图与节点特征；与这些对既有节点或子图赋予重要性分数的方法不同，GNN-EGG为每个预测类别生成合成代表性图并度量其与输入图的相似性，已用于肺癌恶性检测；一项研究对GNNExplainer、GraphGrad-CAM与GraphLRP等图解释方法在数字病理学任务中进行基准分析，发现GNNExplainer总体表现最佳。多数归因方法对被解释模型无要求（如SV、遮挡敏感性、分层扰动与LIME）或要求极低（如梯度法需可微模型），故广受欢迎；对图像模型，其输出通常为与注意力机制所生成相似的显著性图，然而注意力虽为每个被关注小块赋予权重，其显著性图分辨率远低于输入，而事后归因方法为常规尺寸图像设计、生成的显著性图与输入分辨率相同或相近，实践中二者可互补使用，如注意力定位重要小块而归因方法进一步突出更细粒度结构（如单个细胞或像素）。需注意本综述的分类并非严格互斥，如随机森林与XGBoost等近白箱模型可进一步以模型专属技术（分裂增益与Gini不纯度）排序特征重要性，这些亦属事后归因方法，但因针对特定模型而非广泛适用，故置于经典ML预测器一节。潜在空间剖析旨在回答模型感知到什么，其对归因方法构成互补视角：不将预测结果与单个输入特征关联，而是分析DNN内部潜在空间以发现有意义的模式与结构作为模型解释；虽较归因方法探索更少，此视角在数字病理学中正日益受关注，可生成人类可理解的概念与洞见而非显著性图，更契合人类推理。理解潜在空间的直接方式是识别、可视化并概念化其结构，如使用主成分分析（PCA）、LDA、t分布随机邻域嵌入（t-SNE）与均匀流形近似与投影（UMAP）等降维技术，其中UMAP因试图同时保留全局与局部结构且计算高效而尤受欢迎；此类可视化有助于用户直观分析数据几何结构（如识别簇或轨迹模式），对构建人机协同系统很有帮助：PHARAOH是用于简化病理图像标注的协作众包平台，其采用人在回路学习框架——算法依潜在特征对图像分组，病理学家可视化流形、审查代表性样本并提供簇级标注，再以这些弱标签训练模型，其中UMAP特征可视化是关键组件，帮助病理学家理解并改进算法初始聚类；类似地，PathFlowAI中学得特征的UMAP可视化帮助病理学家理解、评估与排查模型在多种癌症不同诊断类别分离上的表现；除视觉识别外，簇亦可被赋予显式定量概念含义——一项研究对训练模型的嵌入空间聚类，并将每个簇与定量细胞核形态学特征（经细胞分割获得的形状、大小与纹理描述符）相关联，从而将抽象潜在簇转化为服务肝细胞癌判别的具体形态学概念。理解深度网络潜在空间表征的另一方式是将DNN中特定神经元、滤波器或通道与人类可理解的概念（模式、颜色、纹理与物体）关联，即神经元剖析；机器学习界已发展若干成熟方法（如网络剖析与CLIP-dissect），虽未被直接用于数字病理学，但若干工作采用类似思想：一项关于乳腺导管癌诊断的研究分析训练后DNN特定神经元的激活并收集激活分数最高的小块，病理学家审查这些小片后识别出共同形态学特征，认为许多神经元充当特定细胞与组织（如肿瘤细胞、淋巴细胞与胶原纤维）的形态学描述符；另一项关于虚拟染色与去染色的工作类似地分析训练后生成对抗网络（GAN）模型的激活图，发现特征学习的层级性——初始层检测组织几何、边缘及腺体与间质的粗略区分等低层特征，较后层则定义细胞核解剖排布等更高层结构；还有研究将每个神经元定义为编码特定形态属性的“形态基因”，测量神经元激活与细胞密度、免疫浸润等可量化形态模式的相关性，强相关指示该神经元与该特征的对应关系；这些工作显示神经元剖析方法日益受关注，而网络剖析与CLIP-dissect等许多现有技术尚待应用于数字病理学。除将每个神经元视为概念检测器外，更一般的方法是将概念视为潜在空间中的向量：Pathology GAN利用GAN为乳腺癌与结直肠癌图像学习潜在表征，发现潜在空间不同区域对应不同组织类型（如良性、恶性与间质），将概念向量定义为潜在空间特定区域中的点，并有趣地表明线性插值概念向量可在相应组织类型间提供平滑的形态学变换——沿良性至恶性组织向量路径采样时，生成图像显示癌细胞群逐渐增多；类似工作以对抗潜在自编码器将皮肤组织投影至潜在空间，改造著名的概念激活向量（CAV）思想以寻找在潜在空间中激活特定概念的方向，作者在潜在空间训练逻辑回归分离含或不含特定概念（如表皮）的图像，CAV定义为垂直于线性分类边界的向量，直观指向表皮存在性增加的方向；已有若干扩展以推广CAV，包括概念激活区域与自动基于概念的解释，其尚未在数字病理学中广泛使用但为有前景的工具。最后，CLIP等基础视觉-语言模型在可解释AI中日益重要，尤其用于理解潜在空间与提供概念解释：CLIP将文本与图像投影至共享潜在空间，带来内在可解释性，概念文本嵌入恰为前述CAV，图像中概念的存在性可简单通过计算图像嵌入与CAV的余弦相似度估计；在自然图像分析中，此思想已用于开发神经元剖析方法（如CLIP-dissect与TextSpan）、可解释概念模型（如事后CBM、无标签CBM与Labo）及事后概念解释（如x-SKIT）；领域专用视觉-语言基础模型（如PLIP、CONCH、BrainMD与mSTAR）数量日增，虽尚未广泛用作可解释性工具，但未来前景广阔。

研究局限部分评论了当前领域的三个关键局限：定义模糊、缺乏标准化评估协议与广泛采用方法的忠实性。其一为定义模糊：可解释性在广义AI与数字病理学界日益重要，但其定义与范围并不总是清晰或一致，解释预测模型所涉具体目标及达成目标的具体方法在不同情境下可差异很大，如归因方法旨在识别关键输入成分而潜在空间分析旨在刻画模型所学得并编码的任务信息，尽管讨论广泛，研究界仍无严格且公认的可解释性定义；已有若干广为认可的概念性定义——Doshi-Velez与Kim将可解释性定义为人类能一致预测模型结果的程度，Lipton将其框定为人类能理解决策原因的程度（二者均强调人类理解模型机制与推理的能力），Murdoch等则将其描述为从机器学习模型中提取关于数据中蕴含或模型所学关系之相关知识；然而这些定义仍较抽象，导致不同实例化与实现，使其在不同情境与终端用户下被形塑。在文献整理与检视中，研究者发现若干可能偏离可解释性核心理念的做法：常见一例是将特征选择方法（如最大相关最小冗余）视为可解释AI技术，特征选择旨在为构建高性能模型选择最有用特征，此目标确实与置换重要性等所述概念相关（后者打乱特征并测量性能下降），但关键区别在于解释对象——可解释AI根本上以模型为中心，寻求解释模型的决策过程或内部机制，而特征选择倾向以数据为中心，分析特征与目标变量间关系且不旨在解释任何特定模型；重要的是，通用特征选择提供独立于模型的数据属性群体级分析，而可解释AI提出以特定模型为条件的特征重要性主张；就此而言，研究者认为特征选择宜视为降低模型复杂度并隐式增强可解释性的一般数据预处理工具，但除非下游模型本身透明，所选特征并不直接揭示其如何被某预测模型内部使用。另一做法是将“原型样本”（预测分数最高与最低的实例）的可视化视为模型解释，此虽可帮助用户获得对模型行为的初步粗略感知，但仅可视化可能不完全算作解释技术，除非辅以进一步分析（如严格地将这些原型样本与可解释且可量化的特征关联），否则并不直接提取关于模型推理的额外知识；可视化典型样本或为有用起点，但其与上述可解释性概念间仍存实质差距。其二为缺乏标准化评估协议：即便设定了特定可解释性概念，对所生成解释输出的评估亦具挑战，因真实标签常不可得，在生物医学任务中尤甚；XAI界仍无普遍使用的解释质量评估协议，现有评估通常分四个视角——忠实性（保真度），衡量解释反映真实模型行为的程度；稳健性，衡量输入数据受扰动时解释的稳定程度；简洁性，评估解释是否足够简洁简单以被人类理解；以及基于人类的评估，评估解释与专家知识及人类直觉的一致程度。在所调查的数字病理学文献中，定性评估占主导，多数研究在描述层面将解释与专家洞见比较，如许多研究展示注意力机制或归因方法识别的显著区域与病理学家ROI相符，其他研究结合病理学家意见描述显著区域特征并讨论其生物学与临床合理性，例如肠化生诊断中的中性粒细胞与杯状细胞、胶质瘤生存预测中的坏死、密集肿瘤聚集与促结缔组织增生性间质、预测心脏移植排斥中的淋巴细胞浸润，以及基因突变预测中紊乱的增殖性血管成分或凝固型肿瘤坏死；某些情况下独立模态数据充当真实标签的代理，如BRAF突变预测任务中的免疫组织化学（IHC）；特征排序、寻找原型与获得预测决策规则等其他解释任务比显著性图更难评估，此类情形下作者通常仅就临床合理性提供简要评论，如Peyster等发现心肌隔室中淋巴细胞灶的计数与面积对预测心脏移植排斥重要（与ISHLT分级标准一致），Li等则发现肺癌生存预测最重要的原型为始终含淋巴细胞的小块；这些工作显示了对临床相关解释的兴趣，但判断与验证过程通常主观且难以复现，故结论常较弱。较少一子集研究进行了定量评估，在真实标签可得且可计算交并比（IoU）、F1分数、结构相似性指数（SSIM）或自由响应受试者工作特征（FROC）等标准指标时较为直接，此更常见于分类任务（如分类癌症存在与否、组织类型与细胞类型）；在无真实标签的更复杂情形下，评估有时间接进行，如一研究衡量同一图像出现在训练集与验证集时注意力图的一致性，将低一致性视为过拟合或解释不可靠的标志，另一研究在遮挡较不重要区域的图像上重跑训练后模型并计算性能下降。以人为中心的定量评估亦已开展，如一项盲法研究向领域专家展示显著性图与随机化对照并要求其依据任务相关区域突出程度排序，Ma等中初级病理学家在有与无显著性图辅助下诊断胃炎，以显著性图为参考时速度与准确性均提升，另一用户研究向病理学家展示仅有输入与预测输出的黑箱系统与含原型示例的可解释AI系统，并评估两系统在有用性、信任与可靠性方面的表现；这些方法显示了对解释效用评估的日益关注，但其高度异质且研究间基本不可比。相关关切是可解释性发现在不同队列与数据集间的可复现性：如前所述，几乎所有所调查评估无论定性定量均在用于开发模型的同一队列上进行，尚不清楚这些可解释性结果是否编码了数据集特异的偏倚与伪影，或相同结论在潜在域偏移（如扫描硬件、染色方案与患者群体差异）下能否推广至外部队列；仅少数研究明确探究此可复现性问题，如Zhao等量化同一图像出现在训练集与验证集时注意力权重的一致性并将低一致性视为解释不可靠的标志，但即使此分析仍限于单一队列；Wang等则通过将外部集中的细胞模式映射至发现集中识别的模式词典，在外部队列验证经可解释建模识别的预后生物标志物，但其分析严谨性仍受图像采集方案差异（尤其数据集间所用抗原 panel 不同）制约。这直接指向一个关键问题：缺乏具可解释性特异真实标签的标准化基准数据集以及公认评估指标，对快速兴起的基于概念的解释家族尤甚；无此则不同研究开发的可解释性方法及其结论难以直接比较。总之，AI预测器可解释性的评估仍是开放挑战——无论一般层面还是数字病理学应用中，标准化、严谨且情境感知的评估协议尚未建立；研究者认为就此类协议达成共识的设计与开发，至少与开发新的可解释性方法同等重要甚至更为重要。其三为最流行的方法可能并非最忠实：文献统计表明注意力机制与基于梯度的归因方法分别是设计即可解释与事后类别中最常用的两种方法，研究者认为此趋势很大程度上归因于这些方法易于加入现有流程——注意力机制内嵌于ViT且可便捷整合至MIL与GNN等其他流行框架，梯度解释则较多数事后归因技术计算更高效；然而须注意二者在忠实性、稳健性与稳定性方面均面临重大局限与批评。对注意力机制最直接的批评或来自题为“Attention is not Explanation”的论文，其经验性表明注意力权重在近乎相同的预测间可剧烈变化，提示其与模型决策无关；随后题为“Attention is not not Explanation”的论文挑战此结论，认为注意力有时可有信息量但并非在所有情境下自动忠实；Serrano与Smith亦通过展示高注意力正确located重要 token 的正例与未如此的「反例来证示这一点；广泛XAI界对此仍存大量争论，多数研究持保守观点，即注意力或具可解释价值但不应被过度解释为模型推理的忠实证据。基于梯度的解释面临类似批评：Alvarez Melis与Jaakkola表明朴素梯度与Grad-CAM等部分梯度法未通过一项基本稳健性测试——对输入的微小（随机或对抗性）扰动可剧烈改变梯度所得解释；Adebayo等亦发现包括GBP与引导Grad-CAM在内的许多其他梯度法对模型参数不敏感，即即使大幅或大部分模型参数被随机化，解释仍不变，支持了这些梯度技术并未反映模型自身多少信息的观察，他们进一步主张这些方法更像低层视觉工具（如检测边缘与角点）；在医学影像中，Arun等系统评估放射学图像病灶定位中常用的梯度法，发现包括朴素梯度、SmoothGrad、积分梯度、Grad-CAM、GBP与引导Grad-CAM在内的大多数方法未达到令人满意的表现。基于SV的方法作为事后归因技术亦受欢迎，其因对贡献公平分配的保证在理论上具吸引力，但精确计算通常计算上不可行，许多算法被用于近似这些系数（即SHAP算法），然而这些算法引入额外假设与依赖于实现的设计选择，可能削弱原表述的概念清晰性；SHAP解释可对缺失特征的参考值选择、采样过程与特征分组策略敏感，导致同一输入与模型得到不同解释；如Chen等所示，许多常用SHAP实现（如KernelSHAP、LinearSHAP与DeepSHAP）在有限样本与相关特征的真实设定中可能产生有偏且高方差的估计。意识到这些局限并不意味着未来研究应避免使用它们，它们仍是生成假设与提供模型行为辅助洞见的宝贵工具，但应更谨慎对待，尤其在医疗应用中误导性结论可能危险；以现有工具而言，解释输出应被解释为关于模型推理的假设而非确定结论。

讨论部分总结指出，本文对数字病理学中的可解释AI进行了以方法为中心的综述，系统检视了过去十年该领域发表的276篇论文，并依方法分类体系（大体分为设计即与事后方法）组织，在两大类别内又依驱动原理或架构进一步分组；依此分类体系，正文综述了其在数字病理学中的应用，并将每种方法的简明自足手册置于附录A，二者共同为这一跨学科主题提供两个互补视角，读者可借助一致的分类体系便捷地将各方法的技术细节映射至相应应用。在所调查文献中，设计即方法较事后解释更普遍，在预后预测中尤甚；其中注意力机制使用最广，部分因Transformer架构在广义AI与特定数字病理学领域的影响力日增，且注意力易于整合至MIL、GNN与多模态学习等其他流行框架，所学注意力权重常被视为其所作用特征的重要性归因；重要的是，由于注意力机制是Transformer等现代深度学习架构的一部分，其通常维持甚至提升预测性能，如注意力MIL通常优于采用固定（均值或最大池化）聚合策略的MIL。在事后解释中，基于归因的方法（尤其基于梯度者）占主导，其众多变体已被开发并应用于数字病理学广泛任务；然而注意力与梯度法在忠实性、稳健性与一致性方面均受到实质批评，此类局限在数字病理学界未必总被充分认识，提高对其的认识对避免过度解释与得出误导性结论很重要。除主要生成显著性图的注意力与归因方法外，一个新兴趋势是对基于概念的解释的日益探索：概念一般定义为人类可解释单元（如视觉模式、细胞结构或决策规则），在数字病理学中主要利益相关者为病理学家与临床医师，概念通常基于组织、器官等生物实体；生成概念解释的一种直观方式是显式提取HIF并以其训练简单或透明模型（如决策树或线性预测器），亦可以事后方式识别模型-概念关联（如识别对应特定人类可理解特征的神经元与潜在空间方向）；原型（通常为代表特定模式的代表性样本或样本簇）可视为概念的特殊形式；最后，概念亦可为决策规则，既可经决策树从数据学得，亦可预定义并直接编码进模型，如先验知识引导模型一节所述，此类常产生将先验知识与临床指南或推荐编码为内部规则的模型，同时增强可解释性与临床契合度。随着数字病理学在临床肿瘤学与生物医学发现中作用日增，AI模型的可解释性或不再仅是“锦上添花”，而是必备功能。本综述既展示了该领域的快速增长，也揭示了其相对不成熟——模糊与机遇并存，此悖论亦反映在可解释性的监管视角中：指南中提及与强调日增，与对可解释性应如何在临床实践中使用与验证的动态且仍在演变的期望并存。在监管视角方面，细察FDA对AI/ML赋能医疗器械不断演变的指南可见对可解释性的兴趣日增，此兴趣通常在更广的透明度概念框架内表述：透明度指披露器械预期用途、开发、性能及其他相关细节的信息，指南尤其将模型决策逻辑（更接近机器学习界的可解释性概念）列为透明度的一个方面，在可得时予以披露。尽管兴趣日增，FDA并不将可解释性作为上市许可的前提条件，而是明确对比决策树等简单可解释模型与DNN等复杂黑箱模型：当模型逻辑可得时（如这些经典白箱模型），监管指南将其视为直接的披露要求；另一方面，FDA亦明确承认许多复杂模型本质不可解释，并建议将此不透明性视为需考虑的风险，申办者应预期在风险评估中将模型不透明性记录为危害，并提出减轻由此产生伤害（如误解器械输出或人机协作低效）的计划。值得注意的是，研究者自身的一些观察在此监管指南中得到呼应：FDA对事后解释持尤为谨慎的立场，明确警告显著性图与特征重要性可视化可能削弱而非增进用户理解，尤其若未针对其预期用户严格验证，此类可视化仅应在此验证后整合进器械界面；此关切直接关联前文所述事后可解释性方法的忠实性与稳健性局限。若干指南文件亦讨论可解释性输出的最佳实践，尤其良好机器学习实践原则第7条指出，当模型设有“人在回路”时，应以人机团队绩效而非仅模型孤立绩效为重点，处理人为因素考量与模型输出的人类可解释性；在研究者看来，此原则在难以评估解释是否正确时指向一条实践路径——转而可测试其是否“有用”，即在真实临床工作流中有助于还是阻碍用户决策，这与研究者所强调的以人为中心、效用驱动的评估这一有前景方向密切契合。评估解释这一长期挑战进一步凸显对标准化、可复现基准的需求——FDA自身亦表现出通过与研究界合作支持此类努力的兴趣。综合这些考量，可勾勒出AI模型解释的临床验证路径：从设计阶段将模型不透明性记录为风险因素，到在临床工作流中与预期用户验证解释的临床效用。更广泛而言，除开发新的可解释性方法外，定义、基准与评估协议的标准化亦迫切需求，这需要多学科协作以协调计算科学家、医学从业者与监管专家之间的视角；本综述旨在通过提供对当前格局的结构化概览、介绍可用的可解释性技术、指出应用的新兴趋势并标明未解决的挑战，以助力此进程。当然，本综述亦存局限：尽管旨在吸引不同背景读者，本文聚焦数字病理学可解释性的计算问题；除前述监管考量外，对更广泛的临床部署与评估过程着墨较少，这些方面可由聚焦转化考量的其他优秀综述（如Müller等、Border与Sarder、Evans等及Plass等）补充。此外，本文聚焦各方法的高层直觉与核心应用，其实现细节与软件工具虽有简要提及但未系统讨论。最后，尽管可解释性整体多样，特定子类（如生成显著性图解释者）中的基准研究可为未来工作提供有价值的实践指导；解决这些局限可作为重要的未来工作重点。结论部分重申，可解释AI（XAI）在广义AI与特定数字病理学领域中的作用日益重要，本文通过系统综述过去十年276项研究，提供了将可解释AI方法映射至数字病理学应用的以方法为中心的划分体系，总结了当前格局并强调了新兴趋势（如使模型推理与人类可解释概念对齐），讨论了这一快速演变领域尤以定义与评估缺乏标准化为著的局限；展望未来，开发以人为中心的可解释性方法，以及定义、基准与评估协议的标准化，将是两个同等重要的方向；本综述旨在为数字病理学中可解释AI的持续进步提供基础与路线图。方法部分说明了在WoS上以特定检索式进行的全面文献检索，检索式以“TS”表示主题检索，匹配摘要、作者关键词与Keywords Plus中的术语，覆盖可解释性、机器学习与病理学三个维度；为聚焦原创研究，排除了综述文章、社论材料、会议摘要、更正（correlation）与数据文章等文献类型，初次检索得到373篇论文，随后剔除97篇自动过滤遗漏的综述、观点或数据集论文，或虽含全部关键词但未专门聚焦病理学可解释AI者，最终得到276篇供深入综述的论文，时间跨度为2015年至2026年7月1日；文中并说明“NOT ML algorithm”类论文通常介绍平台或可视化工具而非ML算法，“NOT interpretability”类论文虽在摘要提及可解释性但仅作为背景或动机陈述。