基于可解释人工智能提升肺组织病理学中的数据质量、模型透明度与性能

《SLAS Technology》：Improving Data Quality, Model Transparency and Performance in Lung Histopathology with Explainable AI

　　

卷积神经网络（CNN）在图像分析方面展现出强大能力，然而，将这些模型部署于医疗场景因其有限的透明度而变得复杂。近年来，许多方法被开发出来以克服深度神经网络的所谓“黑箱”问题。本研究展示了如何将此类可解释人工智能（XAI）方法不仅用于提升透明度，还可用于改善训练数据质量和模型性能，并以肺损伤组织病理学图像的分类作为应用案例。首先，研究人员进行了彻底的探索性数据分析，并将来自CNN最后几层的组织学图像的压缩多维表示与病理学家给出的标签进行视觉比较，从而揭示训练数据中的缺陷。其次，研究人员利用基于梯度的类激活映射（Grad-CAM）以及沙普利加性解释（SHAP）值来识别对模型决策有显著贡献的图像区域。为了克服已识别的不足，研究人员随后微调了CNN的额外顶层，并引入了带有注意力机制的模型架构，这提升了模型性能。总之，研究人员开发了一个实用的工作流程，该流程利用可解释性分析来审视模型感知、评估标签一致性，并指导模型优化，以肺组织病理学评分为例，展示了XAI方法如何在提升透明度的同时提高模型性能。

研究背景与问题

在医学图像分析领域，卷积神经网络（CNN）已展现出强大的潜力，尤其在数字组织病理学中，自动化工具可辅助临床诊断。然而，CNN的“黑箱”特性严重阻碍了其在医疗领域的信任建立和监管审批，因为临床医生难以理解模型决策背后的逻辑。尽管已有多种可解释人工智能（XAI）方法被提出，如Grad-CAM和SHAP，但它们仍面临超选择性等局限，且缺乏统一的临床应用指南。此外，在肺部组织病理学评分这一复杂任务中，病理学家间的标注主观性和空间异质性导致训练数据标签不一致，进一步影响了模型的可靠性与泛化能力。因此，亟需一种能够系统性整合多种XAI方法、既能揭示数据问题又能指导模型改进的工作流程。

研究内容与结论

研究人员以其前期关于CNN自动评分猪急性呼吸窘迫综合征（ARDS）模型肺损伤程度的研究为用例，开发了一个迭代式XAI工作流程。该工作流程通过无监督聚类、Grad-CAM热力图和SHAP值分析，揭示了训练数据中因切片级标签继承导致的标注错误，以及ReLU激活函数引发的神经元失活问题。基于这些发现，研究人员通过替换激活函数（如LeakyReLU、ELU）、微调更深层网络（如解冻VGG16的卷积层或EfficientNetB4的批归一化层）以及引入卷积注意力机制，对模型进行了针对性改进。结果表明，所有改进措施均显著提升了模型性能，其中ViT（Tiny）模型取得了最高准确率（87%）和F1分数（86%）。该研究的重要意义在于证明了XAI不仅能增强模型透明度，还能直接用于数据清洗和模型优化，为临床可用的可信赖AI系统提供了实用框架。

关键技术方法

1. 1.
   无监督聚类分析：从V_r_a（VGG16）和EN_m_a（EfficientNetB4）模型的最后一个全连接层提取128维特征向量，分别采用主成分分析（PCA）、t分布随机邻域嵌入（t-SNE）和统一流形逼近与投影（UMAP）降维至二维，结合预测标签、真实标签和治疗分组进行可视化，以发现数据分布异常。
2. 2.
   梯度加权类激活映射（Grad-CAM）：计算目标类别相对于最后一个卷积层特征图的梯度，生成粗粒度热力图，定位影响模型决策的关键图像区域，并据此发现ReLU激活函数导致的“死亡ReLU”问题。
3. 3.
   沙普利加性解释（SHAP）：基于合作博弈论，使用图像掩码器（inpaint_ns填充算法）计算每个像素对各类别预测的贡献值，生成正负贡献热力图，验证模型关注的病理特征（如炎性细胞浸润、肺泡壁增厚）。
4. 4.
   深层微调与注意力机制：解冻VGG16的一个或两个卷积层（V_c1、V_c1_c2）及EfficientNetB4的批归一化和卷积层（EN_BN、EN_BN_c1），并通过七倍数据扩充（模糊、亮度调整）防止过拟合；引入由卷积层和局部连接层构成的注意力模块，生成可训练的注意力权重图。
5. 5.
   Vision Transformer（ViT）对比：将ViT（Tiny）和ViT（Small）模型从二分类改为三分类，在相同数据集上训练并与注意力增强的CNN模型（V_Attn、EN_Attn）进行性能比较。

研究结果

3.1 肺损伤组织学评分作为XAI工作流程的应用案例

研究人员选择其前期研究中基于CNN的肺组织学评分模型（V_r_a和EN_m_a）作为用例。该模型使用Silva评分系统对七个损伤特征进行评估，并将总分划分为低、中、高三个损伤等级。由于整张切片被切割成小图块（tile），每个图块继承父切片的标签，导致空间异质性引入标签噪声；同时，五名标注者之间的评分一致性也存在问题。

3.2 通过无监督聚类发现潜在表征结构

对V_r_a和EN_m_a模型提取的128维特征向量进行PCA、t-SNE和UMAP聚类后发现，各折叠（fold）形成了明显分离的簇，尤其是V_r_a模型的第二折出现子簇分裂。进一步分析特征向量的欧几里得范数发现，第二折中大量特征向量值为0，表明激活函数导致了神经元失活。当将聚类颜色替换为治疗组标签和原始图块缩略图后，观察到高损伤组（如MV+LPS和ECMO+LPS）的图块几乎完美匹配真实标签中的高损伤点，而其他治疗组的图块则分散在不同损伤等级中，证实了同一切片内不同图块确实存在损伤程度差异，即标签噪声源于空间异质性。

3.3 Grad-CAM分析

Grad-CAM热力图显示，V_r_a和EN_m_a模型在某些预测中存在未被激活的图块（主要在第二折），这些图块的特征向量多为0。研究人员将ReLU激活函数替换为ELU、LeakyReLU和LeakyReLU-ReLU后，重新训练模型，发现非ReLU激活函数改善了激活模式，但性能变化并非线性：保留最后一层ReLU的V_m_a_LeakyReLU_ReLU获得了最高的F1分数。进一步分析未激活图块的标签发现，它们大多属于中等损伤类别，因此默认分配策略反而在该折上表现良好。此外，Grad-CAM热力图显示，轻度损伤图块中肺泡壁与气腔边界被激活，而重度损伤图块中炎性细胞聚集区被激活。

3.3.1 SHAP分析

SHAP值分析显示，对于“高损伤”预测，炎性细胞团、成纤维细胞占据气腔或肺泡壁出血等病理特征区域呈现高正值（红色），健康肺组织呈高负值（蓝色）；对于低或中等损伤预测，健康区域则呈红色。背景区域（无组织）的SHAP值接近零，表明其对决策影响极小。

3.4 更深层微调对模型性能和泛化的影响

对于VGG16模型，解冻一个卷积层（V_c1）提升了性能（F1分数和准确率分别提高约5%和6%），但解冻两个卷积层（V_c1_c2）导致性能下降，原因是小数据集下过多可训练参数导致过拟合和激活图稀疏。对于EfficientNetB4模型，解冻批归一化层（EN_BN）提升了F1分数，再解冻一个卷积层（EN_BN_c1）进一步提高了性能，表明批归一化层通过稳定特征分布促进了有效学习。Grad-CAM热力图显示，EN_BN_c1的激活图更平滑、更集中。

3.5 卷积注意力层分析

引入注意力机制后（V_m_a_Attn和EN_m_a_Attn），注意力权重图显示模型主要关注受损区域（炎性细胞和塌陷的气腔），尤其集中在组织-气腔边界。然而，整体性能略有下降，仅EN_m_a_Attn在高损伤类别上有所改善。

3.6 统计分析

McNemar检验表明，所有改进模型的性能变化均具有统计学显著性（p<0.001）。V_r_a（LeakyReLU_ReLU）净准确率提升17.39%，V_c1提升10.05%，V_m_a_Attn提升7.18%；而V_c1_c2显著下降15.66%。EN_m_a_Attn提升13.18%，EN_BN提升7.20%，EN_BN_c1提升5.57%。

3.7 与ViT模型的比较

ViT（Tiny）取得了最高准确率（87%）和F1分数（86%），ViT（Small）、V_Attn和EN_Attn紧随其后。然而，由于折叠组成不同，无法进行直接的统计比较。手动检查ViT（Tiny）的注意力图发现，其高关注区域与V_m_a_Attn模型不同，且未立即显示出与病理特征的明显对齐。

3.8 所有训练模型的多维度比较

在所有模型中，除V_c1_c2外，所有XAI引导的修改均提升了性能。引入注意力或LeakyReLU激活函数的效果最大。ViT（Tiny）虽然性能最佳，但其训练和评估的折叠组成略有不同。可训练参数数量相差近40倍，但增加复杂度并不总是带来性能提升，例如V_c1_c2在小数据集下反而性能下降。推理时间方面，V_Attn最快（0.29毫秒/图），ViT（Small）最慢（4.56毫秒/图）。

总结与结论

研究人员开发了一个集成了无监督聚类、Grad-CAM、SHAP、深层微调和注意力机制的迭代式XAI工作流程，并在肺组织病理学评分任务中验证了其实用性。该工作流程成功揭示了训练数据中的标签噪声和模型架构缺陷（如ReLU激活导致的神经元失活），并据此指导了模型优化，最终将基线模型的准确率从65%提升至最高87%（ViT模型）。研究结论指出，XAI不仅是提升模型透明度的工具，更是改善数据质量和驱动模型性能提升的有效手段，为在资源有限的医学研究中构建可信赖的AI系统提供了可复现的方法论框架。