胸部X光片的可解释人工智能：基于CNN的肺炎检测中的性别分层公平性审计

《Scientific Reports》：Explainable AI for chest radiographs: sex-stratified fairness auditing in CNN-based pneumonia detection

　　

胸部X光片（CXR）解释的人工智能（AI）系统可实现高独立诊断准确性，但有限的透明度引发了对亚组差异的担忧。研究人员使用RSNA肺炎检测挑战数据集（26,684张成人正面CXR）审计了基于卷积神经网络（CNN）的肺炎检测中的性别分层性能和注意力模式。ImageNet预训练的InceptionV3模型在五个预指定随机种子下训练并组合为种子集成（seed-ensemble）。分析使用预指定、固定的患者级性别和标签平衡测试集（n=1,000；每性别250例肺炎阳性和250例肺炎阴性）以及一个跨性别保持恒定的验证导出操作点。基线性能稳健（受试者工作特征曲线下面积（AUROC）0.859 [0.836, 0.881]，Brier评分0.155 [0.141, 0.169]）。男性表现出比女性更高的区分度（AUROC 0.882 vs 0.837，差距+0.045 [+0.002, +0.091]）和更低的假阳性率（FPR差距?0.073 [?0.145, ?0.006]）。为将差异置于背景中，研究人员量化了相对于肺部分割掩模的梯度加权类激活映射（Grad-CAM）注意力；女性肺内激活较低（60.8% vs 64.7%，M?F +3.9个百分点 [+1.6, +6.4]）。一种组合缓解策略（组平衡采样+对抗去偏）保持了性能（AUROC 0.864 [0.843, 0.885]），同时减少了AUROC/特异性差距并减轻了假阳性差异。定量可解释性可以补充医学影像中的公平性审计和缓解。

**论文解读：基于CNN的胸部X光片肺炎检测中的性别分层公平性审计与可解释性分析**

**研究背景与问题**

人工智能（AI），特别是基于卷积神经网络（CNN）的深度学习，在医学影像自动解读中发挥着关键作用。胸部X光片（CXR）是全球最常用且最易获取的诊断检查之一，准确解读对于检测肺炎、结核病和肺癌等胸部疾病至关重要。然而，CXR解释本身具有挑战性：肺炎等疾病表现可能细微或不典型，且不同读者间存在显著变异性，尤其在资源有限的高负荷临床环境中。这些特点不仅推动了自动决策支持系统的使用，也增加了诊断错误（无论是人为还是算法）在不同患者亚组间分布不均的风险，若模型在训练和评估时未进行亚组感知分析，则问题更为突出。

尽管近年预训练CNN架构在大型标注CXR数据集上达到了专家级诊断性能，但AI系统的临床广泛采用仍受限，主要原因在于其“黑箱”决策过程缺乏透明度。可解释人工智能（XAI）技术因此变得至关重要，不仅用于临床信任和工作流程整合，还用于系统验证模型行为、错误分析以及识别亚组依赖的偏差。然而，现有研究在评估XAI方法时通常未进行亚组分层分析，限制了其解释性能差异来源的能力。此外，算法公平性——即不存在算法偏差——是医学AI中一个关键但常被低估的挑战。在临床AI中，公平性通常体现为在不同临床相关亚组间具有可比的性能、错误率和校准度。例如，多项研究表明，在CXR肺炎检测中，性别偏差普遍存在且具有临床后果：模型对女性患者常表现不佳，尤其是在不平衡或非代表性数据集上训练时。这种差异可能强化而非减轻现有诊断不平等。

本研究旨在解决上述差距，通过整合公平性审计与定量可解释性，系统评估基于CNN的CXR肺炎检测中的性别特异性差异，并探索缓解策略的效果。

**研究内容与结论**

研究人员利用RSNA肺炎检测挑战数据集（26,684张成人正面CXR），构建了基于ImageNet预训练InceptionV3的CNN模型，并在五个独立随机种子下训练，最终通过种子集成（seed-ensemble）组合预测概率。所有分析均使用预设的固定性别和标签平衡测试集（n=1,000，每性别250例肺炎阳性和250例阴性），并采用单一验证导出的操作点（基于Youden’s J统计量）跨性别保持不变。通过计算全局和性别分层性能指标（AUROC、精确率-召回率曲线下面积（PR-AUC）、灵敏度、特异度、Brier评分等），以及基于Grad-CAM的肺内注意力定量分析，评估了性别差异。此外，还实施了组合公平性缓解策略（组平衡采样+对抗去偏），并比较了缓解前后的性能与公平性差距。

研究得出以下结论：基线模型整体性能稳健，但存在性别差异：男性患者的区分度（AUROC 0.882 vs 0.837）和特异度更高，假阳性率更低。Grad-CAM分析显示，男性患者的肺内激活分数（64.7%）高于女性（60.8%），且女性假阳性病例的肺内激活分数最低。组合缓解策略在保持全局性能的同时，减轻了假阳性率差异，但扩大了灵敏度差距，揭示了公平性标准之间的权衡。该研究的重要性在于，首次将定量可解释性（Grad-CAM肺内注意力）与性别分层公平性审计相结合，为理解亚组性能差异的机制提供了新视角，并展示了公平性缓解策略的临床权衡。

**主要技术方法**

1. **数据集与样本队列**：使用RSNA肺炎检测挑战数据集（来自NIH ChestX-ray8库），包含26,684张成人正面CXR，具有专家验证的肺炎标签和阳性病例的边界框。患者性别从DICOM元数据中提取。构建固定性别和标签平衡测试集（n=1,000），用于所有分析。

2. **模型架构与训练**：采用ImageNet预训练的InceptionV3作为骨干网络，附加自定义分类头（全局平均池化、批归一化、丢弃、全连接层和sigmoid输出）。通过两阶段迁移学习（先冻结骨干训练分类头，再微调上层）在五个随机种子下重复训练，最终形成种子集成（seed-ensemble）以降低初始化变异性。

3. **可解释性分析**：使用Grad-CAM（从InceptionV3的最后一个卷积块mixed10层计算）生成注意力热图，并通过种子集成平均减少随机性。利用TorchXRayVision库中的ChestX-Det PSPNet和U-Net肺部分割模型生成二元肺掩模，计算肺内激活分数（标准化Grad-CAM激活中位于肺掩模内的比例），用于量化注意力的解剖学合理性。

4. **公平性缓解策略**：组合策略包括组平衡采样（确保每个mini-batch中四个性别×标签亚组比例相等）和对抗去偏（通过梯度反转层（GRL）附加性别分类头，在共享特征表示上抑制性别预测信息，动态调整对抗权重λ_adv从0.0线性增加至0.45）。此外，还进行了消融研究以分离各组件贡献。

**研究结果**

**全局性能**：基线InceptionV3种子集成在平衡测试集上表现出强区分度，AUROC为0.859（95% CI 0.836–0.881），PR-AUC为0.861（95% CI 0.830–0.886），Brier评分为0.155（95% CI 0.141–0.169）。组合缓解策略保持了全局性能，AUROC为0.864（95% CI 0.843–0.885），Brier评分为0.152（95% CI 0.138–0.166），所有指标的配对差异置信区间均包含零，表明无显著性能损失或增益。

**性别分层性能与性别差距**：基线模型下，男性患者AUROC（0.882）高于女性（0.837），性别差距（M?F）为+0.045（95% CI +0.002, +0.091）。假阳性率（FPR）差距为?0.073（95% CI ?0.145, ?0.006），即女性假阳性率更高。缓解后，AUROC差距缩小至+0.026（95% CI ?0.018, +0.069），FPR差距缩小至?0.025（95% CI ?0.099, +0.054），但灵敏度（TPR）差距从+0.020（95% CI ?0.049, +0.090）扩大至+0.056（95% CI ?0.006, +0.122），表明缓解主要减少了假阳性差异，但增加了灵敏度差距。

**公平性差距**：基线时，女性假阳性绝对数量（73例）高于男性（55例），缓解后两者趋近（女性69例 vs 男性63例），有效减轻了女性过度假阳性负担。消融分析显示，对抗去偏独立实现近似的AUROC性别差距（+0.003），而组平衡采样仅部分缓解（+0.027），表明对抗去偏是差距减少的主要驱动因素。

**定量可解释性：Grad-CAM肺内注意力**：整体测试集上，基线模型男性肺内激活分数（64.7%）高于女性（60.8%），差距（M?F）为+3.9个百分点（95% CI +1.6, +6.4）。按预测结果分层，真阴性病例中差距最显著（+3.3个百分点，95% CI +0.7, +6.1），而真阳性、假阳性和假阴性病例的置信区间较宽。值得注意的是，女性假阳性病例的肺内激活分数在所有亚组中最低，提示其与额外肺外注意力相关。

**讨论与结论**

研究讨论指出，尽管绝对性别差距适中，但临床报告具有意义，因为全局AUROC可能掩盖亚组特异性错误负担。女性假阳性过高可导致可避免的后续影像、抗生素暴露和不必要入院。定量Grad-CAM分析显示女性肺内注意力较低，尤其假阳性病例，提示非肺部影像特征（如软组织衰减、乳房阴影、体态或图像边缘效应）可能贡献了性能差异，但需注意Grad-CAM本身作为粗定位技术的局限性，该发现应视为关联性审计信号而非因果证据。缓解策略展示了公平性标准之间的权衡：减少假阳性差异同时增加了灵敏度差距，临床可接受性取决于具体应用场景（如筛查优先考虑灵敏度，决策支持可能优先减少假阳性）。

研究结论部分原文翻译如下：总而言之，本研究提供了关于性别分层公平性审计的见解，将亚组错误概况与定量、解剖学基础的可解释性联系起来。尽管鉴于已知局限性应谨慎解释绝对Grad-CAM定位，但观察到的注意力分布性别差异，连同错误差异，支持将定量XAI作为辅助工具，用于识别可能指示捷径倾向模型行为的亚组依赖注意力模式，并指导胸部X射线AI的缓解措施。