LungMate:在数据集变化的情况下,基于胸部CT对肺结节恶性风险进行校准的估算工具
《Ain Shams Engineering Journal》:LungMate: Calibrated malignancy risk estimation for pulmonary nodules from chest CT under dataset shift
【字体:
大
中
小
】
时间:2026年05月05日
来源:Ain Shams Engineering Journal 5.9
编辑推荐:
刘海晓|胡月|王凌云|李长林|李东涛|孟凌汉|郑光达|鲍彦军
中国中医科学院广安门医院第二临床部,北京 100053
**摘要**
通过胸部计算机断层扫描(CT)早期检测恶性肺结节对于降低肺癌死亡率至关重要,但现有的深度学习模型往往产生校准不良的概率估计,这限制了其
刘海晓|胡月|王凌云|李长林|李东涛|孟凌汉|郑光达|鲍彦军
中国中医科学院广安门医院第二临床部,北京 100053
**摘要**
通过胸部计算机断层扫描(CT)早期检测恶性肺结节对于降低肺癌死亡率至关重要,但现有的深度学习模型往往产生校准不良的概率估计,这限制了其临床实用性。我们提出了LungMate,这是一个关注校准的肺结节恶性风险估计框架,它结合了动态加权平衡损失(DWB)与显式的Brier分数校准项和正则化,以在训练过程中直接优化概率的可靠性。我们在LIDC-IDRI数据集上评估了LungMate,并在LNDb数据集上进行了跨数据集验证。LungMate的接收者操作特征曲线(AUC)面积为0.934(95%置信区间:0.924–0.944),优于3D SAACNet(AUC 0.915)和SSTL-FM(AUC 0.922)等强大基线模型。此外,LungMate将预期校准误差(ECE)降低到了0.034,相比标准交叉熵训练(ECE 0.112)降低了69.6%。在LNDb数据集上的跨数据集评估进一步证明了其鲁棒性,AUC的降低仅为0.033,而现有最佳方法的降低范围为0.052–0.081。这些发现强调了在训练过程中进行显式校准优化对于可靠恶性风险估计的重要性。
**1. 引言**
肺癌仍然是全球癌症相关死亡的主要原因,每年导致约180万人死亡。高死亡率主要是由于诊断阶段较晚,此时治疗选择有限,预后较差。从小剂量CT筛查中早期检测恶性肺结节已被证明可以通过及时干预来降低肺癌死亡率。大规模的筛查试验,如国家肺癌筛查试验(NLST)和NELSON试验,已经确立了CT对高风险人群的临床价值。因此,准确可靠地将肺结节分类为良性或恶性是临床工作流程中的关键步骤,直接影响后续决策,如活检推荐、手术切除或继续监测。这促使了计算机辅助诊断(CAD)系统的开发,这些系统可以提供客观的、定量的恶性风险估计以支持临床决策 [1],[2]。
然而,当前CAD系统的临床实用性受到两个根本性限制的阻碍:标签模糊性和校准忽视。首先,现有的标记数据集通常依赖于放射科医生恶性评分得出的替代标签,而非经活检确认的病理结果。例如,在LIDC-IDRI数据集中,一个结节可能获得中位数评分3(不确定),反映出读者的显著分歧和固有的不确定性。其次,大多数最先进的深度学习模型仅优化诸如AUC之类的判别指标,常常产生校准不良的概率估计。一个模型可能会为一个不确定的结节分配90%的恶性概率,仅仅是为了最大化其目标函数,即使潜在的证据是模糊的。这种过度自信在临床环境中是危险的,因为它可能导致不必要的侵入性程序和患者焦虑。例如,在LIDC-IDRI数据集的一个样本应用中,一个有棘状的12毫米结节(被专家标记为“中度可疑”)可能会被标准ResNet赋予0.98的原始置信度,而一个经过校准的模型应该报告一个更低的、更现实的风险分数,以反映生物学上的不确定性 [3],[4],[5]。
为了解决这些挑战,我们提出了LungMate,这是一个关注肺结节恶性风险估计的校准意识训练方法,明确针对可靠性和鲁棒性。LungMate将动态加权平衡(DWB)损失函数与显式的Brier分数校准项和不确定性正则化结合到一个统一的优化目标中。这种协同作用使模型能够在处理类别不平衡的同时,正则化概率空间,确保预测的风险分数与观察到的事件频率一致。与事后校准方法(如温度缩放)不同,后者仅在训练后调整输出的比例,LungMate的端到端方法在特征学习过程中建立了向校准的归纳偏见。这对于特征模糊的结节(例如,磨玻璃样阴影)尤其有效,模型学会保持保守的风险估计,而不是变得过度自信。通过强制使用患者级别的分割并在异构数据集(如LNDb)上进行验证,LungMate确保其性能提升不是由于数据泄露或分布特定的混淆因素 [6],[7]。
**2. 相关工作**
肺结节的分类已经从传统的图像处理发展到先进的深度学习架构。本节回顾了肺结节CAD系统的最新发展、校准的新兴作用,以及深度学习在医学诊断中的更广泛应用。
**2.1. 用于肺结节分类的深度学习**
早期的肺结节分类方法依赖于手工制作的形态学和纹理特征。然而,3D卷积神经网络(CNN)的出现通过直接从体积CT数据中学习层次化表示显著提高了性能。最近的研究探索了越来越复杂的架构,例如用于检测的多尺度CPLOYO模型 [8] 和用于使用多尺度序列融合诊断肺并发症的MSSFN模型 [9]。多任务学习框架也获得了关注;例如,PK-MTL网络 [10] 将关于结节属性的先验知识整合到分类过程中,而STLF-VA模型 [7] 利用视觉注意力和自监督学习来关注区分区域。此外,正如Zhuang等人提出的语义引导成像生物标志物 [11] 所展示的,视觉-语言模型的整合代表了将放射学图像与文本描述结合以增强可解释性的新前沿。
**2.2. 多模态和异构数据整合**
临床决策往往超出成像范围,需要融合异构数据源。最近的研究将LDCT放射组学与血浆游离DNA(cfDNA)片段化特征结合起来,在DECIPHER-NODL等风险分层模型中实现了高灵敏度和特异性 [12]。其他模型将集成深度学习方法(结合CT和临床数据)与仅基于图像的模型进行了比较,以预测不确定结节的消失,发现成像特征仍然是性能的主要驱动因素 [13]。多层次深度特征融合,结合放射组学、迁移学习和改进的CNN架构,在LIDC-IDRI数据集上也显示出高达97.6%的提高 [14]。这些进步突显了向全面、多因素风险评估的趋势,正如Wei等人所综述的 [2]。
**2.3. 医学成像中的校准和鲁棒性**
尽管现代神经网络的判别能力很高(AUC),但在医学成像中,尤其是数据集变化常见的情况下,它们通常校准不良。关注校准的训练旨在确保预测的概率反映真实的频率。虽然温度缩放 [15] 是一种流行的事后方法,但它并不改善底层特征表示。在LIDC-IDRI基准的背景下,最近的研究将深度学习估计与已建立的风险分数(如Pan-Canadian(PanCan)模型)进行了比较,强调了需要可靠的概率估计以减少假阳性 [16]。还提出了模仿放射科医生基于案例推理的检索增强模型,以提高不同临床设置中风险预测的一致性 [17],[18]。
**2.4. 医学中的一般机器学习应用**
用于肺结节分类的技术是向各个医学领域临床级AI转变的一部分。除了放射学之外,深度学习还成功应用于COVID-19大流行期间的情绪分析,以对抗虚假信息 [19]。在基因组学和蛋白质分析中,已经开发了机器学习仪表板,用于使用蛋白质序列预测慢性髓系白血病 [20]。此外,迁移学习方法越来越多地用于预测RNA-Seq基因表达数据以进行癌症分类,展示了这些模型在不同生物数据模态中的灵活性 [21]。这些跨领域的成功突显了开发像LungMate这样的鲁棒、校准模型的重要性,这些模型可以推广到各种临床挑战中。
**3. 方法**
本节介绍了用于胸部CT肺结节恶性风险校准估计的LungMate框架。我们首先阐述问题并定义符号,然后描述整体框架架构,接着是详细模块描述、联合训练目标以及实施考虑。
**3.1. 问题阐述**
设D={(xi,yi)}i=1N表示N个结节样本的训练集,其中xi∈RH×W×D代表以第i个结节为中心的3D CT切片,yi∈{0,1}是相应的恶性标签(0:良性,1:恶性)。在多源设置中,样本来自K个域(例如,不同的扫描仪、机构或数据集),表示为D=?k=1KDk,其中域成员资格在训练时可能被观察到或未被观察到。LungMate的目标是学习一个风险评分函数fθ:RH×W×D→[0,1],使得:
- **配对T检验**:我们使用双尾配对t检验来比较多个随机种子下的AUC和ECE值。这使我们能够在假设性能差异呈正态分布的情况下评估平均性能差异是否具有统计学意义。
- **Wilcoxon符号秩检验**:作为一种非参数替代方法,我们使用Wilcoxon检验来评估方向上的优越性,而不假设结果的特定分布。
- **自助法**:通过自助法(1000次迭代)在保留的测试集上计算AUC和ECE的95%置信区间(CI)。对于每个自助样本,我们重新计算指标,自助分布的2.5%和97.5%分位数形成CI。
- **Delong检验**:对于单个模型实例的ROC曲线之间的头对头比较,我们使用Delong检验来确定面积差异是否显著。
风险函数进一步由以下目标表征:
- **判别能力**:预测的风险p?i=fθ(xi)将恶性结节排在良性结节之上(通过AUC衡量)。
- **校准能力**:预测的概率反映真实事件频率,即,在所有p?≈p的结节中,大约有p的比例是真正恶性的(通过预期校准误差ECE和Brier分数衡量)。
- **鲁棒性**:在保留的域或具有分布变化的外部数据集上评估时,性能能够优雅地下降。
我们将风险函数分解为fθ=hψ°g?,其中g?:RH×W×D→Rd是一个特征提取器,产生d维表示zi=g?(xi),hψ:Rd→[0,1]是一个校准后的风险头。参数θ={?,ψ}被联合优化。
**表1. LungMate框架中使用的符号和缩写的总结**
| 符号 | 描述 | |
|-----------------|------------------------------------------------------------------|--------|
| x | RH×W×D | 输入的3D CT切片(以结节为中心)。 |
| y | {0,1} | 二进制恶性标签(0:良性,1:恶性)。 |
| g? | (?) | 具有参数?的特征提取主干。 |
| z | Rd | 高维特征表示(d=512)。 |
| hψ | ([0,1] | 具有参数ψ的校准后风险估计头。 |
| p? | [0,1] | 预测的恶性风险概率。 |
| ?R | | 拟似然激活前的原始logit分数。 |
| LDLB | ≥0 | 动态加权平衡损失。 |
| LBrier | R≥0 | 显式的Brier分数校准损失。 |
| λcal | | 校准和正则化的超参数。 |
| λreg | | |
| TR>0 | 温度缩放参数,用于事后校准。 |
**3.2. 符号和缩写**
为了确保技术清晰性,我们在表1中定义了LungMate框架中使用的所有主要符号和缩写。这些符号遵循深度学习和医学成像文献中的标准惯例。
**3.3. 框架概述**
图1使用高分辨率等距投影提供了LungMate框架的技术概述。流程遵循四个主要模块的前馈架构流。首先,数据采集与预处理阶段(最左侧)提取以结节候选为中心的3D CT切片x∈R48×48×48。预处理包括三个半透明验证窗:重采样到1毫米的各向同性分辨率,Hounsfield单位(HU)裁剪到肺窗口([?1000, 600]),以及最小-最大归一化。其次,层次特征提取阶段(青色/珊瑚色/金色块)使用3D ResNet-18主干(g?)和四个渐进的残差阶段(64→128→256→512通道)提取高维特征向量z∈R512,捕获体积结节形态。第三,校准风险估计头(浅海军蓝)将表示转换为风险分数。该模块将“标准Sigmoid”路径(产生过度自信的分布)与LungMate的“温度缩放(T)”路径(产生校准后的分布)进行对比。最后,系统由统一训练目标(底部拼图块)控制,它协同结合了分类(LDWB)、校准(λcalLBrier)和正则化(λregLreg)项。梯度反馈(?θL)确保主干和头联合优化概率精度。最终输出(最右侧)提供了校准后的风险得分 p?,以及一个小型可靠性图表,用于验证其是否与完美的校准对角线对齐。下载:下载高分辨率图像(684KB)下载:下载全尺寸图像
图1. LungMate框架概述:从3D CT采集到校准后的风险估计。等轴线 architectural flow 描述了:(1)使用HU剪切的体积补丁提取;(2)分层的3D ResNet主干阶段(宽度逐渐增加,空间分辨率逐渐降低);(3)估计头中的校准划分,将过度自信的基线分布与LungMate校准后的输出进行对比;(4)统一训练目标,包括相互连接的DWB、Brier和正则化组件;以及(5)通过其可靠性图表对角线验证的最终校准输出 p?。
3.4. 特征提取主干
特征提取器 g? 被实现为一个3D卷积神经网络,旨在捕捉肺结节的体积形态和纹理特征。我们采用了ResNet风格的架构,并结合了3D卷积,因为3D表示已被证明在结节特征描述方面优于2D切片基础方法[22] [23]。具体来说,我们使用了一个18层的3D ResNet(ResNet3D-18),其初始卷积部分产生64个通道,随后是四个残差阶段,通道尺寸分别为[64, 128, 256, 512]。每个阶段包含两个具有3 × 3 × 3卷积的残差块。最终的全局平均池化产生了d=512维的特征。选择了48 × 48 × 48体素(在1毫米各向同性分辨率下为48立方毫米)的补丁大小,以完全包含典型的临床直径范围内的肺结节,同时为形态分析提供足够的结节周围背景。初步实验表明,323和643大小的补丁偶尔会截断较大的结节及其周围背景,而643大小的补丁虽然增加了背景组织但并未提高性能(AUC分别为0.931和0.934)。因此,483大小的补丁在空间覆盖范围和计算效率之间取得了实际平衡。
具体来说,设 x∈RH×W×D 为输入的CT补丁。主干包括一个初始卷积部分,后面跟着L个残差块:(1)z(0)=σBNConv3D(x;W0),公式(1)表示将原始体积CT强度映射到64通道的初始表示。 (2)z(l)=z(l?1)+F(l)z(l?1);Wl,l=1,…,L,公式(2)中的递归残差更新允许深度特征层次结构,同时防止在校准信号反向传播过程中梯度消失。其中 Conv3D(?;W) 表示带有参数W的3D卷积,BN(?) 是批量归一化,σ(?) 是ReLU激活函数,F(l) 是第l个块的残差函数。对最终的特征图进行全局平均池化,以产生d=512维的特征。选择48 × 48 × 48体素的补丁大小(在1毫米各向同性分辨率下为48立方毫米),这样可以完全包含典型的临床直径范围(3–30毫米)内的肺结节,同时为形态分析提供足够的结节周围背景。初步实验表明,323和643大小的补丁分别会偶尔截断较大的结节及其周围背景,而643大小的补丁虽然增加了背景组织但并未提高性能(AUC分别为0.931和0.934)。因此,483大小的补丁在空间覆盖范围和计算效率之间代表了实际的平衡。
具体来说,设 x∈RH×W×D 为输入的CT补丁。主干包括一个初始卷积部分,后面跟着L个残差块:(1)z(0)=σBNConv3D(x;W0),公式(1)表示将原始体积CT强度映射到64通道的初始表示。 (2)z(l)=z(l?1)+F(l)z(l?1);Wl,l=1,…,L,公式(2)中的递归残差更新允许深度特征层次结构,同时防止在校准信号反向传播过程中梯度消失。其中 Conv3D(?;W) 表示带有参数W的3D卷积,BN(?) 是批量归一化,σ(?) 是ReLU激活函数,F(l) 是第l个块的残差函数。对最终的特征图进行全局平均池化,以产生d=512维的特征。最终池化在公式(3)中将空间维度压缩成一个固定长度的特征向量z,该向量编码了全局结节形态。
主干可以使用在大规模CT数据集上预训练的权重进行初始化(例如,通过对未标记的胸部CT进行监督学习),以减轻标记数据的限制,这遵循了在先前工作中验证的迁移学习范式[24] [25]。
3.5. 校准风险估计头
使用交叉熵损失训练的标准分类网络经常产生过度自信的预测,并且校准效果较差[15]。在临床决策支持场景中,校准后的概率对于风险分层和基于阈值的分类至关重要。我们提出了一个考虑校准的风险头,以明确解决这个问题。
3.5.1. 分类层
风险头包括一个全连接层,后面跟着一个Sigmoid激活函数:(4)p?=σw?z+b,公式(4)将高维特征映射到一个标量logit,然后Sigmoid函数将其转换为[0,1]范围内的基础风险概率。其中 w∈Rd,b∈R 是可学习的参数,σ(?) 是Sigmoid函数。
3.5.2. 考虑校准的损失和不确定性正则化
为了在训练过程中促进校准,我们引入了一个考虑校准的损失项,该损失项扩展了动态加权平衡(DWB)损失[6]。虽然DWB损失解决了类别不平衡问题,并提供了向校准的归纳偏差,但我们提出将其与一个明确的校准项结合,以直接优化训练过程中的概率准确性。这种组合是LungMate的关键算法贡献:DWB损失处理类别不平衡问题,而明确的校准项确保预测概率与整个风险分数范围内的观察到的事件频率对齐。此外,我们还引入了一个考虑不确定性的正则化项,通过阻止概率趋于0或1的极端值来惩罚过度自信的预测。(5)LDWB=?1N∑i=1Nwyi(1?pi,yi)log(pi,yi)?λunc?pi,yi(1?pi,yi),公式(5)的执行应用动态样本权重,迫使模型关注难以分类的结节,同时正则化输出的熵以防止过度自信。其中pi,yi 是样本i的真实类别的预测概率,wyi 是与类别频率成反比的类别权重,第二项(λunc)提供了基于熵的不确定性正则化。动态指数(1?pi,yi)对困难(分类错误)的样本进行加权,对容易的样本进行减重,使梯度更新集中在具有挑战性的案例上。
不确定性正则化项 ?λunc?pi,yi(1?pi,yi) 在公式(5)中起到软防饱和机制的作用。因为当 pi,yi=0.5 时 pi,yi(1?pi,yi) 的乘积最大化,而当 pi,yi∈{0,1} 时等于零,负号确保在预测真实类别的概率接近边界值0或1时对优化器进行惩罚。这防止了训练过程中的过早确定性,特别是对于难以分类的样本,过度自信的预测会降低校准效果。与Pereyra等人(2017)的输出熵惩罚不同,我们的项专门针对真实类别概率的饱和度,保持了模型在有足够证据支持时产生自信预测的能力。第4节中的消融研究证实,这一项在不显著降低AUC的情况下改善了ECE。
以下命题在标准假设下形式化了DWB损失的校准属性。
命题1 DWB损失的校准偏差
设LDWB为公式(5)中定义的动态加权平衡损失。在假设(i)假设类H足以表示贝叶斯最优分类器,(ii)训练分布P(x,y)被很好地指定,以及(iii)损失被最小化到其全局最优值的情况下,DWB损失提供了向校准的归纳偏差。(6)E[Y∣f?(x)=p]≈p,?p∈[0,1]。
证明
DWB损失分解为一个加权对数损失(一个适当的评分规则)加上熵正则化项。根据Fernando和Tsokos的定理1[6],当预测概率等于真实条件概率P(Y=1∣x)时,适当的评分规则被唯一最小化。动态权重 wyi(1?pi,yi) 是预测概率的单调函数,不会改变全局最小值的位置,尽管它通过放大困难样本的梯度来重塑损失landscape。熵正则化项作为一个平滑约束,惩罚极端预测,进一步鼓励优化器收敛到校准解而不是过度自信的解。□
注3.1
在实践中,有限的样本、模型容量限制和局部最优值阻止了命题1中假设条件的完美实现。因此,DWB损失应该被理解为提供了一种原理性的向校准的归纳偏差,而不是完美校准的保证。尽管如此,这种归纳偏差在实证上优于标准的交叉熵损失,正如第4节中所展示的。
或者,对于事后校准,可以应用温度缩放[15]:(7)p?cal=σw?z+bT,公式(7)通过一个标量T调节logit的平滑度,该标量在主要训练阶段完成后在单独的验证集上进行优化。我们在实验中比较了训练中的和事后的校准方法。
图2展示了校准风险估计头的内部机制,概念化为“校准划分”。该过程从3D主干的层次化神经特征z1,…,zd开始,通过线性变换层(w?z+b)积分得到一个logit分数?。这个logit代表了在概率规范化之前的恶性肿瘤的原始证据。如图所示,标准的Sigmoid头(“基线陷阱”)倾向于产生过度自信的概率分布,其质量集中在极端值,导致可靠性图表中与完美校准对角线的显著偏差。相比之下,LungMate解决方案结合了一个校准风险头,该风险头对logit应用温度缩放(T>1.0)。这种变换产生了一个更现实、更平衡的概率分布,其中预测的风险与观察到的事件频率紧密对齐。这种校准头的稳定性和准确性通过“反馈控制”机制得以维持,特别是通过DWB损失和明确的Brier分数正则化的联合优化,动态惩罚过度自信,并确保风险分数既具有区分性又适用于临床决策支持。
下载:下载高分辨率图像(1MB)下载:下载全尺寸图像
图2. 风险估计头中“校准划分”的详细说明。特征表示z的线性变换产生一个logit分数?。使用标准Sigmoid的基线陷阱(左侧)导致过度自信的分布和较差的校准。LungMate解决方案(右侧)利用温度缩放(T)和双重反馈控制——DWB损失优化和明确的Brier正则化——来实现理想的校准和准确的恶性肿瘤风险评估。
3.6. 增强鲁棒性
为了提高在不同领域变化(例如,不同的扫描仪、机构或成像协议)下的泛化能力,我们在数据和模型层面都采用了增强鲁棒性的策略。
3.6.1. 领域感知的数据增强
我们应用随机增强方法来模拟在不同临床站点和扫描仪制造商之间常见的采集变异性。增强策略沿着三个互补的轴进行操作。强度扰动,包括随机HU移位、伽马校正和高斯噪声注入,模拟扫描仪校准和重建内核的差异。空间变换,如随机3D旋转、轴翻转和弹性变形,鼓励模型学习对结节方向和形状变化的几何不变性。通过临床合理的范围内(例如,0.5到2.0毫米各向同性)的随机重采样来实现分辨率变化,模拟不同CT协议中观察到的切片厚度变化。这些增强在训练过程中随机应用,每个变换在每个小批量中独立采样,以最大化增强空间的覆盖范围,而无需手动调整增强计划。
3.6.2. 多源训练协议(可选)
当训练数据来自具有异构采集参数的多个数据集时,可以采用多源训练协议,如图3所示。该框架处理来自不同源域(例如,Siemens的数据集A、GE的数据集B和Philips扫描仪的数据集C)的数据。一个平衡的小批量采样器中心将这些不同的来源整合成一个平衡的小批量B,确保模型不会偏向任何单一扫描仪分布。
此外,一个鲁棒性增强层沿着三个主要轴应用领域感知的增强流程:(1)强度移位,以模拟特定于扫描仪的HU变化;(2)通过空间变换实现几何不变性;(3)重采样以标准化切片厚度和分辨率。LungMate模型作为一个领域不变的学习器,处理这些增强后的样本以产生风险分数。最终输出评估通过风险仪表和多领域可靠性图表显示,证明了模型实现了领域鲁棒的校准,预测风险与所有来源机构的观察频率对齐。
下载:下载高分辨率图像(550KB)下载:下载全尺寸图像
图3. 多源训练协议以实现领域鲁棒性。来自不同扫描仪制造商(Siemens、GE、Philips)的异构源域通过平衡的小批量采样器进行聚合。鲁棒性增强层应用领域感知的增强轴——强度移位、几何不变性和重采样——到数据。LungMate模型作为领域不变的学习器,处理这些增强后的样本以产生风险分数。最终输出评估通过风险仪表和多领域可靠性图表显示,模型实现了领域鲁棒的校准,预测风险与所有来源机构的观察频率对齐。
3.7. 训练目标
总体训练目标将分类、校准和正则化项结合成一个统一的损失函数:(8)Ltotal=LDWB+λcalLBrier+λregLreg,公式(8)中的统一目标创建了一个协同的梯度流,其中LDWB的区分信号由LBrier的校准信号进行调节。其中每个项都有其独特的作用。分类损失LDWB是公式(5)中定义的动态加权平衡损失,它解决了类别不平衡问题,同时提供了向校准的归纳偏差。校准损失LBrier定义为Brier分数:LBrier=1N∑i=1N(p?i?yi)2,它衡量预测概率p?i和真实二元结果yi之间的均方误差。这是一个严格适当的评分规则,直接惩罚预测概率与观察标签之间的偏差。这个明确的校准项是除了DWB损失之外的关键补充,确保模型在训练过程中优化概率准确性,而不是仅仅依赖于DWB损失的隐式校准属性。正则化项Lreg应用标准的L2权重衰减以防止过拟合。详细的测量和参数调整方法在第3.8节中概述。完整的训练过程总结在算法1中。
下载:下载高分辨率图像(389KB)下载:下载全尺寸图像
3.7.1. 推理过程
在推理时,训练好的模型通过预处理流程处理结节补丁,不包括数据增强。主干提取特征,校准风险头输出恶性肿瘤分数。当采用事后温度缩放时,学习得到的温度参数T?(在保留的验证集上优化以最小化负对数似然)会应用于sigmoid激活之前的logits,得到p?cal=σ((w?z+b)/T?)。最终输出p?∈[0,1]直接代表了恶性肿瘤的估计概率,可以与该概率与临床决策阈值进行比较,用于下游的分流。对于二元分类,0.5是一个标准的阈值,尽管根据部署环境中所需的灵敏度-特异性权衡,可能需要使用基于临床的阈值(例如,与Lung-RADS风险类别对齐)。
3.8. 实施细节
3.8.1. 计算复杂性和内存
LungMate的计算成本主要由3D卷积主干网络决定。对于一个尺寸为H×W×D的输入补丁,以及具有L个残差块、每层C个通道和核大小k的网络,前向传播的复杂度为O(L?C^2?k^3?H?W?D)。报告的复杂度表示每层的前向传播成本;整个网络的复杂度是所有L个残差块之和。这与之前用于结节分类的标准3D CNN相当,并且在现代GPU硬件上仍然是可行的。对于批量大小为B和混合精度算术(FP16)的训练,峰值GPU内存使用量按O(B?C?H?W?D)计算,加上模型参数的固定成本。当内存限制严格时,可以使用梯度检查点来减少激活内存,但代价是在反向传播过程中需要额外的前向传播。实际上,对于典型的48 × 48 × 48体素的补丁大小和16到32的批量大小,训练可以在16 GB的GPU内存内顺利完成。
3.8.2. 训练稳定性
为了确保稳定的收敛,我们采用了深度学习文献中的几种成熟做法。在每个卷积层之后应用批量归一化,以稳定内部协变量偏移并加速训练。学习率计划在前5个周期内以线性热身阶段开始,从一个小初始值逐渐增加到目标学习率,然后在剩余的周期内使用余弦衰减。梯度裁剪的最大范数为1.0,以防止在损失函数条件不佳的早期训练中发生梯度爆炸。基于验证AUC的提前停止机制,在性能停滞时终止训练,从而减少过拟合风险和计算成本。在早期训练中,由于预测接近随机,DWB动态指数(1?pi,yi)可能会产生不稳定的权重值。为了确保稳定收敛,梯度裁剪(最大范数1.0)防止梯度爆炸,5个周期的学习率热身允许模型在动态权重占据主导之前发展出有意义的表示,而批量归一化稳定了中间激活。根据经验,采用这些措施后,训练可以平稳收敛。
3.8.3. 超参数选择和测量
超参数通过在保留的、独立于患者的验证集上进行系统化的网格搜索来测量和优化。每个参数的测量方法如下:
- 权重权衡(λcal,λreg):通过评估ECE和AUC在整个{0.1,0.3,0.5,1.0}范围内的值来测量。最优的λcal=0.3是基于校准-区分曲线的拐点选择的。
- 温度(T):对于事后校准,使用L-BFGS优化器在验证集上最小化负对数似然(NLL)来测量温度T。这作为与LungMate的主要端到端目标相比的次要校准基准。
- 学习率(η):最初使用学习率范围测试来测量,然后固定在1×10^-3,并使用余弦调度。
注释3.2
在第4节中通过专门实验验证了改进的校准(C001)和鲁棒性(C002)的说法。我们强调,所有报告的指标都是在具有患者级分割的保留测试集上计算的。
4. 实验
本节对LungMate在公共肺部结节数据集上的性能进行了全面的实验评估。我们首先描述了数据集和评估协议,然后介绍了实施细节。接着,我们展示了LungMate与强基线的比较结果、分析了组件贡献的消融研究、在数据集变化下的鲁棒性分析以及详细的校准分析。所有实验都遵循患者级分割以防止数据泄漏,并且结果都附带了统计显著性测试。
4.1. 数据集和评估协议
我们在LIDC-IDRI数据集[26]上评估LungMate,这是一个公开的胸部CT数据集,包含1018张CT扫描图像和2635个标注的结节。每个结节最多由四位放射科医生进行标注,恶性肿瘤评级分为5个等级(1:极不可能,2:不太可能,3:不确定,4:比较可疑,5:非常可疑)。为了处理不同读者的分歧,我们计算每个结节所有可用标注者的恶性肿瘤评级的中间值。选择中间值而不是平均值是因为它对异常值更具有鲁棒性,并且自然地处理了离散的序数等级。然后将得到的共识评分二值化:中间评分为1或2的结节被标记为良性(标签0),中间评分为4或5的结节被标记为恶性(标签1)。不确定的结节(中间评分为3)被排除在外,大约去除了296个结节(占所有2635个标注结节的11.2%),以确保只有具有足够共识的案例用于训练和评估。这种二值化策略在文献中被广泛采用,减少了模棱两可的案例对训练和评估的影响。这样得到了1842个带有二元标签的结节(良性:1024个,恶性:818个),显示出反映现实世界临床分布的适度类别不平衡。
LIDC-IDRI数据集展现了显著的扫描仪多样性,包括来自GE Medical Systems(N=450)、Siemens(N=312)和Philips(N=256)的机器。重建核类型包括“标准”、“肺部”和“骨骼”,而切片厚度范围从0.6毫米到3.0毫米。人口统计数据显示平均患者年龄为63.8岁(标准差:12.4岁),性别分布几乎相等(52%为男性),为鲁棒的特征学习提供了异质性的群体。
对于外部验证,我们使用了LNDb数据集[27],其中包含294张CT扫描图像和1018个结节。LNDb数据集是在葡萄牙Porto的Centro Hospitalar de S?o Jo?o使用Siemens SOMATOM扫描仪获取的。CT扫描的切片厚度范围从0.5毫米到2.5毫米,并使用不同的核进行重建。与LIDC-IDRI不同,后者每个结节有多位放射科医生的标注,LNDb每个结节至少有一个放射科医生的标注。患者群体和地理来源也不同,使得LNDb成为评估跨数据集鲁棒性的合适测试平台,尽管我们承认LNDb仅限于Siemens扫描仪,这限制了我们声称普遍的制造商不变性的能力。
我们采用了严格的患者级分割协议来防止数据泄漏。LIDC-IDRI数据集在患者级别被划分为训练集(70%)、验证集(10%)和测试集(20%),确保同一患者的所有结节都保持在同一分割中。这个协议至关重要,因为同一患者的结节可能具有相似的成像特征、扫描仪设置或临床背景,将它们包含在不同的分割中会导致过高的性能估计。我们在训练集上进行了5折患者级交叉验证以调整超参数并选择模型,最终的保留测试集仅用于报告最终性能指标。对于跨数据集评估,我们仅在LIDC-IDRI上进行训练,并在完整的LNDb测试集上进行评估,模拟模型遇到不同机构或扫描仪数据的实际情况。
预处理遵循一个在所有数据集和基线上一致应用的标准化流程。CT体积使用三线性插值重新采样到1毫米的各向同性分辨率,以补偿不同扫描仪之间的切片厚度差异。强度值被裁剪到肺窗[-1000,600] Hounsfield单位(HU)范围内,并线性重新缩放到[0,1]以标准化动态范围。提取的大小为48×48×48毫米的以结节为中心的补丁,结节中心位于补丁的中心,为结节核心和结节周围区域提供了足够的空间背景。在训练过程中,应用数据增强技术,包括随机旋转(±15°)、平移(±5毫米)和强度偏移(±10%)以提高泛化能力。所有预处理步骤在所有数据集中使用相同的参数进行,以确保公平比较。
4.2. 实施细节
LungMate框架使用PyTorch v1.12.0和CUDA 11.3实现。实验是在配备NVIDIA A100 GPU(80 GB VRAM)、两个AMD EPYC 7742 64核处理器和512 GB RAM的工作站上进行的。软件环境包括Python 3.9、NumPy 1.21和SimpleITK 2.1用于医学图像处理。特征提取主干是一个3D ResNet-18架构,具有[64, 128, 256, 512]的通道维度,经过全局平均池化后产生d=512维的特征。风险头部分由一个具有512个输入单元和1个输出单元的全连接层组成,随后是一个sigmoid激活函数,产生[0,1]范围内的恶性肿瘤风险分数。模型使用Adam优化器进行训练,初始学习率为1×10^-3,批量大小为16,学习率在100个周期内按余弦曲线衰减。损失函数结合了分类损失(DWB损失)、校准损失(Brier分数)和L2正则化,超参数λcal=0.3和λreg=0.01通过验证集上的网格搜索确定。训练使用5个独立的随机种子(42, 123, 456, 789, 1011)进行,以评估方差,结果以平均值±标准差的形式报告。
所有基线都使用相同的预处理流程,并在相同的条件下进行评估,以确保公平比较。表2总结了所有方法的架构细节和参数数量。3D ResNet-18基线使用标准交叉熵损失进行训练,超参数与LungMate相同,除了损失函数不同。3D DenseNet-121基线遵循相同的训练协议,参数数量也相似(大约11.8M参数)。多尺度CNN基线采用双分支架构,具有不同的感受野大小(3 × 3 × 3和5 × 5 × 5卷积),包含大约12.1M参数。基于注意力的基线结合了类似于STLF-VA [7]的空间注意力机制,在每个残差块后插入了通道注意力模块,导致大约13.2M参数。
此外,我们还包括了过去三年内发布的两种最先进的比较方法:
1. 3D SAACNet(Guo等人,2023年)[28]:一个整合了非对称卷积和梯度提升机制的3D分割注意力网络,用于重新校准多尺度空间信息。
2. SSTL-FM(Cao等人,2024年)[29]:一个自监督的迁移学习融合模型,使用特征细化模块提取图像特征和临床属性。
所有基线都接受相同的超参数调整预算:在验证集上对学习率{5×10^-4,1×10^-3,2×10^-3}、批量大小{8,16,32}和权重衰减{1×10^-4,1×10^-3}进行网格搜索,最佳配置基于验证AUC选择。温度缩放作为一种事后校准方法应用,其中温度参数T在验证集上优化以最小化ECE,Platt缩放则使用逻辑回归对验证集预测进行缩放。所有模型都训练到收敛(在验证集上连续10个周期没有改进),以确保最终性能的公平比较。
表2. LungMate与基线方法的架构比较。参数数量和FLOPs是为大小为48×48×48体素的输入补丁计算的。所有方法使用相同的预处理流程,并使用相同的超参数调整预算进行训练。
方法 架构 参数数量 FLOPs (G)
3D ResNet-18 (CE) 11.2M 2.1
3D DenseNet-121 (CE) 11.8M 2.4
多尺度CNN 两分支(3 × 3×3,5×5 × 5) 12.1M 2.6
基于注意力的 3D ResNet-18 + 通道注意力 13.2M 2.8
DWB损失(独立) 3D ResNet-18(仅DWB损失) 11.2M 2.1
3D SAACNet (2023) 非对称卷积 + 注意力 + GBM 14.5M 3.2
SSTL-FM (2024) SSL迁移学习 + 特征融合 15.8M 3.5
LungMate 3D ResNet-18 + DWB + Brier + L2 12.4M 2.3
4.3. 统计分析方法
为了严格评估LungMate与基线方法之间的性能差异,我们采用了几种统计验证技术:
- 配对T检验:我们使用双尾配对t检验来比较多个随机种子下的AUC和ECE值。这使我们能够在假设性能差异服从正态分布的情况下评估平均性能差异是否具有统计学意义。
- Wilcoxon符号秩检验:作为一种非参数替代方法,我们使用Wilcoxon检验来评估方向上的优越性,而不假设结果的特定分布。
- 自举:通过在对保留的测试集上进行1000次迭代的自助法计算AUC和ECE的95%置信区间(CIs)。对于每个自助样本,我们重新计算指标,自助分布的2.5%和97.5%分位数构成CI。
- Delong检验:对于单个模型实例上的ROC曲线对比,我们使用Delong检验来确定面积差异是否显著。
在结果表中,显著改进用?(p < 0.05)和??(p < 0.01)表示。
4.4. 主要结果
表3展示了LungMate与八个强基线在LIDC-IDRI测试集上的主要比较结果。LungMate的AUC达到0.934(95%置信区间:0.924–0.944),在所有基线方法中表现最佳,并且具有统计学上的显著改进(配对t检验,p<0.001)。在比较方法中表现最好的基线SSTL-FM [29]和3D SAACNet [28]的AUC分别为0.922(95%置信区间:0.911–0.933)和0.915(95%置信区间:0.903–0.927)。图4展示了ROC曲线,证明LungMate在所有假阳性率阈值下都具有优越的区分性能。使用标准交叉熵损失的3D ResNet-18基线的AUC为0.872±0.016,表明LungMate中的校准感知训练目标不仅提高了概率准确性,还增强了区分性能。3D DenseNet-121基线的AUC为0.891±0.013,而多尺度CNN的AUC为0.885±0.015。对3D ResNet-18基线进行事后温度缩放后,校准指标有所改善,但区分性能没有显著变化,AUC仍为0.875±0.017。LungMate的校准性能尤其值得关注,其ECE为0.034±0.006,相比标准交叉熵基线(ECE =0.112±0.018)降低了69.6%。Brier分数为0.067±0.009,进一步证实了其概率准确性的优越性。当应用温度缩放到ResNet基线上时,ECE降低到0.058±0.011,但这种事后方法仍无法达到LungMate端到端训练策略所实现的校准性能。基于注意力的基线具有竞争力的区分性能(AUC =0.908),但其校准性能较差(ECE =0.095±0.014),这突显了在训练过程中显式优化校准的重要性。
在分类准确性方面,LungMate的准确率为91.8%±1.2%,敏感性为89.3%±1.8%,特异性为93.7%±1.1%。平衡的敏感性和特异性表明该模型对任何一类都没有系统性偏差,这对于临床应用非常重要,因为假阳性和假阴性都可能带来重大后果。基于注意力的基线也达到了类似的准确率(90.2%±1.4%),但特异性较低(91.1%±1.6%),这表明校准感知训练有助于保持跨类别的平衡性能。这些结果表明LungMate成功实现了区分和校准的双重目标,生成的风险评分既准确又可靠。表4详细展示了LungMate与每种基线方法的配对t检验结果。配对t检验比较了不同方法中相应随机种子生成的AUC值。对于每个种子s∈{42,123,456,789,1011},LungMate和基线都是从零开始训练的,具有相同的种子、权重初始化、数据排序和患者级别划分,仅损失函数不同。每种种子的配对差异表示为ds=AUCLungMate(s)?AUCbaseline(s)。所有比较都显示出统计学上的显著改进,t统计量和p值均小于0.001,证实LungMate的性能提升不是由于随机变异造成的。AUC的平均差异从0.026(与基于注意力的方法相比)到0.062(与3D ResNet-18基线相比不等,相应t统计量从9.7到17.3不等,均远高于α=0.01时自由度为4的临界值3.747。我们还报告了Wilcoxon符号秩检验的结果作为非参数替代方法。在n=5的配对观测下,最小的Wilcoxon p值为0.0625。所有比较都显示出这种最小的p值(所有五个AUC差异都支持LungMate),表明了一致的性能提升方向。我们承认n=5对于参数和非参数检验提供的统计能力有限,而非常大的效应大小(大多数比较的Cohen’s d>3)提供了额外的性能差异证据。
表3. LungMate与基线在LIDC-IDRI测试集上的主要比较。结果以平均值(95%置信区间)表示,标准差以±值显示,通过5次独立运行计算得出。95%置信区间(CIs)是通过在测试集上自助法计算的。最佳结果以粗体显示。统计显著性是通过与LungMate的配对t检验来评估的。
LungMate的校准性能尤为突出,其ECE为0.034±0.006,相比标准交叉熵基线(ECE =0.112±0.018)降低了69.6%。这一改进验证了DWB损失结合显式校准项在产生可靠概率估计方面的有效性。Brier分数为0.067±0.009,进一步证实了其概率准确性的优越性,相比之下,交叉熵基线的Brier分数为0.142±0.021。当应用于ResNet基线时,温度缩放将ECE降低到0.058±0.011,但这种事后方法无法达到LungMate端到端训练策略所实现的校准性能。基于注意力机制的基线具有竞争力的区分性能(AUC =0.908),但校准性能较差(ECE =0.095±0.014),这突显了在训练过程中显式优化校准的重要性,而不仅仅是依赖于架构改进。
在分类准确性方面,LungMate的准确率为91.8%±1.2%,敏感性为89.3%±1.8%,特异性为93.7%±1.1%。平衡的敏感性和特异性表明该模型对任何一类都没有系统性偏差,这对于临床应用非常重要,因为假阳性和假阴性都会产生重要后果。基于注意力机制的基线也达到了类似的准确率(90.2%±1.4%),但特异性较低(91.1%±1.6%),这表明校准感知训练有助于保持跨类别的平衡性能。这些结果表明LungMate成功实现了区分和校准的目标,生成的风险评分既准确又可靠。表4详细展示了LungMate与每种基线方法的配对t检验结果。配对t检验比较了不同方法中相应随机种子生成的AUC值。对于每个种子s∈{42,123,456,789,1011},LungMate和基线都是从零开始训练的,具有相同的种子、权重初始化、数据排序和患者级别划分,仅损失函数不同。每种种子的配对差异表示为ds=AUCLungMate(s)?AUCbaseline(s)。所有比较都显示出统计学上的显著改进,t统计量和p值均小于0.001,证实LungMate的性能提升不是由于随机变异造成的。AUC的平均差异从0.026(与基于注意力的方法相比)到0.062(与3D ResNet-18基线相比不等,相应t统计量从9.7到17.3不等,均远高于α=0.01时自由度为4的临界值3.747。我们还报告了Wilcoxon符号秩检验的结果作为非参数替代方法。在n=5的配对观测下,最小的Wilcoxon p值为0.0625。所有比较都得出这一最小p值(所有五个AUC差异都支持LungMate),表明了一致的性能提升方向。我们承认n=5对于参数和非参数检验提供的统计能力有限,而非常大的效应大小(大多数比较的Cohen’s d>3)提供了额外的性能差异证据。
表3. LungMate与基线在LIDC-IDRI测试集上的主要比较。结果以平均值(95%置信区间)表示,标准差以±值显示,通过5次独立运行计算得出。95%置信区间(CIs)是通过在测试集上自助法计算的。最佳结果以粗体显示。统计显著性是通过与LungMate的配对t检验来评估的。
LungMate的校准性能尤其值得关注,其ECE为0.034±0.006,相比标准交叉熵基线(ECE =0.112±0.018)降低了69.6%。这一改进验证了DWB损失结合显式校准项在产生可靠概率估计方面的有效性。Brier分数为0.067±0.009,进一步证实了其概率准确性的优越性,相比之下,交叉熵基线的Brier分数为0.142±0.021。当应用于ResNet基线时,温度缩放将ECE降低到0.058±0.011,但这种事后方法无法达到LungMate的端到端训练策略所实现的校准性能。基于注意力机制的基线具有竞争力的区分性能(AUC =0.908),但校准性能较差(ECE =0.095±0.014),这突显了在训练过程中显式优化校准的重要性,而不仅仅是依赖于架构改进。
在分类准确性方面,LungMate的准确率为91.8%±1.2%,敏感性为89.3%±1.8%,特异性为93.7%±1.1%。平衡的敏感性和特异性表明该模型对任何一类都没有系统性偏差,这对于临床应用非常重要,因为假阳性和假阴性都可能带来重要后果。基于注意力机制的基线也达到了类似的准确率(90.2%±1.4%),但特异性较低(91.1%±1.6%),这表明校准感知训练有助于保持跨类别的平衡性能。这些结果表明LungMate成功实现了区分和校准的目标,生成的风险评分既准确又可靠。表4详细展示了LungMate与每种基线方法的配对t检验结果。配对t检验比较了不同方法中相应随机种子生成的AUC值。对于每个种子s∈{42,123,456,789,1011},LungMate和基线都是从零开始训练的,具有相同的种子、权重初始化、数据排序和患者级别划分,仅损失函数不同。每种种子的配对差异表示为ds=AUCLungMate(s)?AUCbaseline(s)。所有比较都显示出统计学上的显著改进,t统计量和p值均小于0.001,证实LungMate的性能提升不是由于随机变异造成的。AUC的平均差异从0.026(与基于注意力的方法相比)到0.062(与3D ResNet-18基线相比不等,相应t统计量从9.7到17.3不等,均远高于α=0.01时自由度为4的临界值3.747。我们还报告了Wilcoxon符号秩检验的结果作为非参数替代方法。在n=5的配对观测下,最小的Wilcoxon p值为0.0625。所有比较都得出这一最小p值(所有五个AUC差异都支持LungMate),表明了一致的性能提升方向。我们承认n=5对于参数和非参数检验提供的统计能力有限,而非常大的效应大小(大多数比较的Cohen’s d>3)提供了额外的性能差异证据。
表3. LungMate与基线在LIDC-IDRI测试集上的主要比较。结果以平均值(95%置信区间)表示,标准差以±值显示,通过5次独立运行计算得出。95%置信区间(CIs)是通过在测试集上自助法计算的。最佳结果以粗体显示。统计显著性是通过与LungMate的配对t检验来评估的。
LungMate在LIDC-IDRI测试集上的表现显著优于所有基线方法。表4展示了LungMate与基线方法的配对t检验结果。μΔ表示LungMate与基线之间的平均差异,σΔ表示差异的标准差,t表示t统计量。显著性水平α=0.01,临界值t0.01,4=3.747。所有比较在统计上都具有重要意义。
在LIDC-IDRI测试集上,LungMate相对于各基线的配对t检验结果如下:
- 方法 | 基准 | AUC | 准确率 | 敏感性 | 特异性 | ECE | Brier分数 |
|----------------------|----------------------------------|--------------|------------------|------------------|--------------|---------------- Sahara'Il |
| 3D ResNet-18 (CE) | 0.872 | 87.3% | 84.2% | 89.8% | 0.112 | 0.142 (0.857–0.887) |
| 3D DenseNet-121 (CE) | 0.891 | 88.9% | 86.7% | 90.6% | 0.098 | (0.879–0.903) |
| Multi-scale CNN | 0.885 | 88.1% | 85.4% | 90.2% | 0.105 | (0.872–0.898) |
| 基于注意力的方法 | 0.908 | 90.2% | 88.9% | 91.1% | 0.095 | (0.896–0.920) |
| 3D SAACNet (2023) | 0.915 | 90.8% | 89.5% | 0.088 | (0.903–0.927) |
| SSTL-FM (2024) | 0.922 | 91.2% | 90.2% | 0.082 | (0.911–0.933) |
| 温度缩放 (事后) | 0.875 | 87.6% | 84.5% | 0.058 | (0.857–0.893) |
| DWB Loss (独立) | 0.896 | 89.4% | 87.2% | 0.072 | (0.885–0.907) |
| LungMate | 0.934 | 91.8% | 89.3% | 0.034 | 0.067 | (0.924– 0.944) |
*p<0.05, **p<0.01*。我们强调,尽管LungMate在所有测试种子上都显示出统计学上的显著改进(p<0.001),但这些结果与LIDC-IDRI注释者共识密切相关。在具有更高标签噪声或不同诊断标准的临床环境中,性能可能会有所不同。
表4. LungMate与基线在LIDC-IDRI测试集上的配对t检验结果。μΔ表示LungMate与基线之间的平均差异,σΔ表示差异的标准差,t表示t统计量。显著性水平α=0.01,临界值t0.01,4=3.747。所有比较在统计上都具有重要意义。
LungMate在与各基线的比较中表现出显著的性能提升:
- LungMate vs. 3D ResNet-18 (CE) | AUC: 0.062 | 0.008 | 17.3 | <0.001 |
- LungMate vs. 3D DenseNet-121 (CE) | AUC: 0.043 | 0.007 | 13.7 | <0.001 |
- LungMate vs. Multi-scale CNN | AUC: 0.049 | 0.008 | 13.7 | <0.001 |
- LungMate vs. 基于注意力的方法 | AUC: 0.026 | 0.006 | 9.7 | <0.001 |
- LungMate vs. 3D SAACNet (2023) | AUC: 0.019 | 0.005 | 8.5 | <0.001 |
- LungMate vs. SSTL-FM (2024) | AUC: 0.012 | 0.004 | 6.7 | <0.001 |
- LungMate vs. 温度缩放 | AUC: 0.059 | 0.009 | 14.7 | <0.001 |
- LungMate vs. DWB Loss (独立) | AUC: 0.896 | 0.006 | 14.2 | <0.001 |
LungMate与3D ResNet-18(CE)相比,AUC提高了0.062,准确性提高了87.3%,敏感性提高了84.2%,特异性提高了89.8%。LungMate与3D DenseNet-121(CE)相比,AUC提高了0.043,准确性提高了88.9%,敏感性提高了86.7%,特异性提高了90.6%。LungMate与基于注意力的方法相比,AUC提高了0.026,准确性提高了90.2%,特异性提高了88.9%。LungMate与3D SAACNet (2023结果以5次独立实验的平均值±标准差的形式报告。对于所有指标而言,数值越低越好。
方法
ECEBrier分数
3D ResNet-18 (CE) 0.112±0.018 0.142±0.021
温度缩放(事后)0.058±0.011 0.124±0.019
DWB损失(独立)0.072±0.010 0.109±0.015
LungMate 0.034 ± 0.006 0.067 ± 0.009
下载:下载高分辨率图像(345KB)
下载:下载全尺寸图像
图5. 比较不同方法校准性能的可靠性图。对角线代表完美校准。LungMate(实线)紧密跟随对角线,表明预测校准良好,而交叉熵基线(虚线)在高概率范围内表现出显著的误校准,导致过度自信的预测。
4.8. 效率分析
我们分析了LungMate的计算效率,以评估其在临床应用中的实际可行性。该模型包含大约1240万个参数,与3D ResNet-18基线(1120万个参数)相当,并且每个前向传递需要大约2.3 GFLOPs的处理能力,适用于48 × 48 × 48大小的输入数据。在NVIDIA A100 GPU上的推理时间为每个结节8.2±0.3毫秒,足以实现实时处理,适合临床工作流程。报告的推理时间是指每个单独的结节贴片。总体患者级处理时间与检测到的结节数量成线性关系;对于典型的筛查案例,检测到1-5个结节,LungMate的总推理时间需要在8-41毫秒范围内,完全符合实时临床要求。在单个A100 GPU上训练大约需要4.2小时,考虑到模型的性能优势,这是合理的。推理过程中的内存占用约为450 MB,使其能够在标准临床工作站上部署。这些效率指标表明,LungMate在不增加过高计算成本的情况下实现了优异的性能,保持了在实际临床应用中的可行性。比较结果见图5。
5. 讨论
本研究开发并评估了LungMate,这是一种用于从胸部CT图像中估计肺结节恶变风险的校准感知训练方法。所提出的框架结合了动态加权平衡损失函数、显式的Brier分数校准项和不确定性正则化,以优化判别能力和概率可靠性。在LIDC-IDRI数据集上的实验结果表明,LungMate的AUC为0.934,并且与标准训练相比,预期校准误差显著降低了69.6%。此外,在LNDb数据集上的跨数据集验证表明,LungMate在数据集变化下的鲁棒性更强,AUC下降仅为0.033。这些发现证实了最初的假设:训练过程中的显式校准优化产生了倾向于可靠性的归纳偏差,为肺癌筛查的临床决策支持提供了更可靠的工具。DWB损失根据预测置信度调整样本权重,对难以分类的少数类样本和预测不确定的样本给予更高的权重,自然地鼓励模型学习到校准良好的概率。校准损失中的显式Brier分数项直接惩罚预测概率与真实结果之间的偏差,从而产生了仅通过事后方法无法实现的校准倾向。
对为什么校准感知训练可以提高泛化能力的进一步分析揭示了过度自信与数据集特定过拟合之间的联系。使用标准交叉熵训练的模型 tend to 为训练样本分配极端概率,学习到对数据集特定模式(例如,扫描仪特定的纹理伪影、重建核效应)高度敏感的尖锐决策边界。通过Brier分数项和DWB损失中的不确定性正则化对过度自信进行惩罚,LungMate学习到的决策边界更加平滑、保守,不太可能利用数据集特定的混淆因素。这种解释得到了观察结果的支持:在LIDC-IDRI上ECE较低的变体在LNDb上的AUC下降幅度一致较小。此外,置信度惩罚与AUC的交互很有启发性:虽然不确定性正则化项略微降低了模型分配极端概率的能力(理论上限制了最大AUC),但其对AUC的净效应是积极的,因为它防止了模型在噪声训练标签上学习到过度自信的预测,否则会降低泛化性能。
在LNDb上的跨数据集评估显示,LungMate保持了竞争优势,AUC下降仅为0.033,而基准方法的下降范围为0.052–0.081。改进的跨数据集鲁棒性源于三种互补的实现机制:领域感知的数据增强(模拟获取变异)、校准感知的训练目标(阻止过度自信、对分布敏感的预测)和L2正则化(防止对源数据集特定模式的过拟合)。当前实验中没有实现诸如特征对齐或对抗性领域训练等显式的领域适应技术。
从临床角度来看,校准的价值在于风险分数的可解释性,以便于下游管理。在当前实践中,预测恶化风险为60%的结节可能需要不同的随访措施(例如,PET-CT或活检),而预测风险为20%的结节则需要监测。标准模型通常忽略校准,将这些中间概率“推”向0或1,以最小化交叉熵,实际上是为放射科医生选择一个类别,而不是诚实地评估不确定性。LungMate能够为真正模棱两可的12毫米结节保持0.6的校准分数,使临床医生能够做出基于阈值的决策,这些决策在统计上是可靠的,可能减少了对于那些被过度自信模型视为“恶性”的良性结节进行不必要的侵入性程序的频率。
5.1. 数据集变化和制造商差异
虽然LungMate在LNDb数据集上展示了出色的鲁棒性,但我们必须承认跨数据集泛化的固有局限性。LNDb队列仅在Siemens扫描仪上获取,而LIDC-IDRI包括GE、Philips和Siemens的数据。尽管有所改进,但观察到的AUC下降为0.033,仍表明模型特征对机构协议仍有一定的敏感性。未来的研究应在“真正”的三方制造商变化条件下评估LungMate(例如,在GE/Siemens上训练并在Philips上进行测试),以进一步验证制造商不变性。我们来自强度变化增强的初步证据表明,LungMate对HU变化的敏感性较低,但重建核的差异(例如,尖锐核与平滑核)仍然是分布变化的挑战来源[27]、[29]。
在解释这些结果时,必须考虑几个限制和有效性威胁。首先,评估是在公开可用的数据集(LIDC-IDRI和LNDb)上进行的,这些数据集可能无法完全代表临床实践的多样性。LIDC-IDRI数据集虽然对基准测试很有价值,但使用放射科医生的评级作为替代标签,而不是活检确认的病理,引入了可能影响训练和评估的标签噪声。将5点恶性评级映射到二进制标签的做法在文献中很常见,但这种简化丢弃了关于中间情况的不确定性信息。其次,尽管跨数据集评估显示了鲁棒性的提高,但它仅限于两个数据集,当应用于具有显著不同获取协议、患者人口统计特征或结节特征的数据集时,性能可能会进一步下降。第三,虽然通过DWB损失解决了训练数据中的类别不平衡问题,但这仍可能影响训练集中代表性不足的罕见结节亚型或边缘案例的性能。第四,评估关注的是结节级别的分类,但临床工作流程通常需要汇总多个结节的信息,最佳汇总策略可能取决于临床背景。第五,虽然计算要求对于研究环境来说是合理的,但对于实时临床部署可能需要优化,特别是在标准临床工作站上而不是高端GPU上进行处理。
为了可重复性和公平比较,未来的工作应采用几项协议选择。患者级别的分割协议对于防止数据泄露至关重要,所有未来研究都应明确报告是否实施了患者级别分割以及如何处理重复患者或系列数据。如本工作所示,使用多个随机种子并报告置信区间可以提供比单次运行结果更好的不确定性量化。对于声称能够产生可靠概率估计的方法,包含判别和校准指标至关重要,未来的工作还应报告预期校准误差、Brier分数和可靠性图,以及AUC和准确率。尽管由于数据集可用性和标签兼容性问题,跨数据集评估协议实施起来具有挑战性,但它提供了无法从单数据集评估中获得的关于泛化的宝贵见解。最后,如实验部分所提供的超参数、预处理步骤和实现细节的透明报告,使得公平比较和可重复性成为可能。这些协议考虑虽然本身不是算法贡献,但对于推进能够转化为临床实践的可靠、可泛化的恶性风险估计领域是必要的。
6. 结论
本研究开发并评估了LungMate,这是一种用于从胸部CT图像中估计肺结节恶变风险的校准感知训练方法。所提出的框架结合了动态加权平衡损失函数、显式的Brier分数校准项和不确定性正则化,以优化判别能力和概率可靠性。在LIDC-IDRI数据集上的实验结果表明,LungMate的AUC为0.934,并且与标准训练相比,预期校准误差显著降低了69.6%。此外,在LNDb数据集上的跨数据集验证表明,LungMate在数据集变化下的鲁棒性更强,AUC下降仅为0.033。这些发现证实了最初的假设:训练过程中的显式校准优化产生了倾向于可靠性的归纳偏差,为肺癌筛查的临床决策支持提供了更可靠的工具。
必须承认当前工作的几个局限性。评估是在两个公开可用的数据集(LIDC-IDRI和LNDb)上进行的,这些数据集可能无法完全代表临床实践的多样性。使用放射科医生的评级作为替代标签而不是活检确认的病理引入了标签噪声。尽管跨数据集评估显示了鲁棒性的提高,但它仅限于一个外部队列。未来的工作应通过在更大、更多样化的数据集上进行评估来解决这些限制,包括使用不同扫描仪和获取协议的多机构队列。具体的可行方向包括:(1) 结合临床协变量,如患者年龄、吸烟史和结节生长率,以潜在地改善判别能力和校准;(2) 将方法扩展到患者级别的风险聚合,将每个患者的多个结节合并为一个与临床工作流程对齐的风险分数;(3) 整合补充的不确定性量化方法,如深度集成,以提供超出校准的额外可靠性保证;(4) 开发通过鲁棒损失函数或半监督学习更明确处理标签噪声的方法;(5) 进行前瞻性临床验证研究,在部署前评估实际性能和临床效用。虽然这些方向具有挑战性,但它们代表了朝着可靠、可泛化的恶性风险估计迈出的重要步骤,这可能会对临床实践和患者结果产生实质性影响。
REDiT作者贡献声明
刘海:撰写——审阅与编辑、撰写——原始草稿、可视化、监督、数据管理。
胡越:软件、方法论、调查。
王凌云:撰写——原始草稿、项目管理、形式分析、概念化。
李长林:撰写——审阅与编辑、验证、资源管理、项目管理、调查。
李东涛:撰写——原始草稿、验证、项目管理、方法论、概念化。
孟凌汉:可视化、监督、软件。
郑光达:撰写——审阅与编辑、监督、项目管理、方法论。
包彦菊:撰写——审阅与编辑、撰写——原始草稿、验证、方法论、资金获取、形式分析。
生成式AI使用声明
部分文本,包括方法论部分的语言润色和编辑,是由生成式AI工具(ChatGPT,OpenAI,2025年)协助完成的。作者已仔细审查并验证了所有生成的内容,以确保准确性、原创性和符合科学和伦理标准。AI工具没有进行任何数据分析、结果生成或智力贡献。
资金声明
本工作得到了高水平中医院临床研究与成就转化能力提升项目(编号HLCMHPP2023078)和中国科学院创新基金(编号YY3101202507001)以及第六批全国中医临床实践优秀人才培训计划(国中医药交叉育人计划[2025]编号256)的支持。