编辑推荐:
为解决医学图像分割中类间相似性干扰及自知识蒸馏学习目标制定难题,研究人员开展了对抗类明智自知识蒸馏(ACW-SKD)的研究。结果表明该方法超越多种方法,提升分割精度,减少计算需求,为医学图像分割模型部署提供新选择。
在医学图像领域,精准的图像分割对于疾病诊断、治疗方案制定等至关重要。然而,医学图像存在低对比度、边界模糊以及器官或组织间类间相似性大等问题,使得分割任务困难重重。例如,在腹部器官分割中,这些因素会导致难以准确区分不同器官。同时,传统的知识蒸馏方法,包括离线知识蒸馏和自知识蒸馏,在医学图像分割应用时也面临诸多挑战。离线知识蒸馏预训练教师模型成本高,且教师与学生模型间知识差距大;自知识蒸馏则难以制定有效的后续学习目标。因此,为了攻克这些难题,提升医学图像分割的准确性和效率,江西理工大学的研究人员展开了深入研究。
研究人员提出了对抗类明智自知识蒸馏(Adversarial Class-Wise Self-Knowledge Distillation,ACW-SKD)框架。该研究成果发表在《Scientific Reports》上,为医学图像分割带来了新的突破,有助于推动医学影像技术的发展,提高医疗诊断的准确性。
研究人员采用了多种关键技术方法。首先,利用辅助头生成粗分割结果,以此提取类明智特征,明确建模类间关系;其次,引入特征重构模块(FRM),在倒数第二层特征层和类明智特征层进行特征重构,避免引入复杂的中间分支,实现跨层特征重构和知识传递;最后,通过对抗温度训练,融入可学习的温度模块,调整预测锐度,更好地挖掘主头预测与真实标签之间的差异。实验使用了 Synapse、FLARE2022 和 m2caiSeg 三个医学图像基准数据集,采用了 PyTorch 深度学习框架和 MMEngine 实验平台,运用 SGD 优化器进行训练。
研究结果主要通过以下几方面呈现:
- 与其他方法的比较:将 ACW-SKD 与其他自知识蒸馏方法、离线知识蒸馏方法以及 U-Net 网络进行对比。在多个指标上,ACW-SKD 表现优异。例如在 Synapse 数据集上,相比基线方法,使用 ResNet18 作为骨干网络时,ACW-SKD 的 Dice 相似系数(DSC)提高了 5.8%;在 FLARE2022 数据集上,同样使用 ResNet18 骨干网络,ACW-SKD 的 DSC 也有显著提升。与 U-Net 网络相比,ACW-SKD 能达到与之相当的结果,且计算量更低。
- 消融实验:对 ACW-SKD 的不同模块进行消融实验。结果显示,随着类明智特征模块(CWFM)、特征重构模块(FRM)和对抗温度模块(ATM)的依次添加,模型分割困难类别的能力逐步提升,Dice 分数逐渐提高。同时,对 FRM 不同卷积设计的实验表明,不同卷积设计在三个基准数据集上蒸馏效果相近,验证了 ACW-SKD 在不同 FRM 配置下的鲁棒性。此外,研究还探讨了对抗温度损失权重系数 λ 的影响,发现 λ = 3 时在 Synapse 和 FLARE2022 数据集上 Dice 指标性能最佳。
- 可视化结果:在三个基准数据集上对不同蒸馏方法进行可视化。结果表明,ACW-SKD 在分割困难类和类边界区域表现出色,有效减轻了类间相似性的干扰,优于其他先进的蒸馏方法。
研究结论表明,ACW-SKD 有效缓解了医学图像分割中类间相似性干扰的问题,通过类明智特征自知识蒸馏框架,实现了类明智特征知识的有效传递。特征重构模块增强了类明智特征的表示能力,对抗温度损失进一步挖掘了分割难点。然而,该方法也存在一定局限性,如辅助分割头增加了少量计算开销和训练参数,温度模块针对不同模态需重新校准。未来研究将聚焦于动态头剪枝以减少冗余,以及自监督温度自适应以扩大临床适用性。尽管存在这些不足,ACW-SKD 为资源高效的医学分割建立了新范式,在平衡准确性和可部署性方面具有重要意义,有望为医学图像分割在临床实践中的广泛应用提供有力支持,推动医学影像技术朝着更精准、更高效的方向发展。