编辑推荐：
在医学图像分割中，深度神经网络存在计算和存储成本高的问题，现有知识蒸馏（KD）方法也有局限性。研究人员开展了对抗类自知识蒸馏（ACW-SKD）的研究。结果显示该方法优于多种方法，能提高分割精度，对移动设备部署意义重大。
在医学图像领域，精准的图像分割对疾病诊断和治疗起着至关重要的作用。然而，目前深度神经网络（DNNs）虽然在医学图像分割方面取得了一定进展，但因其复杂的架构，带来了高昂的计算和存储成本，这使得它们在移动设备上的部署受到极大限制。传统的知识蒸馏（KD）方法，无论是基于预训练教师模型的离线知识蒸馏，还是自适应构建学习目标的自知识蒸馏，都面临着各自的挑战。比如离线知识蒸馏存在教师模型预训练成本高、师生知识差距大等问题；自知识蒸馏则难以制定有效的后续学习目标，在处理医学图像中器官或组织间的类间相似性时表现不佳。为了解决这些难题，江西理工大学信息工程学院多维智能感知与控制江西省重点实验室的研究人员开展了一项关于对抗类自知识蒸馏（Adversarial Class-Wise Self-Knowledge Distillation，ACW-SKD）的研究。该研究成果发表在《Scientific Reports》上，为医学图像分割领域带来了新的突破。
研究人员主要运用了以下关键技术方法：首先，使用辅助头生成粗分割图，进而获取类特征，这一过程有助于明确类间关系，减少类间相似性的干扰。其次，引入特征重建模块（FRM），通过在倒数第二层特征层和类特征层进行操作，避免了引入多个中间分支构建学习目标的复杂性，实现了跨层特征重建和知识传递。此外，采用对抗温度训练，融入可学习的温度模块，动态调整预测锐度，进一步挖掘分割难点，提升分割精度。实验选用了三个医学图像基准数据集，分别是 Multi-Atlas Labeling Beyond the Cranial Vault（Synapse）、Fast and low-resource semi-supervised abdominal organ segmentation（FLARE2022）和 m2caiSeg。
研究结果如下：
- 与其他方法的对比：将 ACW-SKD 与其他自知识蒸馏方法、离线知识蒸馏方法以及 U-Net 网络进行对比。在多个指标上，ACW-SKD 均表现出优越性。在 Synapse 数据集上，相较于基线方法，使用 ResNet18、MobileNetV2 和 ShuffleNetV2 作为骨干网络时，ACW-SKD 的 Dice 得分分别提升了 5.8%、2.77% 和 2.54%；在 FLARE2022 和 m2caiSeg 数据集上，同样在 Dice 得分等指标上表现出色。与离线知识蒸馏方法相比，ACW-SKD 在 Dice 指标上也具有竞争力，甚至能超越部分离线知识蒸馏中教师网络的性能。在与 U-Net 网络的比较中，ACW-SKD 在 Synapse、FLARE2022 和 m2caiSeg 数据集上取得了与 U-Net 相当的结果，且计算量更低。
- 消融实验：对 ACW-SKD 的不同模块进行消融实验。结果表明，随着类特征模块（CWFM）、特征重建模块（FRM）和对抗温度模块（ATM）的依次引入，模型分割困难类别的能力逐步提升，Dice 得分逐渐提高。对 FRM 不同卷积设计的消融实验显示，不同卷积设计的 FRM 方案在三个基准数据集上具有可比的蒸馏效果，突出了 ACW-SKD 在不同 FRM 配置下的鲁棒性。调整对抗温度损失的权重系数 λ，发现当 λ = 3 时，在 Synapse 和 FLARE2022 数据集上 Dice 指标性能最佳。
- 可视化结果：通过可视化不同蒸馏方法在不同数据集上的结果，发现 ACW-SKD 在分割困难类和类边界区域表现优异，有效减轻了类间相似性的干扰。
研究结论和讨论部分指出，ACW-SKD 框架有效缓解了医学图像分割中类间相似性干扰的问题，通过类特征自知识蒸馏、特征重建模块和对抗温度损失，实现了高效的知识传递和精准的分割。然而，该方法也存在一些局限性，例如辅助分割头增加了一定的计算开销和训练参数，温度模块针对 CT 强度分布优化，在跨模态泛化时需要重新校准。未来研究将聚焦于动态头部剪枝以减少冗余，以及自监督温度自适应，以扩大临床适用性。尽管存在这些不足，ACW-SKD 为资源高效的医学图像分割建立了新的范式，在准确性和可部署性之间取得了良好的平衡，为医学图像分割技术的发展和临床应用提供了重要的参考和方向。
