SE-CA Swin-Unet：双注意力增强Transformer用于CT图像分割

《ICT Express》：SE-CA Swin-Unet: Dual attention enhanced transformer for CT image segmentation

　　

本文提出了SE-CA Swin-Unet，一种双注意力增强的U形Transformer架构，用于CT图像分割。研究人员没有简单地堆叠现有的注意力组件，而是系统地研究了Squeeze-and-Excitation（SE）和Coordinate Attention（CA）在跳跃连接中的最优级联顺序。SE模块加强了通道间的依赖关系，而CA机制捕获了精确的空间相关性，优化后的顺序提高了分割精度。在Synapse多器官CT数据集上评估，该方法达到了平均Dice相似系数（Dice Similarity Coefficient，DSC）为80.25±0.51%，以及95% Hausdorff距离（95th percentile Hausdorff Distance，HD95）为24.38±1.00 mm。消融研究证实了SE和CA组合的有效性，为精确的临床器官分割提供了一个有前景的框架。

**论文解读：SE-CA Swin-Unet——双注意力增强Transformer用于CT图像分割**

**研究背景与问题**
医学图像分割是诊断和治疗流程中的关键环节，尤其在计算机断层扫描（Computed Tomography, CT）成像中。精确勾画腹部器官（如肝脏、胰腺、脾脏、肾脏等）对于手术规划、放射治疗和疾病监测至关重要。然而，腹部CT扫描中存在的边界重叠、对比度差异以及病理异常，为自动化系统带来了显著挑战。传统的卷积神经网络（Convolutional Neural Network, CNN），如U-Net，在多种视觉任务中取得了显著成功，但其有限的局部感受野使其无法捕获长程依赖关系，导致在模糊或低对比度区域性能不佳。生成对抗网络（Generative Adversarial Network, GAN）虽被用于减少标注依赖，但并未从根本上解决建模长程依赖的架构局限性。视觉Transformer（Vision Transformer, ViT）通过自注意力机制有效捕获全局上下文，其中Swin-Unet将层级Swin Transformer融入U形架构，实现了高效的全局感知分割。然而，Swin-Unet采用的常规跳跃连接缺乏自适应重校准，传播的特征图未对通道或空间重要性进行加权，常引入背景噪声。注意力机制如Squeeze-and-Excitation（SE）和Coordinate Attention（CA）分别能建模通道间依赖关系和保留几何位置信息，但Transformer的全局建模能力未充分利用跨通道重校准和空间约束注意力。因此，研究人员提出SE-CA Swin-Unet，在跳跃连接中系统研究SE和CA的最优级联顺序，以实现多尺度特征融合。该研究发表在《ICT Express》上。

**研究方法**
研究人员提出了一种改进的U形Transformer架构，在Swin-Unet的跳跃连接中集成级联的SE和CA模块，采用SE-first顺序。编码器采用层级Swin Transformer骨干，通过交替使用Swin Transformer块和补丁合并层提取多尺度特征；解码器使用上采样和补丁扩展操作恢复空间分辨率，并在1/4、1/8和1/16尺度上的跳跃连接处引入SE-CA级联模块。SE模块通过全局平均池化（Global Average Pooling, GAP）和MLP（多层感知机）进行通道重校准，抑制噪声并增强诊断相关特征；CA模块将2D全局池化解耦为两个正交1D方向编码，生成位置敏感权重，实现精确解剖定位。模型采用混合损失函数，结合多类交叉熵损失和多类Dice损失（权重α=0.4, β=0.6）。训练使用ImageNet预训练权重，数据增强包括随机旋转（[-20°, 20°]）和随机翻转，优化器为随机梯度下降（Stochastic Gradient Descent, SGD），学习率采用多项式衰减策略。评估在Synapse多器官CT数据集（30例临床腹部CT扫描，按18/12划分训练/测试集）和ACDC心脏MRI数据集（100例患者，分割右心室、心肌和左心室）上进行。

**研究结果**

**3.2 对比实验**
在Synapse数据集上，与U-Net、TransUnet、Swin-Unet、VM-UNet和Zig-RiR等基线模型进行公平比较（所有模型使用统一代码库、预处理和超参数重新训练）。SE-CA Swin-Unet的平均DSC为80.25±0.51%，HD95为24.38±1.00 mm，优于所有基线。对于大器官（如主动脉、肝脏、脾脏），改进幅度较小；但对于形状复杂、解剖变异大、边界模糊的器官（胆囊、胰腺、胃），DSC分别提升4.60%、3.39%和1.96%。与Swin-Unet相比，模型运行间性能更稳定（标准差更小），参数仅增加0.05M（0.2%），FLOPs基本不变。对三个独立运行的t检验显示p=0.0776，表明改进趋势边缘显著。

**3.3 跨数据集验证（ACDC）**
在ACDC心脏MRI数据集上，SE-CA Swin-Unet的平均DSC从Swin-Unet的85.05%提升至89.21%，HD95降低，提升幅度达4.16%。这表明SE-CA模块不仅适用于腹部CT，也有效于心脏MRI分割，验证了跨数据集泛化能力。

**3.4 消融实验**
通过五种配置（Base、+SE、+CA、+CA+SE、+SE+CA）评估SE和CA的协同作用。单独添加SE或CA分别使平均DSC提升0.08%和0.21%，线性叠加仅0.29%，而SE→CA级联提升1.34%，远大于线性叠加，证明非冗余协同效应。反转顺序CA→SE导致性能下降，原因是过早的空间编码放大局部几何偏差，破坏后续SE的通道依赖建模。特征图可视化显示，SE-CA顺序有效抑制背景噪声并精准定位目标器官边界，而CA-SE顺序则出现空间过度聚焦和噪声放大。

**结论**
论文提出了一种基于跳跃连接增强的改进Swin-Unet架构，通过集成SE和CA双机制，显著提升了CT图像分割性能。SE模块通过通道维度动态重校准增强关键解剖特征表达，CA模块通过正交坐标编码提升空间定位精度。两者协同有效解决了复杂器官的模糊边界和类别分布不平衡等主要挑战。模型架构利用Transformer骨干的全局长程依赖建模，同时SE和CA中的轻量卷积提供互补的局部特征提取。结合注意力引导的特征融合策略，构建了多尺度兼容的分割框架。混合损失函数通过平衡器官体积差异和边界对齐优化目标，增强了模型对医学图像数据异质性的适应性，为临床分割精度提供了可靠保障。