CMAD: 用于医学图像分割的高效CNN-Mamba混合注意力解码网络

《Signal Processing: Image Communication》:CMAD: High-efficiency hybrid CNN–Mamba Attention Decoding network for medical image segmentation

【字体: 大 中 小 】 时间:2026年10月19日 来源:Signal Processing: Image Communication 3.4

编辑推荐:

   •CMAD 提出了一种用于医学图像分割的自适应 CNN-Mamba 解码框架。•AttMamba 以线性复杂度动态协调局部细节与全局依赖关系。•MSDAF 通过双注意力特征细化机制缩小多尺度语义差距。•大量实验验证了 CMAD 在五个基准测试上的精度-效率优越性。•CMAD

  
  • •
    CMAD 提出了一种用于医学图像分割的自适应 CNN-Mamba 解码框架。
  • •
    AttMamba 以线性复杂度动态协调局部细节与全局依赖关系。
  • •
    MSDAF 通过双注意力特征细化机制缩小多尺度语义差距。
  • •
    大量实验验证了 CMAD 在五个基准测试上的精度-效率优越性。
  • •
    CMAD 提供了一个可扩展的解码器,兼容各种 CNN、Transformer 和 Mamba 编码器。

引言

医学图像分割在临床诊断中发挥着不可替代且至关重要的作用。它能够精确定位病变的兴趣区域(ROI),清晰描绘病变边界,量化病变涉及范围,为临床疾病诊断、病变分期评估以及个体化治疗方案的制定提供直观且可靠的影像证据 [1], [2], [3]。然而,传统的手动分割方法存在明显的局限性。它需要临床医生逐帧进行图像标注,耗时费力且成本高昂。此外,分割结果容易受到临床医生的临床经验和主观判断的影响,导致一致性和可重复性较差。这些缺点阻碍了其在标准化临床诊断和大规模临床应用中的实际应用 [4]。
近年来,随着人工智能的快速发展,深度学习凭借其强大的数据驱动建模能力,在自然语言处理、智能教育和医学图像分析等众多领域取得了显著进展 [5], [6], [7]。基于深度学习的建模方法也逐渐应用于临床风险预测和智能辅助诊疗,为智慧医疗的发展提供了关键的技术支持 [8]。在医学图像分割领域,深度学习有效地提高了自动分割的精度和效率。然而,如何在保持高分割性能的同时降低计算复杂度、增强模型泛化能力并提高临床部署效率,仍然是一个关键的研究挑战。为了解决这一问题,现有研究主要集中在两个方向。一方面,轻量化网络设计通过优化模型架构、减少参数量和计算开销来适应资源受限医疗设备的部署需求 [9]。另一方面,引入物理知识约束和概率图建模等先验信息,以整合解剖结构知识,增强模型的特征表示能力,提高复杂场景下分割结果的稳定性和可靠性 [10], [11]。目前,卷积神经网络(CNN)[12] 和视觉 Transformer(ViT)[13] 是医学图像分割中最具代表性的两种基础架构 [14]。作为经典的基于 CNN 的模型,U-Net [15] 凭借其对称的编码器-解码器架构和跳跃连接机制,极大地推动了医学图像分割技术的发展。然而,卷积核固有的有限感受野使得纯 CNN 无法捕捉长距离病变依赖关系和全局上下文语义。Transformer 架构通过自注意力机制突破了 CNN 的感受野限制,实现了优越的全局建模性能,但其计算复杂度较高且局部细节提取能力较弱,这限制了其在临床中的实际部署。为了解决这些缺陷,研究人员提出了 CNN-Transformer 混合架构,结合了两种范式的优势。包括 SwinUNet [16] 和 UNETR++ [17] 在内的经典方法验证了此类混合设计的有效性。尽管如此,现有的混合架构仍难以在计算开销和分割性能之间取得平衡,无法同时在两个维度上实现最优性能。
为了解决上述问题,本文提出了一种基于 CNN-Mamba 混合架构的高效医学图像分割解码器,称为 CNN-Mamba 注意力解码网络(CMAD)。尽管现有的 CNN-Mamba 混合架构在医学图像分割中已取得了一些令人满意的性能,但它们仍然难以在局部空间细节保留和全局语义依赖建模之间实现有效平衡。基于卷积的解码器擅长重构细粒度的边界结构,但受限于有限的感受野。相比之下,基于 Mamba 的模型虽然能够实现高效的长程依赖建模,但以牺牲局部空间细节表示能力为代价。现有方法大多采用简单的特征拼接来融合卷积和状态空间输出,无法自适应地协调局部和全局线索。为了解决这一局限性,我们开发了一种专门的解码策略,用于自适应的局部-全局信息协调。所提出的解码器继承了 CNN 强大的局部特征建模能力和 Mamba 高效的长序列建模优势。它实现了降低计算开销、增强多尺度特征交互以及改善全局-局部语义融合。因此,它缓解了先前方法中普遍存在的三个关键缺陷:局部细节捕获不足、全局依赖建模效率低下以及固有的精度-计算权衡。我们的主要贡献如下:
  • 1.
    我们提出了 CMAD,这是一种高效的解码器架构,旨在自适应地协调局部卷积表示和全局状态空间特征以实现医学图像分割。
  • 2.
    我们开发了一种注意力引导的状态空间交互模块(AttMamba),该模块使空间和通道感知信息能够动态调节 Mamba 表示,促进自适应的全局-局部特征推理;同时设计了一个多尺度语义对齐模块(MSDAF),用于缩小层级编码器特征之间的表示差异并改善解码过程中的特征重建。
  • 3.
    在涵盖三种分割场景的五个医学图像数据集上进行的广泛实验表明,CMAD 以具有竞争力的计算效率实现了优越的分割性能。此外,其灵活的解码器设计使其能够无缝适配多种视觉编码器,展现出强大的可扩展性和泛化能力。

章节摘要

视觉解码器

医学图像分割解码器的发展主要围绕三个目标展开:保留细粒度的解剖细节、建模多尺度特征以及平衡分割精度与计算效率。早期的基于 CNN 的方法,以 U-Net 和 SegNet [18] 为代表,建立了编码器-解码器范式并实现了端到端的医学图像分割。然而,它们有限的感受野限制了长程依赖关系的建模。为增强

方法

我们提出的 CMAD 遵循自适应全局-局部特征协同的设计原则。不同于将 CNN 和 Mamba 视为独立的特征提取器,CMAD 在解码过程中赋予它们互补的角色:卷积操作专注于保留局部空间结构,而基于 Mamba 的状态空间建模则捕捉长程上下文依赖关系。因此,解码器被设计为通过注意力引导的状态空间

数据集

  • 1.
    ISIC2017 [31] 和 ISIC2018 [32] 数据集:国际皮肤成像协作组 2017 和 2018 挑战赛数据集被广泛用作皮肤病变分割领域的公开基准数据集。两者均提供了由皮肤科医生标注和验证的像素级分割掩码,为皮肤病变的计算机辅助分析研究提供了高质量的数据支持。为确保实验的可重复性和结果的可比性,本研究采用了统一的数据划分

局限性

尽管 CMAD 展现了令人满意的分割性能,但仍存在若干局限性。首先,AttMamba 中的 SS2D 模块通过方向性扫描来建模长程依赖关系;然而,扫描的顺序特性可能会引入空间不对称性。在多个病变或相似解剖结构紧密相邻或重叠的困难情况下,顺序特征传播可能会混淆相邻区域之间的空间对应关系,导致不准确的

结论

在本文中,我们提出了一种高效的医学图像分割解码网络,称为 CMAD,旨在实现局部结构保留与全局上下文建模之间的有效平衡。不同于直接组合卷积和状态空间特征,CMAD 引入了一种自适应特征交互策略,利用基于 CNN 的局部表示和基于 Mamba 的长程依赖建模的互补特性。通过注意力引导的

CRediT 作者贡献声明

李业杭:撰写-初稿,可视化,验证,方法论,形式化分析,数据管理,概念化。赵辉:撰写-审阅与编辑,验证,资源,方法论,资金获取,数据管理,概念化。

生成式人工智能使用声明

作者在撰写本文时未使用生成式人工智能或人工智能辅助技术。

利益冲突声明

作者声明不存在可能影响本文所述工作的已知竞争性经济利益或个人关系。

致谢

本文受新疆维吾尔自治区重点研发计划(项目编号:2023B01032)资助。
李业杭|赵辉
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号