基于注意力机制的ConvNeXt架构,结合受变压器启发的编码技术,用于早期卵巢肿瘤的诊断

《Engineering Applications of Artificial Intelligence》:Attention-driven ConvNeXt architecture with transformer-inspired encoding for early ovarian tumor diagnosis

【字体: 大 中 小 】 时间:2026年03月20日 来源:Engineering Applications of Artificial Intelligence 8

编辑推荐:

  卵巢肿瘤CT图像诊断中,提出ConvNeXt-CBAM-ViT混合模型,通过整合CNN局部特征提取、CBAM注意力机制和ViT全局上下文建模,显著提升分类准确率。在KAUH-OCCTD(1943例)、KAUH-BOTD(1402例)和KAUH-MOTD(725例)三个数据集上,模型分别达到98.05%、98.82%和98.49%的准确率,较传统CNN和ViT模型性能更优,有效减少诊断不确定性,为临床决策提供可靠支持。

  
阿卜杜勒法塔赫·巴·阿拉维(Abdulfattah Ba Alawi)| 费尔哈特·博兹库尔特(Ferhat Bozkurt)| 古尔沙·图姆克卢·奥兹耶尔(Gül?ah Tümüklü ?zyer)
土耳其埃尔祖鲁姆(Erzurum)阿塔图尔克大学(Ataturk University)工程学院计算机工程系,邮编25240

摘要

卵巢肿瘤的早期精准检测对女性健康至关重要,直接影响患者的生存率、治疗效果和整体预后。传统的诊断方法主要依赖于放射科医生对计算机断层扫描(CT)图像的手动解读,但这些方法往往存在变异性和主观性评估,导致诊断结果不一致。因此,迫切需要探索创新的计算方法,以客观、自动化和高度准确的方式补充人类专业知识。为解决这一关键问题,我们提出了一种新型混合深度学习模型,该模型无缝整合了ConvNeXt网络、卷积块注意力模块(CBAM)和视觉变换器(ViT)的优势。我们提出的ConvNeXt-CBAM-ViT架构专门设计用于利用局部和全局图像特征,增强模型识别卵巢CT图像中细微病理差异的能力。CBAM注意力机制的引入通过动态聚焦于诊断相关的图像区域,进一步提高了模型的可解释性。我们的模型在约旦国王阿卜杜拉大学医院(King Abdullah University Hospital, KAUH)收集的三个精心策划的数据集上进行了广泛验证,这些数据集涵盖了卵巢肿瘤的多种表现形式。这三个数据集分别为KAUH-OCCTD(卵巢癌CT数据集)、KAUH-BOTD(良性卵巢肿瘤数据集)和KAUH-MOTD(恶性卵巢肿瘤数据集),分别包含1943张、1402张和725张高质量图像,并被细致地分类为正常、良性和恶性类别。我们的模型取得了卓越的诊断性能,在KAUH-BOTD数据集上的准确率为98.05%,在KAUH-MOTD数据集上为98.82%,在综合KAUH-OCCTD数据集上为98.49%。这些结果凸显了我们混合架构在区分卵巢肿瘤方面的高可靠性,显著降低了不确定性。最终,我们的创新方法有望辅助临床决策,加速诊断流程,并通过智能且精确的基于CT的卵巢肿瘤诊断方式改善患者预后。

引言

在妇科肿瘤中,卵巢癌仍然是女性生殖系统中最致命的恶性肿瘤之一,对全球公共卫生构成了重大挑战。高死亡率主要是由于早期检测的困难,因为该疾病在初期通常无症状或临床症状不明显(Siegal等人,2023年;Coleman等人,2013年)。等到确诊时,疾病往往已经进展到晚期,大大减少了治疗选择和整体生存率。根据全球癌症统计数据,卵巢癌是女性癌症相关死亡的第八大原因,如果在晚期才被诊断出来,五年生存率低于30%(Lheureux等人,2019年)。尽管医学成像和诊断策略有所改进,但准确及时的检测仍然是一个严峻挑战,尤其是由于良性与恶性卵巢病变在影像学特征上的重叠(Nash和Menon,2020年;Tsili等人,2018年)。
传统的卵巢癌诊断主要依赖于超声、计算机断层扫描(CT)和组织病理全切片图像(WSIs)等成像方式。其中,CT因其出色的分辨率和广泛的可用性而被广泛用于评估卵巢肿瘤。然而,CT图像的准确解读很大程度上依赖于放射科医生的专业技能,这使得整个过程具有高度主观性且容易产生变异性,可能导致诊断决策不一致和治疗延误(Esteva等人,2021年;Litjens等人,2017年)。这种变异性凸显了需要客观、自动化和可靠的诊断方法来协助放射科医生做出准确评估并降低误分类风险。
近年来,人工智能(AI)的整合重新定义了医学成像领域,成为图像分析和诊断领域的突破性技术,显著提高了诊断的准确性、效率和可重复性(Gao等人,2022年;Chen等人,2022b年)。深度学习(DL)方法,尤其是卷积神经网络(CNN),通过提供完全自动化的特征学习和分类工作流程,彻底改变了医学图像分析,有效消除了对人工特征方案的依赖(He等人,2016年;Tan和Le,2019年)。基于CNN的模型在检测和分类卵巢肿瘤方面表现出色,准确率高于传统机器学习技术(Ghoniem等人,2021年)。然而,尽管取得了成功,CNN也存在明显局限性,主要是其对局部特征提取的依赖。虽然CNN在捕捉图像中的空间模式方面表现出色,但在建模长距离依赖关系和全局上下文信息方面存在困难,而这在复杂的医学成像任务中往往是必不可少的(Kundu等人,2023年)。
为了解决这些局限性,基于变换器的架构,特别是视觉变换器(ViTs),已成为医学成像中的强大替代方案。与使用局部感受野的CNN不同,ViTs利用自注意力机制有效建模图像不同区域之间的长距离上下文关系,从而能够更全面地分析医学扫描中的复杂结构(如肿瘤)(Dosovitskiy等人,2021年;Han等人,2023年)。ViTs在医学图像分割、分类和异常检测方面表现出色,尤其是在需要高可解释性和空间连贯性的任务中(Li等人,2023年)。此外,结合CNN和ViT的混合方法也取得了有希望的结果,利用了两种架构的优势——CNN用于低级特征提取,ViT用于高级语义理解(Breen等人,2024年)。
通过注意力机制进一步增强了基于DL的医学诊断能力,这些机制可以动态突出诊断相关的图像区域。卷积块注意力模块(CBAM)就是这样一种方法,它通过使模型能够专注于图像的重要区域同时抑制无关背景噪声,提高了CNN的可解释性(Woo等人,2018年)。CBAM已在多种医学应用中得到广泛应用,包括肿瘤分类、病变检测和分割任务,显著提高了模型的鲁棒性和准确性(Nabijiang等人,2022年;Jia等人,2025年;Aslam等人,2024年;Alwadee等人,2024年)。此外,ConvNeXt架构作为一种优化的CNN模型最近出现,它结合了受变换器启发的设计原则,在保持计算效率的同时提高了性能(Z. Liu等人,2022年)。ConvNeXt通过改进传统的CNN操作,提供了更好的特征提取能力,特别适合复杂的医学图像分析任务(Xu等人,2023年)。
尽管这些进展显著提升了深度学习在医学成像中的应用,但卵巢癌诊断仍面临独特挑战,需要进一步探索。卵巢肿瘤的异质性、区分良性和恶性病例的高特异性需求以及临床决策中的可解释性要求更加鲁棒和可解释的深度学习解决方案。现有模型往往缺乏在多样化数据集上的泛化能力,无法提供足够的临床洞察力来辅助放射科医生的决策过程。
为了填补这些空白,本文介绍了一种专门用于CT图像卵巢肿瘤分类的新型混合深度学习模型。该模型整合了ConvNeXt、CBAM和受ViT启发的模块,利用它们的互补优势来增强医学成像中的特征提取、空间感知和上下文理解。通过结合基于CNN的分层特征提取和基于变换器的全局表示及注意力模块,我们的模型为卵巢癌检测提供了更全面的诊断框架。本研究的主要贡献如下:
  • •
    开发了一种新型混合深度学习架构,整合了ConvNeXt、CBAM和受ViT启发的模块,有效捕获了卵巢肿瘤分类所需的局部和全局特征。
  • •
    进行了广泛的比较评估,涉及十多种先进的深度学习模型,包括ResNet、DenseNet、EfficientNet和视觉变换器(Vision Transformers),证明了所提模型的优越性。
  • •
    该模型在约旦国王阿卜杜拉大学医院(KAUH)提供的三个公开卵巢癌数据集上进行了严格验证,确保了其在不同临床场景下的泛化能力,并增强了其在实际应用中的潜力。
  • •
    进行了全面的性能分析,特别强调了模型的可解释性和临床可行性,从而推动了AI驱动诊断工具的发展,并促进了其在医学实践中的应用。
本研究的重要贡献包括引入了一种结合ConvNeXt、CBAM和视觉变换器方法的强大混合架构,对现有DL模型进行了严格的比较验证,并通过在不同卵巢癌数据集上的高诊断准确性证明了其临床可行性。
本文的其余部分结构如下:第2节详细介绍了使用AI驱动方法进行卵巢癌诊断的相关工作。第3节介绍了方法、数据集和所提出的模型。第4节展示了实验结果,第5节将获得的结果与现有研究进行了比较分析,并强调了所提方法的实际意义。第6节讨论了结论和未来的研究方向。

相关研究

相关研究

人工智能(AI),特别是深度学习(DL),通过实现多样化生物医学数据的自动化分析,极大地改变了卵巢癌的诊断和预后。本节对相关文献进行了全面回顾,按数据类型进行了分类,包括超声、组织病理学、计算机断层扫描(CT)和表格化临床数据。每个小节都强调了数据集的大小、分类任务、使用的模型等

方法论

本节详细介绍了所开发的深度学习方法,包括使用的数据集、数据预处理流程、模型架构设计、训练方法以及整个研究过程中采用的实验配置。该方法结合了ConvNeXt进行分层特征提取、卷积块注意力模块(CBAM)进行注意力增强,以及视觉变换器(ViTs)进行特征捕获

结果

表6中的结果显示了不同深度学习模型在BOTD数据集上的分类性能。在测试的架构中,ConvNeXt+CBAM+ViT模型的准确率最高,达到了0.9805,精确率为0.9840,召回率为0.9779,F1分数为0.9804。这些结果表明,结合CBAM注意力和受视觉变换器启发的机制可以增强特征表示,使模型能够捕获局部和全局特征

讨论

本工作的直接动机是Alshdaifat等人(2025年)最近的研究,他们介绍了三个新的卵巢肿瘤CT成像数据集——BOTD、MOTD和OCCTD。这些数据集是首批针对CT成像进行卵巢肿瘤分类的结构化和标记化的集合。值得注意的是,迄今为止,唯一发表的关于这些数据集的评估是Alshdaifat等人(2025年)提出的原始Xception-ViT模型。在这项研究中,我们在此基础上进行了扩展

结论

本研究证明了将先进的注意力机制与深度学习架构结合用于CT图像卵巢癌分类的有效性。通过将ConvNeXt主干网络与卷积块注意力模块(CBAM)和受视觉变换器(ViT)启发的编码器相结合,所提出的方法在三个不同的数据集(BOTD、MOTD和OCCTD)上显著提高了分类准确性、精确率、召回率和F1分数。这些结果表明

CRediT作者贡献声明

阿卜杜勒法塔赫·巴·阿拉维(Abdulfattah Ba Alawi):撰写——原始草稿、可视化、方法论、数据整理、概念化。费尔哈特·博兹库尔特(Ferhat Bozkurt):撰写——审稿与编辑、验证、监督、项目管理、调查。古尔沙·图姆克卢·奥兹耶尔(Gül?ah Tümüklü ?zyer):撰写——原始草稿、方法论、调查、数据整理、概念化。

利益冲突声明

作者声明他们没有已知的财务利益或个人关系可能影响本文报告的工作。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号