采用掩码注意力层改良的残差视觉Transformer,结合基于迁移学习的特征提取技术用于阿尔茨海默病分类

《Psychiatry Research: Neuroimaging》:Mask Attention Layer Modified Residual Vision Transformer with Transfer Learning Based Features Extraction for Alzheimer Disease Classification

【字体: 大 中 小 】 时间:2026年09月25日 来源:Psychiatry Research: Neuroimaging 2.1

编辑推荐:

   •通过结合InceptionResNetV2、DenseEfficientNet-B3和ConvoGoogleNet,开发多模型迁移学习特征提取框架,实现对MRI图像中相应的局部、全局和层次化描述的提取。•在改进的残差视觉Transformer中引入掩码注意力层,以突出疾病相

  
  • •
    通过结合InceptionResNetV2、DenseEfficientNet-B3和ConvoGoogleNet,开发多模型迁移学习特征提取框架,实现对MRI图像中相应的局部、全局和层次化描述的提取。
  • •
    在改进的残差视觉Transformer中引入掩码注意力层,以突出疾病相关的解剖区域,同时克服冗余背景信息,从而提升特征辨别能力和分类性能。
  • •
    利用远足部队调整(HkTO)算法进行同时特征选择和超参数调整,消除冗余特征并提高计算效率。
  • •
    根据在OASIS和ADNI数据集上进行的广泛实验,所提出的框架始终优于传统的基于CNN、ViT和LSTM的模型,以及新的基于Transformer的基准方法。

引言

准确描述和评估临床症状是诊断阿尔茨海默病(AD)的重要组成部分。AD是一种进行性损害记忆力、认知功能、学习能力和组织能力的神经系统疾病(Alp等,2024)。症状通常在50岁后开始出现。尽管AD目前没有确切的治愈方法,但现有药物可以帮助管理症状并减缓疾病进展。AD通常分为三个主要阶段,第一阶段为临床前阶段。在临床前阶段,大脑和血液中发生病理变化,但没有明显的临床症状(Hu等,2023;Ebrahimi等,2021)。普遍认为,AD相关病理变化至少比明显症状出现前15年开始(Afzal等,2021;Sarkar,2025)。
第二阶段为轻度认知障碍(MCI),其特征是认知衰退主要局限于单一领域,最常见的是记忆力(Dogan等,2023;Kushol等,2022)。最后阶段以显著认知损害为标志,影响多个领域,包括记忆力和执行功能,对日常生活活动造成严重干扰(Mubonanyikuzo等,2025)。大多数传统方法采用磁共振成像(MRI),这些数据来自ADNI数据库(Shanmugam等,2022)。AD识别中使用了各种医学成像技术,如fMRI、MRI、CT、EEG和PET扫描(Jo等,2022)。
传统ResNet是一种仅依赖MRI数据的AD分类方法,这限制了其泛化能力,在其他成像技术的数据上表现不佳(Chen等,2024)。传统的基于ResNet50的疾病分类方法对连续特征进行连续离散化,导致信息损失,缺乏纵向分析和基于集成的模型解释,限制了鲁棒性和泛化能力(Alatrany等,2024)。现有的基于深度学习(DL)的AD简化框架限制了模型捕获高度复杂模式的能力(Helaly等,2022)。基于迁移学习的分类方法面临负迁移问题,即源域和目标域之间相似性不足会降低模型性能(Raza等,2023)。基于MRI的深度学习辅助AD分期分类方法面临可解释性问题(Shamrat等,2023)。
AD是痴呆最常见的病因,是一种退行性脑部疾病,会逐步削弱记忆、思维、学习和组织能力。第一阶段为临床前期,大脑和血液出现异常但无明显症状。该疾病的末期被定义为在记忆和执行功能等多个领域出现认知损害,对日常生活活动造成严重干扰。现有模型在标准数据集上的AD分类中存在多个问题。大多数现有模型面临过拟合问题、高计算资源需求、高训练时间和有限的泛化能力。尽管已有大量研究利用CNN、残差网络和基于Transformer的架构进行AD分类,但大多数模型依赖单一特征提取骨干网络,对疾病特定区域的注意力有限,或未协同优化特征选择和分类器超参数。为克服这些局限性,本研究提出了一种从MRI图像中进行精确AD分类的新型方法。本工作的主要贡献总结如下。
  • •
    通过结合InceptionResNetV2、DenseEfficientNet-B3和ConvoGoogleNet,开发多模型迁移学习特征提取框架,实现对MRI图像中相应的局部、全局和层次化描述的提取。
  • •
    在改进的残差视觉Transformer中引入掩码注意力层,以突出疾病相关的解剖区域,同时克服冗余背景信息,从而提升特征辨别能力和分类性能。
  • •
    利用远足部队调整(HkTO)算法进行同时特征选择和超参数调整,消除冗余特征并提高计算效率。
  • •
    根据在OASIS和ADNI数据集上进行的广泛实验,所提出的框架始终优于传统的基于CNN、ViT和LSTM的模型,以及新的基于Transformer的基准方法。
本文其余部分结构如下:第2节介绍文献综述和研究空白。第3节详细阐述所提出的方法论,包含必要的图表和数学表达式。第4节描述实验结果和讨论。第5节在结论中总结整个研究工作。

章节摘要

相关工作

Suchitra等(2025)开发了EfficientNetB7用于AD的早期检测和分期。所提出的方法利用深度学习方法及卷积神经网络(CNN)对医学图像进行评估,以实现AD的早期检测。选择EfficientNetB7模型是因为其具有有效的扩展能力。其复合缩放方法均匀扩展网络维度,从而带来更好的性能和效率。EfficientNetB7模型达到了98.2%的准确率。EfficientNetB7

提出的方法论

所提出的框架与现有方法不同,它将多模型迁移学习特征提取、与改进的残差视觉Transformer结合的掩码注意力层,以及基于HkTO的特征选择和超参数优化相结合。与通常依赖单一骨干网络或注意力机制的传统CNN或Transformer方法不同,所提出的架构利用了相应的特征描述。它协同优化了

结果与讨论

这些结果表明,所提出方法的实现是在Python中完成的。本研究使用了九种不同的模型:G-Net Lasso-LSTM、Eff-Net Lasso-LSTM、DenseNet Lasso-LSTM、Eff-Net Lasso-ViT、G-Net Lasso-CNN、DenseNet Lasso-CNN和Eff-Net Lasso-CNN。所提出的系统采用80%–20%的训练集–测试集划分。用于实现所提模型的硬件配置、超参数详情和层结构详情分别见表5、表6和表7。
的

结论

本研究提出了一种具有迁移学习特征提取的MRViT用于AD分类。在AD中,大多数预处理技术可能会增加噪声并降低图像质量。然而,本研究使用了改进的像素高斯滤波器来降低噪声并提高MRI AD图像的质量。在本研究中,利用深度学习模型InceptionResNetV2、DenseEfficientNet-B3和ConvoGoogleNet从MRI数据中提取互补特征表示。整体所提出的特征

数据可用性声明

本研究使用的数据集公开可用,并根据Kaggle平台上各自提供者所述的许可条款进行分发。除原始数据提供者所述的限制外,对这些数据集的使用未施加额外限制。本研究无需额外的伦理审批或知情患者同意。

资助信息

本手稿的撰写未获得任何资助。

CRediT作者贡献声明

Sangameshwari Nagappa Maitri:写作–审阅与编辑,写作–初稿撰写,可视化。Rahul Ramesh Chakre:验证,指导,软件。

利益冲突声明

无利益冲突。
Sangameshwari Nagappa Maitri|Rahul Ramesh Chakre
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号