ASD-Mamba:基于Mamba模型的自闭症谱系障碍中非典型视觉显著性的预测方法

《Displays》:ASD-Mamba: Mamba-based prediction of atypical visual saliency in autism spectrum disorder

【字体: 大 中 小 】 时间:2026年03月04日 来源:Displays 3.4

编辑推荐:

  自闭症谱系障碍(ASD)患者的异常视觉注意力预测存在建模挑战,本文提出ASD-Mamba框架,融合Mamba架构的线性长程依赖建模能力与U-Net的语义分割优势,通过EA-VSS块优化特征提取,FDA模块降低时空复杂度,CAF模块增强多尺度特征融合,有效捕捉ASD患者的非典型视觉关注动态。

  
陈廖|周强强|朱丹丹|易宇根|李萍|杨伟
江西师范大学数字产业学院,中国江西省上饶市五洲大道,333100

摘要

自闭症谱系障碍(ASD)是一种神经发育障碍,其特征是视觉注意力模式异常,这通常表现为注视异常。尽管在视觉注意力建模方面取得了显著的进展,无论是准确性还是效率都有所提高,但大多数现有方法主要是为预测典型注意力模式而设计的,在应用于ASD患者时,其泛化能力有限。这一限制阻碍了在预测非典型视觉注意力方面的进一步进展。为了解决这个问题,我们提出了ASD-Mamba,这是一个新颖的框架,它结合了Mamba高效的长距离依赖性建模能力和U-Net架构,用于预测ASD中的非典型视觉显著性。通过引入高效自适应视觉状态空间(EA-VSS)模块,ASD-Mamba改进了特征提取。频率域注意力(FDA)模块在保持关键特征信息的同时,减少了空间和时间复杂性。此外,条件注意力融合(CAF)模块在特征融合过程中有效保留了更多信息,从而确保了更丰富的上下文表示。在ASD眼动追踪数据集上的实验结果表明,我们的模型在预测自闭症儿童的非典型视觉显著性方面表现出了竞争力。我们的代码和预训练模型可在以下链接获取:https://github.com/ASDproject1/ASD-Mamba。

引言

自闭症谱系障碍(ASD)是一种复杂的神经发育状况,其特征是社交沟通能力缺陷、社交互动困难以及受限的重复行为[1]。ASD涵盖了多种症状,目前还没有明确的生物标志物用于其确诊。ASD患者往往在社交参与和保持对特定任务的注意力方面存在困难[2]。最近的流行病学研究表明,大约每50到68个儿童中就有1个患有ASD,这突显了其高发性[3]。此外,Mandy等人的研究[4]强调,延迟诊断会加剧整个发展过程中的社交挑战,这突显了早期检测和干预的重要性。
ASD的一个显著特征是非典型的视觉注意力,这与典型发展(TD)个体的视觉注意力不同。这种差异归因于ASD个体的独特感官感知和以细节为导向的认知偏好[5]。如图1所示,TD个体和ASD个体的视觉注意力模式存在显著差异。TD个体主要关注图像中的中心物体[6],而ASD个体则倾向于注视背景元素或不太显眼的区域,如树木、灯光或天空[7]。这种差异在图1(b)和(d)中清晰可见。研究一致表明,ASD个体对社交相关特征(如面部)的关注较少,并在视觉任务中表现出社交注意力受损[8]。相反,他们经常被独特的物体(例如项链、领圈)或手及相关物体所吸引[9][10]。这些独特的注意力模式不仅限于成人,也在ASD儿童和青少年中存在[11][12]。例如,在观看教学视频时,ASD儿童不太可能跟随教师的视线,而更倾向于关注周围区域,这可能对其学校适应和学习成果产生不利影响[13]。这些发现强调了理解和解决ASD个体独特视觉注意力特征的重要性,以改善他们的社交和教育体验。为了研究这些视觉注意力模式,眼动追踪技术已成为一种有价值的工具。眼动追踪涉及捕捉、记录和分析眼动或注视点,即个体视线聚焦的视觉场景中的具体位置[14]。在ASD的背景下,眼动追踪受到了广泛关注,因为持续观察到注视异常是该障碍的一个标志性特征。许多心理学研究利用眼动追踪来分析对言语或视觉刺激的注视模式,提供了对ASD潜在机制的见解[15][16]。这些发现不仅加深了我们对ASD的理解,还为早期诊断和干预提供了有希望的途径,这对于改善长期结果至关重要。此外,关于非典型视觉注意力的研究具有实际意义,包括为ASD个体开发个性化学习材料和适应性计算机界面。此外,非典型视觉显著性预测已被证明是ASD的诊断工具[17]。
近年来,深度学习模型在预测人类视觉注意力方面取得了显著进展,这在很大程度上得益于大规模标注数据集的可用性。这些方法可以根据其目标分为两类:显著对象检测(SOD)和显著性预测。SOD模型为静态图像生成二值掩码,其中1表示属于显著对象的像素,0表示背景区域。为了确保不同SOD模型之间的公平比较,研究人员编制了多种手动标注的图像集,并将其作为基准数据集[18]。相比之下,显著性预测估计观察者注视每个像素的概率。这一领域取得了显著进展,开发了多种方法。例如,许多模型依赖于预训练的对象识别网络进行特征提取[19],U-Net等架构是一个流行的选择。卷积神经网络(CNN)被广泛用于构建编码器-解码器框架,以提取潜在特征,生成视觉显著性图[20][21][22]。最近,基于Transformer的模型成为主流方法,通过有效捕捉长距离空间依赖性,在显著性预测方面表现出显著改进[23][24][25]。
尽管取得了这些进展,但在预测ASD个体的视觉注意力方面仍存在局限性,主要是由于缺乏针对ASD的眼动追踪数据。值得注意的是,根据我们之前的分析,ASD中的非典型视觉注意力与神经典型个体相比具有独特的特征:ASD个体往往难以关注社交线索(如面部、眼神接触),而倾向于过度关注无关的背景细节或重复模式,表现为注意力分散和难以转移焦点。这种独特的注意力模式从根本上反映了一个输入依赖的、长距离的序列动态过程——其特征是对某些刺激的选择性过度关注,同时对其他显著信息的关注不足。这一特征带来了额外的建模挑战,传统架构可能无法完全解决。受这一理论对应的启发,本文提出将Mamba架构(其核心机制是选择性状态空间模型)适应于ASD中的非典型视觉显著性预测任务,旨在捕捉ASD中固有的长距离依赖动态注意力模式,从而为该领域的显著性预测提供更原则性的方法。
为了建模ASD中的非典型视觉注意力,本文提出了一个基于Mamba架构的新颖静态显著性预测框架,Mamba是一种以其高效的长距离依赖性建模而闻名的状态空间模型(SSM)[26]。这项工作的核心贡献是一个新颖的Mamba-Unet框架。该框架在其编码器和解码器中引入了架构创新,并结合了频率域注意力机制和高效的特征融合模块,从而形成了一个具有强大上下文感知能力的预测模型,我们将其称为ASD-Mamba。为了解决ASD眼动追踪数据有限的挑战,采用了迁移学习策略,即在一般的典型视觉显著性数据上进行大规模预训练,然后在ASD数据集上进行针对性微调。广泛的实验表明,所提出的模型在目标非典型显著性任务上表现有效,并在四个标准典型显著性基准测试中显示出良好的泛化能力。这些结果验证了该模型在预测典型和非典型视觉注意力模式方面的有效性。
这项工作的主要贡献总结如下:
1. 提出了一个基于Mamba的框架,利用Mamba的线性计算复杂性高效捕捉长距离视觉信息,显著提高了ASD非典型视觉显著性的预测能力。
2. 高效自适应视觉状态空间(EA-VSS)模块旨在实现多尺度采样过程中的自适应下采样和动态特征提取,从而增强模型对目标区域的关注能力。此外,频率域注意力(FDA)模块被集成到跳跃连接中。它在频率域计算缩放的点积注意力,以减少空间和时间复杂性,同时保留关键特征。
条件注意力融合(CAF)模块旨在将Mamba的状态空间条件与多头注意力结合,在上采样过程中保留丰富的注意力信息,从而改善特征融合。这个集成模型在ASD眼动追踪数据集上取得了显著性能,并在四个标准典型显著性基准测试中也表现出一致的性能。这些结果强调了其作为统一模型在非典型和典型视觉注意力任务中的有效性。

相关研究

相关工作

在本节中,我们讨论了针对ASD个体的视觉显著性预测方面的有限近期研究。受到典型静态显著性预测方法的启发,我们首先介绍了该领域的主流方法。接下来,我们概述了我们框架中使用的关键技术。最后,我们简要介绍了几种预测ASD个体视觉显著性的方法。

模型架构

ASD-Mamba架构如图2(a)所示,采用U-Net配置,包括编码器、瓶颈、解码器和多个跳跃连接。输入图像X∈RHW3首先通过补丁嵌入模块进行转换,将其维度降低到H4×W4×C。编码器使用EA-VSS模块生成层次化特征表示。四个编码器阶段中的每一个都包括一个EA-VSS模块和一个下采样层,产生分辨率为H4×W4×C。编码器使用EA-VSS模块生成层次化特征表示。每个编码器阶段包括一个EA-VSS模块和一个下采样层,产生分辨率为H8×W8×2CH16×W

实验设置

本节介绍了两类数据集:典型眼动数据集和非典型眼动数据集,以及实施方法的详细描述。

来自鼠标追踪数据的偏差

需要注意的是,使用SALICON [29]等鼠标追踪数据进行预训练可能会引入系统偏差,因为鼠标轨迹并不能完全复制真实的人类注视行为。这些潜在的偏差可能会传播到下游的ASD预测任务中,导致领域适应挑战。为了缓解这个问题,我们将真实的高精度眼动追踪数据集(特别是MIT1003 [30]、CAT2000 [28]和OSIE [52])整合到联合训练方案中。

结论

在本文中,我们提出了一个基于Mamba的新颖框架,用于ASD中的非典型视觉显著性预测,利用状态空间模型的效率来建模长距离依赖性,同时具有线性计算复杂性。为了增强特征提取和融合,我们引入了EA-VSS模块以改进下采样,FDA模块用于高效的跳跃连接,CAF模块用于增强解码器中的多尺度特征融合。为了进一步验证我们提出的方法的有效性

利益冲突声明

作者声明他们没有已知的竞争性财务利益或个人关系可能影响本文报告的工作。

致谢

这项工作部分得到了国家自然科学基金(资助编号:62262030 和 62377011)和江西省自然科学基金(资助编号:20232BAB202021、20224BAB202011 和 20242BAB20047)的支持。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号