自闭症谱系障碍(ASD)是一种复杂的神经发育状况,其特征是社交沟通能力缺陷、社交互动困难以及受限的重复行为[1]。ASD涵盖了多种症状,目前还没有明确的生物标志物用于其确诊。ASD患者往往在社交参与和保持对特定任务的注意力方面存在困难[2]。最近的流行病学研究表明,大约每50到68个儿童中就有1个患有ASD,这突显了其高发性[3]。此外,Mandy等人的研究[4]强调,延迟诊断会加剧整个发展过程中的社交挑战,这突显了早期检测和干预的重要性。
ASD的一个显著特征是非典型的视觉注意力,这与典型发展(TD)个体的视觉注意力不同。这种差异归因于ASD个体的独特感官感知和以细节为导向的认知偏好[5]。如图1所示,TD个体和ASD个体的视觉注意力模式存在显著差异。TD个体主要关注图像中的中心物体[6],而ASD个体则倾向于注视背景元素或不太显眼的区域,如树木、灯光或天空[7]。这种差异在图1(b)和(d)中清晰可见。研究一致表明,ASD个体对社交相关特征(如面部)的关注较少,并在视觉任务中表现出社交注意力受损[8]。相反,他们经常被独特的物体(例如项链、领圈)或手及相关物体所吸引[9][10]。这些独特的注意力模式不仅限于成人,也在ASD儿童和青少年中存在[11][12]。例如,在观看教学视频时,ASD儿童不太可能跟随教师的视线,而更倾向于关注周围区域,这可能对其学校适应和学习成果产生不利影响[13]。这些发现强调了理解和解决ASD个体独特视觉注意力特征的重要性,以改善他们的社交和教育体验。为了研究这些视觉注意力模式,眼动追踪技术已成为一种有价值的工具。眼动追踪涉及捕捉、记录和分析眼动或注视点,即个体视线聚焦的视觉场景中的具体位置[14]。在ASD的背景下,眼动追踪受到了广泛关注,因为持续观察到注视异常是该障碍的一个标志性特征。许多心理学研究利用眼动追踪来分析对言语或视觉刺激的注视模式,提供了对ASD潜在机制的见解[15][16]。这些发现不仅加深了我们对ASD的理解,还为早期诊断和干预提供了有希望的途径,这对于改善长期结果至关重要。此外,关于非典型视觉注意力的研究具有实际意义,包括为ASD个体开发个性化学习材料和适应性计算机界面。此外,非典型视觉显著性预测已被证明是ASD的诊断工具[17]。
近年来,深度学习模型在预测人类视觉注意力方面取得了显著进展,这在很大程度上得益于大规模标注数据集的可用性。这些方法可以根据其目标分为两类:显著对象检测(SOD)和显著性预测。SOD模型为静态图像生成二值掩码,其中1表示属于显著对象的像素,0表示背景区域。为了确保不同SOD模型之间的公平比较,研究人员编制了多种手动标注的图像集,并将其作为基准数据集[18]。相比之下,显著性预测估计观察者注视每个像素的概率。这一领域取得了显著进展,开发了多种方法。例如,许多模型依赖于预训练的对象识别网络进行特征提取[19],U-Net等架构是一个流行的选择。卷积神经网络(CNN)被广泛用于构建编码器-解码器框架,以提取潜在特征,生成视觉显著性图[20][21][22]。最近,基于Transformer的模型成为主流方法,通过有效捕捉长距离空间依赖性,在显著性预测方面表现出显著改进[23][24][25]。
尽管取得了这些进展,但在预测ASD个体的视觉注意力方面仍存在局限性,主要是由于缺乏针对ASD的眼动追踪数据。值得注意的是,根据我们之前的分析,ASD中的非典型视觉注意力与神经典型个体相比具有独特的特征:ASD个体往往难以关注社交线索(如面部、眼神接触),而倾向于过度关注无关的背景细节或重复模式,表现为注意力分散和难以转移焦点。这种独特的注意力模式从根本上反映了一个输入依赖的、长距离的序列动态过程——其特征是对某些刺激的选择性过度关注,同时对其他显著信息的关注不足。这一特征带来了额外的建模挑战,传统架构可能无法完全解决。受这一理论对应的启发,本文提出将Mamba架构(其核心机制是选择性状态空间模型)适应于ASD中的非典型视觉显著性预测任务,旨在捕捉ASD中固有的长距离依赖动态注意力模式,从而为该领域的显著性预测提供更原则性的方法。
为了建模ASD中的非典型视觉注意力,本文提出了一个基于Mamba架构的新颖静态显著性预测框架,Mamba是一种以其高效的长距离依赖性建模而闻名的状态空间模型(SSM)[26]。这项工作的核心贡献是一个新颖的Mamba-Unet框架。该框架在其编码器和解码器中引入了架构创新,并结合了频率域注意力机制和高效的特征融合模块,从而形成了一个具有强大上下文感知能力的预测模型,我们将其称为ASD-Mamba。为了解决ASD眼动追踪数据有限的挑战,采用了迁移学习策略,即在一般的典型视觉显著性数据上进行大规模预训练,然后在ASD数据集上进行针对性微调。广泛的实验表明,所提出的模型在目标非典型显著性任务上表现有效,并在四个标准典型显著性基准测试中显示出良好的泛化能力。这些结果验证了该模型在预测典型和非典型视觉注意力模式方面的有效性。
这项工作的主要贡献总结如下:
1. 提出了一个基于Mamba的框架,利用Mamba的线性计算复杂性高效捕捉长距离视觉信息,显著提高了ASD非典型视觉显著性的预测能力。
2. 高效自适应视觉状态空间(EA-VSS)模块旨在实现多尺度采样过程中的自适应下采样和动态特征提取,从而增强模型对目标区域的关注能力。此外,频率域注意力(FDA)模块被集成到跳跃连接中。它在频率域计算缩放的点积注意力,以减少空间和时间复杂性,同时保留关键特征。
条件注意力融合(CAF)模块旨在将Mamba的状态空间条件与多头注意力结合,在上采样过程中保留丰富的注意力信息,从而改善特征融合。这个集成模型在ASD眼动追踪数据集上取得了显著性能,并在四个标准典型显著性基准测试中也表现出一致的性能。这些结果强调了其作为统一模型在非典型和典型视觉注意力任务中的有效性。