注意导向下多模态感知整合的最优性机制:面孔与语音性别识别的跨模态补偿研究

【字体: 时间:2025年07月17日 来源:Scientific Reports 3.8

编辑推荐:

  本研究通过性别比较任务,探讨了自上而下(注意力)与自下而上(噪声干扰)信号如何影响面孔与语音的跨模态整合。研究人员采用最大似然联合测量(MLCM)技术,发现当注意力集中于某一模态时,噪声干扰会引发非注意模态的补偿性增强;但反向补偿机制失效,揭示了注意资源分配的优先性。这一发现挑战了传统最优线索整合理论,为预测编码模型和面孔失认症(prosopagnosia)、语音失认症(phonagnosia)的跨模态代偿机制提供了新见解。

  

在日常生活中,我们的大脑需要不断整合来自不同感官的信息——比如同时看到一个人的面孔和听到其声音时,会自然形成统一的性别判断。这种多模态感知整合(Multimodal sensory integration)被认为是大脑实现"预测编码"(predictive coding)的基础机制。然而长期以来,科学家们对自上而下的注意调控与自下而上的感官信号如何协同工作存在争议:当某个感官通道受到干扰时,大脑是否会按最优统计原则重新分配权重?这一问题的解答不仅关乎基础认知理论,对理解面孔失认症(prosopagnosia)和语音失认症(phonagnosia)患者的跨模态代偿机制也具有重要意义。

来自法国里昂大学克劳德·伯纳德分校(Université Claude Bernard Lyon 1)和格拉斯哥大学(University of Glasgow)的研究团队在《Scientific Reports》发表了一项创新研究。他们设计了一项精妙的性别比较实验:通过独立渐变(morphing)技术生成从典型男性到女性的连续面孔和语音刺激,并系统操纵视觉/听觉噪声水平。当志愿者专注于判断面孔性别时,增加面孔噪声会促使他们更多依赖语音线索——这与传统最优线索组合(optimal cue combination)理论预测一致。但出人意料的是,当噪声出现在非注意模态(如专注面孔判断时的语音噪声)时,注意模态的权重却不会相应增强。这种不对称补偿机制揭示了注意资源分配的层级优先性,为理解预测编码的神经机制提供了新视角。

研究采用三项关键技术:1)最大似然联合测量(MLCM)通过配对比较法量化各模态贡献度;2)信号检测理论建模决策过程,其中心理物理函数ψ将物理刺激转化为内部性别表征;3)广义线性混合效应模型(GLMM)分析注意与噪声的交互作用。18名健康受试者完成1500次 trials,在10种噪声组合条件下判断面孔、语音或整体刺激的性别倾向。

【结果】

  1. 模拟观察者验证:通过Eq.(7)的贝叶斯最优权重公式,模拟数据证实传统理论预测——任一模态的噪声都应引发反向补偿(图3a-d)。当同时添加双模态噪声时,两通道贡献度同步下降(图3e)。

  2. 实验数据可视化:联合比例图(CPP)显示,面孔任务中增加视觉噪声使判断模式趋近纯听觉选择(图4g-i),但听觉噪声几乎不影响视觉主导模式(图4d-f)。

  3. 权重量化分析:噪声作用于注意模态时,其权重watt/noiV显著降低(p<0.01),非注意模态权重watt/noiA补偿性增加(图5a,e);但噪声作用于非注意模态时,仅自身权重下降而注意模态保持稳定(图5b,d)。双任务条件下则呈现对称补偿(图5g-i)。

【讨论】

这项研究首次揭示了多模态整合中注意与噪声的交互存在"单向门"效应:自上而下的注意信号会抑制非注意通道的精度(precision)信息输入(图5j中虚线抑制箭头),导致传统贝叶斯整合模型(图1f)预测的双向补偿机制失效。这一发现对临床神经科学具有重要启示——面孔失认症患者因视觉通道缺陷无法引发听觉代偿,而语音失认症患者仍能通过完好的视觉通道辅助判断,这种差异可能源于注意调控的模态特异性抑制。

研究还深化了对预测编码理论的理解:大脑并非机械执行σ-2加权的统计最优整合(Eq.7),而是通过层级注意机制动态调控信息流。当注意力高度集中于某模态时,其权重存在"天花板效应",即使其他通道可靠性降低也难以进一步增加资源分配。这种机制可能在进化上有利于维持主导感官的稳定性,但也导致临床群体出现非对称的代偿障碍。

未来研究可进一步探索:1)该现象是否存在于空间定位等其他多模态任务;2)注意强度阈值如何影响补偿机制的启动;3)发展包含条件抑制项的新型计算模型(如Eq.6的拓展形式)。这些工作将推动对感知障碍患者康复策略的精准设计。

相关新闻
生物通微信公众号
微信
新浪微博
  • 急聘职位
  • 高薪职位

知名企业招聘

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号