噪声腹侧视觉流模型揭示循环连接与习得表征对信息处理时间尺度的影响

《PLOS Computational Biology》:Noisy models of the ventral stream reveal the impact of recurrence and learned representations on information processing timescales

【字体: 大 中 小 】 时间:2026年09月02日 来源:PLOS Computational Biology 3.7

编辑推荐:

  在视觉神经科学中,感觉流及其神经表征的时间动态被认为与处理物体识别的皮层区域层级(即视觉腹侧流)的功能深度关联。理论推测,在保持身份的物体变换下不变的神经表征能够支持物体身份的高效学习,这类表征源于一种自监督学习过程,该过程试图从感觉输入中提取“时间稳定”特征

  
在视觉神经科学中,感觉流及其神经表征的时间动态被认为与处理物体识别的皮层区域层级(即视觉腹侧流)的功能深度关联。理论推测,在保持身份的物体变换下不变的神经表征能够支持物体身份的高效学习,这类表征源于一种自监督学习过程,该过程试图从感觉输入中提取“时间稳定”特征。反之,不变性沿层级增加,意味着高层区域的神经编码逐渐变慢。近期神经生理学证据表明,沿该皮层层级推进时,动态刺激的神经表征确实变慢,且这些表征在单次试验内波动的时间尺度(称为“内在时间尺度”)急剧增加。尽管这些时间尺度层级已在生物基循环模型中复现,但其网络决定因素在图像可计算(image-computable)的腹侧流模型中大多未被探索。研究人员在一项含噪声、循环且具适应性的腹侧视觉流模型中考察了神经编码的时间结构。研究人员发现,令人惊讶的是,表征时间尺度的组织由网络宽泛的架构特征设定,与训练无关;而各层内在时间尺度的排序则对每层所实现功能的细节敏感。该工作强调了神经编码时间结构作为探针,用以连接脊椎动物视觉系统模型中结构与功能关系的重要性。
研究背景与动机
在视觉神经科学领域,物体识别依赖腹侧视觉流(ventral stream)的层级处理。经典与近代理论均认为,神经编码的时间稳定性(temporal stability)随层级提升而增加,这是感觉皮层不变性(invariance)涌现的关键特征。实验上,大鼠及灵长类视觉皮层均报道了响应时间尺度(response timescale,平均刺激驱动响应的衰减时间)与内在时间尺度(intrinsic timescale,单次试验内响应波动的自相关衰减时间)沿V1→LM/LI/LL或V1→V2→V4→IT方向单调递增的层级现象。然而,主流卷积神经网络(CNN)为静态图像模型,缺乏时间整合;现有CNN-RNN(卷积-循环神经网络)虽引入循环却鲜有系统研究其时间尺度层级如何由架构与动力学共同决定。为填补图像可计算模型与生物时间尺度层级间的鸿沟,研究人员基于CORnet(一种可映射到腹侧流V1/V2/V4/IT四区的最小生物启发架构)构建了含加性高斯噪声、漏积分(leaky integration)与适应(adaptation)的CNN-RNN家族,逐步剥离组件以定位层级涌现的最小机制。
主要技术方法
研究人员以大鼠自然电影与相位打乱/白噪声电影(30 fps,600帧)为动态输入,将CORnet-RT按生物时间逐步展开(每层延迟一步),在隐状态注入固定标准差高斯噪声;依次构建Stochastic CORnet(仅噪声+原循环)、Leaky CORnet(加面积特异漏系数αl)、Adaptive CORnet(加低通适应变量al,t)、Minimal CORnet(去循环与适应,仅噪声+漏积分)、Random CORnet(Minimal但权重随机初始化)及Recurrent MLP(无卷积仅对角循环)。时间尺度估计沿用实验范式:对响应ACF用阻尼振荡模型拟合τ,对内在ACF用纯指数衰减拟合τ;权重谱与Jacobian谱作补充分析;ImageNet-1K线性探测(linear probing)评表征可用性。
研究结果
Stochastic CORnet:仅加噪声于确定型CORnet-RT,响应时间尺度呈弱阶梯状上升但不平滑,内在时间尺度反向递减(早层>晚层),无法复现实验层级,说明空间不变性本身不足。
Leaky CORnet:引入面积特异漏项(αV1>αIT,有效漏率1?αl),仍不能稳定产生响应与内在时间尺度同向递增层级,表明单纯自回归惯性不足以。
Adaptive CORnet:在漏积分基础上加神经元适应变量al,t=βlal,t?1+(1?βl)hl,t,输入驱动减去ηal,t;该配置同时复现响应与内在时间尺度沿V1→IT单调上升,且层内交叉循环未破坏层级,但过强η致自相关畸变。
A minimal model of intrinsic dynamics(Minimal CORnet):剔除层间循环与适应,仅保留噪声与面积特异漏积分(hl,t=(1?αl)hl,t?1+αl(Whl?1,t+b)+ξ),仍得到单调内在时间尺度层级,证明慢内部动力学+架构梯度即可生成内在层级,响应层级亦在。
The role of learned computations(Random CORnet):Minimal架构但卷积权随机初始化(非ImageNet预训练),响应层级残留而内在层级崩溃,说明内在层级需架构(漏梯度)与习得表征(learned representations)共同塑造,随机权下Jacobian门控缺失。
Recurrent MLP: The effect of removing convolutional structure:去卷积换全连接循环链,仅响应层级随漏率梯度出现,内在层级不显,印证卷积结构虽非响应层级必需,但内在层级依赖习得空间表征与循环门控。
ImageNet classification performance:Minimal CORnet经5步展开提取IT特征做线性探测,top-1 37.28%、top-5 62%,优于CordsNet-R4(33.78%),证明动态修改未毁高位线性可解码性;但未端到端微调故低于CORnet-RT(55.4%/78.9%)。
讨论与结论翻译
研究人员论证:响应时间尺度层级可由宽泛架构(层级深度、漏率梯度)在随机权下涌现;内在时间尺度层级则脆弱,需慢内部动力学(漏积分)与习得表征交互,单纯临界性、纯适应或纯空间池化均不充分。该框架补白了“生物大规模循环模型非图像可计算”与“CNN模型无动态表征”间的缺口,主张将响应/内在时间尺度双指标纳入视觉模型基准。局限包括权重来自CORnet-RT的ImageNet预训练而非端到端重训、比较对象为鼠皮层但架构映射灵长类CORnet、网络步长锁帧(33 ms)未解耦内部微时间。未来方向含反馈连接、内部子步积分。结论重申:腹侧流时间层级是多因子起源——结构 motif 与功能约束(任务学习、内部记忆)共同决定;内在时间尺度是连接结构与功能的灵敏探针。
(文中所称《PLOS Computational Biology》论文即指本上传文档所载研究。)
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号