脉冲神经网络中用于训练的多可塑性协同与自适应机制分配

《Frontiers in Neuroscience》:Multi-plasticity synergy with adaptive mechanism assignment for training spiking neural networks

【字体: 时间:2026年09月09日 来源:Frontiers in Neuroscience 4.0

编辑推荐:

  脉冲神经网络(Spiking Neural Networks,SNNs)是有前景的脑启发模型,以低功耗和优越的时序处理潜力著称,但确定合适的学习机制仍是挑战。尽管大脑中存在多种共存学习策略,当前SNN训练方法通常依赖单一突触可塑性形式,限制了适应性与表征能力。

  
脉冲神经网络(Spiking Neural Networks,SNNs)是有前景的脑启发模型,以低功耗和优越的时序处理潜力著称,但确定合适的学习机制仍是挑战。尽管大脑中存在多种共存学习策略,当前SNN训练方法通常依赖单一突触可塑性形式,限制了适应性与表征能力。研究人员提出一种受生物学启发的计算框架,引入多种协同可塑性机制以更有效训练SNN。该框架受生物神经系统中异质性调控与可塑性相关过程共存现象启发,而非直接对应特定生物学习规则。该方法使不同学习算法协同调节信息累积,同时各机制保持相对独立的更新动态。研究人员在多种数据集上评估,表明该框架相比常规学习机制模型显著提升性能与鲁棒性。该工作为以多策略脑启发学习开发更强大SNN提供了通用可扩展基础。
《Frontiers in Neuroscience》刊载的该研究面向脉冲神经网络(Spiking Neural Networks,SNNs)训练瓶颈,背景在于SNN具事件驱动计算、强时序处理能力与高能量效率,但脉冲离散性、膜电位非线性演化及长时程时序依赖使优化难于传统人工神经网络(Artificial Neural Networks,ANNs)。已有监督学习如时空反向传播(Spatio-temporal Backpropagation,STBP)、随时间反向传播(Backpropagation Through Time,BPTT),无监督如尖峰时序依赖可塑性(Spike-Timing-Dependent Plasticity,STDP),以及自反向传播(Self-Backpropagation,SBP)、混合全局—局部学习(Hybrid Global-Local Learning,HGLL)多具单一或可组合有限机制,忽视多可塑性协同,难以兼顾复杂神经元动态、丰富特征提取与跨任务泛化鲁棒。生物系统中赫布型STDP、稳态可塑性、神经调质调控多机制跨时标协调共存,神经递质共释放可作组织类比:多通路功能分化而共同塑造统一适应结果。为此研究人员提出多可塑性协同学习(Multi-Plasticity Synergistic Learning,MPSL),让异质可塑性信号在统一模型中协同引导膜电位累积并保持各自更新行为,以自适应可学习调制系数平衡贡献。
关键技术方法上,研究人员以泄漏积分发放(Leaky Integrate-and-Fire,LIF)神经元为基,用欧拉法迭代膜电位与尖峰;实例化三条通道:STBP提供全局误差驱动时空信用分配,赫布可塑性(Hebbian plasticity)依前/后突触活动作局部相关适应并以指数衰减稳态,SBP以赫布权重变异构局部反馈;前向按层更新赫布通道,逆层序用赫布变化更新SBP通道,时序展开后由STBP替代梯度反传;ηl、βl、λf、λp等局部超参借全局误差元优化但不破坏局部更新;推理时按Wli=1nλiWil合并为单权SNN。样本含MNIST、Fashion-MNIST、CIFAR-10、DVS-Gesture、Spiking Heidelberg Digits(SHD)、Google Speech Commands(GSC)及DEAP脑电图队列。
研究结果如下。
3.1 Spiking neuron:研究人员给出LIF神经元St,l=Θ(Ut,l-Vth)、输入电流It,l=f(Wl,St,l-1)、膜电位Ut,lm(Ut-1,l-St-1,lVth)+It,l的软重置形式,奠定多机制接入基座。
3.2 Synaptic plasticity:分述三机制。3.2.1 STBP-based gradient plasticity用矩形替代梯度u′(Ut,l,Vth)=1/a sign(|Ut,l-Vth|<a/2)求?L/?W1l,作全局误差通道。3.2.2 Hebbian plasticity以τw dWl/dt=-WllSt,l-1(ρ(Ut,l)+βl)离散为W2t,l指数衰减加局部相关项,权重更新不直用损失而ηl、βl可全局调。3.2.3 SBP-based local-feedback plasticity以ΔW2t,l为赫布变异,经H(A,B)=(λfEdiag(V+λpδn(R(A))))·B更新W3l,得邻层塑变反馈而不需显式全局梯度。
3.3 MPSL method:输入It,l=f(Σi=1nλiWil,St,l-1)聚三通道;训练时赫布在线、SBP逆层、STBP时序后反传;λi及局部规则超参被联合优化,局部权动态与全局元优化分离是核心原则;训后线性合并权重使部署模型参形式等同常规单权SNN,且框架不限于STBP+赫布+SBP组合。
讨论与结论部分:研究人员指出,现有SNN训练拘于单可塑性,生物则多机制跨时标协同;MPSL以神经调质共释放作组织类比而非断言同突触多规则独立运行,提供通用可扩展多机制训练范式。结论为MPSL使STBP、Hebbian、SBP互补信号共同改善时序表征与适应性;在EEG、图像、语音及噪声/裁剪扰动下泛化与鲁棒性一致增强;自适应调制系数让异质可塑性在统一方案内有效协调;训后合并权重保推理效率。该工作意义在于为脑启发多策略学习建通用基础,证明多可塑性协同优于单机制,并兼顾生物合理性与任务性能,对神经形态低功耗系统具推进价值。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号