稀疏编码与时间模式学习在多层兴奋-抑制脉冲网络中由双重脉冲时序依赖可塑性共同调控

《Biomimetics》：Sparse Coding and Temporal Pattern Learning Co-Mediated by Dual Spike-Timing-Dependent Plasticity in a Multilayer Excitatory–Inhibitory Spiking Network

　　

兴奋-抑制（Excitatory–Inhibitory, E-I）局部环路在突触可塑性和神经编码中扮演核心角色，但其多层学习动力学仍知之甚少。研究人员构建了一个具有层内E-I连接的多层前馈脉冲神经网络，使用Izhikevich神经元模拟规则发放（Regular Spiking, RS）和快速发放（Fast Spiking, FS）细胞，并研究了兴奋性和抑制性脉冲时序依赖可塑性（excitatory STDP, eSTDP 和 inhibitory STDP, iSTDP）下的协同学习。FS介导的侧向抑制通过赢者通吃（Winner-Take-All, WTA）竞争，缓解了由RS发放率适应引起的长时程抑制（Long-Term Depression, LTD）偏向，促进了E→E权重的异质分化，同时保持了平均突触强度。一项12×12的参数网格扫描显示，iSTDP扩展了E-I参数空间中的稳定学习区域，并揭示了训练期间eSTDP与iSTDP持续的协同共演化。对于稀疏编码，RS适应是寿命稀疏度（Lifetime Sparseness, a_L）的主要驱动因素，而FS抑制作为协同增强剂；网络在输入层表现出较低的稀疏度，在第二层迅速增加，并在深层保持稳定平台期。对于时间模式学习，训练后选择性指数（selectivity index, d'）显著提高，达到约FS缺失条件下的1.90倍；间隔敏感性和模式泛化测试均证实，这种优势在生物学合理的组间延迟范围内是稳健的，并在小的时间抖动下得以保持。互信息（mutual information, I）分析揭示了层内FS环路在深层持续保持更高刺激相关信息的一致趋势，这与FS介导的非特异性反应抑制相一致。这些发现为理解皮层E-I协同可塑性提供了计算模型证据（在现有模型范围内），并为具有自适应抑制调节能力的神经形态系统提供了仿生设计参考。

本研究旨在深入探究多层前馈脉冲神经网络中，兴奋性与抑制性脉冲时序依赖可塑性（STDP）的协同作用机制，特别是层内兴奋-抑制（E-I）局部环路对跨层学习动力学、稀疏编码形成及时间模式选择性的调控作用。当前研究背景是，大脑皮层通过兴奋性与抑制性神经元的协调活动处理信息，其精确的脉冲时序结构是神经编码和学习的基础。然而，多层前馈网络中STDP学习动力学如何随层深演化、层内信息如何在突触可塑性驱动的重组中得以维持，以及E-I平衡失调与神经精神疾病（如癫痫、自闭症谱系障碍）的关联，均缺乏系统量化分析。此外，尽管基于STDP和侧向抑制协同作用的无监督竞争学习框架已被证明能促进神经元选择性的出现，但现有研究多集中于浅层网络或局部环路，对eSTDP和iSTDP在多层前馈网络中的协同效应及其跨层传播的系统性研究仍显不足。在神经编码层面，稀疏编码被认为是皮层表征自然刺激的重要策略，但RS发放率适应与FS侧向抑制对稀疏编码形成的相对贡献及其协同关系尚未被清晰分离或量化。在时间模式识别层面，层内FS连接如何影响多层前馈网络的时间模式学习能力，以及是否有助于维持深层信息传输效率，也有待定量阐明。

为应对这些挑战，研究人员构建了一个包含层内E-I连接的八层前馈RS-FS脉冲神经网络，采用Izhikevich模型描述RS和FS神经元的异质发放特性，并系统研究了eSTDP和iSTDP协同作用下的多层学习动力学。研究主要技术方法包括：构建了八层前馈网络架构，每层包含160个RS神经元和40个FS神经元，模拟了层内四种连接类型（RS→RS, RS→FS, FS→RS, FS→FS）及层间E→E连接；使用Izhikevich神经元模型并引入参数异质性模拟RS的发放率适应和FS的快速低适应发放特性；实现了作用于层间E→E连接的eSTDP规则和作用于层内FS→RS连接的iSTDP规则；设计了多组对照实验（如无层内连接、仅保留RS适应、仅保留FS抑制、完整模型等）以分离不同机制的贡献；采用了一系列分析指标，包括突触权重统计量、寿命稀疏度（a_L）、群体稀疏度（a_P）、基于信号检测理论的选择性指数（d'）和ROC曲线下面积（AUC），以及互信息（I）来量化学习效果、稀疏编码、模式选择性和信息传输效率。

研究结果部分通过多个维度揭示了层内E-I环路的调控作用及其机制：
**3.1. 层内连接对eSTDP介导的E→E权重分化的影响**：研究表明，与无层内连接的条件相比，具有层内RS侧向兴奋和FS侧向抑制的网络能显著促进E→E权重的异质分化，使权重方差增加约3.36倍，而平均权重保持相对稳定。这归因于FS介导的WTA竞争机制，使发放更早或更强的RS神经元更易积累长时程增强（Long-Term Potentiation, LTP），而较弱或延迟的神经元则趋向LTD。
**3.2. E-I参数空间及iSTDP的协同调控**：通过12×12参数网格扫描发现，仅eSTDP时，稳定学习区域局限于E-I参数空间的一个狭窄对角带，网络状态对层内兴奋和抑制强度组合敏感。引入iSTDP后，稳定区域得以扩展，能部分抑制高兴奋条件下的过度兴奋，并在低兴奋条件下维持低水平活动。代表性参数下的时间演化显示，eSTDP调节的平均E→E权重在训练中保持相对稳定，而iSTDP调节的平均FS→RS抑制权重单调增加，使E/I权重比从初始值约3.0持续下降至约2.1，表明eSTDP和iSTDP能实现协同调节，共同趋向新的相对平衡点。
**3.3. 稀疏编码的出现**：通过对照实验分离了RS发放率适应和FS侧向抑制对稀疏编码形成的贡献。发现RS适应是促进寿命稀疏度（a_L）形成的主要因素（仅适应条件下a_L = 0.68，仅FS抑制条件下a_L = 0.15），而FS抑制通过WTA竞争起到协同增强作用（完整模型a_L = 0.74）。群体稀疏度（a_P）在不同条件下差异较小（约0.05–0.09）。层间分析显示，a_L在L1较低（约0.25），在L1到L2迅速增加至约0.73，并在L2–L8保持高平台期（约0.74）；而a_P在L2达到峰值（约0.35）后，在深层逐渐下降至约0.02。这表明稀疏编码主要在L1到L2的传播阶段形成，随后以高寿命稀疏度的形式在深层得以维持。
**3.4. 选择性时间模式学习及层间信息传输的保护**：研究表明，完整RS-FS网络经过STDP训练后，对目标时间模式表现出更强的选择性，d'和AUC均大幅提高。完整模型的最终d'约为无FS条件下的1.90倍，表明层内FS侧向抑制有助于增强时间模式选择性学习。间隔敏感性分析证实，这种优势在3–8 ms的组间延迟范围内是稳健的，完整模型在3 ms和5 ms延迟下达到了d' > 1的可靠辨别，而无FS条件在所有测试间隔下均未达到阈值。模式泛化测试进一步表明，网络主要获得了对输入序列时间顺序结构的特异性，而非激活神经元身份的特异性：在±2 ms时间抖动下响应保持良好，但当顺序被打乱或神经元分组随机化时响应显著减弱。互信息分析显示，完整模型在所有深层（L2–L8）都一致地保持了比无FS条件更高的I值（在L3附近差异最明显，约2.2比特 vs. 1.85比特），表明层内FS环路有助于在深层前馈传播中保留更多刺激相关信息。

在讨论部分，研究人员总结了主要发现并指出了研究的局限性。**4.1. 层内FS侧向抑制在eSTDP介导的权重分化中的作用**：结果证实了FS侧向抑制通过WTA机制促进竞争性Hebbian学习，并将此原理扩展到多层前馈STDP学习背景中。持续上升的E→E权重方差也凸显了自适应抑制调节（如iSTDP）的必要性。**4.2. iSTDP扩展了E-I参数空间中的稳定学习区域**：参数扫描结果与Luz和Shamir的单层分析结论一致，并证明其稳定效应可推广到多层前馈架构。E/I权重比的单调下降表明iSTDP持续跟踪兴奋性活动并相应调整抑制强度，与eSTDP协同趋向稳定工作点。研究人员还将此与工程领域的自适应学习架构（如T3-ANFIS）进行了类比，强调了跨学科交流对神经形态计算设计的重要性。**4.3. 稀疏编码形成的机制**：RS适应是a_L的主要驱动力，FS抑制则起到锐化作用。层间稀疏化特征表明，稀疏代码形成的关键阶段发生在第一个前馈突触转换处，且一旦形成，其表征结构能在网络中稳健传播。**4.4. 层内FS环路对时间模式选择性和信息保存的作用**：层内FS连接显著增强了时间模式选择性，其机制与Litwin-Kumar和Doiron的集群形成框架相关。间隔敏感性分析和模式泛化测试进一步证实了网络对时间顺序结构的特异性及其稳健性。更高的深层互信息趋势表明，层内FS环路有助于在信息前馈传播中保持更高的保真度，这对事件驱动的神经形态硬件实现具有设计启示。**4.5. 局限性与未来方向**：研究承认了若干局限性，包括网络为严格前馈拓扑、缺乏自上而下的反馈连接、网络深度固定、输入为速率同质的泊松脉冲序列、仅考察了单一目标模式和固定参数配置、未在神经形态硬件平台上验证等。未来工作可在这些方面进行拓展。

研究结论部分总结道：在本研究中，研究人员构建了一个包含层内E-I连接的八层前馈RS-FS脉冲神经网络，并系统研究了eSTDP和iSTDP协同作用下的多层学习动力学。在突触学习动力学层面，层内FS侧向抑制通过WTA竞争机制缓解了RS发放率适应诱导的LTD偏向，促进了E→E权重的异质分化，同时保持了平均突触强度的稳定。在网络稳定性层面，参数网格扫描表明，iSTDP扩展了支持有效学习的参数空间区域，eSTDP和iSTDP能在此网络中实现协同调节，提高了对适度E-I参数失配的适应性。在稀疏编码层面，对照比较表明RS发放率适应是促进寿命稀疏度形成的主要因素，而FS侧向抑制通过WTA竞争发挥协同增强作用。层间分析进一步揭示，稀疏编码主要在L1到L2传播期间形成，随后以高寿命稀疏度的形式在深层得以维持。在时间模式学习和信息传输层面，完整的RS-FS网络在STDP训练后表现出对目标时间模式更强的选择性，层内FS侧向抑制有助于增强时间模式选择性学习。间隔敏感性分析证实这一优势在3–8 ms的组间延迟范围内是稳健的。模式泛化测试表明，网络主要获得了对输入序列时间顺序结构的特异性。互信息分析揭示了完整模型在深层保持更高刺激相关信息的趋势。总之，层内E-I环路在多层前馈STDP学习中对突触权重分化、参数稳定性、稀疏编码形成和时间模式选择性具有重要的调控作用。eSTDP和iSTDP的协同作用不仅有助于维持兴奋性和抑制性突触权重之间的相对平衡，还促进了多层脉冲网络中选择性表征和时间信息处理能力的形成。这些效应在组间间隔和模式类型上的稳健性进一步支持了所提出的E-I协同学习框架的功能普适性。在现有的八层前馈模型范围内，这些发现为理解皮层E-I协同可塑性机制提供了计算模型支持，并为具有自适应抑制调节能力的神经形态系统设计提供了仿生参考。