《Biomimetics》:C-SOM SNN: A Continuous Self-Organizing Map Spiking Neural Network Based on STDP Unsupervised Learning Encoding with Designed Lateral Inhibition Distribution
编辑推荐:
为克服传统脉冲神经网络(Spiking Neural Networks, SNNs)在连续变量编码和生物合理性方面的局限,本研究提出C-SOM SNN——一种融合SOM SNN聚类、连续吸引子神经网络(Continuous Attractor Neural N
为克服传统脉冲神经网络(Spiking Neural Networks, SNNs)在连续变量编码和生物合理性方面的局限,本研究提出C-SOM SNN——一种融合SOM SNN聚类、连续吸引子神经网络(Continuous Attractor Neural Network, CANN)连续表征以及具有良好生物合理性的STDP无监督学习的新型SNN,其设计受海马体空间编码神经元研究的启发。不同于局限于离散变量的传统模型,C-SOM SNN通过混合拓扑与多脉冲赢者全取(Multi-Spike Winner-Take-All, WTA)机制,创新性地实现了离散变量和连续变量的双重编码。实验在MNIST固定官方训练-测试划分(五次重复、固定随机种子)上验证了其优越性:C-SOM SNN达到98.00 ± 0.18%的准确率,而SOM-SNN为84.00 ± 0.40%,SNN-CANN为92.00 ± 0.31%。在采用官方分层10折划分的Urban8K数据集上,该方法达到87.00 ± 0.65%的准确率,而SOM-SNN为78.00 ± 0.92%,SNN-CANN为83.00 ± 0.84%,相较基线取得了可量化的性能提升。在定位导航任务中,该方法能够稳定编码连续地标位置。通过分别处理原始视觉样本和转换为图像状特征矩阵的音频信号,该方法在分离任务中展现出一定的跨模态(disjoint-cross-modal)处理能力。本研究推进了类脑计算的发展,为复杂任务提供了一种高效、可解释的框架,并在现实分离多模态应用中具有广阔潜力。
以下为论文解读文章:
**研究背景与问题的提出**
空间认知的神经基础依赖于海马结构及相关脑区中特化神经元的复杂网络。1971年O’Keefe发现位置细胞(place cells)在海马中选择性放电,构成认知地图的群体编码基础;2005年Moser等人在内侧内嗅皮层(medial entorhinal cortex, MEC)发现网格细胞(grid cells),其六边形放电模式支持度规空间表征与路径整合。这些发现共同构成了大脑“内部GPS系统”的核心组件,并荣获2014年诺贝尔生理学或医学奖。理论层面,侧抑制神经网络(Lateral Inhibition Neural Networks)被用于解释网格细胞活动,Samsonovich和McNaughton于1997年提出递归突触连接可通过路径整合维持稳定空间表征。后续研究进一步揭示了位置细胞与网格细胞在局部与全局空间框架编码中的交互,以及连续吸引子动力学(continuous attractor dynamics)如何支撑六边形网格放电模式和稳定空间路径整合。
在计算神经科学领域,脉冲神经网络(Spiking Neural Networks, SNNs)凭借脉冲时序依赖可塑性(Spike-Timing-Dependent Plasticity, STDP)能够以高能效方式实现空间特征的无监督学习。然而,传统模型难以复现体内观察到的空间编码动态重组。近年来,将自组织映射(Self-Organizing Map, SOM)聚类与STDP结合的方法在改善空间表征拓扑保持方面显示出潜力,神经形态硬件实现相较传统人工神经网络可带来2–3个数量级的能效提升。尽管如此,在生物真实性与计算效率之间架桥仍具挑战,尤其是在建模跨环境空间编码的灵活重映射方面。此外,传统视觉SLAM导航系统在动态环境中存在显著缺陷:当动态物体主导视野时位姿估计误差大,极端光照下特征丢失严重,轻量级SLAM变体在低功耗硬件上难以平衡精度与速度,繁重的几何计算带来高能量开销,且依赖预建地图限制了对场景变化的适应性。相比之下,类脑导航编码借鉴神经科学策略,可通过脉冲时序编码大幅降低能耗,通过Hebbian可塑性网络根据刺激统计学习离散或连续吸引子,并无需预建地图即可在线学习环境。
现有代表性SNN模型各有局限:Diehl侧抑制STDP SNN(Diehl-SNN)实现基于脉冲的竞争性特征提取,但需要手动调节抑制且缺乏自适应权重学习;传统SOM可对高维特征进行拓扑聚类,但基于速率编码且缺乏脉冲时序可塑性;SNN-CANN支持连续表征和面向硬件的简化,但仍依赖手动参数配置,且其预定义吸引子权重矩阵和密集递归连接增加了神经形态硬件实现难度。这些模型均无法在单一可学习网络结构中同时实现离散分类与连续空间映射。为此,本研究提出C-SOM SNN框架,通过整合STDP无监督学习与空间定制侧抑制,建立混合拓扑编码范式,实现统一的双模式编码机制。
**研究内容与主要结论**
研究人员开发了一种新型SNN架构——C-SOM SNN,其核心创新包括:(1)将距离增强的侧抑制机制嵌入STDP权重更新,在输入稀疏编码后稳定提取时空特征相关性;(2)结合SOM竞争动力学与定制侧抑制,局部弱抑制促使相似输入的相邻神经元同步放电,而长距离强抑制与SOM竞争将权重优化约束到获胜神经元及其邻域,产生空间连续、稳定的脉冲簇,具有良好的拓扑保持性和噪声鲁棒性;(3)在单一可学习网络结构下实现统一双模式编码:强抑制通过正交稀疏编码产生用于离散分类的独立脉冲簇,中等抑制允许相邻簇共激活形成连续脉冲流形以编码连续变量,从而消除了现有SNN中离散分类与连续空间映射之间的固有取舍。
实验验证方面,在MNIST视觉数据集上,采用固定官方训练-测试划分,五次重复(固定随机种子42),C-SOM SNN在784-400-100结构下达到98.00 ± 0.18%的准确率,显著高于SOM-SNN的84.00 ± 0.40%和SNN-CANN的92.00 ± 0.31%。在Urban8K音频数据集上,遵循官方分层10折划分,C-SOM SNN在700-400-100结构下达到87.00 ± 0.65%,优于SOM-SNN的78.00 ± 0.92%和SNN-CANN的83.00 ± 0.84%。消融实验表明,移除定制侧抑制或改换为单神经元WTA均导致准确率下降,验证了所提模块的联合贡献。参数敏感性分析显示,侧抑制上界γ和增长速率σ
inh偏离默认值会降低分类性能。时间消耗对比显示,事件驱动的C-SOM SNN训练速度显著快于时钟驱动的Diehl-SNN(784-400-100下每轮11分钟对比61分钟)。噪声鲁棒性测试中,在噪声强度0.3时C-SOM SNN仍保持91.2 ± 0.5%的准确率,优于基线模型。在定位导航实验中,1D环形C-SOM SNN在训练轨迹上MAE/RMSE为1.02/1.31,在新异轨迹上为1.47/1.86,均低于SOM-SNN和SNN-CANN,实现了对连续地标位置的稳定编码。
**关键技术方法**
(1)自适应LIF(Leaky Integrate-and-Fire)神经元模型:融入动态阈值调整和侧抑制竞争交互,模拟生物神经元的膜电位积分、动态阈值调节和神经元间竞争抑制。(2)定制侧抑制分布规则:定义距离依赖性抑制权重——相邻神经元弱抑制、远距离神经元强抑制,通过指数函数w
inh(x,x′) = γ·(1 ? exp(?‖x?x′‖2/σ
inh2))实现,构建隐式吸引子动力学。(3)事件驱动与时间稀疏编码:基于脉冲时序而非速率统计编码刺激强度,强刺激诱发更早脉冲,仅在神经元放电时触发计算。(4)邻域SOM聚类学习算法:通过获胜神经元及其邻域的自适应更新实现无监督拓扑聚类。(5)多脉冲赢者全取(Multi-Spike WTA)与STDP协同训练:输出层每次激活2–11个神经元组成获胜集合,仅对获胜神经元执行STDP权重更新。实验数据集包括MNIST(60,000训练/10,000测试样本)和Urban8K(8,732个音频样本,10类,官方分层10折划分),定位导航实验使用模拟环境中的连续地标坐标数据。
**研究结果**
**连续变量的数字编码**:1D环形和2D环形C-SOM SNN将0–9数字标签转化为在环上平滑移动的活动bump,相邻数字在空间上重叠,bump质心连续表示数值大小,同时峰值位置提供离散类别标签,实现了单一吸引子片上的离散-连续联合表征。中间插值输入的解码输出偏差在0.05以内,MAE/RMSE为0.040/0.041。
**视觉分类实验(单簇激活)**:在MNIST上,2D环形C-SOM SNN的权重可视化重建数字轮廓清晰度最高。随着特征层神经元数量从100增至400,C-SOM SNN准确率从86.00%升至98.00%,提升幅度(12.00%)显著大于SOM-SNN(4.00%)和SNN-CANN(5.00%)。混淆矩阵显示,在784-400-100结构下多数数字类别达到近完美识别。
**音频分类实验(单簇激活)**:在Urban8K上,C-SOM SNN将MFCC提取的音频特征作为图像状数据输入。在700-400-100结构下达到87.00 ± 0.65%,相对最小网络的准确率增益为9.00%,高于两个基线。聚类结果和混淆矩阵均显示,增加特征层神经元数量可提升音频类别区分度。
**消融与敏感性分析**:移除定制侧抑制(改用固定抑制)使MNIST准确率降低4.80%、Urban8K降低3.90%;改为单神经元WTA导致较小但明显的性能下降;两者均禁用时准确率最低。γ和σ
inh的敏感性分析表明,默认参数(γ=2.0, σ
inh=3.0)取得峰值准确率98.0%。
**时间消耗与鲁棒性分析**:事件驱动机制大幅降低训练时间,且优势随隐藏层扩大而增长。噪声测试中,C-SOM SNN在噪声水平0.3时准确率91.2 ± 0.5%,降幅和方差均为最小,验证了对视觉噪声输入的优越鲁棒性。
**多簇激活定位与导航实验**:1D环形C-SOM SNN以地标(x, y)坐标作为输入(382个输入神经元),通过300个特征层神经元和300个输出层神经元产生群体脉冲放电模式。预测轨迹与真实轨迹完全重叠,输出层线条宽度最细表明稳定性和收敛性最佳,显著优于SOM-SNN和SNN-CANN。
**讨论与结论**
讨论部分指出,C-SOM SNN的性能增益可归因于距离依赖性侧抑制机制:相邻神经元间弱抑制保持局部脉冲相关性,长距离强抑制抑制冗余脉冲活动,自然形成隐式吸引子动力学,无需手工设计的递归吸引子连接。相比SOM-SNN缺乏结构化侧抑制、Diehl-SNN仅优化离散分类且依赖静态STDP规则、SNN-CANN需要预定义递归权重且计算开销更高,C-SOM SNN在分类精度和连续编码平滑性上均占优。局限性包括:所有实验均为软件模拟,未部署到神经形态硬件;视觉和音频任务作为分离模态处理,未实现跨模态特征融合;连续地标编码在模拟导航数据而非真实机器人轨迹上测试;模型行为对超参数γ和σ
inh敏感。结论部分总结:C-SOM SNN通过整合SOM自组织聚类与定制侧抑制分布,利用生物合理的无监督STDP学习规则训练,克服了传统SNN仅支持离散变量编码的固有限制。输出层采用纯环形拓扑,神经元配备显式自递归连接和可配置侧抑制分布,无需固定吸引子权重配置。空间衰减的侧抑制(邻近弱抑制、远方强抑制)实现了离散与连续变量的有效表征。MNIST和Urban8K上的更高分类精度验证了离散分类有效性;定位导航任务中通过群体脉冲放电稳定编码连续空间位置,消除了离散编码方案的编码不连续性。未来工作将扩展至更大规模的分离多模态数据集(如音视频配对数据),并优化针对跨模态特征整合的侧抑制分布,以模拟生物大脑的多感官信息处理特性。
(全文约1550字)