
-
生物通官微
陪你抓住生命科技
跳动的脉搏
综述:一种稳定的自组织空间池化算法在分层时序记忆中的应用
【字体: 大 中 小 】 时间:2025年07月23日 来源:Expert Systems with Applications 7.5
编辑推荐:
本文推荐一种改进的分层时序记忆(HTM)算法,通过动态列组织机制和基于负载能力的稳定激活策略,解决了传统空间池化器(SP)固定列数和激活不稳定的问题。实验表明,该算法在序列学习中显著提升预测精度和训练效率,优于传统HTM和长短期记忆网络(LSTM)。
分层时序记忆(HTM)作为受大脑新皮层启发的神经网络技术,其核心模块空间池化器(SP)通过稀疏分布式表示(SDR)编码输入数据。传统SP存在固定列数设定和激活不稳定两大缺陷。本研究提出动态列组织机制,根据输入数据自适应调整学习列数量,并引入列负载能力(loadability)替代传统提升机制(boosting),显著提升SDR稳定性。实验验证其在合成与真实数据集上均优于传统HTM和LSTM。
HTM模仿大脑新皮层的时空学习能力,其SP模块通过近端突触连接输入数据,激活特定列生成SDR。然而,固定列数(如常规2048列)导致资源浪费或不足,而基于激活频率的提升机制引发SDR波动。本文提出数据驱动的列组织策略:仅初始化与输入活跃位连接的列,并通过负载能力量化列表征能力,避免频繁调整。
动态列组织:输入数据的二进制活跃位直接决定参与学习的列,避免预设列数的盲目性。例如,简单序列仅需少量列,而复杂模式动态扩展列池。
负载能力激活:以列负载能力(反映其固有表征强度)替代激活频率,确保相同输入的SDR一致性。负载能力通过突触权重和输入匹配度计算,与数据重复出现无关。
在合成序列和真实数据集(如运动预测)中,SSO_HTM的列利用率随输入逐步稳定(图4),训练耗时降低30%,预测精度提升15%。对比实验显示,仅采用动态列组织的SOP_HTM或仅引入负载能力的SSP_HTM均部分改善性能,但二者结合效果最优。
该算法通过数据自适应列组织和负载感知激活,实现了HTM的高效稳定学习,为生物启发式AI提供了新思路。未来可探索多模态输入下的扩展应用。
生物通微信公众号
知名企业招聘