生物启发的脉冲神经网络学习新方法:高效节能的认知计算

【字体: 时间:2025年02月25日 来源:Scientific Reports 3.8

编辑推荐:

  本研究针对传统脉冲神经网络(SNN)训练效率低下的问题,提出了一种结合无监督学习(Power-STDP)和强化学习(Actor-Critic)的新型学习方法(PSAC),显著提升了网络的收敛速度和分类精度,为低功耗神经形态计算提供了新思路

  在当今数字化时代,人工智能的发展对计算能力提出了更高的要求。然而,传统计算架构在处理复杂任务时面临着功耗高、效率低等问题。近年来,生物启发的脉冲神经网络(SNN)因其低功耗、高效能的特点受到广泛关注。SNN通过模拟生物神经元的脉冲活动来处理信息,具有事件驱动、异步处理的优势,尤其适合应用于神经形态芯片等低功耗计算平台。然而,SNN的训练过程复杂,学习效率较低,限制了其广泛应用。为解决这一问题,伊朗沙希德·贝赫什提大学的研究人员提出了一种结合无监督学习(Power-STDP)和强化学习(Actor-Critic)的新型学习方法(PSAC),并将其应用于多个经典数据集(MNIST、EMNIST、CIFAR10和CIFAR100),取得了显著的成果。该研究不仅提高了SNN的训练效率和分类精度,还为神经形态计算的发展提供了新的理论支持。论文发表在《Scientific Reports》上,为人工智能领域的研究者提供了新的思路和方法。
在研究中,作者采用了以下几个关键技术方法:首先,基于生物神经元的漏电积分-发放(LIF)模型构建了SNN的神经元和突触模型;其次,通过无监督学习方法Power-STDP调整中间层突触权重,利用强化学习中的Actor-Critic模块优化输出层和中间层之间的连接权重;最后,通过在多个数据集上进行训练和测试,验证了PSAC方法的有效性。

研究背景与问题

随着人工智能技术的飞速发展,传统计算架构在处理复杂任务时面临着诸多挑战,如高功耗、低效率等。生物神经系统以其高效的计算能力和低能耗的特点,为解决这些问题提供了新的思路。脉冲神经网络(SNN)作为一种模拟生物神经元活动的计算模型,通过发放脉冲来传递信息,具有事件驱动、异步处理的优势,尤其适合应用于神经形态芯片等低功耗计算平台。然而,SNN的训练过程复杂,学习效率较低,限制了其广泛应用。为解决这一问题,研究人员提出了一种结合无监督学习(Power-STDP)和强化学习(Actor-Critic)的新型学习方法(PSAC),并将其应用于多个经典数据集(MNIST、EMNIST、CIFAR10和CIFAR100),取得了显著的成果。

研究方法

研究人员首先基于生物神经元的漏电积分-发放(LIF)模型构建了SNN的神经元和突触模型。LIF模型是一种经典的神经元模型,能够模拟生物神经元的膜电位变化和脉冲发放过程。在此基础上,研究人员设计了中间层和输出层的神经元连接,中间层由兴奋性锥体神经元(PY)和抑制性中间神经元(IN)组成,通过AMPA和GABA受体传递兴奋性和抑制性突触电流。
为了提高SNN的学习效率,研究人员提出了一种结合无监督学习(Power-STDP)和强化学习(Actor-Critic)的新型学习方法(PSAC)。Power-STDP是一种基于脉冲发放时间的突触可塑性规则,能够根据前突触和后突触脉冲的时间关系调整突触权重。强化学习中的Actor-Critic模块则通过奖励信号(Dopaminergic Signal)进一步优化突触权重的调整,从而提高网络的学习效率和分类精度。

研究结果

研究人员在多个经典数据集(MNIST、EMNIST、CIFAR10和CIFAR100)上验证了PSAC方法的有效性。实验结果表明,采用PSAC方法训练的SNN在MNIST、EMNIST(数字)、EMNIST(字母)、CIFAR10和CIFAR100数据集上分别取得了97.7%、97.95%、93.73%、93.6%和75%的分类精度,显著优于以往的SNN方法。此外,PSAC方法还具有更快的收敛速度,例如在MNIST和CIFAR10数据集上仅需6个训练周期即可达到较高的分类精度,而传统的SNN方法则需要更多的训练周期。

研究结论与讨论

本研究提出了一种结合无监督学习(Power-STDP)和强化学习(Actor-Critic)的新型学习方法(PSAC),并将其应用于脉冲神经网络(SNN)的训练。实验结果表明,PSAC方法不仅提高了SNN的分类精度,还显著加快了网络的收敛速度。此外,该方法还具有低功耗、稀疏脉冲活动等优点,适合应用于神经形态芯片等低功耗计算平台。该研究为神经形态计算的发展提供了新的理论支持,也为人工智能领域的研究者提供了新的思路和方法。未来,研究人员将进一步探索PSAC方法在更复杂任务中的应用,如时空模式识别、语音识别等。
相关新闻
生物通微信公众号
微信
新浪微博
  • 急聘职位
  • 高薪职位

知名企业招聘

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号