StaDyn：一种用于快速实现SNN映射的静态-动态集成评估框架

《Neurocomputing》：StaDyn: A static-dynamic integrated evaluation framework for rapid SNN mapping

　　李深志|邓景年|袁硕|王泽辰|黄典|邓让宇 中国广东省珠海市519000，广东省智能科学技术研究院 摘要 将脉冲神经网络有效映射到不同的类脑计算平台上，仍是实现实际边缘应用的关键挑战。目前的评估方法依赖于耗时且针对特定平台的仿真，这限制了设计空间的探索。我们提出了StaDyn（静态与动态评估框架），这是一个轻量级、无需仿真、与硬件无关的框架，可用于快速进行SNN映射评估。StaDyn整合了六项指标：四项静态指标包括延迟、功耗、拥塞和利用率，以及两项动态指标，即时间动态性和路由行为——这些指标直接来源于映射结构、片上网络拓扑和工作负载特征。在包括自主研发的TrueSouth芯片在内的五种类脑计算平台上进行验证后，StaDyn与硬件性能呈现出高度相关性，且其速度比基于仿真的方法快几个数量级。该框架有助于高效地跨平台探索设计空间，加速SNN的实际应用。引言 受生物神经系统静态与动态特性的启发，类脑计算作为一种高效的智能处理范式应运而生[1]。与传统架构相比，它具有诸多优势，比如支持有监督和无监督学习，用稀疏的、基于事件的脉冲计算替代密集矩阵运算，以及天生适合处理时间信息[2]。SNN的理论基础在计算神经科学领域已得到充分确立[3]。目前，已有多种专用硬件平台出现，如SpiNNaker[1]、TrueNorth[2]、Loihi[4]、Neurogrid[5]和Darwin[6]。关于类脑计算硬件的全面综述可见[7]，而关于SNN在类脑硬件上映射的深入研究可见[8]，最近的性能预测方法[9]则证明了仅通过结构评估的可行性。作为对这些硬件创新的补充，英特尔的Lava和SpikingJelly等软件框架也被开发出来，以辅助SNN的设计与仿真。然而，硬件和软件的多样化给SNN模型的高效且可移植部署带来了巨大挑战。在新兴的类脑解决方案中，自主研发的TrueSouth芯片是一个极具前景的平台。能否有效利用这一平台，取决于是否有快速的评估方法来简化SNN的映射与部署过程。将SNN部署到此类硬件上，需要一个将逻辑神经图转换为硬件计算核心间物理布局的映射过程。这一映射的质量直接影响延迟、吞吐量和功耗等关键性能指标[10][11]。在资源受限的环境中，映射质量直接决定了大规模SNN部署的可行性。对于TrueSouth而言，确保在不同工作负载下实现高效映射对其普及至关重要。多年来，已有多种映射算法和工具被提出来解决这一难题。早期的PACMAN[12]为大规模并行平台引入了分层配置策略。随后，SpiNeMap[10]为将SNN映射到基于网格的片上网络架构提供了更为系统的方法。更近期的工具如DFSynthesizer[13]采用数据流合成技术，而Hilbert-Curve-FD-hybrid[11]则利用空间填充曲线来实现大规模SNN映射。这些映射算法中的图划分技术与传统的多层划分方法密切相关[14]。尽管这些工具很有价值，但它们往往依赖针对特定平台的、精确到周期级的仿真来进行性能评估，这种方式计算成本高昂，且限制了快速的设计空间探索。映射质量的评估可分解为两个相互补充的方面：映射结构的固有静态属性以及运行时的动态行为。静态属性，如核心间距离、资源利用平衡和割集大小，直接反映了物理布局和通信模式；而动态行为，包括峰值流量突发、放电率变化和路由冲突，则会显著影响实际工作负载下的运行性能。现有的评估方法要么只关注静态分析而无法捕捉运行时的动态特性，要么依赖计算成本高昂的仿真，虽然能考虑动态效应，但却针对特定平台。正是这种差异促使人们需要一个能够将静态映射属性与动态运行行为相结合的统一框架，从而实现跨不同硬件平台的快速准确性能预测[15]。在工具链中，评估映射质量仍然是一个重大瓶颈，尤其是在那些对上市时间和资源有严格要求的实际应用中。现有方法通常首先通过详细的脉冲流量行为级仿真（如使用CARLsim[16][17]或PyCARL[18]），然后再使用NOXIM[19]或NeuroXplorer[20]等工具进行硬件级仿真，以评估延迟、能耗和拥塞等指标。这种基于仿真的方法存在三个主要局限。首先，对于大规模网络，计算成本高昂的仿真可能需要数小时甚至数天，这在需要快速原型设计和重新配置的实际场景中是不可行的。其次，与特定硬件模型紧密相关的评估方式阻碍了跨平台移植性，而这正是集成多个类脑芯片的实际边缘设备所必需的。最后，有限的设计空间探索和缓慢的反馈循环也妨碍了对不同架构下映射算法的快速比较和优化。因此，迫切需要一种轻量级、与硬件无关的评估方法，以加速实际SNN部署的映射设计与选择过程。为应对这些挑战，本文提出了StaDyn，这是一种全新的框架，能够以极低的开销快速预测映射性能，尤其注重加速SNN的实际应用部署。近年来，SNN训练技术的进步显著提升了其精度和效率。例如，EnOF-SNN[21]通过优化输出特征表示来训练高精度的SNN，在静态和神经形态数据集上都取得了优异的性能。通过熵正则化实现时间分离的知识蒸馏技术[22]则能够在不同时间步对逻辑值进行蒸馏学习，而不仅仅是聚合输出特征，从而提升了SNN的性能，超越了以往的蒸馏策略。自监督的高阶信息瓶颈学习方法（SeLHIB）[23]则能够在噪声环境下实现基于事件的稳健光流估计，同时还能显著节省能源。这些训练方法生成的SNN性能优异，需要高效的部署方式。我们的StaDyn框架通过提供快速、与硬件无关的评估功能，将这些训练好的SNN映射到神经形态硬件上，从而完成了从训练到部署的整个流程。StaDyn是在与TrueSouth芯片项目密切合作的基础上开发的，它在验证该芯片的实际部署准备就绪方面发挥了关键作用。我们的主要贡献如下：• 提出了一套包含六项轻量级StaDyn指标的完整体系，这些指标被系统地分为静态指标（StaDyn-D、StaDyn-P、StaDyn-C、StaDyn-U）和动态指标（StaDyn-T、StaDyn-R），可实现将静态映射属性与动态运行行为相结合的全面评估。• 验证了StaDyn在五种不同的类脑计算平台（TrueSouth、SpikingJelly、Lava、3D-Mesh和Loihi）上的跨平台通用性，证明了其具有稳定的计算能力，并能准确反映不同架构之间的差异。• 通过严格的关联分析表明，StaDyn指标与通过精确到周期级的仿真以及实际硬件测量获得的硬件性能指标之间存在高度相关性。本文的其余部分结构如下：第2节介绍NFU架构及TrueSouth CPU；第3节回顾相关研究；第4节详细阐述StaDyn框架、指标分类及定义；第5节介绍实验设置、跨平台验证及关联分析；第6节讨论StaDyn的优势与局限性；最后，第7节对全文进行总结并指出未来研究方向。章节节选 NFU架构 本节介绍了TrueSouth的类脑计算硬件架构，这是本研究用于SNN映射评估的自研芯片及其目标平台。TrueSouth专为实际边缘应用而设计，兼具高能效和灵活的可编程性。首先介绍了TrueSouth芯片的整体架构，包括神经功能单元与通用核心的整合，以及2D-Mesh型片上网络拓扑结构。相关研究 本节回顾了现有的SNN映射评估方法，并指出了它们的局限性。首先讨论了基于仿真的方法，接着介绍了基于机器学习的加速技术、混合静态与动态评估策略、统一评估框架以及基于强化学习的 方法。在本节末尾，分析了当前方法的不足之处，从而强调了像StaDyn这样的快速、与硬件无关的评估框架的必要性。方法论 第2节中描述的NFU架构具备若干独特特性，包括解耦的事件处理机制、每个GNC的无限突触计数功能以及5×4×2D-Mesh型片上网络结构，这些特性都直接影响映射算法和评估指标的设计。本节我们将介绍StaDyn框架，该框架包含六项指标，分为静态指标和动态指标两类。首先会对SNN映射问题进行正式定义，并概述各类指标的内容。实验 本节介绍了对StaDyn框架的实验评估。首先描述了实验设置，包括用于比较的类脑计算平台、SNN模型、映射算法以及基准方法。随后，评估了StaDyn的跨平台通用性和可扩展性，并通过精确到周期级的仿真以及实际硬件测量对其进行了验证。实验结果证明了所提方法的准确性、高效性以及与硬件的无关性。讨论 本节探讨了StaDyn框架的优势及实际应用意义，将其与其他评估方法进行了比较，同时分析了其局限性。此外，还提出了扩展该框架功能的方向。最后，强调了StaDyn在各种设计工作流程中的应用潜力，包括早期设计探索、自动优化以及教育用途等。结论 本文介绍了StaDyn，这是一种轻量级、无需仿真、与硬件无关的框架，可用于快速评估SNN映射性能，尤其注重加速其实际应用部署。StaDyn是在与TrueSouth芯片项目密切合作的基础上开发的，它在验证这款自研类脑处理器的实际应用准备就绪方面发挥了关键作用。StaDyn指标分为静态指标和动态指标两大类。这种双类别设计使得……CRediT作者贡献声明 李深志：写作——审稿与编辑，写作——初稿撰写，方法论。邓景年：写作——审稿与编辑，写作——初稿撰写，方法论。袁硕：写作——审稿与编辑，方法论。王泽辰：写作——审稿与编辑，方法论。黄典：写作——审稿与编辑，方法论。邓让宇：写作——审稿与编辑，写作——初稿撰写，方法论。利益冲突声明 作者声明自己没有已知的可能影响本文工作的财务利益或个人关系。致谢 本项目得到了广东省科技计划项目的支持（项目编号GDTS202404）。李深志于2016年在中国北京北京航空航天大学获得软件工程硕士学位，目前她正在中国澳门澳门城市大学数据科学学院攻读计算机科学博士学位。她是中国计算机学会的会员，也是电气和电子工程师协会的研究生会员。她的研究兴趣包括类脑计算、多模型融合以及深度学习。