TSA-Net+：面向高效节能物联网推理的通信感知混合ANN-SNN框架

《Internet of Things》：TSA-Net+: A Communication-Aware Hybrid ANN-SNN Framework for Energy-Efficient IoT Inference

　　

摘要

物联网（IoT）部署越来越多地依赖边缘端的持续AI预测。混合ANN-SNN模型通过将密集特征提取器与脉冲预测器配对来削减计算能耗，但两者组件间的数据流造成了一个被忽视的通信瓶颈。本文提出了TSA-Net+（时间自注意力网络Plus），一种面向异构IoT系统的通信感知框架。它在TSA-Net的基础上构建，TSA-Net将自注意力双向LSTM提取器与脉冲循环神经网络（SRNN）头耦合，并增加了一个包含两种机制的接口层。重要性加权残差门控（IWRG）抑制互联链路上的冗余特征传输，闭环预测反馈休眠（CLPFS）在工作负载稳定阶段对主机进行功耗门控。阈值可以通过离线扫描固定，或从反馈误差信号中在线调谐。该框架在Azure Functions追踪数据（DS1）和PeMS交通数据（DS2）上进行了验证。主机能耗在树莓派4上测量并按活跃步数比例缩放；加速器能耗通过基于Lava的Loihi仿真估算。固定配置使主机在45.1%（DS1）和39.8%（DS2）的步数中休眠，门控了83.1%和41.3%的互联传输，将传输量减少了89.3%和59.2%，缓解了窄IoT链路上的总线争用。估算的主机能耗降低了45.1%和39.8%，加速器能耗降低了45.1%和41.4%，而平均绝对误差上升了0.3%和6.2%。自适应配置在DS1上匹配了这些节省，并在DS2上达到37.0%的主机节省，无需任何离线扫描，为能效混合IoT推理提供了一条自调谐路径。

引言

物联网（IoT）从根本上改变了现代计算[1]，[2]。数以十亿计的连接设备现在持续地感知、处理和传输数据。这些设备支持广泛的应用，包括实时预测性维护、智能交通管理和云资源监控[3]。人工智能（AI）模型被部署在IoT边缘以支持这些应用[4]。它们在多样的环境中提供持续的智能。然而，IoT部署的AI以高昂的能耗为代价[2]，[4]。持续在IoT节点和数据中心上运行深度神经网络消耗大量电力。这种能源需求常常超过模型训练的初始成本[5]。随着IoT部署规模的扩大，持续推理的聚合运行能耗成为了一阶设计约束[6]。降低每次推理的能耗已成为可持续IoT计算的关键研究焦点[7]，[8]，[9]。这一关切属于技术赋能能效和可持续能源转型的更广泛文献范畴[10]，[11]，尽管本工作针对的是每次推理运行能耗这一更窄且可直接测量的问题，而非系统级可持续性成果。

这一挑战将研究注意力转向了神经形态计算和脉冲神经网络（SNNs）[9]。与标准人工神经网络（ANNs）不同，SNNs处理稀疏事件，称为"脉冲"[12]。这种机制为IoT推理任务提供了显著的能耗节省。然而，SNNs面临固有的局限性[13]。它们在从原始IoT数据中提取复杂层次特征方面存在困难。为解决此问题，研究人员采用了混合架构[14]。这些系统将强大的ANN特征提取器与高效的SNN预测器配对[15]。这种混合设计减少了总体计算能耗。然而，它引入了一个新的且被忽视的问题。两个模型之间通信的能耗成本，即模型间通信，很少被关注。

现代IoT计算基础设施日益异构。传统处理器（CPU和GPU）现在与专门的脉冲神经处理单元（SNPUs）共存于边缘-IoT网络中[16]，[17]。在这一格局下，混合深度学习架构被自然地分区。ANN特征提取器驻留在传统主机处理器上。SNN预测器被卸载到神经形态加速器上[18]，[19]。这种分区执行引入了关键的通信鸿沟。每个处理单元可能各自高效运行。然而，异构IoT域之间的数据传输接口成为显著的能耗和通信瓶颈[20]。当前方法迫使特征提取器在每一个时间步将密集的高精度数据流式传输到脉冲预测器。物理互联被视为免费的资源[21]。实际上，跨越这些架构边界传输数据消耗了嵌入式平台上配置狭窄的互联带宽。异构边缘系统的分析报告表明，数据传输在此类流水线中是一阶设计问题[22]，[23]，尽管其在给定平台上的重要性取决于链路。在本工作使用的边缘级测试平台上，互联能耗在绝对值上较小，如第6.5节所量化；约束性瓶颈是信道占用而非线路能耗。在IoT节点上，主机到加速器的链路与传感和无线电流量共享，因此在每个推理步骤进行持续的密集流式传输本身就是调度和配置约束。这一瓶颈在IoT环境中尤其有害。IoT设备在严格的功耗和带宽约束下运行。尽管如此，尚无先前的工作明确针对IoT部署混合系统中的模型间通信鸿沟。现有方法优化单个处理单元，而不涉及它们之间接口的成本。稀疏推理、剪枝和早退通过利用单次前向传播中的空间冗余来减少模型内的计算，因此无法在时间稳定状态下抑制数据移动。神经形态混合执行分别优化ANN和SNN域，但在每一步都将密集上下文跨越分区流式传输。发送量变化和占空比传感确实调节边界，但它们在传感器层面利用发送端信号特性起作用，没有关于接收端敏感性的概念。

这一鸿沟在IoT设置中最为重要。边缘IoT节点依靠电池或收集的能量运行[24]。在数据中心加速器中，互联被宽裕地配置。相比之下，IoT设备在主机和加速器之间共享一条窄且功耗受限的总线。工作负载也是时间稀疏的。云调用追踪和交通流量在长间隔内保持稳定，然后突然激增。一个在这些稳定间隔中以全速率传输和计算的框架在最容易获得节省的地方浪费了最大份额的能耗预算。面向IoT的解决方案因此必须在接口本身利用这种时间稀疏性，而不仅仅在每个处理单元内部。这一需求促成了TSA-Net+的设计。

本文提出了TSA-Net+，一种面向能效IoT时间序列预测的通信感知混合框架。该框架使用两种主要方法。首先，它采用自注意力双向LSTM模型进行丰富的IoT特征提取。该模型与脉冲循环神经网络（SRNN）耦合以实现高效预测。它们共同减少了IoT硬件上的计算成本。其次，它通过自适应门控机制调节模型间数据流。该机制使用重要性加权来过滤冗余特征更新，减少了异构互联上的不必要数据传输。

本文中出现三个系统名称。它们在此区分以避免歧义，并总结于表2中。

•TSA-Net是混合ANN-SNN预测骨干。它由自注意力双向LSTM特征提取器和SRNN预测头组成。它持续运行。主机在每一步都活跃，且在每一步传输完整的潜在上下文。TSA-Net定义了预测映射，它是精度参考和零节省能耗参考。

•TSA-Net+（固定）是骨干加接口层。门控阈值τ_gate和稳定性阈值?_stab为常数。它们的值通过对每个数据集进行离线扫描选定。

•TSA-Net+（自适应）使用相同的接口层和相同的骨干。两个阈值改为从反馈误差信号在线更新。不需要离线扫描，且工作点对初始阈值值不敏感。

骨干权重在三个变体中完全相同。接口层仅改变运行时行为，不改变训练好的预测映射。因此，第6.1节中的精度基线对照TSA-Net比较。第6.3至6.5节中的能效结果对照持续运行的TSA-Net参考比较。

该方法已在云工作负载预测和交通流量预测上进行了验证。这些是标准的IoT时间序列预测任务。该方法论适用于IoT边缘的任何持续AI监控任务。本文的贡献如下。

•将混合ANN-SNN系统的模型间通信接口形式化为一等系统成本。显式成本模型涵盖主机计算、神经形态计算和互联数据传输。互联项同时以焦耳报告，使用已发布的每比特常数，以及以每次推理的传输比特报告，这是信道占用的平台无关度量。

•一种重要性加权残差门控（IWRG）机制将事件触发传输适应于ANN-SNN边界。每个潜在维度按训练好的SRNN输入投影敏感度加权。只有影响脉冲预测器的特征才会被传输。

•一种闭环预测反馈休眠（CLPFS）调度器基于SNN预测的稳定性而非原始输入波动性来对ANN特征提取器进行功耗门控。在休眠期间，加速器也进行功耗门控，且上一个有效的解码预测值保持在输出。

•该框架通过两个真实数据集的混合仿真和物理树莓派4部署进行了验证。能耗增益对照持续运行报告。自适应控制器无需离线阈值扫描即可接近手动调谐的工作点，且独立于阈值起始值。

本文其余部分组织如下。第2节涵盖相关工作。第3节提出系统模型。第4节分析所提出的算法。第5节讨论实验设置。第6节讨论结果。第7节提出结论和未来研究方向。

相关节选

可持续云和边缘资源管理在IoT中

随着计算基础设施的扩展，智能管理策略已成为可持续发展的必要条件。Hogade等人[25]提供了地理分布数据中心管理机器学习技术的综合调查。该调查强调了预测工作负载建模以优化资源配置的需要。扩展这一工作线，Hogade等人[26]引入了优化框架以最小化能耗成本。这些框架利用异构节点类型，

系统模型和问题形式化

本节建立所提出框架的数学基础。符号列表见表4。本节首先形式化一个广义时间序列预测问题。然后定义分叉的硬件架构。最后推导支配运行能效的能耗和通信成本模型。

所提出的方法：TSA-Net+

TSA-Net+作用于第3节形式化的设计目标。它是一个稀疏性感知的自注意力双向LSTM和脉冲循环神经网络框架。它引入了一个在逻辑上将主机处理器与神经形态加速器分离的接口层。完整架构，包括接口层在两个域之间的位置，如图2所示。而不是直接求解(9)中的耦合控制问题，接口层将其沿着...分解

实验研究

设计了一个全面的评价协议以验证所提出的TSA-Net+框架。该协议涵盖软件级算法分析和混合仿真与物理部署。它评估所提机制的预测保真度和物理能效。

性能评估

评估分为五个阶段进行。首先，基准测试持续运行的TSA-Net骨干的预测质量。其次，刻画每个接口机制对其阈值的敏感度。第三，比较固定和自适应接口配置。第四，通过阶段组合消融隔离每个机制的贡献。第五，量化能耗影响。

结论与未来工作

本工作提出了TSA-Net+，一种面向IoT边缘异构混合ANN-SNN预测的通信感知框架。模型间接口被形式化为一等系统成本。两种轻量级机制作用于该成本。重要性加权残差门控利用接收端敏感度抑制冗余潜在特征传输。闭环预测反馈休眠基于输出域稳定性对主机进行功耗门控。自适应控制器调谐两个阈值...

未引用引用
表1
CRediT作者贡献声明
Nidhi Meshram：原始稿件撰写，验证，方法论，数据整理，概念化。Veena Anand：指导。Vivek Tiwari：指导。
利益冲突声明
作者声明没有已知的竞争经济利益或个人关系可能影响本文报告的工作。
Nidhi Meshram|Veena Anand|Vivek Tiwari
信息技术系，ABV印度信息技术与管理学院，莫雷纳链路公路，瓜廖尔，474015，中央邦，印度