面向航天应用的脉冲神经网络(SNN)能效的硬件感知分析

《Acta Astronautica》：A hardware-aware analysis of SNN energy efficiency for space applications

　　

摘　要：脉冲神经网络(Spiking Neural Networks, SNN)常被宣称比传统人工神经网络(Artificial Neural Network, ANN)更具能效优势，然而该优势严格依赖于底层硬件与能耗模型。本文研究SNN用于单目图像三维卫星位置估计这一回归任务——输入以暗像素为主的空间影像——系统考察了三种输入编码方式(direct、latency、Poisson)与五种仿真窗口大小T∈{2,4,6,8,10}，共15种SNN配置，每种经三次独立训练。研究者引入并扩展了适用于神经形态数据流架构(Neuromorphic Dataflow Architecture, NDA)中泄漏积分-放电(Leaky Integrate-and-Fire, LIF)神经元的硬件感知能耗模型，将其按层分解为基(base)、输入驱动(input-driven)与输出驱动(output-driven)分量。Direct编码在T<8时均方误差(Mean Squared Error, MSE)最接近参考CNN且偏差在约10%以内；T=8为latency编码在神经形态硬件上的最优精度–能耗折衷点。硬件无关指标下所有15种SNN配置均预测比CNN更节能(能耗比0.10–0.55)，而硬件感知分析表明：在经典架构(Classical Architecture, CA)上仅极小T及低存储能比(Memory Energy Ratio, MER)时SNN更优；在NDA模型下所有配置均显著节能(能耗比0.04–0.36)。空间影像暗像素率与direct及Poisson编码下的NDA能耗呈强负相关。研究表明透明报告硬件假设对公平比较SNN能效至关重要。

论文解读：面向航天应用的SNN能效的硬件感知分析（《Acta Astronautica》）

【研究背景与意义】

星载机器学习推理受限于航天器严格的能量预算，卷积神经网络(Convolutional Neural Network, CNN)虽在卫星位姿估计中性能优异，但其密集乘加运算(Multiply-Accumulate, MAC)与频繁外部存储器访问导致功耗过高。脉冲神经网络(Spiking Neural Network, SNN)受生物脑启发，以离散二进制脉冲(spike)通信，在专用神经形态硬件上可用累加(Accumulate, AC)替代MAC并利用事件驱动稀疏性降低能耗。然而SNN常被宣称"固有节能"，该结论多基于忽略存储器访问成本的硬件无关突触操作数(Synaptic Operations, SynOps)或等效MAC(Equivalent MAC, EMAC)估算，未考虑经典架构(Classical Architecture, CA)与神经形态数据流架构(Neuromorphic Dataflow Architecture, NDA，如Intel Loihi 2)上存储器层次与事件驱动机制的实质差异。空间影像以暗背景像素为主，暗区经合适编码应产生极少spike从而放大SNN稀疏性优势，但此前缺乏针对空间域SNN回归任务在多种输入编码与仿真时长下联合精度–硬件感知能耗的系统研究。本文由Matthias H?fflin与Juergen Wassner开展，旨在量化不同硬件假设下SNN用于单目卫星位置三维估计的真实能效，明确SNN节能优势的适用条件与局限，发表于《Acta Astronautica》。

【主要关键技术方法】

研究人员采用Blender生成Sentinel-6卫星合成数据集(256×256 RGB，训练验证6万幅/测试2400幅，含多样视角与光照)。参照CNN与SNN共用四层卷积(3×3, padding 1, 最大池化2×2)+三层全连接架构；SNN各层为带可学习衰减因子β的参数化LIF(Parametric LIF, PLIF)神经元，末层移除复位机制以膜电位作连续回归输出，经反正切代理梯度反向传播训练。系统比较三种输入编码——Direct(每步输入归一化像素值)、Latency/TTFS(强度→发射时刻，每像素每窗至多一spike)、Poisson(强度→Bernoulli发放概率)——跨仿真窗口T∈{2,4,6,8,10}，每种配置三次独立训练取均值。扩展Yan等的IF神经元NDA能耗模型至LIF：区分输入稀疏率s_in与输出稀疏率s_out，加入漏泄计算(读β与乘V[t-1])，按层分解为基能(A_l)、输入驱动能(B_l·r?_l-1)、输出驱动能(C_l·r?_l)。对比三类能耗模型：(1)硬件无关EMAC模型(Lunghi等，AC=0.667 EMAC，MAC=1 EMAC)；(2)CA模型含三档存内/外访存能比MER(Memory Energy Ratio)=1:1 / 1:50 / 1:100(Horowitz 32-bit SRAM/DRAM基准)；(3)NDA模型含局部SRAM读/写及片上网络跳数(N_hop=8近似Loihi 2网格)。定义暗像素率ρ=I(p)<0.05的像素数占比以分析输入稀疏性与NDA能耗相关性。网络参数量(~2.5×10⁵神经元，<2×10⁷突触)可单芯片部署Loihi 2。

【研究结果】

4.1 Position estimation(位置估计精度)

Direct编码精度最高，T=2,4,6时MSE较CNN基线高+7.8%、+9.3%、+9.3%(T<8内偏离<10%)，T=8升至+11.9%，T=10恶化至+37.9%。Latency编码随T增大精度改善(T=2:+111.8% → T=8:+17.7% → T=10:+49.5%)，T=8为适宜窗口。Poisson编码各T下误差最大(+96.1%~+211.5%)，因随机spike在小窗内方差大。结论：空间影像单目位姿回归宜首选小T的Direct编码。

4.2 Energy consumption(能耗比较)

硬件无关EMAC下15配置E_SNN/E_CNN=0.10–0.55均<1。CA模型MER 1:1下Poisson(T=2:0.40)与Latency(T=2:0.63; T=4:0.94)及Direct(T=2:0.99边际)可优于CNN，更大T或更高MER则全部SNN更耗能(MER 1:100时达1.66–9.29)。NDA模型对比CNN_CA(MER 1:100)下全部配置E_SNN,NDA/E_CNN,CA=0.04–0.36均<1，最差Direct(T=10)亦仅0.36。结论：SNN真实节能优势依赖NDA与稀疏编码，经典架构除非极低MER否则不具优势。

4.3 Accuracy–energy trade-off(精度–能耗权衡)

NDA下Direct编码T=2–6接近CNN精度且能耗最低(Poisson最低能耗但精度差)；Latency编码T=8为精度明显提升且能耗适中点。增大T普遍增能但精度收益饱和或反转(T=10)。结论：若接受~10% MSE损失，Direct编码小T在NDA上兼顾精度与最大节能。

4.4 Input sparsity and energy(输入稀疏性与能耗)

测试序列暗像素率ρ=0.35–0.99。Direct与Poisson编码NDA能耗与ρ呈强负相关(mean Pearson r≈-0.75)，暗像素越多spike越少能耗越低；Latency编码无此相关(非零像素恒发一spike与强度无关)。结论：空间影像高暗像素比通过降低输入驱动突触操作为NDA带来可测节能，尤对Direct/Poisson编码。

4.5 Layer-wise firing rates and energy decomposition(分层发放率与能耗分解，T=6示例)

输入层发放率：Direct最高(全图每步输入)，Latency≈f_active/T，Poisson≈平均像素强度。卷积层n1–n4各编码发放率极低(0.8%–4.2%)，深层n3–n4趋同；全连接层n5–n6发放率显著升高(11.6%–32.2%)且编码间趋同，早期编码差异被稀释。能耗分解显示基能(A_l)与编码无关，输入/输出驱动能在n1对Direct编码最大而对Latency/Poisson最小，深层差异缩小。结论：NDA能耗差异主由首层卷积输入驱动分量贡献，全连接层处编码策略影响微弱。

4.6 On-chip feasibility(片上可行性)

所用网络约2.5×10⁵神经元与<2×10⁷突触，占Loihi 2单芯片约1/4神经元与1/6突触预算(含卷积权值共享余量)，可单芯片部署。

【讨论与结论翻译】

本文对单目卫星位置估计SNN开展系统硬件感知能效分析，涵盖三种输入编码与五仿真窗口，对照硬件无关EMAC、硬件感知CA(MER三档)及扩展LIF-NDA模型，主要结论如下：

•位置估计精度：Direct编码在T<8内MSE偏离CNN基线<10%；Latency编码T=8提供最佳时间分辨率折衷；Poisson编码因随机性表现最差——推荐小T Direct编码。

•能效(硬件无关)：全部15配置EMAC比低于CNN(0.10–0.55)，Poisson因高输入稀疏最低，Direct最高——与文献一致。

•能效(硬件感知经典架构)：仅MER 1:1且小T稀疏编码可低于CNN；MER 1:50及1:100下权重载入主导致SNN更耗能——证实SNN在经典架构非固有节能，须神经形态硬件。

•能效(神经形态硬件)：NDA模型下所有配置E_SNN/E_CNN<0.36，基能构成不可再降下限。

•输入稀疏与基能：空间影像暗像素率ρ与Direct/Poisson下NDA能耗强负相关，Latency编码无此相关。

研究表明报告SNN能效时必须明示硬件假设与存储访问模型；EMAC预测优势仅在神经形态硬件、稀疏编码与小仿真窗口成立。经典架构具现实MER时SNN未必更优，透明假设是空间及其他资源受限应用公平比较的前提。