《Advanced Intelligent Systems》：Ecoefficiency Analysis and Regression in Data Conversion for Spiking Neural Network Training
尽管人工智能（artificial intelligence, AI）研究对生态效率（ecological efficiency）的关注日益增强，但其整合仍不充分。弥补这一空白对于使算法性能与生态责任相一致，并支持经济合作与发展组织（Organization for Economic Cooperation and Development, OECD）的碳中和目标至关重要。本研究提出一种方法，用于测量在回归任务中进行脉冲神经网络（Spiking Neural Networks, SNNs）数据集编码和训练期间的CO2排放与能耗。采用具有不同超参数的速率编码（rate encoding），研究人员将原始PilotNet卷积神经网络（convolutional neural network, CNN）与其SNN适配版本在三个自动驾驶数据集——Udacity、Sully Chen（Palo Alto）和AirSim——上进行比较。结果表明，时间深度（temporal depth, S，时间步数）是环境足迹的主要驱动因素，从S = 5增加到S = 25会增加排放，却没有成比例的精度收益，而增益参数（gain parameter, G，脉冲生成概率的缩放因子）的影响可忽略。在Udacity上，CNN在精度和足迹方面均优于SNNs。在Palo Alto上，SNN略微提高精度，但排放显著更高。在AirSim上，SNNs在精度上优于CNN，但产生显著更高环境成本。这些发现表明，对于在该架构上、在传统CPU/GPU硬件上执行的速率编码SNNs，精度-能量权衡因驾驶环境而异，生态效率增益仍然有限，需要神经形态平台和能够同时捕捉性能与环境影响的改进指标。
论文主体解读：该研究针对人工智能（artificial intelligence, AI）能耗与CO
2排放问题展开。AI快速发展带来环境可持续性担忧，全球计算能耗占比较高，数据中心对全球排放贡献超过3%。脉冲神经网络（Spiking Neural Networks, SNNs）被视为可持续AI路径，因其更接近人脑生物过程并可能提升能效，且与OECD提出的2050年碳中和倡议一致。然而，SNN训练算法仍不成熟，精度常低于人工神经网络（artificial neural network, ANN）；回归任务研究不足，多数研究集中于分类；数据集转换缺少对编码参数和环境影响的系统评估；生态效率度量也主要聚焦能耗而非CO
2排放。因此，研究人员开展了一项研究，测量SNN在回归任务中数据集编码与训练阶段的CO
2排放和能耗，聚焦速率编码，比较PilotNet CNN与其SNN适配版在Udacity、Sully Chen（Palo Alto）和AirSim三个自动驾驶数据集上的表现，以识别兼顾可持续性与性能的配置，并为SNN应用建立生态效率基线。
关键技术方法：研究人员采用速率编码，参数网格为S∈{5,15,25}、G∈{0.5,1.0}，使用snnTorch将输入转为脉冲序列并写入无压缩HDF5，以uint8存储。样本来源包括Udacity驾驶模拟器数据集、Sully Chen（Palo Alto）GitHub 2017版真实行车记录仪数据集、AirSim（Kaggle版）微软AirSim高保真模拟器数据集。环境足迹用CodeCarbon v2.3.4测量，硬件为Apple M1 Pro片上系统（system-on-chip, SoC），使用Metal Performance Shaders（MPS）后端与16位混合精度（automatic mixed precision, AMP），德国电网碳强度385 g CO
2 kWh
?1，采样间隔15 s。模型为PilotNet CNN及其SNN适配版，SNN使用snn.Leaky与fast-sigmoid代理梯度，Adam优化，以平均平方误差（mean squared error, MSE）评价，80/20划分，每配置4次独立运行；统计使用Shapiro–Wilk、单因素方差分析（analysis of variance, ANOVA）与Bonferroni校正t检验。
研究结果：
4.1 评估框架概述：全部实验在Apple MacBook Pro的Apple M1 Pro SoC上完成，训练采用MPS后端和16位混合精度，CodeCarbon以15 s采样功率；CNN每数据集4次独立运行，SNN每个（S, G）配置4次独立运行。流程为先预处理和增强，然后对Udacity、Palo Alto和AirSim进行速率编码，生成HDF5数据集用于SNN训练；CNN则直接在相同预处理图像上训练，作为性能和足迹基线。
4.1.1 阶段1：数据集编码与存储（仅SNN）：图像增强后被转换为脉冲序列并写入HDF5，CodeCarbon记录能量（Wh）和CO
2排放（g）。该阶段仅属于脉冲流程，CNN基线无编码开销。HDF5不压缩，以避免压缩/解压缩CPU开销干扰测量。
4.1.2 阶段2：模型训练与验证（SNN与CNN）：两模型使用相同数据划分、批大小和软件栈。CodeCarbon记录前向、反向和验证过程的端到端能量与排放。数据按帧随机划分，而非按时间连续序列划分；作者承认这会因驾驶帧高度相关而可能抬高绝对验证MSE，但该划分对所有配置一致，因此不影响相对比较。
4.1.3 SNN PilotNet配置：SNN以snnTorch的snn.Leaky神经元替代常规激活，每个Leaky层使用可学习泄漏参数。为支持梯度训练，采用fast-sigmoid代理梯度。特征提取器沿用PilotNet卷积块与最大池化，展平后接100单元全连接层，再接Leaky层，读出为单神经元全连接层和最终Leaky层；输出归一化且reset=None，使膜电位不在阈值处重置，以产生适合回归的连续时间累积输出。训练使用Adam，固定学习率、参数和权重衰减，在相同数据划分和加载器下训练。
4.1.4 权衡与生态效率：工作流分为两个测量阶段，并在相同条件下训练配对CNN/SNN模型。报告训练/验证MSE，以及数据集创建和训练阶段的能量与CO
2排放。关注低MSE与额外能耗/排放之间的权衡、哪些（S, G）最生态高效、以及S和G如何塑造误差和足迹。
4.1.5 统计检验与理由：CNN基线为单一实验条件，先用Shapiro–Wilk检验其每次运行的排放、能量和时长是否近似高斯。SNN实验由多个（S, G）组构成，用单因素ANOVA检验均值差异，显著时用Bonferroni校正两两t检验定位效应；ANOVA用于SNN的（S, G）组间比较。结果显示S影响大，G影响可忽略。
4.2 编码与训练阶段的能量与排放：编码将原始图像转换为速率编码脉冲张量，仅SNN流程有此训练前开销；CNN无需数据集编码。每个（S, G）配置运行4次，并进行ANOVA和Bonferroni校正检验。
4.2.1 Udacity数据集：编码排放和能量随S单调增加，G影响可忽略；时间–排放相关很强（r = 0.983），说明处理时长是编码足迹主要驱动。SNN训练平均排放从S = 5时约0.96 g增至S = 25、G = 1.0时约4.55 g，能量从约2.62 Wh增至约12.54 Wh。CNN基线平均约0.311 g CO
2和约0.850 Wh，训练约340 s，分布近似高斯。
4.2.2 Sully Chen（Palo Alto）数据集：编码排放从（S = 5, G = 0.5）约0.063 g增至（S = 25, G = 0.5）约0.105 g，约增加65.6%。SNN训练排放从S = 5时约3.91 g增至S = 25时近18.83 g，能量从约10.7 Wh增至约51.52 Wh。CNN基线平均约1.474 g和约4.033 Wh，训练约1807 s，存在非正态和一次离群运行，但仍远低于任一S下的SNN训练足迹。
4.2.3 AirSim数据集：编码排放和能量随S单调增加，G影响可忽略，时间–排放相关很强。SNN训练排放从S = 5时约4.18–4.22 g增至S = 25时约20.30 g，能量从约11.44–11.55 Wh增至约55.55 Wh。CNN基线平均约1.74 g CO
2和约4.75 Wh，训练约2189 s，分布正态且无离群；SNN训练足迹仍远高于CNN。
4.2.4 解释：三个独立驾驶数据集一致表明，S是SNN管道环境成本的主导驱动，G影响可忽略。机制上，S乘以LIF递归（leaky integrate-and-fire, LIF）在每一层的评估次数，直接放大计算和能量成本；G仅重缩放编码阶段脉冲发射概率，不改变所得张量的时间维度。
4.3 训练与验证性能（MSE）：CNN在预处理图像上训练，SNN在相应速率编码脉冲版本上训练，比较训练和验证MSE。
4.3.1 Udacity数据集：最佳SNN为S = 25、G = 1.0，训练MSE为0.0500，验证MSE为0.0674，优于其他SNN变体，但CNN基线验证MSE为0.0430，仍保持精度优势。
4.3.2 Sully Chen（Palo Alto）数据集：SNN最佳训练性能在S = 25、G = 0.5，MSE为0.0093；最佳验证性能在S = 25、G = 0.5，MSE为0.0241，较S = 5等低步配置提升超过84%。CNN基线验证MSE为0.0291，被最佳SNN设置超越。
4.3.3 AirSim数据集：SNN最佳训练性能在S = 25、G = 0.5，MSE为0.0014；最佳验证性能在S = 25、G = 1.0，MSE为0.0031。S = 15、G = 1.0时验证MSE为0.0060，已超过CNN的0.0072；最佳SNN设置（0.0031）优于CNN基线（0.0072）。
4.3.4 解释：SNN性能系统依赖S，较高S显著降低三个数据集的验证误差。G更多影响稳定性而非最终误差，G = 1.0在高S时略改善结果，但低S时有时促进过拟合。跨模型比较中，CNN在Udacity收敛稳健且MSE更低；SNN在高时间深度下于Palo Alto和AirSim超过CNN。SNN相对CNN的地位依赖数据集，AirSim中差距尤其明显。所有SNN均训练稳定、无发散，表明速率编码数据集保留了足够的回归表征保真度，但时间深度增加会放大环境足迹，同时仅部分保持或提高精度。
4.4 性能与环境成本的权衡分析：核心问题是速率编码SNN的环境成本能否由验证MSE改善补偿。分析绘制验证MSE与每次运行能量、CO
2排放的关系，并追踪Pareto前沿。
4.4.1 考虑的足迹范围：完整SNN管道包括数据集编码和训练，但CNN没有编码阶段，因此SNN–CNN直接比较排除编码，仅聚焦训练阶段排放和能量。
4.4.2 Udacity数据集：CNN基线支配权衡空间，验证MSE最低（0.0430），训练足迹最小（0.31 g CO
2、0.85 Wh）。高S SNN验证误差为0.0674，但每次运行约4.55 g CO
2和12.44 Wh；低S SNN排放降至约0.96 g和2.62–2.64 Wh，但验证误差约0.0954，超过CNN基线两倍多。Pareto前沿退化为单点CNN，所有SNN配置被支配。
4.4.3 Sully Chen（Palo Alto）数据集：CNN基线训练足迹最低（1.47 g、4.03 Wh），验证误差0.0291。最佳SNN（S = 25、G = 0.5）验证误差0.0241，优于CNN，但约18.68 g CO
2和51.12 Wh，约12.7倍能耗增加换约17%精度增益，权衡在可持续性约束下不利。
4.4.4 AirSim数据集：CNN基线训练足迹最低（1.74 g、4.75 Wh），验证MSE为0.0072。SNN在S = 15、G = 1.0时验证MSE为0.0060，约优于CNN 17%，但约12.26 g CO
2和33.54 Wh；最佳SNN（S = 25、G = 1.0）验证MSE为0.0031，但约20.30 g CO
2和55.55 Wh。低S SNN精度更差且能耗更高。AirSim的Pareto前沿包含三点：CNN基线、S = 15、G = 1.0的SNN和S = 25、G = 1.0的SNN，表明该环境精度–能量曲线相对更平滑，但跨过CNN仍须接受显著能量惩罚。
4.4.5 解释：S是能量和排放的主要驱动，增加S导致足迹单调增加；G对足迹影响可忽略，对精度仅有边际影响。SNN与CNN的精度地位依赖数据集：Udacity上CNN在精度和生态足迹上均优；Palo Alto上高S SNN有适度精度提升但环境成本不成比例；AirSim上S = 25的SNN持续优于CNN，但排放成本更高。总体而言，在传统CPU/GPU硬件上，CNN基线比速率编码SNN更生态高效。真正生态效率增益可能需面向事件驱动处理的神经形态硬件。
讨论部分总结：研究在第5节指出，三个独立驾驶数据集上，能耗和CO
2排放一致依赖编码步数S，而增益G影响最小。增加S扩大编码数据集并延长训练，且在多数配置中同时增加排放和验证误差，说明生态效率与预测精度必须联合优化。Udacity上CNN同时实现最低能耗和最低验证误差，Pareto前沿退化；Palo Alto上高S SNN以不成比例环境成本获得小幅精度提升；AirSim上S = 25的SNN持续优于CNN，Pareto前沿含三个点，提示光真实感模拟环境的时间结构更丰富。即使AirSim，任何相对CNN的精度增益也需接受能量惩罚。SNN对编码参数敏感并出现过拟合迹象，尤其在较高G时；最佳误差–足迹权衡在Udacity和Palo Alto为S = 5，在AirSim为S = 15、G = 1.0。研究限制包括单一转向角回归任务、PilotNet约250 000参数、未测量推理阶段。未来方向包括纳入延迟编码和delta调制、正则化或自适应脉冲机制、混合ANN–SNN拓扑、研究何种数据特征预测SNN优于CNN，以及发展同时考虑预测精度和环境成本的统一生态效率指标。
研究结论翻译：总之，本研究提供实证证据表明，对于在传统硬件上执行的PilotNet架构的速率编码SNN，训练中的生态效率对编码参数高度敏感，不能假定其与性能正相关。精度–能量权衡的环境依赖性，尤其是AirSim相较于Udacity和Palo Alto观察到的定性不同的Pareto结构，凸显了多环境评估在生态效率研究中的重要性。通过同时考虑环境足迹和预测质量，所述方法为开发更可持续的神经形态学习流程奠定了基础。
