《Machine Learning with Applications》：Spiking ConvNeXt: a Spiking Neural Network with Novel Spike Coding for Sparse Inference
编辑推荐：
Spiking ConvNeXt被构建为ConvNeXt的时间到首次脉冲（time-to-first-spike，TTFS）重构，其中主要计算模块直接基于脉冲时间表示运行。所提出的设计移除了显式的卷积后激活和归一化层，将逐点MLP变换替换为解析脉冲时间映射，并
Spiking ConvNeXt被构建为ConvNeXt的时间到首次脉冲（time-to-first-spike，TTFS）重构，其中主要计算模块直接基于脉冲时间表示运行。所提出的设计移除了显式的卷积后激活和归一化层，将逐点MLP变换替换为解析脉冲时间映射，并使用逐元素最小值在时间域中重构残差融合。该残差规则保留捷径路径与变换路径中的较早响应，与TTFS解释中较早脉冲携带更强证据一致。研究人员在逐点映射中加入了可学习的每输出延迟，以在训练期间调节脉冲时序和稀疏性。在三次独立运行中，主要Spiking ConvNeXt配置在CIFAR-10上达到94.49 ± 0.10%的top-1测试准确率，在CIFAR-100上达到74.75 ± 0.96%。对选定检查点的39个输出进行剖析，稀疏度分别为33.55 ± 3.02%和32.93 ± 3.70%。同一架构还在Tiny ImageNet上使用迁移的CIFAR配置从零开始评估，没有进行数据集特定的超参数扫描，达到63.11 ± 0.32%的top-1测试准确率和21.70 ± 1.29%的稀疏度。所有重复运行结果均以均值 ± 样本标准差报告。相应的操作加权逐点计算代理RPW在CIFAR-10、CIFAR-100和Tiny ImageNet上分别为62.11%、60.70%和47.30%。这些值量化了所述稀疏性假设下活动条件化的逐点计算，不被解释为硬件能量或墙钟延迟的测量。
**研究背景与问题**
现代视觉网络预测精度高，但稠密算术运算和反复数据移动在功耗与计算预算受限时代价高昂。脉冲神经网络（spiking neural network, SNN）将计算绑定到稀疏事件而非逐单元的稠密激活。时间到首次脉冲（time-to-first-spike, TTFS）编码用单个脉冲的延迟表示响应，较早脉冲通常指示更强输入或更显著的证据，编码窗口末端表示静默。近期SNN研究多集中于减少离散时间步推理成本，但TTFS形式下的卷积骨干研究较少。ConvNeXt作为现代卷积设计，包含大核深度卷积（depthwise convolution）、倒置瓶颈、逐点MLP（pointwise multilayer perceptron）和残差路径；其中GELU、归一化和加性残差融合均假设稠密值域激活，不能直接迁移到“较小时间表示更强响应”的TTFS域。因此，研究人员围绕脉冲时间张量重新表述ConvNeXt，以解决这一结构失配问题。
**研究内容与总体结论**
研究人员提出Spiking ConvNeXt：保留ConvNeXt的层级卷积组织，移除卷积后显式激活和归一化层，将逐点MLP替换为解析脉冲时间映射，在时间域用逐元素最小值实现残差融合，并在逐点映射中嵌入可学习逐输出延迟。网络直接以随机初始化在TTFS域训练，不使用ANN预训练或ANN-to-SNN转换。在CIFAR-10、CIFAR-100和Tiny ImageNet上，三跑top-1测试准确率分别为94.49 ± 0.10%、74.75 ± 0.96%和63.11 ± 0.32%；稀疏度分别为33.55 ± 3.02%、32.93 ± 3.70%和21.70 ± 1.29%。紧凑非脉冲ANN对照（约20.9M参数）在CIFAR-10验证集上为97.70 ± 0.12%，仅用于提供骨干容量背景。研究证明现代ConvNeXt风格骨干可通过解析TTFS映射在时间域运行，并在多个图像分类基准上保持良好准确率与稀疏活动。论文发表于《Machine Learning with Applications》。
**关键技术方法**
样本来自公开数据集CIFAR-10/100与Tiny ImageNet；Tiny ImageNet使用官方带标签验证集作为最终测试，并从官方训练数据中留出子集用于模型选择。主要方法包括：将像素强度线性编码为脉冲延迟；用解析映射t
out=clamp(ΔW+t
min+D, t
min, t
max)完成逐点通道变换，并用直通估计器（straight-through estimator, STE）传播梯度；在脉冲时间域直接执行深度卷积，填充值取t
max；用逐元素最小值合并残差；以可学习逐输出延迟控制稀疏度；输出层以负脉冲时间作为类分数，用带温度softmax交叉熵训练。
**5.1 消融研究（Ablation Study）**
在CIFAR-100上每次只改变一个因素。残差融合比较显示，逐元素最小值的top-
