《Frontiers in Neuroscience》:A compressed sensing neuromorphic processor for sparse signal classification
编辑推荐:
本文介绍了一种集成了压缩感知脉冲神经网络(CSSNN,Compressed Sensing Spiking Neural Network)的神经形态处理系统,该网络专为稀疏信号分类而设计。所提出的CSSNN结合了数据编码、数据压缩和SNN分类功能,能够实现网络
本文介绍了一种集成了压缩感知脉冲神经网络(CSSNN,Compressed Sensing Spiking Neural Network)的神经形态处理系统,该网络专为稀疏信号分类而设计。所提出的CSSNN结合了数据编码、数据压缩和SNN分类功能,能够实现网络性能和模型压缩的端到端优化。研究人员在MNIST、N-MNIST和DVS Gesture数据集上进行了评估,在0.1、0.05、0.025和0.01的均匀压缩比(CR,Compression Ratio)下,与采用固定高斯随机矩阵(GRM,Gaussian Random Matrix)采样矩阵的压缩学习(CL,Compressed Learning)方法相比,所提出的CSSNN始终将网络操作总数(OPs,Operations)减少了至少80%,同时保持了最小的精度损失。研究人员基于脉冲驱动(spike-driven)处理流程设计了一款专用的CSSNN处理器。该处理器在现场可编程门阵列(FPGA,Field-Programmable Gate Array)上进行了验证,并采用40 nm CMOS工艺进行了专用集成电路(ASIC,Application-Specific Integrated Circuit)设计评估,在MNIST数据集上,该CSSNN处理器在使用8位定点量化时实现了96.12%的分类准确率。在1.1 V电源电压及100 MHz频率下,该ASIC的能耗估计为2.089 mW。
论文解读:面向稀疏信号分类的压缩感知神经形态处理器
随着人工智能(AI)在边缘设备上的部署需求日益增长,脉冲神经网络(SNN,Spiking Neural Network)因其优于传统人工神经网络(ANN,Artificial Neural Network)的能量效率和资源利用率而备受关注。SNN的高效性源于大脑皮层的脉冲(spike)操作机制,该机制通过时空稀疏的神经元脉冲处理视觉信息。然而,为实现各种图像分类任务的高准确率,现有的深度SNN模型往往涉及成千上万乃至数百万的神经元和突触,导致巨大的计算和内存开销,难以在资源受限的边缘设备上部署。虽然现有的轻量级SNN模型采用了权重剪枝和量化等通用压缩技术,但往往伴随着精度损失,且引入的在线学习机制会增加额外的计算和硬件开销。此外,传统的SNN编码器层(如时态编码和速率编码)通常过于复杂而无法在片上实现,导致编码器常需在片外实现。鉴于此,研究人员提出了一种压缩感知(CS,Compressed Sensing)启发的SNN(CSSNN)框架,以实现具有高分类准确率的端到端轻量级SNN,并设计了相应的神经形态处理器。
为开展此项研究,研究人员主要采用了以下几个关键技术方法:首先,构建了一个由CS启发编码器(作为全连接输入层)和三层SNN分类器组成的CSSNN框架,遵循任务驱动的压缩学习(CL)范式,将编码、压缩与分类联合优化;其次,引入了硬件感知优化策略,采用二值{0, 1}测量矩阵(显式建模CS中的采样机制)及列向约束,并开发了通过剪枝和二值化调整测量矩阵稀疏性的功能,无需修改SNN架构;第三,采用时空反向传播(STBP,Spatio-Temporal Backpropagation)算法对CS编码器和SNN分类器进行端到端联合优化;最后,基于CSSNN模型设计了一款专用神经形态处理器,采用索引匹配(index-matching)方案实现结构化稀疏二值测量矩阵,并采用脉冲驱动处理流程以利用输入和激活稀疏性,在FPGA(Xilinx Zynq UltraScale+ MPSoC XCZU3EG)上验证并通过40 nm CMOS工艺进行ASIC设计。
研究结果如下:
- 1.
方法论(Methodology)
研究人员提出了CSSNN系统用于稀疏信号分类,包含CS编码器模块(用于数据编码、压缩和特征提取)和SNN分类器模块。为实现轻量级SNN,研究人员将CS编码器的测量矩阵实现为全连接(FC)输入层,并使用STBP算法与SNN分类器共同优化以提高分类性能;同时应用稀疏调整功能(结合剪枝和二值化)进行硬件感知优化,使CS编码器层的计算复杂度可调并控制神经元发放率。CSSNN的端到端过程包括:原始图像数据直接送入CS编码器,使用二值化测量矩阵降低信号维度,压缩数据由LIF(Leaky Integrate-and-Fire)神经元累积为膜电位(MP,Membrane Potential)并转换为脉冲传入SNN分类器。为解决压缩带来的信息损失,研究人员引入了端到端共同优化算法以实现面向分类的信号感知,以及硬件感知的测量矩阵优化策略以减少CS编码器的计算成本。
- 2.
提出的CSSNN处理器设计(Proposed CSSNN processor design)
研究人员设计了CSSNN处理器的总体架构,包括CS编码器模块、SNN模块、测量矩阵SRAM、突触SRAM、有限状态机(FSM,Finite State Machine)和通用异步收发器(UART)接口。CS编码器模块由输入像素计数器和CS索引逻辑组成,采用索引匹配方法高效利用测量矩阵的稀疏性;SNN模块包含LIF神经元单元、参数配置块、权重索引逻辑单元等,采用脉冲驱动前神经元处理流程,仅在前神经元发放脉冲时累积突触权重。研究人员比较了传统全连接矩阵乘法方法与索引匹配方法的资源利用率,结果表明索引匹配方法显著减少了参数存储、权重读取操作数和总计算周期。
- 3.
评估与分析(Evaluation and analysis)
研究人员在MNIST、N-MNIST和DVS Gesture三个数据集上评估了CSSNN方法的分类准确率和计算复杂度。实验设定统一的压缩比(CR)为0.1、0.05、0.025和0.01,并在每个CR下通过设置每行中1的数量(Sample)进一步稀疏化测量矩阵。分类器为三层全连接SNN,隐藏层大小为64。结果显示,在所有实验中,CSSNN方法始终优于基于固定高斯随机矩阵(GRM)采样矩阵的CL方法;随着CR和测量矩阵稀疏度降低,分类性能呈平滑可预测下降趋势(MNIST和N-MNIST),或在某些设置下因数据特性而有所波动(DVS Gesture)。在计算复杂度方面,CSSNN的脉冲发放率受结构化采样机制和输入数据内在稀疏性影响,且由于测量矩阵的稀疏性,网络操作总数(OPs)显著减少,至少比基线GRM方法降低80%。
- 4.
硬件实现与结果(Hardware implementation and results)
研究人员使用Vivado实现并在FPGA平台上验证了CSSNN处理器,使用Synopsys Design Compiler和PrimeTime分析和实现ASIC设计。FPGA验证表明,该处理器在Xilinx ZCZU3EG上正确分类了输入图像,资源利用率(LUT、LUTRAM、FF、BRAM等)均低于可用资源的1%至2.55%,内存消耗为0.193 MB,且与其他FPGA实现的SNN分类器相比,本工作的LUT和FF利用率极低。ASIC设计采用40 nm CMOS工艺,核心处理面积为0.173 mm2,在1.1 V电源电压及100 MHz频率下功耗为2.089 mW;与其他相关ASIC工作相比,本工作具有最小的核心面积和最低的功耗,且在MNIST上达到了96.12%的准确率(8位定点量化)。
在讨论部分,研究人员指出,将CS与SNN结合是应对资源受限边缘设备轻量级SNN需求的有效策略。通过端到端联合优化测量矩阵和SNN分类器,CSSNN实现了与分类目标直接对齐的任务自适应感知。CSSNN中的二值{0, 1}测量矩阵建模了结构化采样过程(每列约束固定采样数),具有非负累积特性,提高了硬件效率,同时在最小精度损失下实现了有效压缩。在三个数据集和多个CR下,CSSNN使网络OPs总数比基于固定GRM的CL方法至少减少80%。研究人员设计的专用神经形态处理器通过索引匹配CS编码器模块和SNN模块支持片上脉冲编码,FPGA验证显示资源利用率极低,ASIC实现在40 nm CMOS工艺下核心面积0.173 mm2,功耗2.089 mW。该研究表明,CSSNN框架及相应的神经形态处理器为边缘设备上的稀疏信号分类提供了一种高效、低功耗的解决方案。
(注:论文作者为 Liyu Qian, Zikai Zhu, Yuhan He, Jie Lu, Yaojie Sun, Jiahui Guo, Lirong Zheng, Zhuo Zou,来自复旦大学,发表于《Frontiers in Neuroscience》,Received: 29 December 2025, Accepted: 23 April 2026。)