《Future Generation Computer Systems》:PiC-NDM: A 65
nm processing-in-CAM-based binary CNN Accelerator for natural disaster management
编辑推荐:
二值卷积神经网络(BCNNs)将权重和激活值约束为二值,为分布式和资源受限的传感平台上的高能效推理提供了一种有前景的途径。然而,现有大多数BCNN实现仍在关键网络组件中依赖全精度计算,包括首个输入处理层和最终输出分类层。这一依赖削弱了二值化的优势,并使部署在极
二值卷积神经网络(BCNNs)将权重和激活值约束为二值,为分布式和资源受限的传感平台上的高能效推理提供了一种有前景的途径。然而,现有大多数BCNN实现仍在关键网络组件中依赖全精度计算,包括首个输入处理层和最终输出分类层。这一依赖削弱了二值化的优势,并使部署在极端边缘和任务关键系统中变得复杂。本工作提出了PiC-NDM,一种经硅验证的存内计算(PiM)加速器,在内容寻址存储器(CAM)中实现二值卷积神经网络。所提出的架构利用CAM固有操作实现二值卷积和分类,采用XNOR和模拟POPCOUNT,消除了隐藏层和输出层对全精度算术的需求。批归一化通过可配置的电压控制偏置折叠到模拟域中。输出全连接层采用读出放大器(MLSA)评估时间扫描来识别预测类别,而无需模数转换(ADC)或时间数字转换(TDC)。PiC-NDM在商用65nm CMOS工艺中设计和制造,并在19类自然灾害分类任务上进行评估。硅测量结果表明,其平衡准确率为75.38%,峰值吞吐量为52.4 TOPS(二值运算),系统级能效约为240 TOPS/W,帧率为90帧/秒,总硅面积为1.89mm2,证明了其在分布式自然灾害管理系统中用于实时环境危害检测的适用性。
论文解读
一、研究背景与问题
近年来,野火、洪水和大规模环境污染等自然灾害的发生频率和严重程度持续上升,对实时、大规模感知和决策系统提出了迫切需求。现代自然灾害管理日益依赖分布式物理基础设施,融合卫星遥感、无人机平台和地面传感器网络。在此类系统中,神经网络推理必须在靠近数据源的位置执行,以实现早期检测、降低通信开销,并在严格的能耗和延迟约束下支持及时响应。
二值卷积神经网络(BCNNs)由于内存需求和算术复杂度降低,成为极端边缘部署的理想计算模型。然而,现有BCNN实现通常在两个关键组件中保留全精度计算:处理原始传感器数据的首层和最终分类层。这些层通常由辅助数字逻辑执行或卸载到软件中,引入了额外的数据移动,增加了能耗,并使异构传感节点间的部署复杂化。全精度计算的需求因此成为完全存内BCNN的关键障碍。
内容寻址存储器(CAM)实现了一种按内容而非显式地址访问数据的存储结构,能在单个时钟周期内将输入查询与每条存储条目进行比较,并标记精确或近似匹配。这种大规模并行比较能力使CAM成为存内计算(PiM)的自然平台,因为计算——逐位匹配和沿匹配线的模拟累加——发生在存储阵列内部,消除了在传统冯·诺依曼架构中主导能耗和延迟的数据传输。
CAM搜索操作直接映射到二值神经网络(BNN)层的主要计算:存储系数或权重与输入激活之间的逐位XNOR由CAM单元原生执行,而匹配线(ML)放电电压编码整行的模拟POPCOUNT,无需专用算术单元即可有效计算点积。这使基于CAM的PiM对二值卷积层和全连接层极具吸引力。
基于此观察,本研究探讨能否将整个BCNN(包括传统上保持全精度的层)完全在存内执行。研究问题包括:完整的BCNN能否仅使用固有操作(逐位XNOR和ML放电)在CAM阵列内执行,而无需传统ADC或TDC转换;输出层能否通过MLSA评估时间扫描在存内识别预测类别,而非数字化全精度logits;以及硅验证的65nm存内CAM BCNN能否达到实时自然灾害事件分类所需的准确率、吞吐量和能效。
二、研究内容与结论
研究人员提出了PiC-NDM,一种作为研究用片上系统(SoC)一部分制造的PiM加速器,在CAM中实现BCNN。该架构面向自然灾害管理相关的分类任务,包括野火和洪水检测,使用源自卫星图像和环境监测源的数据集。所有隐藏网络层均为二值并利用CAM原生操作(XNOR和模拟POPCOUNT)在存内实现。输出分类层也是二值的,由于需区分多个类别,研究人员开发了专用程序,无需全精度计算、TDC或ADC转换即可推断预测目标类别。唯一以高于二值精度计算的层是输入层,由与CAM核心紧密耦合的近CAM辅助加速器实现。
PiC-NDM在商用65nm CMOS工艺中制造,并在代表性自然灾害图像分类工作负载上评估。硅测量结果表明,存内CAM BCNN推理实现了与软件基线相当的准确率,同时提供高吞吐量和能效。在代表性部署场景中,卫星平台执行连续广域监测和早期阶段危害筛查,无人机配备PiC-NDM和高分辨率传感器进行局部分类以细化态势感知,地面系统整合输出以指导应急响应和资源分配。
三、主要关键技术方法
研究人员采用了以下关键技术方法:利用CAM单元的固有逐位XNOR操作实现二值卷积和全连接层计算;通过匹配线放电电压编码模拟POPCOUNT实现点积计算,无需专用算术单元;将批归一化通过可配置电压控制偏置折叠到模拟域中;输出层采用MLSA评估时间扫描动态识别预测类别,避免ADC和TDC转换;输入层由近CAM辅助加速器以高于二值的精度实现;整个加速器在商用65nm CMOS工艺中设计制造,并通过硅测量而非仿真评估性能。
四、研究结果
存内二值卷积的实现: 研究人员展示了如何利用CAM固有操作(逐位XNOR和ML放电)实现二值卷积,使隐藏层完全在存内执行,消除了全精度算术需求。
存内输出分类的实现: 输出全连接层采用二值化设计,通过MLSA评估时间扫描识别预测类别,无需数字化全精度logits,避免了ADC和TDC转换。
硅验证性能评估: PiC-NDM在商用65nm CMOS工艺中制造,在19类自然灾害分类任务上,硅测量实现75.38%的平衡准确率、52.4 TOPS峰值吞吐量(二值运算)、约240 TOPS/W系统级能效、90帧/秒帧率,总硅面积1.89mm2。
五、讨论与结论
本研究证明了完整BCNN(包括隐藏卷积层和输出分类层)可以在CAM阵列内仅使用固有操作执行,无需ADC或TDC转换。输出层能够通过MLSA评估时间扫描在存内识别预测类别。硅验证结果表明,65nm存内CAM BCNN达到了实时自然灾害事件分类所需的准确率、吞吐量和能效,适用于分布式、资源受限的传感层级中的实时环境监测和分布式应急管理系统。该加速器旨在作为更广泛分布式自然灾害管理框架的构建模块,能够在所有层级实现轻量级、低占用、低功耗和可扩展的智能。