基于Grad-CAM的训练后通道剪枝方法及其在火灾检测中的应用

《Fire》:A Post-Training Channel Pruning Method Based on Grad-CAM and Its Application in Fire Detection

【字体: 大 中 小 】 时间:2026年09月04日 来源:Fire 2.7

编辑推荐:

  本文提出一种利用梯度加权类激活映射(Gradient-Weighted Class Activation Mapping,Grad-CAM)的训练后结构化通道剪枝方案,用于在有限计算资源下进行少类别火灾检测。在标准训练完成后,研究人员利用从检测头提取的类别特定

  
本文提出一种利用梯度加权类激活映射(Gradient-Weighted Class Activation Mapping,Grad-CAM)的训练后结构化通道剪枝方案,用于在有限计算资源下进行少类别火灾检测。在标准训练完成后,研究人员利用从检测头提取的类别特定梯度信号,在多尺度特征层上生成逐通道类激活图,并融合火焰与烟雾响应以对通道重要性进行排序。进一步应用层级别保留配额实施结构化通道剪枝,随后进行轻量级微调。该流程无需额外的稀疏性诱导训练。研究人员在一个包含9041张图像的自建火焰与烟雾数据集上验证了该方法,使用YOLOv5s、YOLOv5m和YOLOv5l作为基线检测器。在工作流级别比较中,所提方法在40%和60%剪枝率下取得的mAP@0.5高于所实现的基于L1的工作流,但在80%剪枝率下未取得同样结果。在60%剪枝率下,剪枝后的YOLOv5s模型包含2.158M参数,计算量为2.901 GFLOPs。这些结果表明,Grad-CAM为通道重要性提供了一种有效的类别感知准则,并为资源受限的火灾检测提供了一种有前景的模型压缩策略,但物理边缘设备上的实际性能仍有待评估。
火灾是突发性强、蔓延迅速且破坏力巨大的灾害类型,对人类生命和财产安全构成严重威胁。在工业制造与城市公共安全治理中,可靠的火焰和烟雾检测已成为智能消防系统的核心研究方向。传统烟雾传感器和温度探测器虽能提供一定程度的预警,但存在响应延迟、误报率较高以及易受环境干扰等问题,且难以融合全局空间上下文进行综合判断,在复杂场景下常出现漏报和误报。

随着深度学习与计算机视觉的发展,基于图像的火灾检测成为智能防火领域的研究热点。卷积神经网络(Convolutional Neural Network,CNN)在图像分类、目标检测等任务中展现出强大的特征提取能力,以YOLO系列为代表的单阶段检测器将特征提取、边界框回归和类别预测统一到端到端回归框架中,在检测精度和实时性之间取得了较好平衡。然而,深度CNN模型参数量和计算开销巨大,在算力受限的边缘硬件上部署困难。实际工业检测和城市安全监控通常只需识别火焰和烟雾等少量目标类别,因此开发在保持或提升检测性能的同时降低推理开销的模型压缩策略,成为低延迟边缘火灾检测的关键前提。

模型压缩技术主要包括低秩矩阵分解、量化和网络剪枝。其中结构化通道剪枝直接减少卷积通道数量,具备良好的硬件兼容性,是实际部署中的常见选择。现有主流通道剪枝方法通常利用批归一化(Batch Normalization,BN)缩放因子或权重范数衡量通道重要性,并依赖额外的稀疏性诱导训练来消除冗余通道。例如,L1稀疏驱动剪枝通过在训练中对BN缩放因子施加L1正则化以鼓励稀疏系数,再剪除相应通道。这类方法在图像分类任务上表现良好,但迁移到少类别火灾检测时存在两方面固有缺陷:一是传统剪枝指标仅基于权重幅度或特征统计,忽略类别感知梯度信号,难以区分提取判别性火焰/烟雾特征的通道与背景主导通道;二是额外的稀疏性诱导训练加剧了超参数调优负担,并可能导致训练不稳定,妨碍模型快速迭代和工业化部署。

针对上述问题,研究人员提出了一种基于Grad-CAM引导的训练后结构化通道剪枝框架,用于少类别火灾检测与部署导向的模型压缩。在标准训练收敛后,研究人员利用从检测头提取的类别特定梯度信号,在多尺度特征层上构建逐通道类激活图,并通过跨目标类别融合生成通道重要性排序;接着按层级保留配额进行结构化剪枝,最后进行轻量级微调。该框架完全避免了稀疏性诱导训练,可直接应用于标准训练后的少类别检测模型。相关研究成果发表于《Fire》期刊。

研究采用的关键技术方法包括:利用Grad-CAM从检测输出反向传播类别特定梯度,生成多尺度特征层上的逐通道类激活图;对火焰和烟雾两类目标的激活响应进行跨类别融合,得到最终通道重要性分数;按层设定保留配额,确保每层至少保留一个通道,防止单层过度剪枝;剪枝后进行轻量级微调以恢复检测精度。样本队列来源于研究人员自建的火焰与烟雾数据集,共包含9041张原始图像,按6:2:1:1比例划分为训练集(5425张)、验证集(1808张)、测试集(904张)和Grad-CAM权重生成子集(904张),主剪枝实验从权重生成子集中选取200张类别平衡图像用于通道重要性计算。

在数据集规格方面,数据集图像来自工业现场拍摄和公开资源,涵盖火焰和烟雾两个目标类别。在线数据增强仅应用于训练子集,包括HSV扰动、平移、缩放、水平翻转和马赛克增强;验证、测试和权重生成图像不进行增强。

在基线网络架构方面,研究选用三种不同参数规模和计算复杂度的YOLOv5变体作为基线检测器,即YOLOv5s、YOLOv5m和YOLOv5l,以验证所提方法在轻量级、中型和大型检测模型上的有效性和鲁棒性。

在训练、剪枝与微调配置方面,所有运行均从官方YOLOv5预训练检查点初始化。YOLOv5s的常规训练与L1训练使用相同的数据集划分、架构配置、200轮训练、批次大小12、输入尺寸640×640和SGD优化器;区别在于L1管道启用了稀疏性正则化(sr=0.005)。0%行对应不同管道特有的剪枝前检查点,因此固定剪枝率下的比较描述的是两种完整压缩工作流的输出差异。剪枝后的紧凑模型均进行10轮微调。为评估微调变异性,固定YOLOv5s在40%、60%和80%剪枝率下的剪枝检查点,使用随机种子1、2、3进行微调,结果显示40%和60%剪枝下Grad-CAM工作流取得更高的绝对mAP且变异性较小,但80%剪枝下平均精度下降且变异性增大。在权重生成图像数量敏感性研究中,辅助划分包含7190张训练图像和1752张验证图像,使用固定随机种子生成严格嵌套的类别平衡校准集(50、100、200和400张图像),以400张图像为参考计算平均逐层Spearman相关性和保留前40%通道重叠度。结果显示200张图像时平均逐层相关性达0.9814,前40%通道重叠度为94.07%,增加至400张未带来一致性精度提升,因此保留200张图像作为精度与成本的折中。在压缩成本与推理基准方面,针对YOLOv5s在60%剪枝率下的附加压缩成本测量显示,所提工作流将压缩阶段时间减少约97.3%;独立GPU推理基准在RTX 3060 Ti工作站上进行,两种剪枝模型的推理延迟差异较小,描述为具有相当的GPU运行效率。

在讨论部分,实验表明所提训练后工作流在中度剪枝率下优势最为明显。40%和60%剪枝下,YOLOv5s的三种子实验取得比L1工作流更高的绝对mAP@0.5,且标准差较小。但结果需注意三点限定:常规训练与稀疏训练获得的剪枝前检查点精度不同,主要比较针对完整工作流;80%剪枝下所提方法平均精度更低且变异性更大,表明极端压缩下的局限性;受控GPU基准显示两者推理延迟相当。实际区别在于Grad-CAM方法可直接复用常规训练好的检测器,无需重新进行稀疏性诱导训练。在其他检测器家族和物理边缘处理器上的验证仍需开展。

研究结论表明,基于Grad-CAM的训练后通道剪枝工作流利用类别特定检测梯度、跨类别分数融合和逐层保留配额,在不向常规任务训练添加稀疏性诱导正则化的情况下识别并结构化移除通道。在包含9041张图像的火焰与烟雾数据集上,使用YOLOv5s、YOLOv5m和YOLOv5l的实验显示,该方法在中度剪枝下能够在降低参数量和FLOPs的同时保持可用的检测精度。YOLOv5s的三种子实验支持了40%和60%剪枝下相比L1工作流具有更高绝对mAP的可重复性,但该优势未扩展到80%剪枝。样本数量研究表明200张类别平衡图像产生的通道排序与400张图像接近。逐组件计时确认Grad-CAM评分和结构化剪枝相对于L1工作流中计入的稀疏性诱导训练耗时更短,但所报告的97.3%减少仅适用于定义的附加压缩阶段。研究局限于单个火焰与烟雾数据集、单一检测器家族、固定类别平衡校准集和预定逐层配额,推理性能在桌面GPU而非物理边缘设备上测量。未来工作应评估自适应层配额、更多检测架构和数据集、类别不平衡下校准集构成,以及在代表性边缘处理器上的部署表现。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号