基于局部背景感知的生成式蒸馏技术，用于提升遥感目标检测性能

《IEEE Transactions on Circuits and Systems for Artificial Intelligence》：Localized Background-Aware Generative Distillation for Enhanced Remote Sensing Object Detection

　　

摘要：

在遥感目标检测领域，基于特征的知识蒸馏方法受到了广泛关注。该方法的主要挑战在于，由于缺乏局部背景先验，特征蒸馏可能会误导对微小遥感目标的检测。为解决这一问题，本文提出了基于局部背景的生成式蒸馏（LBGD）方法，该方法包含两个关键组件：轻量级扩散重建器（LDR）和逐块通道蒸馏（PCD）损失函数。LDR能够动态调整感知范围，从而有效捕捉目标周围的局部背景信息；而PCD则侧重于每个通道中最显著的块区域，以此降低全局背景信息的影响。据我们所知，此前尚未有研究在遥感目标检测中运用基于局部背景的生成式蒸馏机制。大量实验结果表明，LBGD能显著提升检测性能，例如在SODA-A任务中的提升幅度为1.9%mAP），在DIOR任务中的提升幅度则为2.8%mAP）。相关数据集和代码可访问地址：https://github.com/wchao0601/LBGD

I. 引言

由于在军事侦察、资源勘探、导航等诸多领域的广泛应用，遥感目标检测技术已受到广泛关注[1]、[2]、[3]。与自然场景图像相比，遥感图像中的目标更具检测难度，因为目标与复杂背景之间的相似度很高。现有的研究[4]、[5]主要致力于解决边界不连续和目标呈方形等问题。目前已有多种高效的目标检测算法被开发出来，包括单阶段检测方法[6]、[7]、[8]以及双阶段检测方法[9]、[10]。然而，这些方法通常只注重提升模型精度，而忽视了实时应用的需求。为解决这一问题，知识蒸馏技术[11]应运而生，它通过将复杂教师模型的知识传递给轻量级的学生模型，既能够在不牺牲性能的前提下实现实时应用。