《Displays》:SFG-DETR: A spatial-frequency perception and fine-grained feature enhancement network for remote sensing small object detection
编辑推荐:
•本文提出了一种基于空间频率感知与细粒度特征增强(SFG-DETR)的遥感小目标检测网络。该网络通过抑制背景干扰、强化小目标特征以及促进多尺度信息融合,显著提升了复杂场景下的检测精度。•设计了一种空间频率互补感知(SFCP)特征提取网络。通过采用互补重建机制,SFCP能够有效捕获
- •
本文提出了一种基于空间频率感知与细粒度特征增强(SFG-DETR)的遥感小目标检测网络。该网络通过抑制背景干扰、强化小目标特征以及促进多尺度信息融合,显著提升了复杂场景下的检测精度。
- •
设计了一种空间频率互补感知(SFCP)特征提取网络。通过采用互补重建机制,SFCP能够有效捕获不同层次上的多种空间和频率信息。
- •
开发了细粒度特征增强模块(FGEM)。该模块利用蛇形扫描策略对高分辨率特征进行序列建模,并结合全局上下文门控机制,有选择地增强小目标特征,同时减少背景噪声的影响。
- •
引入了全尺度高保真融合模块(OHFM)。该模块通过小目标特征金字塔(SOFP)整合多尺度信息,并运用高保真采样网络(HSFM),在融合过程中最小化特征错位和背景伪影。
引言
遥感图像在城市规划、环境监测、农业管理以及军事监控等诸多领域发挥着重要作用。随着遥感技术的快速发展以及卫星系统的不断改进,获取高分辨率遥感图像已变得越来越容易。然而,这类图像中通常包含大量小型目标(指面积小于32×32像素的目标),如车辆、飞机、船舶和储罐等。这些小型目标往往分布密集,还容易被复杂的背景遮挡,因此在大规模遥感图像中很难被清晰识别。这给遥感小目标检测带来了巨大挑战,也严重限制了其实际应用前景。因此,研发具有高鲁棒性和高精度的中小目标检测器已成为遥感领域的重要研究方向。
近年来,随着技术进步,基于深度学习的目标检测方法已从传统的卷积神经网络(CNN)架构发展到基于Transformer的[1]框架。CNN方法利用CNN从图像中提取关键特征,再通过锚点框或中心点等方法确定目标的具体位置和类别。典型的算法包括R-CNN系列[2]、[3]、[4],SSD[5],YOLO系列[6]、[7]、[8]以及CenterNet[9]。尽管这些方法取得了显著成果,但CNN的局部感受野有限,难以捕捉长距离的上下文关联。此外,这类方法还依赖非极大值抑制(NMS)进行后处理,而在处理重叠的小目标时常常会导致误检。Transformer模型的出现则为目标检测带来了新的突破。这类方法摒弃了原有的锚点框等先验知识和约束,通过双分支匹配和Transformer架构,直接预测目标的类别、位置和大小,从而简化了检测流程和后处理步骤。典型的算法包括DETR[10]、可变形DETR[11]、DINO[12]以及Swin Transformer[13]。以DETR为代表的端到端检测器利用自注意力机制实现全局特征建模,有效弥补了CNN的不足。不过,传统Transformer的计算复杂度较高,导致收敛速度慢,难以满足实时检测的需求。为此,赵等人提出了RT-DETR[14],通过引入高效的混合编码器以及基于IoU的查询选择机制,成功实现了速度与精度之间的平衡。
虽然以RT-DETR为代表的DETR系列模型在通用目标检测任务中取得了优异性能,但将其直接应用于遥感小目标检测仍面临诸多挑战。大多数基于Transformer的检测器的特征编码依赖于高步长下采样的特征图来提取高级语义信息;而对于像素数量极少的微型遥感目标,这种设计会导致关键的细粒度信息不可逆地丢失。此外,遥感图像中往往存在大量与目标纹理相似的背景干扰,而DETR系列模型固有的全局注意力机制难以有效抑制这类复杂的背景噪声。因此,现有的DETR系列模型在全局建模过程中,往往无法有效过滤背景冗余信息,同时也难以聚焦于小型目标的稀疏特征。
为解决上述问题,我们提出了基于空间频率感知与细粒度特征增强的遥感小目标检测架构SFG-DETR。该框架以RT-DETR-R18作为基础模型,加入了空间频率互补感知(SFCP)网络,用以弥补传统仅基于空间域的特征提取方式所导致的高频信息丢失问题。通过同时在空间域和频率域进行特征提取,SFCP能够最大程度保留小型目标的关键高频细节。此外,我们还设计了细粒度特征增强模块(FGEM),用于增强稀疏的目标特征,有效应对目标稀疏和背景干扰等问题。为进一步提升性能,我们还精心设计了全尺度高保真融合模块(OHFM),用于促进多尺度信息的整合,同时减少特征错位现象。实验结果表明,SFG-DETR具备出色的性能和较强的泛化能力,在遥感小目标检测方面具有明显优势。本研究的主要贡献如下:
- •
提出了空间频率互补感知(SFCP)特征提取网络。该网络的空间分支负责保留高频的详细特征,而频率分支则通过可学习的频谱变换来抑制低频干扰。借助空间频率互补的特征重建机制,该网络能够有效捕获不同层次上的空间和频率信息。
- •
设计了细粒度特征增强模块(FGEM)。该模块采用类似蛇形扫描的策略对高分辨率特征进行序列建模,同时结合全局上下文门控机制,有选择地增强小目标特征,抑制背景干扰。
- •
开发了全尺度高保真融合模块(OHFM)。该模块通过小目标特征金字塔(SOFP)整合多尺度信息,同时加入高保真采样模块(HFSM),以减少特征融合过程中的特征错位和背景噪声。
- •
在三个常用的遥感基准数据集DOTAv1.0、NWPU VHR-10和DIOR上进行了大量实验。实验结果证明了所提方法在不同遥感场景下的有效性和良好的泛化能力。
第2节将回顾遥感目标检测领域的相关研究。第3节详细介绍SFG-DETR的整体架构及其三个改进模块。第4节阐述实验设置和实现细节,随后进行对比实验和消融实验,这些实验均在三个遥感数据集上开展。最后,第5节对本研究进行总结。
各节要点
基于CNN的目标检测
基于CNN的目标检测方法是遥感小目标检测领域的主流技术路线,大致可分为基于锚点的方法和无锚点算法两类。基于锚点的方法又可进一步分为两阶段检测器和单阶段检测器。以R-CNN为代表的两阶段检测器首先生成候选区域,然后再提取卷积特征用于分类和回归,从而实现高精度检测。为解决R-CNN存在的计算冗余问题
整体结构
为应对复杂背景下遥感小目标检测的难题,我们提出了基于空间频率感知与细粒度特征增强的SFG-DETR遥感小目标检测网络。该网络以RT-DETR-R18作为基础模型,由三个精心设计的模块组成:空间频率互补感知(SFCP)特征提取网络、细粒度特征增强模块(FGEM)以及全尺度
实验部分
本章详细介绍了实验方法,包括所使用的数据集、评估指标以及参数设置。同时还分析了对比实验和消融实验的结果,并对部分关键结果进行了可视化展示。
结论
为解决遥感图像中小目标检测的难题,本文提出了基于空间频率感知与细粒度特征增强的SFG-DETR检测框架。通过将SFCP模块集成到网络主干中,SFG-DETR实现了特征提取从单纯的空间域向空间频率域的延伸。SFCP模块能够选择性调节频率分量,保留有用的低频上下文信息,同时抑制
资金支持
本研究得到了国家自然科学基金的支持,项目编号为62271303;同时还获得了浦江人才计划的资助,项目编号为22PJD029。
利益冲突声明
作者声明,他们不存在任何可能影响本文研究成果的已知财务利益关系或个人关联关系。
Cong Liu|Zhijing Xu|Kan Huang