《Neural Networks》:Evolving Classifiers with Background Suppression Transformer for Open-set Long-tailed Class-incremental Remote Sensing Scene Classification
编辑推荐:
类增量学习(Class-incremental learning, CIL)近年来因其在快速学习新类知识的同时保留旧类知识的能力,在遥感场景分类领域受到越来越多的关注。然而,现实世界的遥感场景数据通常伴随着长尾分布现象和未知类的出现,这严重限制了现有CIL模型
类增量学习(Class-incremental learning, CIL)近年来因其在快速学习新类知识的同时保留旧类知识的能力,在遥感场景分类领域受到越来越多的关注。然而,现实世界的遥感场景数据通常伴随着长尾分布现象和未知类的出现,这严重限制了现有CIL模型的优越性能。本文探讨了一项更为普遍且具有挑战性的任务——开放集长尾类增量遥感场景分类(Open-set Long-tailed Class-incremental Remote Sensing Scene Classification, OSLT-CIRSSC)。现有的CIL方法在推广至上述OSLT-CIRSSC任务时面临以下问题:(1)针对具有复杂背景干扰和长尾分布的遥感数据,训练得到的特征骨干网络效果不佳;(2)由分类器决策边界偏差导致的已知类与未知类之间的显著混淆。为解决上述问题,研究人员提出了一种借助背景抑制Transformer(Background Suppression Transformer, BST)的有效演化分类器(Evolving Classifier, EC)框架(EC-BST)用于OSLT-CIRSSC。具体而言,设计了一种具有自适应背景抑制的长尾Transformer(Long-tailed Transformer),以更多地关注遥感场景数据的前景显著特征,有效增强了训练后的特征骨干网络对遥感场景长尾分布的适应性。随后,提出了一种基于简单分类器预测置信度和不确定性的开放集识别模块,以有效评估类别来源并避免已知类与未知类之间的显著混淆。最后,通过上述融合源自类质心的特征的分类器持续演化,有效增强了特征嵌入的类间分离性和类内紧凑性,进一步提高了开放集识别的泛化能力。在三个代表性遥感数据集上的大量实验表明,所提出的EC-BST框架优于最先进的长尾CIL和开放集CIL方法。
研究人员针对开放集长尾类增量遥感场景分类(OSLT-CIRSSC)这一新兴且具有挑战性的任务展开了系统性研究,旨在通过设计新型框架解决现实遥感应用中数据分布不平衡与未知类别涌现的耦合难题。该研究构建了演化分类器结合背景抑制Transformer(EC-BST)的统一框架,并在《Neural Networks》期刊发表。
在关键技术方法方面,研究人员首先设计了长尾Transformer结合自适应背景抑制(Adaptive Background Suppression, ABS)模块,通过类别感知的方式处理复杂背景干扰。其次,引入了基于置信度的开放集识别(Confidence-Based Open-Set Recognition, CB-OSR)模块,利用预测概率和不确定性调整决策边界。最后,提出了基于类质心特征融合的分类器演化机制,以增强特征的类内紧凑性和类间分离性。实验部分利用了NWPU-RESISC45、AID、SIRI-WHU以及SAR2Opt四个公开数据集进行评估。
研究结果部分,论文通过以下模块验证了所提方法的有效性:
在长尾类增量学习(Long-tailed Class-incremental Learning)分析中,研究人员指出传统方法难以应对遥感数据的长尾特性与复杂背景。通过引入ABS模块,模型能够动态抑制非显著背景区域,显著提升了尾部类别的特征表征能力。
在方法(Method)部分,EC-BST框架采用两阶段策略。第一阶段通过长尾Transformer增强特征骨干的鲁棒性;第二阶段通过融合类质心特征细化分类器决策边界,有效缓解了增量学习中的灾难性遗忘。
在数据集(Datasets)验证中,利用NWPU-RESISC45、AID和SIRI-WHU等基准数据集的实验结果表明,EC-BST在处理长尾分布和未知类检测任务时均表现出色。
结论(Conclusion)部分总结道,该研究首次探索了OSLT-CIRSSC任务,确立了遥感场景分类的新范式。通过设计的ABS模块微调长尾ViT(Vision Transformer)以及CB-OSR模块,研究人员成功解决了特征退化与决策边界偏差问题。该研究不仅提升了模型在动态环境中的可靠性,也为资源受限条件下的遥感图像解译提供了创新视角。
讨论部分强调,EC-BST框架通过特征骨干与分类器的解耦学习,实现了对复杂背景和长尾分布的自适应处理。未来的研究方向可能集中在进一步优化类别不平衡的采样策略以及探索更高效的特征演化机制。