遥感对象计数在城市规划、环境监测、灾害响应和气候变化缓解等应用中发挥着关键作用。这项任务涉及自动量化卫星或航空图像中的各种对象,从大型建筑到小型车辆、树木和船只等。与一般对象计数[1]、[2]、[3]、[4]、[5]、[6]、[7]、[8]不同,遥感对象计数面临独特的挑战,因为对象尺度变化显著,且地理空间数据复杂。对象的大小可以从大型建筑到小型、密集排列的物品(如车辆或单个树木)不等,在高分辨率图像中通常只占据几个像素。此外,遥感环境具有高度动态性和多样性,经常会出现新的或以前未见过的对象类别。这种开放集特性,加上大规模注释的高成本,使得仅依赖预定义类别变得不切实际。因此,结合零样本能力对于处理对象的长期尾部分布和确保遥感图像中灵活、可扩展的计数系统至关重要。
深度学习的最新进展显著提升了遥感对象计数的能力[9]、[10]、[11]、[12]。例如,PSGCNet[10]采用多尺度上下文融合来动态适应不同的对象尺度,确保在异构数据集中的稳健检测。同样,LSKNet[13]调整其感受野以捕捉复杂的地理空间模式,提高复杂场景中的准确性。尽管有这些创新,现有方法在开放集计数方面仍存在困难。它们依赖于训练数据集中的预定义对象类别,限制了它们在动态、开放集地理空间场景中计数新类别的能力,从而影响了其灵活性。如图1(a)所示,一个专注于汽车的计数模型由于类别不匹配而无法计数船只,而一个专注于船只的模型虽然可以成功计数船只,但需要每个类别的密集注释(例如,对于船只),这使得它在大规模或动态场景中不实用。
视觉语言模型(VLMs)的最新进展加速了零样本对象计数的进步。同时,多模态大语言模型(MLLMs)也被探索用于通过更强的高级语义理解和语言生成来辅助计数。与依赖结构化、定位导向的证据(例如,相似性/密度图或文本条件区域提案)的传统零样本计数流程相比,MLLM辅助计数通常将计数视为以语言为中心的预测问题,其输出可能与定位驱动的后处理不太自然地对齐。在这项工作中,我们专注于基于VLM的零样本计数,它在开放词汇设置下提供结构化的定位证据。这种设置与弱监督计数公式[14]、[15]不同,后者的主要特点是训练期间的监督强度,而零样本计数在开放词汇设置下运行,旨在通过预训练的视觉-语言表示来泛化到未见过的类别。
现有方法通常分为两种粗粒度范式。第一种依赖于基于CLIP的视觉语言对齐(例如,VLCounter[16]),通过测量图像块和文本提示之间的相似性来生成密度图。第二种使用开放集检测器(例如,LLMDet[17])通过文本引导的跨模态变换器生成区域级提案。值得注意的是,对于尺度变化极大的遥感场景,我们认为结合尺度先验信息尤为重要,因为它直接影响定位证据的粒度和最终的计数准确性。
尽管有前景,但这两种范式在实践中通常是粗粒度的:它们在固定粒度(全局或均匀块)下进行推理,因此无法调整感受野以适应目标对象的尺度。这使得遥感中的零样本计数具有根本性的挑战,因为高分辨率场景包含大小范围广泛的对象:小而密集的目标需要更细的窗口来保持召回率,而大型对象需要更大的上下文以避免基于部分的碎片化和重复计数。因此,固定粒度的推理往往导致在错过小对象和过度计数大型对象之间的系统性权衡,使得尺度变化成为现有零样本方法中的一个关键未解决问题。如图1(b)所示,这些粗略的预测通常会导致计数不足,尤其是在遥感图像中常见的小型或密集排列的对象。这揭示了一个限制:现有的零样本计数方法缺乏尺度感知的层次化建模,这对于在具有多样对象尺度的遥感场景中进行准确计数至关重要。
为了解决这些挑战,我们提出了HierarchicalGeoCount,这是一种将层次化尺度感知集成到遥感图像的零样本开放词汇对象计数中的方法。核心思想是,有效的遥感场景计数需要能够适应不同对象大小的尺度感知处理,而不是固定尺度的方法。我们的方法通过两阶段层次化框架进行操作:首先进行粗粒度分析以估计场景中的对象尺度分布,然后应用尺度感知的窗口化来细化计数过程,提高定位准确性。这种层次化设计能够灵活适应零样本遥感图像中不同对象尺度的变化,为遥感场景中的准确零样本对象计数提供了潜力。为了进一步细化预测,我们引入了基于远程先验的精细化(RGR)模块。RGR整合了来自遥感预训练视觉语言模型的语义线索和密集的自监督特征来抑制误报并提高定位精度。这些模块共同展示了HierarchicalGeoCount在遥感场景中进行可扩展的零样本对象计数的潜力。此外,HierarchicalGeoCount采用了模块化的即插即用设计,组件之间明确解耦。HSP在多尺度候选区域上操作,不依赖于特定的定位框架,可以与其出现的更强大的开放词汇检测器配对。RGR使用语言引导的先验进行预测级细化,并且可以通过替换底层的遥感VLM轻松升级。密集特征过滤阶段同样独立于检测器,可以采用改进的自监督框架或替代的特征相似性标准,而无需修改整个流程。
方法上,我们旨在通过利用现成的开放词汇VLM组件、尺度感知的粗到细推理和专门的精细化阶段,开发一个完全无需训练的即插即用零样本计数流程,用于高分辨率遥感。概念上,我们将极端尺度变化视为粒度不匹配和领域歧义的耦合问题;因此,我们将层次化尺度感知用于尺度对齐,与针对遥感特定的细化相结合以消除候选对象的歧义。在实践中,这种设计预计可以提高定位精度并减少不同对象大小的误计数,同时保持开放集的灵活性。
我们的贡献有四个方面。
(i) 我们确定固定粒度推理是遥感中零样本计数的一个关键瓶颈,极端尺度变化导致错过小对象和碎片化大型对象之间的系统性权衡;基于此,我们提出了HierarchicalGeoCount,一个用于开放词汇遥感计数的尺度感知层次化框架。
(ii) 我们提出了层次化尺度感知(HSP),一个从全局上下文估计场景级对象尺度先验的粗到细模块,并使用它们来指导层次化图像分割,从而在高分辨率图像中的大尺度变化下实现计数。
(iii) 我们提出了基于远程先验的精细化(RGR),一个两阶段细化模块,它使用与遥感对齐的视觉-语言模型(CLIP-RS)对候选区域进行排名,并使用DINOv2密集特征通过视觉一致性标准进行过滤,提高零样本计数的候选对象可靠性。
(iv) 在NWPU-MOC和RSOC上的结果表明,HierarchicalGeoCount在未经目标数据集微调的情况下,相对于之前的零样本基线取得了25.4%/11.2%的MAE/RMSE降低(与LLMDet相比)和9.2%/3.9%的降低(与CLIPCount相比),突显了其在开放词汇遥感计数中的实用性。
本文的其余部分组织如下:第2节提供了遥感对象计数、零样本计数和开放词汇对象检测的技术背景概述。第3节详细介绍了提出的HierarchicalGeoCount框架,重点介绍了其核心组件:HSP模块和RGR模块。第4节描述了在NWPU-MOC和RSOC数据集上的实验结果,以及消融研究和定性可视化。最后,第5节总结了本文并概述了未来工作的潜在方向。