引言
随着深度学习的快速进步和大规模注释遥感数据集的出现，遥感目标检测取得了显著进展（Xu, He, Zhang, Qi, Chen, Wu, Tu, 2025; Yang, Zhao, Li, Qiao, Yang, Li, 2025; Yue, Lu, Cai, Chen, Chu, 2025）。然而，大多数现有的检测框架都是在封闭集假设下开发和优化的，即训练数据和测试数据的类别集被认为是完美对齐的（Wang, Zhou, Jing, & Zhang, 2025）。在复杂且动态的遥感场景中，地面对象的多样性、成像条件的变化以及操作环境的演变使得在测试过程中出现从未见过的未知类别变得常见。这种分布差异会削弱模型的泛化能力，导致误检测或漏检。因此，开放集遥感目标检测成为了智能遥感感知中的一个关键研究课题。其核心目标是在精确识别已知对象的同时，确保能够可靠地区分以前未见过的对象（He, Chen, Wang, Liu, Wang, 2025; Li, Dang, Sun, Jiang, Gui, Feng, 2024; Tong, Chang, Li, Wang, Liang, He, Song, Ma, 2025）。
在开放集遥感场景中，新的对象类别会在测试时不断出现，而传统的封闭集学习范式在训练过程中难以涵盖所有可能的类别（Li, Dai, Sun, & Suo, 2025b）。在这种情况下，学习到的潜在空间通常由已知类别的样本主导，其结构分布无法捕捉到未知类别的存在（Li, Sun, Li, Chen, Wei, 2025a; Yuan, Tang, Chen, Chen, Huang, Ding, 2025）。因此，在推理过程中，潜在空间往往会表现出对已知类别的总体偏好，如图1(a)所示。此外，由于现有方法忽略了未知类别对潜在空间建模中高级语义一致性约束的影响（Qin et al., 2025），并且过度优化了已知类别的语义结构，导致潜在表示过度聚集，从而引发表示崩溃（Yin et al., 2025），如图1(b)所示。
为了解决这些问题，本文提出了一种基于潜在空间结构正则化的开放集遥感目标检测方法。通过在潜在空间建模和表示优化层面引入结构约束和扩散机制，该方法系统地减轻了潜在空间偏好和表示崩溃，实现了已知类别的稳定区分和未知类别的有效分离。为了实现这一目标，开放集遥感目标检测必须解决由未知类别带来的两个关键挑战：在潜在空间扰动下稳定已知类别的决策边界，以及捕捉未知类别的内部结构变化，以防止特征过度聚集和表示崩溃。
针对这三个关键方面，本文从潜在空间建模、结构约束和表示优化的角度设计了具体的方法论。为了解决开放集遥感目标检测中已知和未知类别之间的决策边界模糊问题，本文提出了一种潜在空间对比正则化（LSCR）方法，以稳定和加强潜在空间的区分结构。具体来说，LSCR引入了一种潜在不确定性协同放大机制，构建了一个包含潜在未知类别的潜在记忆库。这使得未知样本能够在训练过程中参与对比建模，并作为结构约束的辅助负样本。同时，对已知类别施加语义一致性约束，以保持类别内部的紧凑性和表示稳定性。通过未知样本的负样本约束与已知类别的一致性约束的联合作用，该方法有效地抑制了潜在空间对已知类别的偏好以及由此产生的结构漂移，从而提高了已知类别表示的区分能力，并增强了已知和未知类别之间决策边界的可靠性。
尽管现有方法改善了已知和未知类别之间的可分离性，但在开放集遥感场景中，未知类别通常由多个未见过的语义类别组成，并且会受到较大外观变化和复杂背景的影响。因此，在训练过程中，未知特征仍可能过度接近已知类别，导致表示崩溃，限制了模型表征类别间结构差异的能力。为了解决这个问题，本文提出了一种保持顺序的扩散表示学习方法。通过在潜在空间中引入结构化约束和拓扑均匀正则化，该方法在保持相对语义顺序的同时促进了特征的分散，从而抑制了未知类别对已知类别的过度吸引，提高了类别间的结构区分能力。总之，本研究的主要贡献如下：
(1) 提出了一种用于开放集遥感目标检测的潜在空间结构正则化方法，旨在提高开放集检测任务中的特征表示和泛化能力。
(2) 为了解决已知和未知类别之间的决策边界模糊问题，提出了一种潜在空间对比正则化方法。它允许未知样本参与潜在建模，并作为负样本来稳定潜在空间，从而提高已知和未知类别的区分能力。
(3) 提出了一种保持顺序的扩散表示学习方法。通过在潜在空间中引入结构化约束和拓扑均匀正则化，该方法保持了未知特征的相对语义顺序，并抑制了它们对已知类别的过度聚集，从而提高了类别间的结构区分能力。
