基于探索-利用的分层采样方法在主动学习中处理标签偏移问题

《Expert Systems with Applications》：Exploration-Exploitation Stratified Sampling for Label Shift in Active Learning

　　

左成文|严雪 Wu|齐王|范敏|闵王

四川旅游大学人工智能学院，成都，610100，四川省，中国

摘要

主动学习（AL）通过选择有信息量的未标记样本进行标注来降低标注成本。然而，现有的策略在迭代样本选择过程中无法保持类别平衡。这会导致标签偏移，从而影响模型对真实数据分布的泛化能力。我们发现，基于不确定性和基于多样性的方法本身会引入类别分布的偏差。针对这一挑战，我们提出了探索-利用分层主动采样（EESAS）。首先，我们设计了用于样本选择的探索-利用信息度量（EEIM），它在整个AL过程中自适应地平衡样本多样性和代表性。其次，我们引入了分层主动采样（SAS）来逐步重新平衡类别。SAS利用整数优化动态确定每个类别的最优查询预算。EESAS将SAS和EEIM无缝整合到一个统一的框架中。实验在四个基准数据集上进行，分别是CIFAR-10、FashionMNIST、SVHN和EMNIST。结果显示，在类别不平衡严重挑战学习任务时，EESAS表现出显著的优势，并且计算速度也得到了显著提升。

引言

现有的主动学习（AL）策略面临着一些根本性的挑战（Li等人，2024a；Wu、Wang、Min、Wang和Wang，2026）。主要问题是忽略了分布的一致性。具体来说，采样的训练数据可能与整体数据分布不符，甚至初始训练数据可能就已经存在偏差（Bengar、van de Weijer、Fuentes和Raducanu，2022）。主动采样本质上是非随机的，后续的主动采样会进一步扭曲这种分布，导致标签偏移（Cao、Shi、Yu、Wang和Tao，2023）。训练数据中的类别比例不再代表真实数据分布（Zhang、Kang、Hooi、Yan和Feng，2023b），这影响了模型的泛化能力。另一个根本性的挑战是平衡探索和利用（Lee、Choi、Do和Son，2025；Li、Chen、Yang和Yan，2024b；Liang等人，2025；Sui和Ghosh，2024）。过度强调利用可能会导致发现大型错误分类区域的问题，而过度探索也有其缺点（Jin等人，2022a），因为可能无法有效细化决策边界。

在本文中，我们针对上述挑战提出了EESAS，如图1所示。首先，我们引入了用于样本选择的探索-利用信息度量（EEIM）。EEIM在AL过程中自适应地平衡不确定性和多样性，确保选定的样本具有两个关键特性：（1）它们在分布上是合理的，来源于类别平衡的群体；（2）它们也具有最大的信息量，充分利用了不确定性和多样性。其次，我们引入了分层主动采样（SAS）来确保分布的一致性。SAS在每个AL轮次中重新平衡每个类别的样本大小，使训练数据更好地逼近真实数据分布。我们将这种重新平衡任务表述为一个整数规划问题。解决该问题可以确定每个类别的最优查询数量，从而系统地减少主动采样引起的标签偏移。最后，我们将EEIM整合到SAS框架中，形成了EESAS方法。

我们通过在基准数据集上的广泛实验验证了EESAS的有效性。结果表明，EESAS在分类准确性上显著优于现有的AL方法，表明其具有更强的泛化能力。我们还进行了全面的消融研究，确认了每个组件的独立贡献：（1）SAS对于类别重新平衡非常有效；（2）EEIM对于信息量丰富的样本选择至关重要。此外，我们还彻底分析了关键的超参数，例如探索和利用之间的平衡因子，这展示了EESAS的鲁棒性和适用性。在选择信息量丰富的样本时保持分布一致性对于AL的成功至关重要。

本文的主要贡献总结如下：

(1) 我们提出了EEIM来平衡探索和利用。EEIM在AL过程中自适应地测量样本的信息量，考虑了不确定性和多样性。选定的样本在分布上具有代表性，并且信息量最大。

(2) 我们提出了SAS来逐步重新平衡类别分布。SAS在每个AL轮次中调整每个类别的样本大小，使训练数据更好地逼近整体数据分布。模型因此获得了显著更好的泛化能力。

(3) 我们提供了AL中标签偏移的理论依据和实证分析。我们的分析表明，传统的采样方法可能会引入标签偏移，这揭示了流行AL策略中的一个根本性弱点。这促使我们设计了SAS来保持分布的一致性。

节片段

类别不平衡的主动学习

最近的调查追踪了AL方法的演变（Li等人，2024a；Mittal等人，2025），以及深度学习的发展（Li等人，2026；Shen、Liu、Sun、Wu、Liang、Han、Zhang、Li，2025；Shen、Liu、Xu、Sun、Xiao、Li、Zhang，2022a；Shen、Zhou、Liu、Sun、Li、Zhang，2022b），这些变化使得常见的策略从顺序获取转向了批量获取。批量模式的AL一次查询多个实例（He、Jiang、Xiao、Xu和Li，2026）。这种并行方法将重新训练成本分散到更大的样本组中（Li

理论动机

当训练标签分布与总体分布不同时，就会发生标签偏移。在AL中，由于非随机采样策略，这种现象经常出现。基于不确定性的方法倾向于选择接近决策边界的样本，这些样本可能无法反映整体的类别分布。同样，基于多样性的方法可能会过度采样特征空间中代表性不足的区域，这两种方法都可能引入系统的分布偏差（

分析

在具有非独立同分布（non-IID）数据的机器学习背景下，训练数据与总体数据之间存在三种类型的偏移：协变量偏移、标签偏移和选择偏差。在这里，我们特别关注标签偏移，即训练数据中的标签分布与测试数据中的标签分布不同。

实验

本节概述了我们的方法论，从数据集和实验参数的详细描述开始。我们的实验旨在回答以下研究问题：

(1) EESAS在各种基准数据集上的表现是否优于现有的AL方法？

(2) 平衡因子α和信息度量指标如何影响EESAS在不同数据集上的性能？

(3>GASS和EP模块分别如何对集成框架的最终性能做出贡献？

(4) 可以

结论

本研究介绍了用于AL的探索-利用分层主动采样（EESAS）。首先，我们提供了AL中标签偏移的理论依据和全面的实证分析。我们的研究表明，传统的采样方法可能会引入分布偏差。基于不确定性和基于多样性的方法都可能受到这一问题的影响，这促使我们设计了分层采样。其次，EEIM自适应地平衡样本

CRediT作者贡献声明

左成文：方法论、验证、可视化、撰写——原始草稿。严雪 Wu：概念化、项目管理、资金获取、撰写——审阅与编辑。齐王：软件开发、形式化分析、撰写——审阅与编辑。范敏：监督、形式化分析、撰写——审阅与编辑。闵王：监督、资金获取、撰写——审阅与编辑。

利益冲突声明

作者声明他们没有已知的财务利益或个人关系可能影响本文所报告的工作。