面向类别不平衡半监督学习的基于内在 Logit 的去偏

《Neural Networks》：Intrinsic Logit-Based Debiasing for Class-Imbalanced Semi-Supervised Learning

　　

•通过 K-1 个非目标 logits 的平均值进行无标签内在偏差估计。
•通过目标类别 logits 的平均值进行标签引导的学习偏差估计。
•在不同数据集和 CISSL 设置下优于最先进方法。
引言
半监督学习（SSL）（Long, Su, Li, Cai, Li, Wang, Cao, 2026, Sohn, Berthelot, Li, Zhang, Carlini, Cubuk, Kurakin, Zhang, Raffel, 2020, Wang, He, Gong, Ren, Sun, Huang, Yin, 2025, Wei, Wei, Kong, Lu, Xing, Lu, 2021b）通过利用未标记数据提升深度神经网络的性能力取得了显著成功。然而，标准 SSL 依赖于标记和未标记数据集共享平衡且一致的类别分布这一理想假设。在现实场景中，这一假设经常被违背：数据通常表现出长尾或偏斜分布（Bai, Li, Kong, Yang, Yin, 2026, Dai, Wang, Zhang, Ding, Chen, 2025, Hu, Li, Li, Zhang, Feng, Law, 2026），且未标记集的类别先验通常是未知的且与标记集不匹配（Guo 等人，2024）。在此类类别不平衡半监督学习（CISSL）场景下，在不平衡数据上训练的分类器不可避免地会遭受确认偏差（Arazo 等人，2020），形成针对多数类的强归纳偏差，并传播到未标记数据的伪标签化中。

为了减轻这种偏差，一些 CISSL 方法（Fan, Dai, Kukleva, Schiele, 2022, Kong, Wei, Liu, Wang, Xing, Lu, 2023, Lee, Shin, Kim, 2021, Wei, Sohn, Mellina, Yuille, Yang, 2021a）假设已知类别先验，即未标记集的类别分布已知且与标记集相同，而另一些方法（Kim, Hur, Park, Yang, Hwang, Hwang, 2020, Lai, Wang, Gunawan, Cheung, Chuah, 2022, Oh, Kim, Kweon, 2022）则额外引入了类别不平衡学习（CIL）技术，如分类器重训练（cRT）（Kang 等人，2020）或事后对数几率调整（LA）（Menon 等人，2021）。然而，cRT 倾向于将分类器与表示学习解耦，且标准 LA 在未标记集类别分布未知时失效。一个值得注意的近期进展是 CDMAD（Lee 和 Kim, 2024），它试图利用与任务无关的辅助输入（例如纯色图像）来估计模型偏差以执行 LA。其潜在假设是这些输入可被视为与训练集无关。

然而，我们认为这一假设是脆弱且潜在有风险的。首先，“与任务无关”是相对的。考虑一个简单的例子：如果目标任务涉及分类颜色为判别性特征的对象（例如红苹果与绿苹果），那么纯红色图像就不再无关，而是与类别强相关。在这种情况下，估计器混淆了有效的语义信号与模型的偏差，导致错误的调整。其次，仅依赖与任务无关的数据忽略了模型在任务数据本身上的实际行为。因此，考虑到分类器的训练和评估本质上是针对特定数据和任务定制的，鲁棒的去偏策略应直接从与任务相关的数据中估计偏差，而无需知道未标记数据的类别先验或依赖外部输入。

在本文中，我们观察到分类器的输出 logits 包含丰富关于模型偏好的信息：如图 1 (a) 所示，我们基于伪标签计算未标记数据的类别平均 logits，很明显，在掩蔽最大 logits（红色锥体）之后，剩余的 K?1 个 logits 主要表现出反映长尾类别先验的梯度分布。基于这一见解，我们引入了基于内在对数几率的去偏（ILBD），这是一种分解分类器 logits 以直接从其对与任务相关数据的响应中准确估计偏差的策略，而无需知道类别先验。具体来说，我们的估计器捕捉两个关键方面：（1）无标签内在偏差：我们假设当主导语义信号（目标类别）被抑制时，模型的“背景”预测揭示了其固有的归纳偏差。通过掩蔽最大 logits，我们有效地消除了目标特定偏差——即模型对预测类别的主要关注，并计算每列剩余非目标 logits 的平均值。（2）标签引导的学习偏差：此外，最大 logits 代表模型对目标类别的置信度和学习状态。由于训练分布的偏斜，模型学习多数类“更好”且比少数类更自信。忽略这一点会导致去偏不完整。因此，我们聚合每列的最大 logits 以捕捉目标类别学习偏差。通过整合这两个组件并在推理时减去它们，ILBD 构建了一个纯粹内在且数据驱动的综合偏差估计器。此外，为了确保统计值源自可靠的伪标签，我们结合了类别自适应阈值机制来过滤噪声伪标签。如图 1(b) 所示，评估的偏差近似于反映底层数据不平衡的长尾分布，且 ILBD 有效校正了决策边界，显著提高了少数类的平衡准确率（bACC），同时保持了整体性能。

总体而言，做出了以下三项贡献：
•我们提出了基于内在对数几率的去偏（ILBD），这是一个新颖的事后框架，消除了对风险性外部代理或已知类别先验的依赖。通过实验发现 K?1 个非目标 logits 作为模型背景偏好的反映，ILBD 有效地提取了无标签内在偏差，以确保对域偏移的鲁棒性。
•ILBD 还从目标类别 logits 计算标签引导的学习偏差，以量化头类和尾类之间的置信度差异。此外，我们开发了一种类别自适应阈值机制来过滤伪标签，防止偏差估计被噪声预测污染。
•在人工定义的基准（CIFAR-10/100-LT, STL-10-LT）和自然不平衡数据集 Small-ImageNet-127 上的广泛实验表明，ILBD 取得了最先进的性能，在类别分布不匹配且未知的具有挑战性的设置下有效校正了分类器偏差。
章节片段
类别不平衡半监督学习
CReST (Wei 等人，2021a) 选择比多数类更多的少数类伪标签样本进行迭代自训练。ABC (Lee 等人，2021) 和 CoSSL (Fan 等人，2022) 分别使用实例级重采样和特征级重加权来训练辅助平衡分类器。DebiasPL (Wang 等人，2022) 利用具有自适应边界的反事实推理，而 InPL (Yu 等人，2023) 使用基于能量分数阈值的可靠伪标签。FGBC (Kong 等
问题设置
假设我们有一个训练集，包含标记集 Xtrain=?j=1M{(xj,yj)} 和未标记集 Utrain=?i=1N{(ui)}，其中 xj,ui∈Rd 表示输入样本，yj∈{1,?,K} 表示 xj 的标签。我们表示 M=[m1,?,mK],∑k=1Kmk=M 和 N=[n1,?,nK],∑k=1Knk=N，其中 mk 和 nk 分别是类别 k 的标记和未标记样本数量。遵循标准 CISSL 协议 (Feng, Xie, Fang, Lin, 2024, Lee, Kim, 2024)，K 个类别按标记集降序排列
实验设置
数据集。我们在不同的 CISSL 条件下进行了广泛实验，包括未标记集的类别分布已知和未知的情况。我们设置了两种不平衡类型。一种是长尾（LT）不平衡类型，遵循 mk=m1×γl?k?1K?1 和 nk=n1×γu?k?1K?1，其中 γl 和 γu 分别是标记集和未标记集的不平衡比率，包括具有不同的数据集 CIFAR-10-LT, CIFAR-100-LT 和 STL-10-LT (Coates, Lee, Ng, 2011, Krizhevsky, Hinton, 2009)
结论
在本工作中，我们解决了类别不平衡半监督学习（CISSL）的关键挑战，特别是在未标记集类别分布未知或与标记集不匹配的场景中。我们引入了 ILBD，一个原则性框架，旨在将分类器的内在偏差解耦为两个不同的组件：无标签内在偏差和标签引导的学习偏差。通过构建利用与任务相关数据的偏差估计策略，ILBD
ILBD 局限性
虽然 ILBD 取得了令人鼓舞的结果，但仍有几个途径可供进一步探索。首先，我们当前的评估主要依赖标准学术基准。未来的工作应验证 ILBD 在大规模、真实世界数据集上的鲁棒性，在这些数据集中长尾分布更极端，甚至在未标记集中存在开放集类别。其次，虽然我们的偏差估计策略在经验上很强大，但建立严格理论基础仍然是优先事项。
未引用参考文献
算法 CRediT 作者贡献声明
Qianying Tang：写作 – 初稿，软件，方法论，概念化。Yue Cheng：验证，调查。Xiaoyu Guo：验证，调查。Xiang Wei：写作 – 审查与编辑，监督，概念化。Shunli Zhang：写作 – 审查与编辑，监督。Witold Pedrycz：写作 – 审查与编辑，监督。
竞争利益声明
作者声明他们没有已知的竞争性财务利益或个人关系可能影响本论文报告的工作。
致谢
本工作受中国国家重点研发计划（资助号 2024YFB3312202）和国家自然科学基金（61906014, 61976017, 61876018）支持。
Qianying Tang|Yue Cheng|Xiaoyu Guo|Xiang Wei|Shunli Zhang|Witold Pedrycz