在噪声标签下的强健离群检测

《Neural Networks》：Robust Out-Of-Distribution Detection Under Noisy Labels

　　

摘要

分布外（OOD）检测在确保部署在现实世界应用中的机器学习系统的可靠性方面起着关键作用。虽然现有的OOD检测方法假设训练数据是干净且属于同一分布（ID）的，并带有正确的标签，但由于实际问题（如标签分类不完整和人工标注错误），这一假设往往不成立。训练数据中存在的噪声标签会显著降低区分ID实例和OOD实例的能力。在这项工作中，我们提出了一个框架，该框架将噪声标签学习（NLL）与事后的OOD检测方法结合在一起，以实现对噪声标签的鲁棒OOD检测。为了使NLL方法与OOD检测相匹配，我们提出了三个关键观点：（1）NLL在噪声标签下可以提高OOD检测性能；（2）在基于半监督学习（SSL）的NLL中 sharpening 模型输出有助于OOD检测；（3）尽管ID准确性有所提高，NLL中的混合（Mixup）仍可能降低OOD检测性能。通过在OpenOOD基准测试中对多种噪声标签场景进行广泛实验，我们验证了所提框架在噪声标签下显著提升了OOD检测性能。

引言

分布外（OOD）检测是指识别出超出训练数据分布范围的实例的任务。机器学习模型通常在封闭世界假设下进行训练，即训练和测试实例都来自同一分布（ID）。在这种假设下，模型在推理阶段只应遇到ID数据中的类别。然而，在现实世界应用中，模型可能遇到训练期间未见过的类别或领域的实例（称为OOD实例）。这些OOD实例可能导致错误的预测，从而影响机器学习系统的可靠性和安全性，特别是在自动驾驶（Filos等人，2020年）和医疗诊断（Guha Roy、Ren、Azizi、Loh、Natarajan、Mustafa、Pawlowski、Freyberg、Liu、Beaver、Vo、Bui、Winter、MacWilliams、Corrado、Telang、Liu、Cemgil、Karthikesalingam、Lakshminarayanan、Winkens，2022年；Wang、Peng、Lu、Lu、Bagheri、Summers，2017年）等高风险领域。为了解决这些问题，针对OOD检测的研究取得了显著进展，特别是在图像分类任务中（Yang等人，2024年）。

现有的OOD检测方法通常假设训练数据是干净的，并且标签是正确的（Humblot-Renaux等人，2024年）。然而，在现实世界场景中，由于各种实际因素（包括标签分类不完整和人工标注错误），噪声标签经常出现（Li和Zhu，2024年）。Humblot-Renaux等人（2024年）的一项最新研究通过广泛的基准测试表明，训练数据中存在的噪声标签不仅降低了ID实例的分类准确性，还降低了ID实例和OOD实例之间的可区分性。这最终导致OOD检测方法的性能大幅下降，严重限制了其在噪声标签场景下的可靠性和适用性。尽管这个问题非常重要，但在以前的研究中很大程度上被忽视了。

图1显示了在CIFAR-10N、CIFAR-100N和Tiny-ImageNet上不同噪声标签场景下的OOD检测性能。当训练数据集包含噪声标签时，与干净标签基线相比（即，在干净标签上训练的模型），OOD检测性能会一致下降。随着噪声比的增加，性能下降变得更加严重。尤其是在与ID实例语义相似的接近OOD（Near-OOD）设置中，性能下降尤为明显。

本研究的主要目标是首批解决在噪声ID标签下的OOD检测问题，因为现有的OOD检测方法在这种情况下性能会显著下降。我们提出了一个新颖的框架，在模型训练阶段利用噪声标签学习（NLL），该方法最初是为在封闭世界假设下提高噪声标签存在时的分类准确性而设计的。然后在训练好的模型上结合事后OOD检测方法，以实现准确可靠的OOD实例检测。除了简单地将NLL和OOD检测结合起来外，我们还发现了NLL方法和OOD检测之间固有的两个关键不兼容性：对于干净实例，模型输出 sharpening 的有益效果；以及与Mixup 相关组件的负面影响。基于这些见解，我们针对这种设置制定了简单而有效的调整方案，以进一步提升各种NLL方法和事后OOD检测器在不同噪声标签场景下的ID和OOD的可区分性。

对于所提出的框架，我们提出了三个关键观点：（1）NLL在噪声标签下可以提升OOD检测性能；（2）在基于半监督学习（SSL）的NLL中 sharpening 模型输出有助于OOD检测；（3）尽管ID准确性有所提高，NLL中的Mixup仍可能降低OOD检测性能。我们通过在OpenOOD基准测试（Zhang等人，2024年）上的全面实验来验证这些观点。我们的发现总结如下：

• •
  结合NLL不仅可以提高ID分类准确性，即使在严重的噪声标签场景下也能提升OOD检测性能。
• •
  在基于SSL的NLL方法中，通过对预测为干净标签的实例进行能量最小化来 sharpening 模型输出，可以提高OOD检测性能。
• •
  从NLL方法中去除与Mixup 相关的组件可以提高OOD检测性能，尽管这样会牺牲ID分类准确性。

本文的其余部分组织如下。第2节我们回顾了与OOD检测和NLL相关的工作。第3节描述了本研究中研究的NLL方法。第4节介绍了所提出的框架及其观点。第5节详细介绍了基准数据集和评估协议。第6节提供了实验结果和讨论。最后，第7节提出了结论和未来的工作方向。

章节片段

分布外（OOD）检测

OOD检测被定义为根据模型计算出的OOD得分来确定查询实例x_*是否属于OOD。训练数据集$\mathcal{D}\text{trn}$假设只包含ID实例，其中x_i表示一张图像，y_i∈?{0, 1}^C是预定义类别C的一个独热编码的类别标签。作为前提条件，模型f_θ是一个神经网络，其输出f_θ(x_*)∈?[0, 1]^C表示C类别的softmax概率。

初步

我们使用五种NLL方法研究了所提出框架的有效性。在这项研究中，我们从两种方法中选择了表现最好的方法：来自噪声鲁棒正则化方法的SOP（Liu等人，2022年）和ELR（Liu等人，2020a年），以及来自基于SSL的方法的ProMix（Xiao等人，2023年）、PGDF（Chen等人，2023年）和TCL（Huang等人，2023年）。图2提供了这些方法的示意图。下面我们简要描述了它们的训练架构。

概述

我们考虑这样一种情况：训练数据集${\mathcal{D}}_{\text{trn}}$只包含ID实例，但其中一些标签被标签噪声污染了。主要目标是即使在训练数据集中有噪声标签的情况下，也能准确识别查询实例x_*是否属于OOD。

图3比较了在没有NLL方法的情况下，使用softmax置信度分数分布和t-SNE可视化方式评估的，在干净标签和噪声标签场景下训练的模型的ID–OOD可区分性。

基准数据集

我们通过在OpenOOD基准测试（Zhang等人，2024年）上的实验，对所提出框架中的三个观点进行了实证研究。我们使用了三个具有不同噪声标签场景的数据集作为ID数据集：CIFAR-10N、CIFAR-100N和Tiny-ImageNet。这些场景具有不同的噪声机制和不同的噪声比率，模拟了多种现实世界情况。每个ID数据集都与几个接近OOD和远离OOD的数据集配对。

观点1：NLL在噪声标签下提升OOD检测性能

表2和表4分别展示了所提出框架在各种噪声场景下的OOD检测性能，以AUROC和AUPR为准。每种NLL方法（SOP、ELR、ProMix、PGDF和TCL）都包含了观点2和3。

与基线（无NLL）相比，使用NLL一致地提升了OOD检测性能和ID分类准确性。随着标签噪声比的增加，NLL方法的性能保持稳定，没有显著下降。

结论

在这项研究中，我们提出了一个新颖的框架，该框架结合了NLL方法和事后OOD检测方法，以在噪声标签存在的情况下实现鲁棒的OOD检测。为了使NLL方法与OOD检测相匹配，我们提出了三个关键观点：（1）NLL在噪声标签下可以提升OOD检测性能；（2）在基于SSL的NLL中 sharpening 模型输出有助于OOD检测；（3）尽管ID准确性有所提高，NLL中的Mixup仍可能降低OOD检测性能。在CIFAR-10N上的全面实验

CRediT作者署名声明

Yujin Lee：撰写——原始草稿、软件、方法论、调查、概念化。Seokho Kang：撰写——审阅与编辑、验证、监督、概念化。

利益冲突声明

作者声明他们没有已知的可能会影响本文所报告工作的竞争性财务利益或个人关系。

致谢

本工作得到了韩国国家研究基金会（NRF）的资助，该基金会由韩国政府（科学技术信息通信部）提供资金（编号RS-2026-25468429）。

Yujin Lee|Seokho Kang