基于梯度向量的分布外检测（OOD）方法GradVec：提升图像与文本分类中的未知样本识别

本综述系统探讨了利用梯度向量（GradVec）进行分布外（OOD）检测的创新方法。研究通过构建层特异性梯度表征，无需改变模型训练或引入额外数据，显著提升了图像与文本分类中OOD样本的识别能力（FPR95降低超20%），为深度学习在开放环境（如医疗影像诊断）中的可靠部署提供了新范式。

　　

梯度向量用于OOD检测

本节介绍了我们提出的GradVec方法的核心思想。我们首先形式化定义了OOD检测任务，随后详细描述了GradVec如何为OOD检测方法提供量身定制的输入表征。最后，我们介绍了四种可与GradVec联用的OOD检测新方法。GradVec的实现已公开¹。

实验

本节展示了我们在多种场景下对所提方法的评估细节。实验设计旨在评估不同深度学习任务（特别是图像分类和文本分类）中的OOD检测问题，并比较使用不同预训练模型、不同分布内（D_in）和分布外（D_out）数据集的结果，从而为方法效能提供更全面的讨论基础。

结果

本节评估了我们提出的OOD检测方法在多种场景下的性能。为便于清晰理解实验结果，我们将讨论分为三个主要部分：首先，评估方法在图像分类任务中的表现；其次，比较句子分类中识别OOD样本的结果；最后，探讨中间层选择对梯度向量构建的影响。

结论

本研究引入了名为GradVec的新方法，利用梯度空间检测OOD数据。我们定义了梯度向量的表征方式，使得任何技术均可用于区分分布内（ID）与OOD数据。为评估梯度空间在OOD检测中的效力，我们展示了四种新方法：GradPCA、GradGMM、GradDGM和GradMahalanobis。此外，任何基于特征的方法均可适配于梯度向量，这可能为未来研究开辟新方向。