引言
得益于深度学习的快速进展，它已被广泛应用于各种计算机视觉任务中，包括图像分类（Dosovitskiy, Beyer, Kolesnikov, Weissenborn, Zhai, Unterthiner, Dehghani, Minderer, Heigold, Gelly, Uszkoreit, Houlsby, 2021, He, Zhang, Ren, Sun, 2016, Liu, Lin, Cao, Hu, Wei, Zhang, Lin, Guo, 2021, Simonyan, Szegedy, Ioffe, Vanhoucke, Alemi, 2017, Zhao, Li, Zhang, Yang, Zhuang, Li, Fan, Yang, 2023）、目标检测（Ren, He, Girshick, Sun, 2016, Zhu, Su, Lu, Li, Wang, & Dai）以及语义分割（Chen, Zhu, Papandreou, Schroff, Adam, 2018, He, Gkioxari, Dollár, Girshick, 2017, Ronneberger, Fischer, Brox, 2015）。许多深度学习模型在大规模标准化数据集（如 ImageNet（Russakovsky 等, 2015）和 CIFAR100（Krizhevsky 等, 2009））上取得了显著性能。作为评估模型性能的基本基准，这些数据集经过了精心构造，其数据分布高度平衡，不同类别的样本量高度一致。然而，现实世界的数据分布往往与这些标准化数据集存在显著差异。在实际场景中，数据通常遵循长尾分布，其特点是少数头类样本丰富，而大多数尾类样本相对较少。在这样的长尾数据集上，传统深度学习模型往往在尾类上表现不佳。标准方法倾向于聚焦于从头类中丰富样本学习特征，而尾类有限的数据则导致这些类别的泛化性能较弱。
最近，关于长尾分类的研究大量涌现，常用方法包括重采样（Feng, Zhong, Huang, 2021, Huang, Li, Loy, Tang, 2016, Kang, Xie, Rohrbach, Yan, Gordo, Feng, Kalantidis, 2020a, Zhao, Li, Li, Yang, Liang, Hu, Zhang, Yang, 2025a）、重加权（Alshammari, Wang, Ramanan, Kong, 2022, Park, Lim, Jeon, Choi, 2021, Tan, Li, Lu, Yao, Yu, He, Ouyang, 2023, Tan, Lu, Zhang, Yin, Li, 2021）以及数据增强（Chawla, Bowyer, Hall, Kegelmeyer, 2002, Cubuk, Zoph, Mane, Vasudevan, Le, 2019, He, Bai, Garcia, Li, 2008, Yun, Han, Oh, Chun, Choe, Yoo, 2019, Zhang, Cisse, Dauphin, Lopez-Paz, 2018）。重采样方法旨在通过平衡类别分布或增强模型从有限数据中学习的容量来提升少数类性能。例如，CDB-W（Sinha 等, 2022）利用类别难度设计了动态损失函数和采样技术，以减少模型对头类的偏见并提升尾类识别能力。相比之下，重加权方法如 EQL（Tan 等, 2023）提出了一种梯度驱动的训练机制，并引入了一组新的梯度驱动损失函数。诸如 CMO（Park 等, 2022）的数据增强方法通过一种过采样方法将少数类样本粘贴到多数类背景中来实现数据增强。最后，先前基于原型的对比方法（Cui 等, 2021；Du 等, 2024；Zhu 等, 2022）旨在重新平衡监督对比学习的优化动态。尽管上述方法可以实现更好的分类性能，它们仍存在显著局限性：（1）过采样通常会复制现有样本，随着模型记忆重复数据而过拟合的风险增加，而欠采样（Zhang 等, 2023）则丢弃了有价值的多数类信息，可能损害整体性能。（2）基于原型的对比方法并不能从根本上解决少数类内部变异性不足和类间细微差别的问题，这导致尾类在语义和表征上的多样性极为有限。（3）当前方法生成的多样性对于少数类往往缺乏语义连贯性，可能无意中削弱类间边界，从而降低尾类上的性能。
为了应对这些挑战，我们提出了一种专用于长尾分类任务的多样性增强对比学习（DECL）方法。该方法由三个模块组成：一个多样性增强图像数据增强（DIA）模块、一个特征提取模块以及一个多样性感知对比学习（DCL）模块。首先，DIA模块通过三个独立分支显著提升了所有类别样本的数量和形态多样性，每个分支实现一组不同的变换策略。通过以不同方式组合这些操作，该模块有效地增强了样本的多样性。值得注意的是，其中两个分支采用了图像粘贴策略，将不同图像组合成一张以生成合成样本。通过合成跨样本组合图像来处理有限的数据，DIA从而缓解了少数类样本数量稀缺和形态多样性有限的问题。接着，特征提取模块从增强后的样本中提取多样特征，为分类任务提供一致且鲁棒的表征。最后，我们提出了一个多样性感知对比学习（DCL）模块，专门设计用于利用DIA模块引入的丰富形态多样性。与在标准增强上操作的常规基于原型的对比方法不同，DCL处理从DIA生成样本中提取的多分支特征，使其能够学习更具判别力且更鲁棒的表征，尤其是针对尾类。通过对齐类原型与多样特征表征（而非同一样本的重复视图），DCL显式地利用输入多样性来锐化类间边界并保留类内变化，从而缓解了长尾分布下少数类类别的表征退化问题。总之，通过有效结合这些组件，所提出的方法通过丰富稀有类样本的多样性、优化特征学习，并提升模型稳定性和识别精度，从而应对了长尾分布的挑战。
主要贡献总结如下。
- •
我们为长尾分类提出了一种多样性增强对比学习框架，其核心在于增强并充分利用样本的形态多样性和数量。DIA模块直接丰富了数据多样性，而DCL模块则定义了学习策略以充分利用增强后的样本。
- •
针对DIA模块，我们设计了一组面向多样性的策略，每个策略由多个变换操作组成。这些策略在一个多分支结构中实现，以同时提升样本的数量和形态多样性。
- •
针对DCL模块，我们设计了一个多样性感知对比学习框架，利用多分支特征提取来发挥DIA带来的样本多样性，从而为稀有类别实现更丰富的语义建模，并在尾类上获得更强的泛化能力。
- •
实验结果表明，我们的方法在四个数据集上均取得了优越性能，超越了当前最先进的（SOTA）方法。具体而言，它在CIFAR100-LT上达到60.4%的Top-1准确率，在CIFAR10-LT上达到85.1%，在ImageNet-LT上达到59.8%，在iNaturalist 2018上达到74.2%，凸显了其在应对长尾分布挑战方面的有效性。
