深度神经网络(DNNs)在各种计算机视觉任务中表现出卓越的性能[1], [2], [3], [4], [5], [6], [7], [8], [9]。然而,这种令人印象深刻的性能提升在很大程度上依赖于大量的标注数据。此外,手动标注大量数据并提供高质量的标注非常耗时且成本高昂,有时数据根本无法被标注。另外,传统深度学习的另一个缺点是不同数据集之间的领域差异[10], [11],这使得深度学习方法难以有效泛化到新的数据集。为了解决上述问题,许多方法采用了无监督领域适应(Unsupervised Domain Adaptation,简称UDA)[12], [13], [14], [15], [16], [17], [18], [19], [20], [21], [22], [23], [24], [25], [26], [27], [28], [29], [30], [31], [32], [33], [34], [35], [36], [37], [38], [39], [40], [41], [42], [43], [44], [45], [46], [47], [48], [49], [50], [51]的思想,利用来自有丰富标签的源领域的知识来辅助学习没有标签但类别相同的目标领域。
UDA的一个典型框架是基于教师-学生模型的方法,如图1(a)所示,其中教师为目标领域生成伪标签,这些伪标签用于监督学生模型的训练,教师的权重作为学生模型权重的指数移动平均(Exponential Moving Average,简称EMA)进行更新。然而,教师模型为目标领域生成的伪标签并不总是精确的,这些标签不可避免地包含一些噪声。当学生模型适应这些噪声标签时,错误的预测会成为有害的学习信号,从而限制了领域适应的性能。
为了减少噪声标签对图像分类的影响,已经有很多研究关注带有噪声标签的图像分类[8], [52], [53], [54], [55], [56], [57], [58], [59], [60], [61], [62], [63], [64], [65]。这些方法大致可以分为三类:噪声样本选择、噪声标签校正以及提高模型鲁棒性的方法。噪声样本选择是指筛选掉噪声标签并使用剩余的干净标签进行分类;噪声标签校正则专注于修正标签本身;提高模型鲁棒性的方法主要涉及设计正则化技术或鲁棒损失函数,以增强模型对标签噪声的抵抗能力。
图像标签的质量严重影响了图像分类的性能,因此提高噪声标签的质量对于图像分类非常重要。从这个角度来看,我们提出了一种结合伪标签校正的平均教师方法用于跨领域图像分类,如图1(b)所示。具体来说,首先教师模型为目标领域数据生成伪标签,同时我们将掩码图像一致性引入基于教师-学生模型的无监督领域适应网络框架中,使模型能够更有效地学习目标领域数据中的上下文信息。然后,针对教师模型生成的伪标签可能存在的噪声问题,我们在本文中设计了一个新颖的伪标签校正模块。该模块以目标领域的原始图像、掩码图像以及教师模型生成的伪标签作为输入,动态地分割和校正输入数据,最终得到校正后的标签。这些标签随后被用来计算学生模型对掩码图像的预测损失。
本文的主要贡献包括:
- •
我们提出了一种结合伪标签校正的平均教师方法用于跨领域图像分类。该方法不是直接使用伪标签进行最终分类,而是先选择和校正伪标签,然后再进行分类。
- •
我们提出了一种伪标签校正模块,通过分割目标领域数据并校正可能包含噪声的伪标签,从而减少了教师模型生成的伪标签对图像分类性能的影响。
- •
我们在广泛使用的跨领域图像分类数据集上进行了大量实验,实验结果表明我们的方法优于现有的最先进方法。