《INTERNATIONAL JOURNAL OF COMPUTER VISION》：Single Domain Generalization Benchmark: Current State and Challenges
编辑推荐：
近期深度学习的进展借助大规模数据集在计算机视觉任务中取得了显著成功，然而域偏移（domain shift）——即训练与测试分布不同——这一持续挑战仍会降低模型性能。虽然域泛化（Domain Generalization）技术旨在学习跨多个域的不变表征，但其对多
近期深度学习的进展借助大规模数据集在计算机视觉任务中取得了显著成功，然而域偏移（domain shift）——即训练与测试分布不同——这一持续挑战仍会降低模型性能。虽然域泛化（Domain Generalization）技术旨在学习跨多个域的不变表征，但其对多样训练域的依赖限制了在多个源域不可用场景下的适用性。本综述考察了单域泛化（Single Domain Generalization，SDG）方法，这些方法利用有针对性的归纳偏置，仅使用单个源域来增强域外（out-of-domain，OOD）性能，并探讨了关键问题：这些方法在各种域偏移、不同模型架构（如卷积神经网络（CNN）和视觉变换器（Vision Transformer））下的有效性，以及形状偏置（shape bias）对OOD泛化的影响。这些问题至关重要，因为它们直接指导着能在现实条件下可靠运行的鲁棒模型的开发，引导研究社区克服当前技术的局限性。研究人员的发现表明，尽管SDG方法在高度域可区分的风格化偏移下提升了性能，但在较大数据集上对背景、相关性和损坏偏移的鲁棒性有限，且增加形状偏置并不能一致地带来OOD性能的提升，这凸显了进一步研究以开发更具韧性和泛化能力的模型的必要性。为确保可重复性，本研究基准中使用的实现与代码已发布在研究人员官方GitHub仓库（https://github.com/Kavindya98/SDG-Benchmark）上。
论文解读文章
**研究背景与问题**
深度学习在计算机视觉任务中取得了巨大成功，但域偏移（domain shift）——训练与测试数据分布不一致——持续导致模型性能下降。传统的域泛化（Domain Generalization，DG）方法通过多源域学习不变表征，但实际场景中常缺乏多源域数据。单域泛化（Single Domain Generalization，SDG）仅利用单个源域，通过引入归纳偏置提升域外（out-of-domain，OOD）泛化能力。然而，现有SDG研究缺乏系统性综述和全面基准，尤其缺乏对大规模数据集、不同架构（如卷积神经网络（CNN）与视觉变换器（Vision Transformer））以及形状偏置（shape bias）作用的深入分析。为此，研究人员开展了这项研究，旨在填补这些空白，为SDG领域提供结构化指导。论文发表在《INTERNATIONAL JOURNAL OF COMPUTER VISION》。
**主要关键技术方法**
研究人员采用了多种SDG方法，主要分为五大类：1）通过数据增强提升域多样性，包括域随机化（如随机卷积层RandConv）和对抗扰动（如ADA、ABA）；2）改进特征多样性，例如使用Dropout或最小超球面能量正则化；3）通过特征对齐学习不变表征，如基于KL散度的一致性正则化；4）减少表面特征影响，例如通过风格随机化或对抗分类器降低风格偏置；5）增强模型架构稳定性，如学习元特征或使用归一化交叉相关算子。样本队列方面，源域为ImageNet-1K（大规模）和PACS-Photo（小规模），目标域涵盖ImageNet-C（损坏偏移）、ImageNet-9（背景偏移）、ImageNet-V2（相关性偏移）、ImageNet-R（风格偏移）、ImageNet-Sketch（风格偏移）、Cue-Conflict Stimuli（风格偏移）及PACS（风格偏移）。
**研究结果**
**5.1 零样本OOD泛化：视觉变换器与ResNet的比较**
通过比较不同架构在零样本设置下的OOD准确率，发现视觉变换器（ViT）模型普遍优于ResNet，且性能随模型容量增加而提升。例如，T2T-14架构因渐进式令牌化机制，在捕获局部结构方面优于同等规模的DeiT-Small。
**5.2 从CNN到视觉变换器：利用SDG提升OOD泛化**
在PACS数据集上，针对ViT设计的SDG方法平均提升12.6%，而源于CNN的方法（如RandConv、ABA、ALT）在ViT上提升更显著（最高51.8%）。在ImageNet衍生数据集上，SDG方法在风格化偏移（如Cue-Conflict、ImageNet-R、ImageNet-Sketch）上持续提升OOD性能，但在损坏、背景和相关性偏移数据集上性能反而下降。进一步分析表明，域可区分性（Fisher判别比）与SDG方法带来的OOD性能提升呈显著正相关（Pearson相关系数>0.65，p<0.05），即高域可区分性的风格化偏移更易受益，而低可区分性的细粒度偏移则效果有限。
**5.3 形状偏置是否带来更好的OOD泛化？**
测量各模型训练前后的形状偏置，发现RandConv显著提升形状偏置，但并未在所有数据集上一致提升OOD性能。例如，在风格化偏移上，形状偏置提升较小的ABA反而优于RandConv。这表明形状偏置并非提升OOD泛化的万能策略，其作用依赖于偏移类型。
**总结讨论与结论**
研究人员总结指出：视觉变换器架构在OOD场景下整体优于CNN，且性能随模型容量扩大；现有SDG方法在风格化、高域可区分性的偏移中表现显著，但在损坏、背景和相关性偏移中效果有限，亟需开发针对细粒度域变化的新策略；源于CNN的SDG方法（如RandConv、ABA、ALT）可有效迁移至视觉变换器；形状偏置与OOD泛化之间不存在一致的正相关关系。研究结论（翻译自原文第6节）如下：本工作对图像分类中的SDG方法进行了全面综述与实证分析，填补了当前研究的关键空白。研究人员基于归纳偏置类型提出了新的分类法，并进行了涵盖多种数据集和架构的广泛评估。主要发现包括：视觉变换器在OOD场景中优于CNN，且性能随容量提升；SDG方法在风格化、高域可区分性偏移中显著提升OOD性能，但在ImageNet-C、ImageNet-9和ImageNet-V2等低域可区分性数据集中未观察到提升；CNN设计的SDG方法（如RandConv、ABA、ALT）在处理风格化偏移时对视觉变换器更有效；形状偏置与OOD泛化之间的关联在不同偏移类型下不一致。此外，研究人员鼓励社区采用本研究提出的基准进行对象分类评估，并开发更具现实性的OOD数据集，同时将SDG研究扩展至其他任务（如重识别、活动识别、姿态估计）。
