
-
生物通官微
陪你抓住生命科技
跳动的脉搏
基于源域风格信息的风格无关测试时自适应方法(SATA)提升领域泛化性能
【字体: 大 中 小 】 时间:2025年06月25日 来源:Image and Vision Computing 4.2
编辑推荐:
针对测试时自适应(TTA)在领域泛化(DG)中存在的不稳定性和主导类偏差问题,研究人员提出风格无关测试时自适应方法(SATA),通过源域风格统计量筛选可靠样本进行熵最小化,并引入多样性感知一致性损失。实验表明,SATA在VLCS等四个DG基准数据集上显著超越现有方法,最高提升4.1%准确率。
在自动驾驶等现实场景中,深度神经网络常因训练与测试数据分布差异(如光照、天气变化)导致性能骤降。传统领域适应(DA)需预先获取目标域数据,而领域泛化(DG)虽仅利用多源域训练,但现有方法往往难以超越经验风险最小化(ERM)基线。更棘手的是,测试时自适应(TTA)技术虽能动态调整模型,却面临两大挑战:熵最小化过程因噪声样本而失稳,以及模型预测易偏向主导类。
为解决这些问题,Saeed Karimi和Hamdi Dibeklioglu提出SATA方法。该工作创新性地利用源域风格信息构建双重机制:一方面通过风格交换筛选伪标签一致的可靠样本用于熵最小化;另一方面对不可靠样本施加多样性感知一致性损失,迫使模型产生类间均衡的预测。实验采用ERM和CORAL两种DG方法作为基线,在VLCS、PACS等四个标准数据集验证,所有指标均显著提升。
关键技术包含:1)源域风格统计量存储与测试样本风格交换;2)基于风格鲁棒性的可靠样本筛选;3)浅层网络参数更新策略;4)多样性感知一致性损失设计。其中风格交换模块通过替换测试样本的批归一化(BatchNorm)统计量实现,而多样性损失通过最大化预测熵的类间差异来抑制主导类偏差。
可靠样本选择机制
通过将测试样本风格替换为各源域统计量,保留至少75%风格变换下伪标签不变的样本。实验显示该策略使PACS数据集噪声样本比例从38%降至11%,显著提升熵最小化稳定性。
多样性感知一致性
对不可靠样本施加双重约束:相同样本在不同风格注入下预测需一致(一致性),同时预测分布需覆盖多类别(多样性)。消融实验表明该损失使OfficeHome数据集的类平衡精度提升2.3%。
参数更新策略
不同于Tent仅更新BatchNorm参数或SHOT调整整个特征提取器,SATA重点优化浅层网络。可视化显示浅层更擅长捕捉颜色/纹理等风格特征,该策略使TerraIncognita数据集准确率提升1.8%。
基准测试结果
在四大数据集上,SATA使ERM基线平均提升2.5%,最高达4.1%(PACS)。与EATA等TTA方法相比,SATA在极端域偏移场景下优势更显著,如在Art→Photo跨域任务中准确率超出SHOT 5.7%。
该研究突破性地将源域先验信息引入测试时优化,通过风格鲁棒性样本筛选和多样性约束,同步解决了TTA的稳定性与偏差问题。方法论上,首次证明浅层网络参数在风格自适应中的关键作用;应用层面,为自动驾驶等需实时域适应的场景提供可靠解决方案。论文成果发表于《Image and Vision Computing》,为DG-TTA领域树立了新标杆。
生物通微信公众号
知名企业招聘