《Knowledge-Based Systems》:Decoupled Dual-Prior Modulation for Universal Cross-Domain Anomaly Detection
编辑推荐:
摘要跨域异常检测的普适性受到源域与目标域之间分布差异的阻碍。现有的统一架构在同时优化图像级分类和像素级分割时往往面临任务干扰问题,使得抽象全局语义与细粒度局部纹理之间的平衡变得复杂。为应对这一挑战,本文提出了一种名为解耦双先验调制网络的两阶段架构。通过将分类与分割的优化解耦,
摘要
跨域异常检测的普适性受到源域与目标域之间分布差异的阻碍。现有的统一架构在同时优化图像级分类和像素级分割时往往面临任务干扰问题,使得抽象全局语义与细粒度局部纹理之间的平衡变得复杂。为应对这一挑战,本文提出了一种名为解耦双先验调制网络的两阶段架构。通过将分类与分割的优化解耦,所提出的方法缓解了上述干扰。在第一阶段,网络通过级联交叉注意力机制融合全局与局部异常线索。这些融合后的先验被转化为条件权重,通过先验引导特征线性调制机制在第二阶段动态调制密集特征预测。此外,为防止密集预测任务固有的空间分辨率损失,引入了解耦双路径视觉编码器,在网络的深层中独立提取基于自注意力的全局特征和基于值的局部高分辨率特征。在工程应用方面,这一架构创新缓解了图像级分类与像素级定位之间的性能权衡,便于实际部署。大量实验表明,所提出的方法在涵盖工业缺陷检测和医学病灶识别的多种现实基准上均具有良好的泛化能力。本文涉及的代码已公开发布于
https://anonymous.4open.science /r/202606。
引言
异常检测旨在识别偏离正常数据流形的异常样本或像素区域,在工业缺陷检测和医学病灶诊断等领域具有重要的实用价值[31]。传统异常检测范式主要依赖特定领域的假设,模型只能在与训练集共享相同分布的测试集上运行。然而,现实中的异常模式具有不可预测性和长尾特性,这促使近期研究转向普适性跨域异常检测[15]。这一具有挑战性的任务设置要求模型在特定源域中使用完全标注的数据(包括正常样本、异常样本和像素级掩码)进行联合监督训练,以实现到具有显著分布差异的目标域的零样本泛化[29]。近期,视觉基础模型强大的特征表示能力为克服域分布偏移和构建普适性异常检测模型提供了新的机遇[26]。
尽管基于基础模型的普适异常检测方法取得了显著进展,但现有大多数研究在架构设计上遵循单阶段统一优化范式。这些方法在单一模型结构中同时执行图像级异常分类和像素级异常分割。然而,分析表明,这种深度耦合的架构在跨域场景中面临严重的任务干扰[13]。在单阶段内尝试特征解耦的现有方法往往难以达到最优性能。具体而言,图像级检测本质上是一种依赖全局视角和高阶语义的抽象任务,而像素级定位则依赖细粒度的局部纹理和高分辨率空间细节。在单阶段网络中强制同时对齐这些粒度不同的特征,往往导致相互间的性能权衡。追求全局语义通常会平滑掉微小异常的空间细节,而过度拟合局部纹理则会削弱模型的跨域泛化能力。此外,将主要面向图像级任务的视觉基础模型直接应用于密集预测,往往会导致特征分辨率退化,这进一步加剧了兼顾两项任务的困境。
为克服上述挑战,本文提出了一种两阶段架构——解耦双先验调制网络,以缓解图像级与像素级异常检测之间的任务干扰。其核心动机是在架构层面将高阶语义分类与低阶密集预测解耦,通过先验引导实现两项任务的协同优化。具体而言,在第一阶段,所提出的方法利用参数冻结的CLIP和DINO作为互补的双先验知识源。通过级联交叉注意力机制,模型自适应地提取并融合CLIP的全局语义异常线索与DINO的局部细粒度异常特征。此外,为防止解耦任务之间的信息隔离,引入了一种改进的先验引导特征线性调制作为信息交互的桥梁。第一阶段精炼的异常先验被转化为条件仿射变换参数,动态调制第二阶段中的局部块特征。这使得低阶密集特征提取能够从高阶全局视角获得明确的引导。此外,为应对密集预测中的分辨率退化问题,我们在第二阶段提出了解耦双路径视觉编码器。该模块在网络深层分离特征计算路径,利用标准自注意力聚合全局表示,并仅依赖值向量投影来提取局部特征。从而在保持模型全局感知能力的同时,保留了高分辨率空间细节。
本文的主要贡献总结如下:
(1). 针对跨域泛化场景,所提出的架构在网络架构层面解耦了图像级异常分类与像素级异常定位。该范式缓解了现有单阶段统一模型在平衡高阶抽象语义与细粒度局部纹理时固有的任务干扰瓶颈,为跨域异常检测提供了有效的架构框架。
(2). 超越了传统全局条件注入的局限性,所提出的调制机制将第一阶段提取的全局异常先验与第二阶段的高分辨率局部块特征进行空间对齐。通过动态生成空间和通道感知的仿射参数进行缩放和平移,在不牺牲空间细节的前提下,利用跨域全局语义对低阶特征实现细粒度引导。
(3). 利用冻结的双视觉基础模型提取兼具全局上下文和局部结构的先验,所提出的方法在多个具有显著域偏移的基准数据集上进行了广泛评估,涵盖工业缺陷和医学病灶。在严格的零样本设置下,该架构在多种基准上取得了强劲的整体性能,在多个数据集上实现了领先的像素级定位精度,同时保持了与近期框架相当的高度竞争力图像级分类性能。
章节摘录
异常检测方法
传统的无监督异常检测范式假设模型仅在正常样本上训练,并在推理时将偏离正常数据流形的样本或像素识别为异常。随着深度生成模型和自监督表示学习的发展,该领域的研究分为两大主要方向:基于重建的方法和基于自监督特征嵌入的方法。
在基于重建的方法中,
问题定义
本文研究零样本跨域异常检测任务。与仅依赖正常样本的传统无监督范式不同,本研究探索如何在具有完整标注的源域上进行特征学习,以实现对未知目标域泛化的零样本推理能力。
具体而言,源域数据集为。其中,表示输入图像,高度为,宽度为,通道数为。
数据集、实验环境和参数
为确保可重复性和公平比较,下文详细说明了数据集和关键实验配置。选择了广泛认可的工业和医学图像数据集。工业数据集包括MVTec [1]、VisA [34]和BTAD [33],医学数据集包括CVC-ColonDB [27]、CVC-ClinicDB [2]、BrainMRI [4]和Br35H [9]。值得注意的是,由于BrainMRI和Br35H缺乏像素级掩码,它们仅用于评估图像级检测。
结论
本文解决了普适性跨域异常检测中的一个关键问题:传统单阶段统一架构在同时优化高阶全局语义和细粒度局部纹理时遇到的任务干扰。为应对这一问题,本文提出了DDPM网络。本研究的核心贡献有两方面。首先,该框架实现了阶段性解耦并辅以受控的辅助语义正则化。主要
人工智能工具声明
在准备本文过程中,作者使用了Gemini工具来润色英文。在使用该工具/服务后,我们根据需要进行了审阅和编辑,并对发表文章的内容承担全部责任。
CRediT作者贡献声明
赵陈素: 资金获取、概念化。顾家硕: 方法论、数据整理。李雪峰: 撰写——审阅与编辑、撰写——初稿、监督、方法论。郝文杰: 软件、调查。谢宏林: 可视化、资源。
赵陈素|顾家硕|李雪峰|郝文杰|谢宏林