超越特征映射:利用Mamba实现的双异构知识蒸馏技术用于工业异常检测

《Expert Systems with Applications》:Beyond Feature Mapping: Dual-Heterogeneous Knowledge Distillation with Mamba for Industrial Anomaly Detection

【字体: 大 中 小 】 时间:2026年01月09日 来源:Expert Systems with Applications 7.5

编辑推荐:

  无监督异常检测在工业制造中至关重要,但现有知识蒸馏框架存在特征映射问题和难以同时建模局部细节与长程依赖。本文提出双异构知识蒸馏网络(DHKD),结合空间通道混合调制(SCMM)增强局部细节交互,以及Hybrid Self-Task Mamba模块(HSTM)捕捉长程语义依赖,通过双解码器设计缓解特征映射冲突,显著提升结构异常与逻辑异常的检测精度。在MVTec LOCO、VisA、BTAD三个基准上验证优于SOTA方法。

  
Muhao Xu|Zihan Nie|Baochen Fu|Zhuangzhuang Chen|Zijian Li|Hua Wei|Yi Wan|Weiye Song
机械工程系,教育部高效与清洁机械制造重点实验室,山东大学,济南,250061,中国

摘要

在工业制造中,无监督异常检测对于保证产品质量和可靠性至关重要。然而,现有的知识蒸馏框架仍然受到特征映射问题的限制,以及在建模细粒度局部细节方面的能力不足。这些限制阻碍了对结构异常和逻辑异常的稳健检测。为了克服这些挑战,我们提出了“Beyond Feature Mapping”框架,该框架采用了一种基于Mamba序列建模的双异构知识蒸馏网络。该框架包括一个教师编码器和一个学生网络,学生网络由两个异构解码器组成:一个带有空间通道混合调制(Spatial Channel Mixer Modulation)的卷积分支,用于增强局部细节的交互;另一个基于Mamba的分支,配备了混合自任务Mamba模块(Hybrid Self-Task Mamba Module),用于建模长距离依赖关系。这种双解码器设计不仅解决了特征映射问题,还实现了对结构和逻辑异常的稳健检测。在三个公开基准测试(MVTec LOCO、VisA和BTAD)上的广泛实验表明,DHKD在检测准确性和定位稳健性方面均优于最新的现有技术。我们的代码可在以下链接获取:https://github.com/Gilbert-Et/DHKD

引言

无监督异常检测(Unsupervised Anomaly Detection, UAD)在工业制造中起着关键作用,确保产品质量和生产效率至关重要(Hilal, Gadsden, & Yawney (2022); Liu et al. (2023a); Ma, Li, & Wong (2025); Zhou, He, Liu, Chen, & Chen (2022))。与监督学习方法不同,UAD不依赖于缺陷标注,而是利用正常数据来建模标准模式的分布。在推理过程中,偏离这种学习到的分布的情况被视为异常(Salehi, Sadjadi, Baselizadeh, Rohban, & Rabiee (2021))。这一特性使得UAD特别适合工业环境,因为在这些环境中收集大规模的缺陷标签成本高昂、耗时且对于罕见或新型缺陷来说往往不可行。
无监督异常检测方法主要分为三类:基于重建的方法(Schlegl, Seeb?ck, Waldstein, Langs, & Schmidt-Erfurth (2019); Yan, Zhang, Xu, Hu, & Heng (2021))、基于表示的方法(Guo, Zheng, & Huang (2019); Reiss, Cohen, Bergman, & Hoshen (2021); Wu, Zhu, Shi, Wang, & Wu (2023)以及基于知识蒸馏的方法(Deng & Li (2022); Guo et al. (2023))。基于重建的无监督异常检测方法训练生成模型,如自动编码器(AE)(An & Cho (2015)或变分自动编码器(VAE)(Bergmann, L?we, Fauser, Sattlegger, & Steger (2018)),以学习正常样本的特征分布。在训练阶段,模型学习将正常样本编码为低维表示,并从这些表示中重建正常样本。在测试阶段,当异常样本输入模型时,其特征与正常样本的显著差异导致模型无法有效重建,从而产生较高的重建误差。模型通过评估输入图像与重建图像之间的差异来识别异常区域。虽然这些方法在一定程度上能够有效检测结构异常,但在面对逻辑异常或复杂背景时性能往往会下降。不同类型的异常如图1所示。基于表示的方法(Wu, Chen, Fuh, & Liu (2021))通常使用预训练的网络提取图像的高维特征表示,并在正常样本上训练表示模型以学习其特征分布。在测试阶段,模型通过比较输入的特征表示与训练中的正常样本的特征表示来识别异常样本,从而检测特征空间中的偏差。这些方法在处理各种类型的异常时具有优势,尤其是当异常涉及复杂的语义或结构时,能够更准确地检测异常区域。然而,在同时存在逻辑异常和结构异常的复杂环境中,异常样本与正常样本之间的特征差异可能很小,导致检测准确性下降。
近年来,基于知识蒸馏的方法(Wu, Li, Tian, Wen, & Li (2024) 成为无监督异常检测(UAD)中最有效的范式之一。与基于重建和表示的方法相比,知识蒸馏(Deng & Li (2022) 采用教师-学生框架,其中教师网络在正常数据上预训练,提供丰富可靠的特征表示,而学生网络学习近似这些表示。在推理过程中,教师特征与学生特征之间的差异自然突出了异常区域。最近的研究进一步探索了反向知识蒸馏(Reverse Knowledge Distillation, RKD)框架,其中紧凑的学生模型通过编码器-解码器残差架构引导教师网络的形成(Lei et al. (2024))。这种设计消除了对显式缺陷标注的需求,确保了训练的稳定性,并在多个工业基准测试中取得了最先进的结果,使知识蒸馏成为UAD的主流解决方案。尽管现有的知识蒸馏方法取得了成功,但仍存在两个关键挑战需要解决。首先,由于学生网络经常不仅学习复制常规模式,还学习复制异常模式,因此出现了明显的特征映射问题,导致正常区域和异常区域之间的区分度降低。其次,尽管在教师和学生网络之间引入异构性可以在一定程度上缓解这一限制,但大多数现有的学生网络设计依赖于单一的异构解码器,而这种解码器本质上无法同时捕捉细粒度的局部细节和长距离的语义依赖关系。因此,学生网络倾向于优先考虑训练数据中的主导表示模式,而忽略较弱的表现模式,导致在局部空间或全局空间中抑制了与异常相关的残差。这种限制不利于结构和逻辑异常的稳健检测,因为这两种异常需要不同的、互补的表现能力。
为了克服这些挑战,我们提出了一个基于Mamba的双异构知识蒸馏网络(Dual-Heterogeneous Knowledge Distillation Network, DHKD),用于工业异常检测,如图2所示。该框架通过在教师和学生网络之间以及学生网络内部引入异构性,扩展了传统的教师-学生范式。教师网络是一个仅在正常样本上训练的固定编码器,提供了无缺陷表示的稳定参考。相比之下,学生网络包括一个共享编码器,后接两个具有根本不同归纳偏置和表示能力的异构解码器。这种结构异构性防止学生网络在所有表示子空间中与教师网络完全对齐,从而保留了正常模式和异常模式之间的细微残差差异,提高了异常的可区分性。第一个解码器是一个增强了空间通道混合调制(SCMM)的卷积分支,该调制能够进行非局部空间通道混合,从而增强对细粒度细节的重建和对结构异常的敏感性。第二个解码器采用混合自任务Mamba模块(HSTM)进行序列建模。HSTM基于最近引入的Mamba架构,以线性时间复杂度高效捕获长距离依赖关系,并通过自任务机制在特征图中强制实现语义一致性。这使得模型能够检测出仅凭局部外观线索无法推断出的逻辑异常,如缺失或互换的组件。通过结合使用SCMM进行高保真局部重建和HSTM进行全局语义一致性,这种双异构学生架构在多个表示层次上保留了互补的残差,而不是简化为单一的主导特征模式。因此,DHKD能够在多种异常类型中稳健地区分正常区域和异常区域。在三个广泛使用的工业基准测试(MVTec LOCO、VisA和BTAD)上的广泛实验表明,DHKD在异常检测和定位方面始终优于最新的UAD方法。
我们的贡献可以总结如下:
  • •
    我们提出了一种基于双异构知识蒸馏网络的图像异常检测模型,有效解决了特征映射问题,并提高了模型的异常检测性能。
  • •
    引入了混合自任务Mamba模块(HSTM),有效捕获远程空间依赖关系,提高了模型在全球异常检测中的准确性和稳健性。
  • •
    开发了空间通道混合调制(SCMM),以实现非局部特征交互,提高了模型在局部异常检测中的敏感性和精确度。
  • 部分内容摘录

    基于特征表示的方法

    基于特征表示的方法通过从预训练网络中提取图像的表示(即特征向量或补丁),并根据测试图像表示与正常案例表示之间的距离来检测异常,显示出显著的有效性(Reiss et al. (2021) 提出了一种利用预训练网络提取特征表示并建模其分布的方法)。

    提出的方法

    为了解决复杂场景中的异常检测挑战,我们提出了一个双异构知识蒸馏网络,如图3所示。
    在训练阶段,教师网络FT(·)监督学生网络组件的学习过程,包括编码器FS(·)、特征压缩通道混合器M(·)、逻辑解码器分支Gnet(·)和结构解码器分支Lnet(·),从正常图像x中提取特征。

    数据集和实验设置

    MVTec LOCO AD数据集 由德国MVTec公司开发,专为无监督异常检测而设计。它是评估先进异常检测技术的综合基准测试集,被广泛认为是该领域最具挑战性的数据集之一,使用直接来自制造过程的数据复制了实际的工业检测场景,包括划痕、凹陷等结构不规则性。

    结论

    本研究提出了一种基于Mamba的双异构知识蒸馏网络,用于工业异常检测,有效捕获了局部和全局异常。通过利用结构和参数的异构性,该框架减轻了各分支之间的特征映射冲突。混合自任务Mamba模块结合多尺度特征生成单元,进一步增强了全局和局部异常的检测能力。在三个工业数据集上的广泛实验表明...

    CRediT作者贡献声明

    Muhao Xu:概念化、方法论、软件开发、初稿撰写。Zihan Nie:撰写、审稿与编辑、数据管理、可视化。Baochen Fu:撰写、审稿与编辑。Zhuangzhuang Chen:撰写、审稿与编辑。Zijian Li:撰写、审稿与编辑。Hua Wei:撰写、审稿与编辑。Yi Wan:撰写、审稿与编辑。Weiye Song:撰写、审稿与编辑、项目管理、资金筹集。

    利益冲突声明

    作者声明他们没有已知的财务利益或个人关系可能影响本文报告的工作。
    相关新闻
    生物通微信公众号
    微信
    新浪微博
    • 搜索
    • 国际
    • 国内
    • 人物
    • 产业
    • 热点
    • 科普

    热点排行

      今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

      版权所有 生物通

      Copyright© eBiotrade.com, All Rights Reserved

      联系信箱:

      粤ICP备09063491号