HFSA：基于异构师生网络、频域-空间融合及轴向特征学习的工业异常检测方法

《IEEE Transactions on Consumer Electronics》：HFSA: Heterogeneous Teacher-Student Networks With Frequency-Spatial Fusion and Axial Feature Learning for Industrial Anomaly Detection

异常检测在消费电子制造中至关重要，传统知识蒸馏因高结构相似性导致学生网络无法有效区分异常样本。本文提出HFSA模型，通过预训练教师编码器与FSFD学生解码器构建异构T-S模型，结合CSAB模块抑制冗余信号，增强关键特征提取。FSFD采用MFRM整合低频形状语义与高频纹理细节，LFE强化局部特征，协同实现微尺度纹理缺陷与宏观装配错误的精准定位。实验表明HFSA在四项工业基准测试中均刷新性能纪录，同时保持计算开销平衡，代码已开源。

　　

摘要：

知识蒸馏方法在工业系统中展示了良好的效果。然而，教师-学生（T-S）网络之间的高度结构相似性和一致的数据流可能导致学生网络无意中模仿教师的输出，从而在异常检测时消除激活差异，使学生模型无法区分异常样本和正常样本。此外，现有方法往往难以建立长期依赖关系，这也导致其在检测全局形状异常时的性能较差。为了解决这些问题，我们提出了HFSA，这是一种具有频率-空间融合和轴向特征学习的异构T-S模型。该模型采用预训练的教师编码器和频率-空间域融合的学生解码器（FSFD）。我们还设计了一个跨尺度注意力瓶颈（CSAB）模块来优化知识蒸馏的效率。CSAB作为连接T-S模型的桥梁，抑制冗余信号并增强教师提取的关键信息，然后将处理后的特征传递给FSFD。异构双流解码器FSFD包括多频率响应模块（MFRM）和局部特征增强卷积（LFE）。MFRM通过频域分析将低频形状语义与高频纹理细节相结合，以增强全局形状建模，而LFE则细化局部特征以补充这一过程。通过它们的协作，FSFD能够精确地定位微观尺度的纹理缺陷和宏观尺度的组装错误，满足消费电子制造中的质量控制需求。在四个工业基准测试上的全面实验表明，HFSA为复杂异常检测树立了新的性能标杆。更重要的是，它在保持平衡的计算开销的同时实现了这种卓越的性能，使其成为一种实用的部署方案。我们的代码可在以下链接获取：https://git...

显示更多

引言

准确检测表面损坏、变形和组装错误等异常在现代消费电子制造中起着至关重要的作用。这有助于防止有缺陷的产品流入市场，确保质量的一致性，并保持竞争优势。最近，由深度学习技术推动的工业异常检测领域的进展彻底改变了质量保证流程，成为稳定生产和高质量输出的重要保障[1]、[2]。随着对自动化表面缺陷检测需求的指数级增长，基于深度学习的方法不仅显著提高了检测效率，减少了人工依赖，还通过提升产品质量和生产线稳定性推动了整个行业的升级[3]、[4]。然而，在消费电子制造场景中，数据分布的特点通常是正常样本占主导地位，而异常样本较为罕见甚至不存在[5]、[6]、[7]。这就需要采用无监督或半监督学习框架。在主流的无监督方法中，基于重建的方法通过数据重建错误来检测异常，而基于知识蒸馏的方法则利用教师网络和学生网络（T-S网络）之间的特征差异来进行异常定位。尽管这两种技术范式都能有效解决消费电子装配线中的数据不平衡问题，但由于后者在效率和准确性方面的独特平衡，后者逐渐成为研究的重点。