《Neural Networks》：Reconstruction from a Distilled Encoder with Edge-based Pseudo-Anomaly for Industrial Anomaly Detection
编辑推荐：
Jielin Jiang|Jinkai Sun|Yan Cui|Yingnan Zhao|Xiying Liu摘要工业异常检测是计算机视觉领域中重要的研究课题。尽管相关研究十分广泛，但基于监督学习的异常检测方法由于异常样本的匮乏而长期面临挑战。为克服这一限制，近期研究开始转向基于
Jielin Jiang|Jinkai Sun|Yan Cui|Yingnan Zhao|Xiying Liu
摘要
工业异常检测是计算机视觉领域中重要的研究课题。尽管相关研究十分广泛，但基于监督学习的异常检测方法由于异常样本的匮乏而长期面临挑战。为克服这一限制，近期研究开始转向基于重建的方法，这类方法通常先生成伪异常，再对其進行重建。然而，现有方法生成的伪异常缺乏必要的相似性和定位能力，且重建网络难以在图像保真度与异常区域精准重建之间取得平衡。为解决这些问题，本文提出了一种名为RDEAD的无监督异常检测框架。RDEAD的核心组成部分包括基于边缘的伪异常生成策略（EPA）以及基于知识蒸馏的双编码器重建网络（YNet）。EPA能够准确生成与真实异常在形状上极为相似的伪异常；YNet则通过经过蒸馏处理的编码器为解码器提供异常的差异特征，从而实现异常区域的精准重建。此外，YNet还包含编码器特征融合模块（EFFM），用于有效整合双编码器提取的特征，进一步提升检测性能。在多个常用的工业数据集上的实验结果充分证明了所提RDEAD方法的有效性。
引言
传统的工业异常检测主要依靠人工目视检查，这种方式不仅效率低下，而且难以保证较高的检测精度。受限于这些缺陷，自动化的视觉异常检测技术越来越受到关注。不过早期的自动化检测方法大多采用监督学习框架，这类方法需要大量标注过的异常数据才能进行模型训练。由于工业场景中的异常样本难以获取，且标注成本高昂，给实际应用带来了很大挑战。为有效突破上述瓶颈，相关研究逐渐转向无监督异常检测。
无监督异常检测方法Abdullayev和Ragimova（2025年）、Fan等人（2023年）、Pang和Li（2025年）、Rudolph等人（2022年）、Shang等人（2024年）均依赖正常样本进行训练，这种设计有助于解决异常样本稀缺的问题。CSFlowRudolph等人（2022年）采用流模型来学习正常样本的特征分布，进而检测那些与所学分布存在显著偏差的异常。基于知识蒸馏的方法Deng和Li（2022年）、Wang等人（2021年）则是在教师网络的指导下训练学生网络，使学生网络能够从正常样本中学习特征表示。然而，仅依赖正常样本的方法可能存在泛化问题，具体来说，模型可能无法表征未曾见过的异常特征。
为解决上述问题，近期的研究Li等人（2021年）、Liu等人（2022年）、Miao等人（2024年）、Tien等人（2023年）、Zavrtanik等人（2021a年）提出了伪异常生成策略，这些策略能够帮助模型有效学习异常特征，限定泛化范围，从而提升检测性能。基于重建的方法Liu等人（2022年）、Pang和Li（2025年）、Zavrtanik等人（2021a年）则利用伪异常训练模型，将异常区域恢复为正常状态，它们通过计算重建图像与输入图像之间的差异来识别异常。但由于缺乏真实异常的监督，再加上重建网络本身的局限性，这些方法无法精准重建异常区域，从而导致漏检。另一方面，如果重建网络为了抑制异常特征的泛化而提取过于简化的潜在表示，可能会导致重建图像出现严重的细节丢失，进而引发误检Liu等人，2023年。如图1(b)所示，EdgRecLiu等人（2022年）无法将异常区域重建为正常区域，因此会出现漏检。而如图1(c)所示，虽然DRAEMZavrtanik等人（2021a年）能够将异常区域转换为正常区域，但它难以恢复图像的精细细节，导致重建图像出现明显失真。
为解决基于重建的方法中在保持正常区域保真度与精准重建异常区域之间的平衡问题，本文提出了一种名为RDEAD的无监督异常检测方法，如图2所示。RDEAD引入了基于边缘的伪异常策略（EPA），该策略通过提取目标物体的边缘信息来生成伪异常掩码，确保伪异常能够精准定位在目标物体上，且在形状上与真实异常极为相似。这样一来，伪异常就能有效引导模型识别并重建异常区域。此外，RDEAD还基于知识蒸馏构建了一个名为YNet的双编码器重建网络，YNet通过基于特征的蒸馏训练学生编码器，使其能够提取异常的差异特征，随后学生编码器和教师编码器与解码器结合形成完整的重建网络。RDEAD还设计了编码器特征融合模块（EFFM），用于优化双编码器提取的特征的利用效率。如图1(d)所示，RDEAD在保持正常区域保真度的同时，显著提升了异常区域的重建质量。本文的贡献可总结如下：
(1) 提出了一种新的伪异常生成策略EPA，该策略能够生成定位精准且与真实异常高度相似的伪异常，其实现方式是利用物体的边缘信息，引导网络重建异常区域。
(2) 基于知识蒸馏提出了一种双编码器重建网络YNet，该网络旨在在保持正常区域细节的同时精准重建异常区域，同时EFFM用于融合YNet双编码器提取的特征。
(3) 大量实验验证了RDEAD方法的准确性和鲁棒性，在MVTec AD数据集上，RDEAD取得了优异的性能，图像级的AUROC得分达到了99.4。
章节要点
相关工作
伪异常生成策略：CutPasteLi等人（2021年）是一种简单有效的伪异常生成方法，它随机裁剪矩形图像块并将其放置到随机位置。CutOutDeVries和Taylor（2017年）与CutPasteLi等人（2021年）类似，但会将填充零元素的区域粘贴到随机位置。为提升异常的多样性，Song等人（2021年）在基于CutPasteLi等人的裁剪块上进行了图像增强处理
方法
RDEAD的架构如图2所示。图2(a)展示了EPA利用物体边缘信息生成伪异常的流程；图2(b)则说明了基于知识蒸馏构建蒸馏编码器的过程。EPA使用正常图像o来生成伪异常图像a，预训练的教师编码器t负责输入o，而学生编码器s则输入a，s通过计算多尺度特征图对应的蒸馏损失Lkd来进行训练
实验设置
数据集：本文在三个主流的无监督异常检测数据集上验证了所提出的方法，这些数据集的详细信息将依次在下方介绍。
MVTec AD由Bergmann等人（2019年）构建，仅包含用于训练的正常样本，共有15种不同类别的样本，每种类别下又有多种类型的异常样本用于测试，样本总数超过5,000个。
MVTec 3D由Bergmann等人（2021年）构建，包含10种类别的样本，每类样本都配有3D扫描数据和RGB图像
消融实验
RDEAD由多个组件构成，本节将分析每个组件对整体性能的贡献及影响。
结论与讨论
本文提出了一种无监督异常检测框架RDEAD。RDEAD采用一种新颖的基于边缘的策略来生成伪异常，这类伪异常不仅与真实异常更为相似，还能实现精准定位。此外，RDEAD还整合了基于知识蒸馏的重建网络YNet，该网络能够利用从预训练编码器和蒸馏编码器提取的特征来重建图像。为充分利用这两个编码器的优势，RDEAD
CRediT作者贡献声明
Jielin Jiang：写作——审阅与编辑，写作——初稿。 Jinkai Sun：软件，方法论。 Yan Cui：写作——审阅与编辑，写作——初稿，概念设计。 Yingnan Zhao：写作——审阅与编辑，写作——初稿，可视化。 Xiying Liu：可视化，资源整理，形式化分析，数据整理。
利益冲突声明
作者声明，他们不存在任何可能影响本文研究成果的已知财务利益或个人关系。
