《Biomimetics》：Feature Configuration Optimization of PaDiM for Industrial Anomaly Detection: An Experimental Study on Eight MVTec AD Categories
编辑推荐：
工业异常检测（Industrial Anomaly Detection）是机器视觉智能制造业中的关键组成部分，尤其在缺陷样本稀缺且像素级标注成本高昂的情况下尤为重要。PaDiM是一种广泛使用的无监督异常检测方法，它通过建模从预训练卷积神经网络（CNN）中提取的
工业异常检测（Industrial Anomaly Detection）是机器视觉智能制造业中的关键组成部分，尤其在缺陷样本稀缺且像素级标注成本高昂的情况下尤为重要。PaDiM是一种广泛使用的无监督异常检测方法，它通过建模从预训练卷积神经网络（CNN）中提取的块级特征分布来进行检测；其实际性能取决于所选特征层和块嵌入的维度。本研究提出FO-PaDiM，一种建立在PaDiM流程之上的特征配置优化框架，该框架在保持原有统计建模不变的前提下，穷举搜索特征层组合和嵌入维度。与本研究先前探索性版本不同，所有配置选择均在无泄漏开发协议下进行——即对训练正常样本进行确定性80/20划分，并结合多类型合成异常——从而确保MVTec AD测试集仅使用一次，且配置锁定、阈值冻结。在八个MVTec AD类别（bottle、cable、capsule、hazelnut、metal_nut、pill、screw、transistor）上，每类别14种配置（七种非空ResNet-18层组合 × n_features∈{32, 64}），研究发现配置选择具有类别依赖性：六个类别偏好单阶段配置（layer2、layer3或layer1），两个类别偏好多阶段组合，而先前报道的三层组合普遍偏好现象在消除测试集泄漏后未再复现。在四种评估加权方案下，62.5%类别的层组合保持不变，87.5%类别的n_features保持不变。最终锁定测试性能达到平均Image AUROC为0.8676，Image F1为0.8079，Pixel AUROC为0.9644，Pixel F1为0.4582。研究结果表明，多层级特征配置可能具有优势，但其优势具有类别依赖性且幅度较小，同时证实了尽管排序质量优异（Pixel AUROC），阈值依赖的二元定位（Pixel F1）仍存在持续困难。
一、研究背景与问题提出
工业异常检测是机器视觉智能检测系统中的关键技术环节，在现代生产线中，视觉检测不仅要识别缺陷产品，还需对异常区域进行定位以支持下游决策、维护和质量控制。传统监督式缺陷检测方法需要充足的缺陷样本和精确标注，但实际工业缺陷往往稀少、多样且高度不平衡。因此，无监督异常检测方法——主要学习正常样本的分布——成为工业视觉检测的实用解决方案。块级分布建模方法因能检测局部外观偏差而备受关注，PaDiM通过在每个空间位置建模预训练卷积特征的分布，并以马氏距离（Mahalanobis distance）作为异常评分实现检测。然而，PaDiM的性能依赖于卷积层选择和保留特征维度数，固定配置难以适用于所有产品类别，因为不同工业对象在纹理、形状、尺度和缺陷类型上存在显著差异。此外，以往研究常在用于报告结果的同一数据集上调参，存在测试集信息泄漏问题。因此，本研究旨在系统性地探究特征配置优化能否提升PaDiM的适应性，并在严格无泄漏协议下进行。
二、研究内容与主要结论
研究人员提出FO-PaDiM，一种基于PaDiM流程的特征配置优化框架，在不改变原有统计建模和评分函数的前提下，穷举搜索特征层组合与嵌入维度。研究覆盖ResNet-18全部七种非空层组合（layer1、layer2、layer3及其组合）和两种嵌入维度（32、64），共14种配置，在八个MVTec AD类别上进行了112种配置的系统评估。研究引入无泄漏开发协议：将训练正常样本按固定种子（42）确定性划分为80%模型训练子集和20%开发子集，在开发子集上生成四类合成异常（羽化剪切粘贴、局部色彩偏移块、明暗块、局部几何扭曲），每种图像生成三个变体并附带二值掩码。配置选择仅在开发协议上进行，测试集在配置锁定和阈值冻结后仅评估一次。研究还设计了多目标复合评分标准（composite score = w1×Image AUROC + w2×Image F1 + w3×Pixel AUROC + w4×Pixel F1），主方案A权重为(0.25, 0.25, 0.30, 0.20)，并评估了三种额外加权方案以检验权重敏感性。最终锁定配置后，在八个类别上报告最终测试性能。
研究发现配置选择具有明显的类别依赖性：六个类别偏好单阶段配置（metal_nut偏好layer1，hazelnut、pill和screw偏好layer3，bottle和cable偏好layer2），两个类别（capsule和transistor）偏好多阶段组合。值得注意的是，在无泄漏协议下，三层组合layer1+layer2+layer3未在任何类别中被选中，修正了先前探索性研究中普遍偏好三层组合的印象。最终锁定测试性能达到平均Image AUROC为0.8676、Image F1为0.8079、Pixel AUROC为0.9644、Pixel F1为0.4582。与基线方法比较，FO-PaDiM的性能介于原始PaDiM配置与更强的PatchCore和FastFlow之间，提供了诚实的参考基准而非最先进水平声明。
三、主要关键技术方法
本研究采用以下关键技术方法：基于torchvision ResNet-18（ImageNet V1权重）的特征提取，输入为224×224双线性缩放图像；PaDiM的块级高斯分布建模与马氏距离评分；确定性80/20训练/开发划分的无泄漏开发协议；四类合成异常生成器（羽化剪切粘贴、色彩偏移块、明暗块、局部几何扭曲）；随机维度缩减策略（n_features∈{32, 64}，种子由类别和配置ID确定性派生）；多目标复合评分与权重敏感性分析；配置锁定与阈值冻结机制。实验在NVIDIA GeForce RTX 3060（6 GB）GPU上运行，使用MVTec AD数据集的八个类别（bottle、cable、capsule、hazelnut、metal_nut、pill、screw、transistor），所有运行均存储种子和逐运行指标以确保完全可复现。
四、研究结果
5.1 开发配置搜索：所有112种配置（每类别14种，共8类别）均在开发协议上完成评估。类别内候选配置的复合评分差距较小，14种配置的Scheme-A评分通常跨度小于0.06分，最佳配置的身份因类别而异。
5.2 锁定配置：配置选择具有类别依赖性。单阶段配置在六个类别中被选中，多阶段组合在两个类别中被选中。三层组合layer1+layer2+layer3在无泄漏协议下未在任何类别中被选中，修正了先前普遍三层偏好的印象。
5.3 最终测试性能：锁定配置的最终测试性能为平均Image AUROC 0.8676（SD 0.0894）、Image F1 0.8079（SD 0.1072）、Pixel AUROC 0.9644（SD 0.0126）、Pixel F1 0.4582（SD 0.1963）。所有类别的Pixel AUROC均保持较高水平（0.9480至0.9858），确认了异常排序质量的稳定性。bottle的图像级检测表现优异（0.9944），cable（0.8238）和screw（0.6907）相对较弱。这些数值是在锁定配置和冻结阈值下每类别仅获取一次的结果，系统性低于先前探索性协议的值，符合消除测试集选择偏差后的预期。
5.4 与现有方法比较：在相同协议和评估代码下，PaDiM达到平均Image AUROC 0.8829、Image F1 0.8176、Pixel AUROC 0.9676、Pixel F1 0.4047；FastFlow达到Image AUROC 0.9076、Image F1 0.8135、Pixel AUROC 0.9627、Pixel F1 0.3903；PatchCore达到Image AUROC 0.9772、Image F1 0.8805、Pixel AUROC 0.9789、Pixel F1 0.4493。FO-PaDiM仅使用80%训练子集拟合和开发校准阈值，性能介于原始PaDiM与更强基线之间。
5.5 权重敏感性：在四种加权方案下，精确配置在8个类别中4个（50.0%）保持不变，层组合在5个（62.5%）中保持不变，n_features在7个（87.5%）中保持不变。Scheme-A下8个类别中7个选择n_features=64。
5.6 骨干网络泛化（有限验证）：在四个预定义类别（bottle、cable、hazelnut、screw）上以WideResNet-50-2进行有限验证，所有七种层组合在n_features=64下评估，偏好模式仍具类别依赖性，无单一层组合占优。
5.7 定性定位：定性异常定位示例覆盖全部八个类别，展示了输入图像、真实掩码、PaDiM原始配置异常图、FO-PaDiM锁定配置异常图及叠加效果。
五、讨论与结论
讨论部分指出，无泄漏协议改变了先前探索性研究的定性图景：低、中、高层级表示均可发挥作用，但并无证据支持三层组合普遍更优。性能跨类别差异显著，从bottle接近完美的图像级检测到screw和cable的明显困难。Pixel AUROC与Pixel F1的差异源于两者测量性质不同：前者是阈值无关的排序质量，后者是特定阈值下的二元定位质量，受严重类别不平衡和阈值校准影响。FO-PaDiM区别于常规参数调优之处在于：搜索空间穷举且预定义、选择在专用开发协议上进行且不接触测试数据、包含显式多目标标准、权重敏感性分析、配置锁定和单次锁定测试。实际应用建议包括：应在无泄漏协议下按产品类别选择配置而非照搬默认值；n_features=64在8个类别中7个被选中，可作为ResNet-18 PaDiM的合理默认嵌入维度；阈值依赖指标应与阈值无关指标同时报告。研究局限包括：合成异常不能完美复现真实工业缺陷统计、仅评估8个MVTec AD类别、WideResNet-50-2实验仅为有限验证、复合评分权重为实际选择而非最优。
结论部分翻译：本研究提出了FO-PaDiM，一个建立在PaDiM异常检测流程之上的系统性特征配置优化框架，以及严格区分配置选择与测试评估的无泄漏实验协议。在八个MVTec AD类别上对七种特征层组合和两种嵌入维度的穷举开发协议搜索表明，偏好配置具有类别依赖性——六个类别选择单阶段配置，两个类别选择多阶段组合——修正了先前探索性研究中普遍三层偏好的印象。加权方案敏感性适中（62.5%类别层组合不变，87.5%类别n_features不变）。在锁定配置和冻结开发校准阈值下，最终测试性能达到平均Image AUROC 0.8676、Image F1 0.8079、Pixel AUROC 0.9644、Pixel F1 0.4582。结果表明多层级特征表示对PaDiM工业异常检测具有价值，其收益具有类别依赖性，且阈值依赖定位仍是主要实际挑战。未来工作将包括更广泛的类别覆盖、自适应阈值、开发协议的合成到真实迁移，以及面向智能检测设备的部署评估。
