基于记忆增强与预测辅助的条件变分自编码器用于工业过程无监督故障检测

《Applied Sciences》：Memory-Enhanced and Prediction-Assisted Conditional Variational Autoencoder for Unsupervised Fault Detection in Industrial Processes

　　

自编码器（Autoencoder, AE）因能从正常运行数据中学习非线性表示而被广泛用于工业过程故障检测，但常规AE过度依赖重构误差且易因过泛化（overgeneralization）漏检弱故障，同时对时序演化及工况变化建模不足会降低其对动态故障的敏感性。为此，研究人员提出一种名为MI-CVAE的记忆增强与预测辅助条件变分自编码器（Conditional Variational Autoencoder, CVAE），用于无监督故障检测。该框架以滑动窗口提取的统计特征作为条件信息以描述可变运行状态；记忆模块存储代表性正常原型以约束重构、减少故障样本的过泛化重构；同时引入Informer分支捕捉时序依赖并提供互补的预测残差。重构残差与预测残差经融合构造平方预测误差（Squared Prediction Error, SPE）与平方马氏距离（Squared Mahalanobis Distance, MD2）统计量，控制限由核密度估计（Kernel Density Estimation, KDE）确定。该方法在基准仿真模型No.1（Benchmark Simulation Model No. 1, BSM1）污水处理基准及真实造纸过程数据集上验证，结果表明MI-CVAE优于对比方法，尤在弱故障与动态故障检测上表现突出，且保持较低误报率。

论文解读：Memory-Enhanced and Prediction-Assisted Conditional Variational Autoencoder for Unsupervised Fault Detection in Industrial Processes（发表于《Applied Sciences》）

现代流程工业系统在复杂多变工况下运行，故障若未被及时发现将危及生产稳定与产品质量，因此准确的过程故障检测具有重要意义。传统基于机理的方法难以应对强非线性与时变多变量耦合过程；经典数据驱动方法如主成分分析（Principal Component Analysis, PCA）、偏最小二乘（Partial Least Squares, PLS）等多基于浅层表示或统计假设，对复杂非线性与动态特性刻画有限。深度学习可自动提取层次化特征，其中自编码器（Autoencoder, AE）及变分自编码器（Variational Autoencoder, VAE）因仅需正常数据训练而适用于无监督故障检测。但常规AE存在过泛化问题——即经正常数据训练的AE可能对偏离正常分布的弱故障也能产生较小重构误差，导致漏检；此外工业过程数据具时序依赖与工况波动，单纯基于重构误差的静态建模对弱渐变或动态故障敏感性不足，且未充分描述变工况下的正常模式分布偏移。为克服上述问题，研究人员提出了一种融合条件信息、记忆约束重构与Informer预测分支的MI-CVAE（Memory-enhanced and prediction-assisted Conditional Variational Autoencoder）无监督故障检测框架，并在BSM1污水处理基准与真实造纸过程数据上验证其有效性，证明该方法在提升弱及动态故障检出率的同时维持低误报率。

研究人员采用的主要关键技术方法如下：采用BSM1污水处理仿真平台（含8种过程与传感器故障）及某造纸企业真实四工段生产数据（构造漂移、周期、放大与缩小四类故障）作为样本队列；对原始数据进行标准化并以滑动窗口构造成对输入输出，取窗内各变量均值与标准差拼接为条件向量输入条件变分自编码器（Conditional Variational Autoencoder, CVAE）；在潜变量空间嵌入外部记忆模块（Memory Module）存储K个归一化正常原型向量，以编码所得潜变量均值为查询计算余弦相似度与注意力权重，加权读取后与原潜变量按系数融合再送入解码器；并行引入基于Informer的时间序列预测分支（含ProbSparse自注意力与Distilling机制）以单步预测下一时刻过程状态；联合优化重构损失、预测损失、KL散度及记忆相关约束（pull loss、熵正则、记忆权重衰减），测试阶段融合重构与预测分支的标准化SPE（Squared Prediction Error）及窗口级最大MD²（Squared Mahalanobis Distance），以核密度估计（Kernel Density Estimation, KDE）于99%置信度下确定控制限，超参数经网格搜索与交叉验证选定。

研究结果

2. Dataset Description

案例一采用BSM1仿真平台，选取15个关键过程变量，晴天条件下连续14天、采样间隔15 min共1345个点，构造4种过程故障（微生物活性降低、二沉池沉降性能恶化、硝态氮执行器输出异常增大）与4种传感器故障（溶氧设定点偏移、DO传感器偏置/漂移/完全失效）。案例二采用2024年1—12月某造纸企业流浆箱、网部、压榨及干燥四工段正常运行数据各442样本，人工在第293样本注入漂移/周期/放大/缩小四类故障，模型仅用正常数据训练。两数据集分别用于验证算法在标准基准与真实工业场景的适用性。

5.1. Case 1: BSM1

经网格搜索确定记忆单元数K=20（兼顾表征能力与复杂度），其余超参数依交叉验证选定。在BSM1八类故障测试中，MI-CVAE平均故障检测率（Fault Detection Rate, FDR）基于SPE与MD²分别达97.1%与98.9%，平均误报率（False Alarm Rate, FAR）分别为3.4%与3.8%。相比CVAE、仅加记忆或仅加Informer的消融变体及AE-Transformer、LSTM-GAN等基线，MI-CVAE显著提升对弱故障（如DO传感器偏置Fault 6——CVAE SPE-FDR仅8.2%提升至MI-CVAE 96.3%；溶氧传感器漂移Fault 7——MI-CVAE SPE-FDR 94.4%、MD²-FDR 100.0%）与执行器相关动态故障（Fault 4——CVAE SPE-FDR 36.9%提升至MI-CVAE 89.9%，MD²从45.6%至94.1%）的检出能力，且明显压低FAR，表明记忆模块抑制过泛化、Informer分支补获异常时序演化共同提高了判别力。

5.2. Case 2: Papermaking Process Monitoring Dataset

按6:4划分训练（正常265样本）与测试集（含150故障样本）。MI-CVAE平均FDR于SPE与MD²分别达94.8%与96.1%，较CVAE、CVAE-Memory、CVAE-Informer、AE-Transformer、LSTM-GAN及无条件的MI-VAE均有提升（SPE平均FDR分别高出21.0%、14.0%、6.2%、3.9%、10.0%、3.4%），平均FAR仅0.0%（SPE）与1.1%（MD²）。结果表明在真实造纸多工段耦合动态过程中，条件信息结合记忆约束与Informer预测可同步描述变量偏差与动态关联变化，对循环压力扰动等不易仅凭重构察觉的故障仍具良好检测稳定性。

讨论与结论翻译（Conclusions）

本研究提出一种面向非线性动态工业过程的无监督故障检测框架MI-CVAE，通过将工况条件信息、记忆约束重构及基于Informer的时序预测集成于统一框架，改进了正常工况模式表征并增强了对弱故障与动态故障的检测灵敏度。MI-CVAE在BSM1污水处理基准与真实造纸过程数据集上得到验证：BSM1数据集上MI-CVAE基于SPE与MD²统计量的平均FDR分别为97.1%与98.9%，平均FAR分别为3.4%与3.8%；造纸数据集上平均FDR分别为94.8%与96.1%，平均FAR分别为0.0%与1.1%。结果表明，相较于对比方法MI-CVAE在保持低误报的同时对弱故障与动态故障具有更稳定的检测性能。

论文同时指出局限：真实工业数据集规模受限；未实现在线自适应更新以应对正常分布漂移需离线重训；未显式引入物理机理致可解释性待提升；FDR与FAR以点估计报告，缺乏系统的不确定性分析。未来拟扩充更广工况造纸数据、研究重训练与自适应更新策略、融合物理模型与信号处理特征以提升可解释性，并通过重复实验、置信区间估计与Bootstrap评估量化FDR/FAR不确定性。