面向传感器退化下SNH,e联合插补与多时间尺度预测的故障感知双头Transformer

《Results in Engineering》：Fault-aware dual-head Transformer for joint ammonium imputation and multi-horizon forecasting under sensor degradation

　　

面向传感器退化下S_NH,e（出水氨氮，effluent ammonium）的联合插补与多时间尺度预测，研究人员提出一种故障感知双头Transformer；单一模型可重建故障氨氮数据并预测废水质量；故障感知特征提升传感器退化条件下的稳健监测；在氨氮传感器长时间中断期间预测保持稳定；随着预测时程延长，特征重要性由输入状态转向偏差；突变偏移成分揭示故障补偿的共同极限。

研究背景与问题：在线监测出水氨氮（S_NH,e，effluent ammonium）是废水处理厂（WWTPs，wastewater treatment plants）稳定、节能与合规运行的前提。活性污泥系统中生物脱氮与溶解氧（DO，dissolved oxygen）、进水负荷和微生物活性耦合，S_NH,e是S_NH,e曝气控制的主要反馈变量；曝气通常是最大能耗项，测量偏差会传递为欠曝气合规风险或过曝气能耗浪费。在线S_NH,e传感器可靠性低，离子选择性电极（ISE，ion-selective electrode）受生物污堵、膜老化、校准漂移、再校准基线偏移及通信/硬件故障影响，形成缓慢漂移、突加偏移和长时间信号缺失。传统线性/三次样条插值、人工再校准和规则滤波难以处理结构化故障；插补与预测常被当作独立任务，预测模型在污染信号上训练会学到有偏动态。因此，有必要在传感器退化下联合重建故障S_NH,e并进行多时间尺度预测。Daniel Voipan与Marian Barbu在Benchmark Simulation Model No.2（BSM2，基准仿真模型2号）上开展仿真研究，将慢漂移、快漂移、渐变偏移斜坡和多日缺失块注入清洁模拟S_NH,e信号，并以清洁模拟信号作为真值，不使用真实污水厂数据。研究人员提出Transformer编码器/GRU解码器双头框架，共享编码器并设置门控与残差校正通路，将缺失性、间隙时长、间隙衰减输入状态、滚动统计和局部z-score等故障感知描述符直接作为输入。结论显示：在五种子留出测试中，插补R²=0.996±0.001、预测R²=0.884±0.012，预测MAE=0.0579±0.0036 mg·L^?1；相对LSTM/GRU预测MAE降低17.8%/48.3%，插补MAE降低20.4%/46.2%；消融表明故障感知特征贡献最大。其意义在于为退化传感条件下的可解释监测提供统一框架，但结论限定于BSM2仿真基准。

关键技术方法（不超过250字）：在BSM2 609天动态进水数据上，开发段为14–486天、留出测试段为487–608天；采用L=40（约10 h）输入窗和H=16（约4 h）预测窗；对原始S_NH,e按固定计划注入慢漂移、快漂移、渐变偏移斜坡和缺失块；构建11维输入，即4个原始过程通道加7个工程描述符（is_nan、was_nan、gap长度、gap衰减输入状态、局部z-score、滚动均值、一阶差分）；采用Transformer编码器与GRU解码器双头，含门控和残差校正，联合损失权重λ=10；与LSTM、GRU、SAITS、TimesNet、Kalman滤波及线性/三次样条插值在相同数据与评估协议下比较，使用5种子、配对t检验和SHAP（SHapley Additive exPlanations，沙普利加性解释）归因。

研究结果：
3.1 总体预测性能：3.1.1插补精度——留出测试集五种子得插补MAE=0.0121±0.0021 mg·L^?1、R²=0.9960±0.0013，说明全窗口重建保真；3.1.2多时间尺度预测精度——4 h预测MAE=0.0579±0.0036 mg·L^?1、R²=0.8836±0.0118，h=1时R²=0.982±0.007；3.1.3基线比较——相同协议下两任务指标均最优，相对LSTM/GRU插补MAE降20.4%/46.2%、预测MAE降17.8%/48.3%，SAITS重建误差约为所提6.4倍，TimesNet预测MAE高于所提约7%。
3.2 分故障稳健性分析：3.2.1慢漂移——分故障统计显示重建R²=0.999，预测MAE=0.0665±0.0110 mg·L^?1，较LSTM降37.2%且p<0.001；3.2.2快漂移——重建R²=0.438、MAE=0.0891 mg·L^?1，预测MAE=0.0462±0.0200 mg·L^?1，较LSTM降52.3%且p=0.012，体现检测速度权衡；3.2.3偏移故障——渐变偏移斜坡最易补偿，预测MAE=0.0176±0.0020 mg·L^?1、R²=0.976，与LSTM差异p=0.122未解决；3.2.4缺失数据块——预测MAE=0.0587±0.0050 mg·L^?1、R²=0.368，而LSTM为?0.275、GRU为?1.141，MAE对比p=0.068未解决，绝对误差有界；3.2.5小结——故障难度随任务和指标变化，快漂移最难重建，缺失块最难解释方差，慢漂移预测MAE最大，渐变偏移最易补偿，所有场景预测MAE≤0.067 mg·L^?1。
3.3 长时程预测稳定性：3.3.1逐步误差累积——分步统计显示R²从h=1的0.982±0.007渐降至h=16的0.773±0.029，horizon均值0.884±0.012，误差渐进；3.3.2分故障时程稳定性——原文未报告全故障×时程分解，结论限于总体分步结果；3.3.3与循环基线比较——平均horizon R²为所提0.884±0.012、LSTM 0.825±0.019、GRU 0.708±0.018，所提最高，但头设计和损失权重不同，未隔离注意力效应。
3.4 消融研究：在相同超参、划分、预处理和种子下五种子消融；3.4.1去除工程故障感知特征——预测MAE升28.1%（0.0613→0.0785 mg·L^?1，p=0.046未校正），为最大单因素；3.4.2去除门控——预测MAE变?12.4%（p=0.126），未解决；3.4.3无联合插补训练（仅预测）——预测MAE变?1.7%（p=0.874），未解决，但失去插补输出；3.4.4去除残差校正——预测MAE升10.1%（p=0.592），未解决；3.4.5原始Transformer——预测R²=0.771、MAE=0.0882 mg·L^?1，较全模型升44.1%（p=0.014），说明仅靠所测注意力架构不足，Holm校正后消融比较均不显著。
3.5 基于SHAP的特征归因分析：3.5.1归因方法——用Gradient Explainer，256背景窗、512测试窗，归因末端重建步、h=1和均值horizon；3.5.2插补任务——γ贡献44.2%、z-score 30.9%、缺失性合计17.5%，说明重建结合输入状态、可用性和局部偏差；3.5.3短时程预测——h=1时γ=32.2%、z=38.1%、缺失性=19.8%，较均衡；3.5.4长时程预测——均值horizon z-score升至49.2%、γ降至25.3%、缺失性15.7%，重要性转向局部基线偏差；3.5.5类别归因小结——类别贡献从输入状态主导转向偏差主导，但百分比仅在7个工程描述符内归一化；3.5.6归因稳健性——置换重要性亦将z-score排第一（58.3%），缺失性组内因共线性不单独解释；3.5.7实例级局部归因——快漂移实例z-score占63%，缺失块实例缺失性组约11倍基线、辅助变量约8倍，说明模型输入使用可被操作员理解。
3.6 故障严重度敏感性与训练包络外泛化：3.6.1漂移斜率——斜率缩放0.5/1/2时预测R²=0.966/0.965/0.950，超过约2倍训练斜率后误差陡增；3.6.2突变偏移成分——在渐变偏移斜坡上叠加δ≥0.25 mg·L^?1时所有方法R²为负，暴露共同可识别性极限；3.6.3中断时长——缺失块延长至1–7天，所有方法误差有界增长，三种子差异小，未排序；3.6.4共发故障——漂移跨缺失块的描述性比较中，所提平均预测MAE=0.216、LSTM=0.245 mg·L^?1，但均远高于单故障且未做显著性。
3.7 泛化与泄漏控制检查：通过开发段拟合变换、段内重算滚动/滞后/可用性描述符、z-score仅用尾窗、第一差分和gap归一化段内处理等检查，说明报告为回顾性批处理结果而非严格流式在线精度。

讨论总结：讨论部分回答三个假设：H1得到描述性支持，去除故障感知特征使预测误差升28.1%、去除全部辅助组件升44.1%，但Holm校正后不显著，支持主要依赖效应量和种子方向一致性；H2在λ=10下未被反驳，双任务与仅预测差1.7%且未解决，联合训练的价值主要是双任务能力而非已证实的预测正则化；H3部分支持，漂移严重度约2倍训练范围及缺失块至7天可优雅退化，但渐变偏移叠加突变步时所有方法失败，属共同可识别性极限。相对既有工作，贡献定位为领域驱动的故障感知输入表示，而非新注意力机制或单任务更优模型。工程上，结果支持其作为退化传感下软测量与预警的潜力，但不量化出水质量、能耗收益，也未闭环验证；集成需将重构/预测值标注为模型输出，仅作咨询，不能替代合规测量，需数据质量标志、OPC UA接口和IEC 62443分区安全。局限包括仅BSM2仿真、无真实厂真值、无不确定性估计、批处理级归一化、辅助通道无故障、未闭环、混合故障覆盖窄、五种子统计功效有限。未来优先真实厂验证与不确定性量化，其次闭环评估、多变量退化、跨设施迁移及自适应多任务权重和超参敏感性。

研究结论（翻译）：本研究提出一种故障感知双头Transformer，在结构化传感器退化下联合重建和预测S_NH,e。其核心前提是传感器故障为结构化、可建模现象而非随机噪声，并通过将缺失性、时间不确定性、统计偏差和衰减输入状态表示直接编码为模型输入实现。在BSM2基准上，在注入漂移、偏移和信号丢失故障下，该框架在五个随机种子上实现插补R²=0.996±0.001和4小时预测R²=0.884±0.012，GPU延迟亚毫秒，相对循环基线预测误差降低17.8–48.3%，对两种漂移机制显著，并在相同数据和评估协议下匹配或超过学习插补模型和现代深度时间序列预测器。分故障重建范围从慢漂移R²=0.999到快漂移0.44，并在多日中断期间保持正预测R²，而LSTM和GRU基线没有，尽管相应MAE差异统计未解决。更广泛结论是，在该基准内，传感器故障下的稳健性更多取决于退化如何被表示，而非所考察的架构组件；显式、领域驱动的故障编码在消融中贡献大于任何所考察架构组件，学习到的特征使用从输入状态主导的重建一致转向偏差主导的长时程预测，该模式类似操作员诊断推理但不建立因果过程关系。在该仿真研究范围内，这提示一种可解释的故障容忍监测设计路径；其向全规模运行的转移、突变未建模偏移下的行为、退化辅助传感器下的使用以及不确定性估计的缺失仍待解决，这些局限界定了当前结论。