基于Transformer和岭回归的集成网络-状态预测方法在远程故障诊断中的应用

《Machines》：Ensemble Network-State Forecasting for Remote Fault Diagnosis Using Transformer and Ridge Regression

　　```

摘要

在动态的边缘-云环境中，远程故障诊断服务依赖于及时的监控数据上传、远程推理和结果传输，这使得它们的通信层对可用带宽、链路延迟和数据包丢失率的变化非常敏感。本研究关注的是支持这些服务的网络状态预测层，而不是故障分类模型本身。我们提出了Horizon-Aware Transformer–Ridge Fusion（HATR-Fusion）技术，它将非线性Transformer专家与低方差的岭回归专家结合在一起，用于进行短期和长期的预测。历史可用带宽、链路延迟、数据包丢失率、移动性和提供的负载被用作输入数据。预处理统计信息仅使用训练集进行估算，在测试推理之前会固定经过验证校准的凸融合权重。在八个链路上的受控合成轨迹上进行实验，这些链路以1分钟为间隔采样，使用了10种神经网络初始化方式和包括DLinear和iTransformer在内的十个基线模型。实验结果显示，与单独使用Transformer相比，HATR-Fusion在10分钟时间范围内的平均绝对误差（MAE）降低了6.94%-8.31%，在60分钟时间范围内降低了3.02%-4.40%，并且所有六项改进在经过Holm校正后仍然具有显著性。与iTransformer相比，HATR-Fusion在短期带宽和延迟预测上更为准确；而在长期延迟和数据包丢失率预测上，iTransformer更为准确；经过Holm校正后，短期数据包丢失率和长期带宽预测之间没有显著差异。六项任务的平均标准化平均绝对误差（NMAE）分别为HATR-Fusion的0.07106和iTransformer的0.07047，表明两种方法的整体准确性相当，但在不同任务之间存在差异。消融实验表明，岭回归和Transformer在不同的任务中起到了互补的作用；而输入质量敏感性分析则揭示了在历史数据损坏或缺失的情况下，固定融合权重的局限性。因此，研究结论仅适用于输入质量相对稳定且分布变化与本研究中评估的情况类似的场景。

```