一种融合因果推断的时间序列建模方法，用于工业运行指标的软测量

《Engineering Applications of Artificial Intelligence》：A causal inference-integrated time series modeling method for soft sensing of industrial operational index

　　•利用因果推断检查过程数据中的内在相关性。
•提出一种基于全局约束机制的动态渐进训练方法。
•结合因果推断和随机约束学习构建预测模型。
•用于重介质分选过程的灰分含量时间序列预测。
•用于田纳西-伊斯曼过程的汽提蒸汽流量时间序列预测。

引言
运行指标的准确估计是控制和优化工业过程以实现节能、提高效率和产品质量的基础（Braydi等，2025）。软测量模型由于检测速度快和成本低，已广泛应用于运行指标的测量过程（Guo等，2023）。基于易于测量的关键影响变量，该模型可通过数学推断来估计难以直接测量的运行指标。

一般来说，软测量建模方法可分为两类：第一性原理建模（Wei和Li，2025）和数据驱动建模（Yang等，2025）。前者严重依赖过程知识，可构建具有较强可解释性的软测量模型。然而，由于过程的复杂性和机理的模糊性，它容易产生建模误差。后者不需要过程知识，可以利用收集到的过程数据精确构建估计模型。此外，得益于成熟的数据测量技术和分布式控制系统（DCS）的广泛使用，过程数据的记录和收集变得容易实现，从而进一步促进了数据驱动建模方法的发展（Geng等，2022）。

实际上，工业数据随时间累积，本身包含时间序列信息，并且过程通常是动态变化的（Fu等，2025）。由于循环神经网络（RNN）能够捕获和保留时间序列数据的中间状态，它们已成为时间序列建模的合适方法。常用的RNN包括普通RNN（Sun等，2025）、长短期记忆网络（LSTM）（Saheed等，2024）和门控循环单元（GRU）（Hassaan等，2025）。尽管RNN在各种应用中展现了强大的建模能力，但它们仍然存在一些需要解决的问题。例如，在建模过程中，通常难以自动找到令人满意的网络拓扑结构。并且，通常用于训练RNN参数的梯度下降算法存在计算复杂度高的缺点。此外，RNN在训练过程中容易受到梯度消失或梯度爆炸问题的影响。除了基于RNN的模型外，各种动态机器学习方法也被应用于类似的软测量和动态系统建模任务，包括传统回归模型的时间扩展（Wu等，2024）、动态集成模型（Ding等，2023）以及针对序列数据设计的深层架构（Lin等，2024）。这些方法通常能够捕捉时变关系并建模时间依赖性。然而，许多实现仍然依赖于手动构建的滞后输入变量或精心设计的时间结构来处理长距离和非平稳动态。这种设计通常是问题特定的，并且对窗口长度和更新策略的选择敏感。此外，这些模型通常涉及大量超参数，需要大量的试错调优或计算成本昂贵的搜索过程。因此，总体建模和部署成本增加，这些动态机器学习方法在实际软测量应用中的效率和可扩展性可能受到不利影响。

由于计算成本低，回声状态网络（ESN）被用作处理时间序列建模问题的RNN替代方案（Wang等，2026）。与RNN不同，ESN具有一个未经训练的循环层，称为储备池，其中包含大量随机连接的节点。储备池节点之间以及输入层与储备池之间的连接权重是随机分配的，无需调整它们。只有输出权重矩阵需要通过线性回归学习，这可以大大降低模型构建成本。除了权重计算的高效性和直接性外，ESN还表现出回声状态属性（ESP），使储备池能够实现良好的动态稳定性。然而，值得注意的是，ESN中仍然存在一些需要解决的棘手问题。

一个重要的待解决问题是储备池是随机初始化的，这可能导致模糊的动态特性。这使得确定适合给定建模任务的最优架构变得困难。目前，解决模型架构问题主要有三种方法，即进化方法（Gong等，2025）、剪枝方法（Guo等，2024）和增量方法（Chen等，2023）。进化方法用于优化模型规模和参数以达到满意的建模精度，但在面对大量节点时计算成本仍然很高。剪枝方法的特点是两个阶段的构建过程：首先创建比所需大得多的网络，然后在建模过程中移除不必要的部分。至于增量方法，它从一个小规模网络开始，然后添加新节点，直到满足满意的建模结果。在模型构建效率方面，增量方法比剪枝方法更有可能找到最优模型结构。

对于增量版本的ESN（IESN），使用随机算法难以获得性能良好的模型参数。为了提高随机算法的实用性，Wang和Li（2017）提出了一种非常有效的方法，其中对随机算法施加监督机制（不等式约束），以限制随机节点的生成。所构建的模型基于随机向量功能链接（RVFL）网络开发，称为随机配置网络（SCN）。基于监督机制的随机算法不仅使模型具有有利的学习参数，而且实现了高建模效率。随后，开发了许多优秀的变体，包括双向变体（Cao等，2021）、鲁棒变体（Yan等，2022）、集成变体（Lu等，2020）、多目标变体（Yan和Hu，2025）等。然而，这些变体主要依赖于局部不等式约束进行参数分配，可能无法充分利用目标函数中嵌入的输出权重的全局信息，从而限制了随机节点的最优选择。

由于上述具有监督机制的随机学习器模型是静态的，难以很好地处理动态过程数据。为解决这一问题，开发了一种基于监督机制的ESN，称为递归SCN（RSCN）（Wang和Dang，2025；Dang和Wang，2025）。该监督机制被用于搜索储备池节点的最优参数，从而有助于出色的模型性能。然而，在Wang和Dang（2025）中，由于新创建的节点不能与先前节点分离，因此在节点构建过程中必须考虑先前节点。这涉及冗余计算，不可避免地增加了模型的时间复杂度。在Dang和Wang（2025）中，通过将储备池权重矩阵限制为对角结构来分离新创建的节点，这降低了储备池的动态特性。结果，模型泛化性能受到很大影响。此外，监督机制源自局部模型，限制了节点构建过程中全局信息的利用，可能进一步限制模型性能的提升。对先前建立节点的重复再训练引入了相当大的计算开销。因此，需要一种高效的增量构建策略，以避免重新优化现有的储备池节点，从而提高模型构建过程的效率。

为了有效捕获输出权重信息，Wang等人（2024b，2024c，2024a）提出了一些基于全局约束机制的增量随机权重网络（IRWN），使用无输入输出链接的RVFL框架，其中全局约束源自全局模型。在Wang等（2024b）中，将基于L2范数正则化的Greville方法集成到增量学习框架中，设计全局约束，成功开发了一种具有紧凑节点的紧凑约束IRWN（CCIRWN）。正则化的主要目的是解决不适定逆问题并约束输出权重的幅度，从而使构建的CCIRWN有效避免过拟合。受Wang等（2024b）启发，通过将全局约束机制与特征提取方法集成，建立了一种具有增强特征提取的CCIRWN模型（Wang等，2024c）。此外，为了有效处理多目标建模问题，提出了一种使用L21范数正则化的多目标CCIRWN模型（Wang等，2024a）。

许多工业过程表现出复杂的非线性动力学，其特征是变量之间潜在的依赖性。传统的基于相关性的建模方法只能捕捉表面关联，无法识别真正的关键驱动变量。然而，显式因果分析可以识别方向性依赖，区分主动驱动输出的变量和仅相关的变量。格兰杰因果关系（GC）方法，特别是基于图的深度学习变体，构建因果图以区分真正的影响和虚假相关（Zhang和Wu，2024；Liu和Jafarpour，2024）。此外，归因辅助非线性格兰杰因果（NGC）通过量化贡献和强制稀疏性进一步细化因果发现（Sui等，2025）。此外，NGC捕捉复杂耦合和长期依赖，比传统基于回归的GC提供更忠实的非线性动力学表示（Wang等，2023）。然而，尽管现有的非线性GC在识别因果关系方面是有效的，但仍缺乏有效手段将获取的因果信息进一步转化为预测模型中的结构化建模机制。

根据上述讨论，提出了一种结合NGC的新型递归IRWN（RIRWN），称为NGC-RIRWN，用于构建工业软测量模型，以处理多变量非线性关系和动态过程特征。在该架构中，使用Takagi-Sugeno-Kang模糊推理系统（TSK-FIS）的NGC被用于揭示内在因果关系，从而为初始模型构建和后续增量扩展提供结构指导。基于提取的因果结构，RIRWN通过递归储备池和增量学习机制来表征过程的非线性动态行为。此外，引入了结合全局约束机制的动态渐进更新算法，仅更新新创建节点的权重，从而提高构建效率。同时，使用Greville方法设计的全局约束机制确保输出权重信息被有效利用来配置随机权重，减轻随机节点生成的不利影响，并使建立的模型收敛。因此，在统一框架内建立了因果分析、动态建模和参数约束更新的集成架构。最后，通过Lorenz时间序列、非线性系统辨识以及重介质分选过程（DMSP）和田纳西-伊斯曼过程（TEP）的数据驱动软测量建模的大量实验，证明了所构建的NGC-RIRWN模型的有效性。总之，本工作的贡献可总结如下：

（1）利用基于TSK-FIS的NGC，有效挖掘过程数据中的内在相关性，促进构建模型的增强泛化。
（2）开发了具有全局约束机制的动态渐进更新算法，无需重新训练先前节点，可有效加速模型构建过程。
（3）通过Greville方法，设计了一种能充分利用输出权重信息的全局约束机制，以实现随机参数的最优选择。此外，对所构建模型进行了收敛性分析。
（4）实验结果验证了所建立的NGC-RIRWN模型在不同应用中的良好建模精度。同时，NGC-RIRWN在低维数据集上表现出高建模效率，在高维数据集上保持可接受的计算成本。

本文的其余部分组织如下：第2节回顾了NGC-RIRWN的相关工作，包括ESN和CCIRWN的预备知识。第3节介绍了总体流程图的利用、使用TSK-FIS的NGC的数据交互、基于约束的动态渐进更新、收敛性分析、稳定性分析、算法实现以及NGC-RIRWN的时间复杂度分析。在第4节中，我们从各种数据集进行了广泛的对比实验，以验证所建立的NGC-RIRWN的可行性和有效性。最后，第5节对本文进行了总结。章节片段预备知识本节提供了对NGC-RIRWN模型开发至关重要的有用预备知识。基于非线性格兰杰因果关系的循环增量随机权网络本节介绍了一种新颖的NGC-RIRWN，它主要由三个部分组成：（1）使用NGC进行数据关系学习；（2）通过基于全局约束机制的动态渐进更新算法确定随机参数；（3）使用格雷维尔方法结合岭回归计算输出权重。应用NGC与TSK-FIS来发现数据中的潜在关系，以增强模型性能。集成了动态渐进更新算法的仿真与实验结果本节进行了广泛的仿真和实验，以评估所提出的NGC-RIRWN模型的性能。首先，该模型使用两个基准时间序列数据集进行验证，即洛伦兹时间序列和一个非线性系统辨识数据集，用于仿真研究。此外，为了评估其实际适用性，实验扩展到真实的DMSP数据集和TEP数据集，以进一步验证NGC-RIRWN的有效性。所有数据均进行了归一化处理。结论本文提出了一种新颖的基于非线性格兰杰因果关系的RIRWN，命名为NGC-RIRWN。首先，将使用高木-菅野-康模糊推理系统和核方法的NGC纳入模型构建过程，以识别数据内的潜在关系。然后，为提高建模效率，提出了一种结合全局约束机制的动态渐进更新算法，该算法源自格雷维尔方法，以良好地配置模型的随机参数。CRediT作者贡献声明钱金旺：写作——审阅与编辑，写作——原稿。罗云峰：写作——审阅与编辑，写作——原稿。戴伟：写作——审阅与编辑，写作——原稿，可视化，概念化。周平：写作——审阅与编辑，写作——原稿。利益冲突声明作者声明，他们不知道可能影响本文所报告工作的已知相互竞争的经济利益或个人关系。钱金旺|罗云峰|戴伟|周平