拓扑感知图时序代理架构用于多元过程建模
摘要:
在过程工程和多元数据建模领域,图时序建模在时间和网络维度同时捕获动态特性与相互依赖关系方面展现了优势,从而显著提升了下游预测性能。然而,现有工作通常难以在保持时序感知建模与拓扑感知建模之间取得平衡。为了解决这一问题,我们提出了拓扑感知图时序代理(TATS)架构,该架构将多种组件相结合,包括图神经网络、线性投影、自注意力机制和门控单元等。此外,我们引入了两个创新方法:(1)节点嵌入增强机制,通过融合静态、动态和拓扑信息来丰富节点表示;(2)动态图边更新方法,用于增强图结构中的拓扑信息。在两个基准数据集上的评估表明,TATS在预测性能上显著优于其他方法,平均绝对百分比误差(MAPE)最高降低2.93%。在下游任务中,TATS的预测结果与直接预测模型的平均绝对百分比误差(MAPE)相比最高降低了2.80%。消融实验证明了每个组件对总体性能贡献的有效性。
关键词:多元过程建模;过程分析;图神经网络;预测建模;代理模型
《Computers & Chemical Engineering》:Topology aware graph-temporal surrogate architecture for multivariate process modeling
【字体:
大
中
小
】
时间:2026年10月14日
来源:Computers & Chemical Engineering 4.9
编辑推荐:
•将时间建模与过程信号传播的结构信息相结合,可以显著提高数据驱动预测模型的外推能力。•适当设计的噪声增强可以提高模型预测精度,但其收益并非无限的,需要仔细选择扰动水平。•分析图神经网络的权重可以揭示学习到的系统关系中具有信息量的模式,而这些模式无法从仅基于时间的预测模型中获得
•将时间建模与过程信号传播的结构信息相结合,可以显著提高数据驱动预测模型的外推能力。•适当设计的噪声增强可以提高模型预测精度,但其收益并非无限的,需要仔细选择扰动水平。•分析图神经网络的权重可以揭示学习到的系统关系中具有信息量的模式,而这些模式无法从仅基于时间的预测模型中获得。
1. 引言
天然气加工的经济性能在很大程度上取决于脱甲烷塔中低温分离的效率,其中冷残余回流(CRR)配置仍是实现高乙烷回收率的行业基准(Campbell和Wilkinson,1979;Chebbi等人,2010)。在接近经济最优点运行该装置需要跨多个复杂且相互依赖的控制回路进行持续调整,而这些回路之间的非线性相互作用、时间延迟和过程惯性通常超出常规控制策略的能力范围(Luyben,2013;Wong等人,2025),这促使人们开发快速、精确的代理模型,以弥合高保真度模拟的计算成本与实时优化所需的响应速度之间的差距(Zhu等人,2020)。
在过去十年中,深度学习代理模型已成为模拟化学过程顺序动力学的强大工具(Immanuel等人,2025;?awryńczuk和Zarzycki,2025;Mandis等人,2024;Zhu等人,2020),特别是循环神经网络(RNN)及其变体,由于它们能够捕获过程数据中的时间关系,因此特别受欢迎。例如,Zhu等人(2020)证明了使用深度学习代理模型进行CRR优化的可行性,Mandis等人(2024)随后证明长短期记忆模型可以显著影响脱甲烷过程的预测保真度。在循环模型的基础上,Transformer架构(Vaswani等人,2017)通过用全局自注意力替代顺序状态传播提供了额外的结构性改进,从而避免了梯度消失的限制,并且可以更有效地捕获长程时间依赖关系(Gu和Li,2024;Park等人,2023;Sitapure和Kwon,2023)。然而,仅依靠时间模型在结构上不足以表示工业控制系统的完整复杂性,因为化学过程本质上是关系性的——传感器、执行器和调节回路通过管道、能量流和信号线物理连接,从而在过程变量之间施加了有向依赖关系。使用纯时间模型从数据中隐式推断变量间结构,会形成一种随控制回路数量增加的负担,并使模型容易提取虚假的变量相互作用,且无法沿物理路径定位故障传播(Jia等人,2025)。图神经网络(GNN)通过将被过程变量表示为节点、将其物理或功能关系表示为边来弥合这一差距,从而使得能够沿与物质、能量和信号流一致的路径进行消息传递(Boussaid等人,2023;Jia等人,2023)。这一能力已被应用于各种代理建模领域,包括制造、分子动力学和地下流优化(Immanuel等人,2025;Tang和Durlofsky,2024;Wong等人,2022),通过将有关系关系编码为归纳偏置,提高了关系推理和分布内保真度。
尽管如此,数据驱动代理模型仍存在一个更基本的局限性:它们通常无法可靠地推广到训练数据中不存在的运行条件下。这一局限性在闭环控制应用中尤为关键,因为预测误差可能会在控制时域内不断累积。现有的补救方法通常以成本换取通用性。例如,自适应采样可用于在高误差位置迭代扩展数据集,但这需要持续与模拟器耦合(Cozad等人,2014;Dias等人,2019;Garud等人,2017;Hu等人,2018;Wang等人,2024)。虽然基于敏感度的增强可以减少此类成本,但它需要梯度访问,而这在闭环设置中不可用(Krishnamoorthy,2023,2022);而基于物理的方法则受到难以用闭式表达经验调优的多回路控制器的限制(Antonelo等人,2024;Raissi等人,2019)。一种可能的替代方法是通过加性噪声进行数据增强,这等效于连续映射的Tikhonov正则化(Bishop,1995;Matsuoka,1992;Sietsma和Dow,1991),该技术在邻近的代理建模设置中已有应用,包括结构响应预测(Parida等人,2023)、等离子体扰动预测(Rath等人,2022)以及分布偏移下的电池状态估计(Zhang等人,2024)。这种类型的输入噪声通过惩罚模型输入-输出雅可比范数来减轻过拟合,从而平滑学习到的响应(Bishop,1995)。在代理建模中,这种响应平滑可防止模型拟合虚假的高曲率依赖关系(这些关系无法泛化到采样运行包络之外),从而提高泛化潜力。噪声增强无需施加架构承诺,也无需与模拟器耦合,在预测建模中展现出巨大潜力,但其在多控制器过程代理建模场景中的适用性仍未经验证。
本文提出了一种双分支图-时间代理架构,通过显式将控制系统拓扑编码到模型中来解决数据驱动模型的泛化问题。该架构将时间Transformer与一个图神经网络(GNN)分支相结合,后者将控制回路结构表示为有向图,其中反馈、跨回路耦合和误差响应关系被建模为类型化边。随后,这两种表示通过交叉注意力机制融合以生成最终预测。为验证结构编码的重要性,所提出的架构与使用高斯噪声增强训练的Transformer模型进行了基准比较,并评估了多种编码器配置(在注意力容量和上下文窗口大小方面有所不同),跨越多个噪声幅度。虽然Transformer-GNN混合模型已被探索用于时空模拟(Feng和Zhou,2024;Noakoasteen等人,2024),但大多数编码的连接性要么从数据中学习,要么从通用空间邻接关系推导。我们的贡献与众不同之处在于,该图是先验地从控制框架构建的,由化工厂的控制系统架构决定,而非从数据中学习或推断。研究结果表明,添加控制系统拓扑信息并结合噪声增强,可以显著改善在训练数据中未采样的条件下的预测精度。
2. 方法论
2.1 双分支代理建模
在本文中,我们考虑以下通用预测问题:给定过程变量(PV)、操纵变量(OP)和设定值(SP,由内部控制回路确定)的历史多变量时间序列,模型将预测未来的PV和OP。这样的预测模型可作为潜在过程动力学的数据驱动表示,用于过程监测、故障检测与诊断以及运行条件优化与控制。数学上,设???∈??表示时间t的n维系统状态向量,涵盖所有可测量的PV、OP和SP信号。在时间t,模型接收长度为w?的分段过去观测时间序列???∈?^(w?×n),定义为[????w???, ????w???, …, ???],并使用预测模型g_θ(???)预测下一时间瞬间的过程状态????∈???,该状态包含感兴趣的PV和OP(因为SP通常由内部过程控制回路确定)。该模型通过最小化相对于真实过程y???的预测损失来学习。
为了在近似多变量过程系统的非线性动力学时同时捕获时间动力学和结构信息,我们提出了一种双分支建模架构,如图1所示。该架构由一个时间分支和一个控制分支组成:时间分支使用Transformer模型对输入窗口上的顺序演化进行建模;控制分支使用图神经网络将控制回路结构编码为有向图。然后,这两种表示通过交叉注意力进行融合,以产生未来过程动力学????的最终预测。需要注意的是,虽然我们在本文中采用交叉注意力融合机制作为演示,但拼接和求和等替代融合机制也与我们的框架兼容。
下载:下载高分辨率图像(304KB)
下载:下载全尺寸图像
图1. 用于过程动力学预测的双分支神经网络架构,具有带Transformer编码器的时间分支和带图神经网络的控制分支,用于编码信号传播结构信息。
2.1.1 用于时间建模的Transformer编码器
所提出架构的时间分支实现为Transformer编码器(TE)。每个输入???都通过卷积标记嵌入结合正弦位置编码转换为嵌入表示:
(1) ?????? = C_θ(???) + P(t)
其中C_θ(???)是捕获变量间相互作用的一维卷积,P(t)添加固定的正弦位置编码,其中P(t, 2k) = sin(t/Ω)且P(t, 2k+1) = cos(t/Ω),Ω = 10000^(2k/d_model)。生成的序列?????? = [z??w???, …, z?]∈?^(w?×d_model)作为提供给编码器的时间感知、非循环表示,其中d_model表示嵌入维度,k是嵌入维度对的索引。
Transformer的核心计算单元是多头注意力(MHA)机制,它使模型能够动态加权输入时间跨度上的时间相关性,通过计算跨n_heads个并行头的注意力实现,这些头被拼接以形成最终输出:
(2) MHA(??????1?) = concat(A?, …, A_{n_heads})
每个注意力头A?应用缩放点积注意力:
(3) A?(Q, K, V) = softmax((Q?·K?? + M)/√d_k)·V?
其中d_k = d_model/n_heads表示每个注意力头的维度。查询(Q?)、键(K?)和值(V?)矩阵通过学习线性投影获得:Q? = ??????1?·W_{Q,?},K? = ??????1?·W_{K,?},V? = ??????1?·W_{V,?},其中W_Q、W_K、W_V∈?^(d_model×d_k)是可训练权重矩阵,M是用于控制信息流的可选掩码矩阵(此处设置为M=0)。当n_heads=1且Q?=K?=V?时,该机制简化为标准的自注意力。
编码器结构由n_layers层MHA层组成,后接一个大小为d_FFN的全连接层。我们采用后归一化配置以提高梯度稳定性。第i个编码器层内的操作如下:
(4) H???? = LayerNorm(??????1? + MHA(??????1?))
(5) ?????? = LayerNorm(H???? + FFN(H????))
其中每个子层周围的残差连接在反向传播期间稳定梯度传播,而层归一化通过在各层间保持一致的激活统计来加速收敛。编码器输出由一系列隐藏表示Z_hidden = [z?, z?, …, z_{w?}]∈?^(w?×d_model)组成,其中每个向量z?∈?^d_model封装了在输入时间跨度上的聚合时间信息。我们提取最后时间步的嵌入z_{w?},它捕获最近的时间上下文,并应用无偏线性投影网络将此潜在表示映射到输出空间:
(6) ???? = W_out·z_{w?}
其中W_out∈?^(d_model×n_s)表示可训练参数。
图2说明了本工作中实现的单个编码器层的计算结构。输入表示??????1?通过MHA子层传递,产生的结果通过残差连接与输入结合后应用层归一化,生成中间表示H????。然后,该中间表示通过逐位置FFN传递,其输出再次通过残差连接结合并归一化,以产生层输出??????。n_layers层这样的块顺序应用,每块具有独立的可训练权重,使编码器能够在输入窗口w?上构建分层次时间抽象。编码器层边界右侧显示的额外线性投影层将最终编码器表示映射到输出空间,如公式(6)所定义。时间模型的训练误差是预测和真实OP与PV之间的Smooth-L1损失 L1_s(y???, ????)。
下载:下载高分辨率图像(137KB)
下载:下载全尺寸图像
图2. 用作所提出双分支架构的时间分支及仅编码器基线的第n个编码器层示意图。
2.1.2 用于结构信息建模的图神经网络
由于许多控制系统行为源于控制回路之间的关系而非时间模式,我们使用图表示显式编码结构信息,形成控制分支来补充时间建模。
具体来说,我们将内部控制系统建模为有向图G=(V, E),其中对于L个控制回路,|V|=3L个节点。每个回路i由三个节点组成:操作器输出(OP_i)、过程变量(PV_i)和误差(Δ?=SP_i?PV_i)。设定值SP_i不表示为单独的节点,但通过误差项捕获其影响,以减少图的复杂性同时保持控制语义。边集E编码了五种反映基本控制理论原则的关系类型,如表1所示:误差计算边e?,连接过程变量到误差节点,代表测量与偏差计算;控制动作边e?,连接误差到操作器输出,编码控制器的决策过程;物理响应边e?,连接操作器输出到过程变量,建模由质量和能量平衡支配的前向过程动力学;自环边e?,提供从每个节点到自身的连接,在图神经网络层的消息传递过程中维持信息稳定性。
跨环交互边 $e_4$ 和 $e_5$ 将环 $i$ 中的操作输出和误差连接到环 $j$(其中 $i \neq j$)中的过程变量,捕获了化学过程中常见的多变量耦合效应,即一个环中的操纵变量会影响其他环中的受控变量。表1. 编码控制支路中控制系统关系的图边类型。| 边类型 | 符号 | 连接 | 物理含义 | |---|---|---|---| | 误差计算 | $e_0$ | $PV_i \to \Delta_i$ | 测量与设定点的偏差 | | 控制动作 | $e_1$ | $\Delta_i \to OP_i$ | 控制器对误差的响应 | | 物理响应 | $e_2$ | $OP_i \to PV_i$ | 过程动态特性 | | 自环 | $e_3$ | $v_i \to v_i$ | GNN层间的稳定性 | | 跨环交互 | $e_4$ | $OP_i \to PV_j$($i \neq j$) | 多环耦合 | | 跨环误差交互 | $e_5$ | $\Delta_i \to OP_j$($i \neq j$) | 多环误差耦合 | 通过边 $e_2$、$e_0$ 和 $e_1$ 构成的有向循环 $OP_i \to PV_i \to \Delta_i \to OP_i$ 代表了单环控制器的闭环传递函数特性,捕捉了比例-积分-微分(PID)控制等反馈控制方案中的关系。跨环边($e_4$)在不同控制环的OP和PV节点集之间形成了一个全连接二部图,使模型能够学习过程交互矩阵,类似于模型预测控制等多变量控制公式中的耦合项。通过将控制理论结构显式编码到图连接中,图神经网络可以利用与控制环一致的先验知识。这种互补表示相比对称对待所有变量且不纳入领域知识的架构,可以提高样本效率和外推能力。在数学上,在时间步 $t$,节点特征从当前状态中提取:$OP_i = x_t[i]$,$PV_i = x_t[L+i]$,以及 $\Delta_i = x_t[2L+i] - PV_i$。每个标量特征被投影到维度 $d_{\text{graph}}$($W_{\text{proj}} \cdot v_i$)。我们采用带有边条件注意力的图Transformer卷积(GTC)层(Shi等人,2021),在控制图结构中传播信息。对于每一层 $k$,节点更新通过聚合邻居特征并乘以学习到的注意力系数来计算,边类型嵌入对注意力计算进行调制:
(7) $h_i^{(k+1),t} = \text{LayerNorm}\left(h_i^{(k),t} + \bigoplus_{h=1}^{H} \sum_{j \in \mathcal{N}(i)} \alpha_{ij}^{(h)} W^{(h)} h_j^{(k),t}\right)$
其中 $\bigoplus$ 表示跨 $H$ 个注意力头的拼接,$\mathcal{N}(i)$ 表示由边集定义的节点 $i$ 的邻域,$W^{(h)} \in \mathbb{R}^{d_{\text{graph}}/H \times d_{\text{graph}}}$ 是头特定的权重矩阵。注意力系数 $\alpha_{ij}^{h}$ 通过边条件Softmax注意力计算:
(8) $\alpha_{ij} = \frac{\exp\left(a^T [W^{(h)} h_i^{(k),t} \| W^{(h)} h_j^{(k),t} \| e_{\text{type}}(i,j)]\right)}{\sum_{m \in \mathcal{N}(i)} \exp\left(a^T [W^{(h)} h_i^{(k),t} \| W^{(h)} h_m^{(k),t} \| e_{\text{type}}(i,m)]\right)}$
其中 $e_{\text{type}}(i,j) \in \mathbb{R}^{d_{\text{edge}}}$ 表示五种边类型($e_0$ 到 $e_4$)的可学习嵌入,$\|$ 表示向量拼接,$a \in \mathbb{R}^{2d_{\text{graph}}/H + d_{\text{edge}}}$ 是可学习的注意力向量。这种边条件机制允许网络为不同关系类型的信息流分配不同的权重,反映了过程中物理耦合强度的变化。在 $n_{\text{G layers}}$ 层图卷积层之后,节点表示被展平并投影到输出空间:
$\hat{y}_c^{t+1} = W_{\text{out}} H_{\text{nodes}}$
其中 $W_{\text{out}} \in \mathbb{R}^{n_s \times 3L \cdot d_{\text{graph}}}$,$H_{\text{nodes}}$ 为 $[h_0^{(n_{\text{G layers}}),t}, \ldots, h_{3L-1}^{(n_{\text{G layers}}),t}]$。最终输出预测通过交叉注意力机制获得,该机制融合时间支路和控制支路的预测 $\hat{y}_t^{t+1}$ 和 $\hat{y}_c^{t+1}$,允许图导出的结构表示选择性地查询相关的时间上下文。具体而言,图节点表示首先被投影到时间嵌入空间:
(9) $\tilde{H}_{\text{nodes}} = H_{\text{nodes}} W_{\text{proj}}$
其中 $\tilde{H}_{\text{nodes}} \in \mathbb{R}^{N \times d_{\text{temp}}}$。然后以投影后的图节点作为查询、完整时间序列作为键和值计算交叉注意力,之后进行残差连接和层归一化:
(10) $\hat{H} = \text{LayerNorm}(\tilde{H}_{\text{nodes}} + \text{MHA}(Q=\tilde{H}_{\text{nodes}}, K=Z_{\text{hidden}}, V=Z_{\text{hidden}}))$
注意力后的节点表示在节点之间进行平均池化并投影到输出空间:
(11) $\hat{y}_{t+1} = W_{\text{out}} \frac{1}{N} \sum_{i=1}^{N} \hat{H}_i$
这种设计允许每个图节点独立地关注与其角色最相关的时间历史,然后在池化表示被解码为预测之前完成。双支路模型的训练损失 $\mathcal{L}_{\text{DB}}$ 被定义为组合损失($\mathbb{L}(\hat{y}_{t+1}, y_{t+1})$)、时间支路损失($\mathbb{L}(\hat{y}_t^{t+1}, y_{t+1})$)和控制支路损失($\mathbb{L}(\hat{y}_c^{t+1}, y_{t+1})$)之和。这强制每个支路保持独立的预测精度,确保交叉注意力融合在超越任一单独支路的情况下提供泛化增益。
**2.2. 用于丰富合成动力学的训练数据增强**
为丰富在未见过程条件下的预测能力,我们在模型训练期间对训练数据集进行了噪声增强,通过向输入时间序列引入扰动。具体而言,对所有历史时间步的测量特征(OP和PV)施加高斯扰动 $\epsilon[i]$,但排除回看窗口的最后一个样本($t < w_s - 1$)。设定值变量(SP)的测量保持不变,因为SP值由内部控制逻辑或操作人员规定,使其本质上不同于过程动态中的随机变化。扰动后的输入特征空间定义如下:
(12) $\tilde{x}_t[i] = \begin{cases} x_t[i] + \epsilon[i], & \text{如果 } t < w_s - 1 \text{ 且 } i \in \{OP, PV\} \\ x_t[i], & \text{否则} \end{cases}$
$\epsilon \sim \mathcal{N}(0, \sigma^2)$
其中 $x_t[i]$ 表示长度 $w_s$ 的回看窗口中时间步 $t$ 的特征 $i$,$\sigma$ 表示预定义的最大噪声幅度(本研究中文本从0变化到0.5)。
**3. 案例研究**
**3.1. 过程描述**
我们通过Campbell和Wilkinson(1979)提出的CRR工艺流程方案在Aspen HYSYS(Aspen Technology, Inc, 2022)中实现的液化天然气(LNG)脱甲烷过程来展示所提方法的性能,基于Luyben(2013)和Chebbi等人(2010)的工作。该设计优先考虑从高浓度甲烷(约86%)和乙烷(约10%)为主的C1-C5+烃混合物进料流中高效回收乙烷(5980 kg-mol/h,6320 kPa,35°C)。该装置生产两股产品流:富甲烷销售气(4419 kg-mol/h,6084 kPa,184.4°C)和富乙烷LNG塔底产品(560.9 kg-mol/h,1000 kPa,-22.64°C),后者被输送至精馏装置。如图3所示,30块塔盘的脱甲烷塔(T-100)和再沸器(E-104)构成核心分离单元。低温压缩机组包括透平膨胀机(TE-100)、再压缩机(K-101)和低温压缩机(K-102)。通过三个冷却换热器(E-100、E-102、E-103)和制冷冷凝器(E-101)实现热集成。闪蒸分离器(TK-100)管理压力波动,而两个焦耳-汤姆逊阀(JTV-100、JTV-101)提供塔进料入口的快速膨胀。完整实施描述见Zhu等人(2020)。
图3. CRR过程中的控制结构示意图。
控制结构如图3中的红色仪表和蓝色虚线所示,由七个回路组成,旨在确保稳定运行并最大化过程盈利能力:
1. FIC-100:通过调节入口阀FCV-100控制进料流量。
2. PIC-100:通过调节出口再压缩机(K-101)功率维持脱甲烷塔(T-100)压力。
3. LIC-100:通过调节排放阀LCV-100控制闪蒸分离器(TK-100)液位。
4. LIC-101:通过调节塔底流量阀LCV-101维持再沸器(E-104)液位。
5. XIC-100:通过调节再沸器(E-104)热负荷控制LNG塔底流中的甲烷摩尔分数。
6. RIC-100:通过调节透平膨胀机功率实施流量比控制方案,以维持旁路流与透平膨胀机(TE-100)流量之间的比率。
7. ERIC-100:采用串级控制架构,其中乙烷回收率作为主受控变量,闪蒸分离器(TK-100)温度(TIC-100)作为副变量,冷凝器(E-101)热负荷作为操纵变量。
这种分层控制架构有效地衰减了由进料组成波动和流量变化引起的过程扰动,关键稳定化通过塔压力、再沸器组成和闪蒸分离器温度的调节实现。
**3.2. 模型训练和评估的数据生成**
通过LNG Aspen系统,我们生成了三组过程动力学时间序列数据用于模型训练和评估。第一组数据集是训练数据集,通过对七个调节回路的每个设定值从最小值到最大值以5%的增量单独进行扰动,每次扰动后等待300s的稳态期,同时保持其余六个回路的设定值在默认值。此算法在每个控制回路的独立操作范围内提供了广泛的单变量瞬态行为覆盖。第二组数据集称为S系列数据集,其中一个控制回路的设定值在其操作范围内更改为随机值300s,然后重置为默认值再运行300s的模拟时间。此算法生成的评估数据集对应于与训练数据集不同但表现出轻微单变量分布偏移的操作条件。第三组数据集称为M系列数据集,其中同时扰动1-3个设定值的随机子集,步长为全操作范围的5%-35%,持续300s,然后更改为新设置。此算法生成的评估数据集对应于由并发控制器交互表征的条件,代表分布外操作条件,即训练数据集中未覆盖的条件,这是机器学习代理模型的常见挑战。对于所有数据集,过程动力学以1分钟模拟时间间隔记录,因此训练集包含70,000个样本(约49天模拟时间),S系列和M系列测试集各包含5,000个样本(约3.5天模拟时间)。注意30s的模拟时间对应1s的实际过程时间。表2总结了调节控制回路的操作条件。
表2. 调节控制回路的设定值范围和标称操作条件。
| 控制器 | 变量描述 | 最小值 | 最大值 | 默认值 | 单位 |
|---|---|---|---|---|---|
| FIC-100 | 进料流量 | 4782 | 5148 | 4980 | kg-mol/hr |
| RIC-100 | 旁路与膨胀机流量比 | 0.62 | 0.76 | 0.69 | - |
| LIC-100 | 闪蒸分离器液位 | 36 | 44 | 40 | % |
| LIC-101 | 再沸器液位 | 45 | 55 | 50 | % |
| PIC-100 | 脱甲烷塔压力 | 975 | 1111 | 1010 | kPa |
| XIC-100 | 甲烷摩尔分数(NGL) | 0.009 | 0.011 | 0.010 | - |
| ERIC-100 | 乙烷回收率 | 0.738 | 0.902 | 0.820 | - |
**3.3. 模型规格**
为展示所提议建模架构的性能,我们开发了两种具有不同复杂度的TE模型:TE4,具有4个注意力头,窗口序列长度为50个时间步,即 $n_{\text{T heads}}=4$,$w_s=50$;以及TE6,具有6个注意力头,窗口序列长度为75个时间步,即 $n_{\text{T heads}}=6$,$w_s=75$。其余所有超参数设置在这两个配置中保持一致,$d_{\text{T model}}=128 \times n_{\text{heads}}$,$n_{\text{T layers}}=1$,峰值学习率=5e-5,dropout率0.1,前馈维度(dFFN)1024并使用GELU激活。两个TE模型都采用了单层编码器,反映了化学过程数据固有的随机性,更深的架构倾向于平滑瞬态波动(Sietsma和Dow,1991)。为展示添加控制支路的益处,我们评估了两种双支路模型:DB4,控制支路具有4个注意力头,即 $n_{\text{G heads}}=4$;以及DB6,控制支路具有6个注意力头,即 $n_{\text{G heads}}=6$。两个模型都使用边维度($d_{\text{edge}}$)128,$n_{\text{G layers}}$为3以确保完整的消息传递,$d_{\text{G hidden}}=128 \times n_{\text{G heads}}$,并使用TE4模型作为时间支路。此设计旨在评估时间支路模型复杂度如何影响双支路建模方法的性能,以及添加控制支路如何有益于纯时间建模支路。
所有输入特征都使用在训练数据集上拟合的MinMaxScaler归一化到[0, 1]。注意,由于M系列数据集可能采样超出训练数据集范围的区域,归一化后变量的值可能落在[0,1]之外。为评估预测模型的外推能力,未对这些值进行裁剪。向训练输入添加零均值高斯噪声以丰富动力学并提高模型对测量变化的鲁棒性。注意,在双支路模型中,噪声仅在训练时间支路时施加,因为对GNN输入的扰动会破坏结构信息。所有模型都使用AdamW优化器训练,权重衰减10??,$\beta_1=0.9$,$\beta_2=0.95$。学习率在前5%的训练步中从0线性增加,之后由ReduceLROnPlateau调度控制,每当自回归验证损失(定义如下)在连续三个epoch中未能相对改善至少10?3时,学习率减半,直至降至10??。
代替单步教师强制误差(在评估多步预测质量时可能表现不佳(Park等人,2023)),在每个验证epoch结束时评估自回归展开指标,并将其用作学习率和早停调度器的监控指标。从第一个验证窗口开始,模型最多展开 $N_w=300$ 步。对于每个展开步 $t$,我们计算输出相对均方误差(RMSE)$\varepsilon_t$ 和一阶差分RMSE $\delta_t$(后者惩罚变化率不匹配),并报告加权平均:
(13) $\mathbb{L}_{\text{rollout}} = \frac{\sum_t w_t(\varepsilon_t + \alpha \delta_t)}{\sum_t w_t}$
其中 $\alpha=0.5$,权重 $w_t$ 从 $t=0$ 处的1线性插值到 $t=N-1$ 处的 $1+\beta=2$($\beta=1.0$),因此horizon末端的误差被加权两倍于起始端的误差。
通过展开过程测试了模型的代理能力。提取第一组数据窗口,执行展开预测,保持与真实数据集相同的SP值,同时更新OP和PV值。此过程持续进行直到覆盖所有行。然后我们评估了所有过程变量和预测时间步的绝对误差均值(MAE)、均方根误差(RMSE)和R2得分。
**4. 结果与讨论**
**4.1.**
噪声增强数据集的检查
我们首先对噪声增强数据集的性质进行检查。图 4(a) 中的主成分分析(PCA)投影表明,S 系列数据集与训练数据集存在大量重叠,而随着交互复杂度的增加,M 系列数据集更多地采样到不同的区域。具体来说,M-4 主要聚集在训练数据几乎不存在的区域,而 M-5 则扩展到 PCA 空间的稀疏外围区域。这些观察证实了我们的推测:改变多个运行点(M 系列)比改变单个运行点(S 系列)有更高的概率采样到训练数据集之外的区域。各数据集的详细小提琴图请参见补充材料图 S1,以进行进一步分析。
下载:下载高分辨率图片(433KB)下载:下载全尺寸图片
图 4. (a) 训练集和测试集投影到前两个主成分上的 PCA 图,其解释方差分别为 38% 和 19%。(b) 每个测试数据集到噪声增强训练集的均值最近邻距离,作为施加的高斯噪声水平(σ)的函数,在保留约 95% 方差的 7 维 PCA 空间中进行测量,并按训练集从 PCA 质心处的均方根(RMS)散布度进行归一化。阴影带表示 100 次独立噪声运行中的 ±1 标准差。
通过在保留约 95% 方差的 7 维 PCA 投影中,以均值归一化最近邻(NN)距离来量化数据集距离,进一步展示了噪声增强如何相对于每个测试数据集重塑训练覆盖范围,如图 4(b) 所示。当 σ = 0 时,M 系列数据集的相对 NN 距离明显高于 S 系列数据集,其中 M-3 和 M-4 达到约 1.2–1.25,M-5 约为 1.12,M-1 约为 0.77,而 S 系列数据集的 NN 距离低于 0.2,显示出训练集的近似分布内特性。然而,增加 σ 会放大训练集与 S 系列数据集之间的距离,同时在 σ 值达到 0.2 到 0.3 时,缩小训练集与 M 系列数据集之间的距离,这表明训练数据的噪声增强可以扩展系统动态的覆盖范围。由于所有数据集的 NN 距离在 σ≥0.3 时均开始出现上升趋势,表明数据相似度出现显著偏差,因此我们将后续研究集中在 σ 值达到 0.3 的范围内。
4.2 代理模型评估
图 5 展示了在验证期间,使用不同模型配置和噪声增强水平训练的 TE 和 DB 模型所得到的平均 rollout 损失 ??_??????????????(公式 13)及相应的 95% 置信区间。请注意,所有模型均使用第 3.2 节所述的训练数据进行训练,训练/验证划分比例为 80/20。总体而言,在所有评估设置中,DB 模型均实现了比 TE 模型更低的 rollout 损失。将注意力头数从四个增加到六个对 TE 模型产生了更为明显的改善,将 rollout 损失从 TE4 的 3.58×10?2 降低到 TE6 的 3.43×10?2,而 DB 模型的效果则较为边际,DB4 的损失为 2.32×10?2,DB6 为 2.39×10?2。噪声增强也表现出类似的趋势:以更高水平的噪声增强训练数据可以降低 TE 模型的 rollout 损失,而对 DB 模型的影响则微乎其微。这些观察进一步表明,通过图分支明确编码控制拓扑结构能够使 DB 模型更有效地捕获底层交互,使其仅凭四个注意力头即可实现接近最优的性能,并且使其性能对模型复杂度的增加或更强的噪声增强不那么敏感。
下载:下载高分辨率图片(503KB)下载:下载全尺寸图片
图 5. 不同 σ 下 DB 和 TE 代理模型的 ??_??????????????。(a) 跨独立训练运行的平均 rollout 损失与验证步数的关系,含 95% 置信区间。(b) 最后 50 个训练步的收敛损失分布(方框:四分位距;触须:1.5 倍四分位距)。
接下来,由于篇幅限制,我们主要在正文中呈现 M 系列数据集的分析结果,因为它们表现出更大的分布偏移,而 S 系列数据集的对应结果则提供在补充信息中以备完整性。
4.2.1 纯时间 Transformer 编码器模型评估
为进一步检验模型的预测泛化能力,表 3 汇总了 TE4 和 TE6 在所有 M 系列测试数据集上针对不同噪声水平、所有过程变量和预测时间步的 MAE、RMSE 和 R2 得分的均值和标准差。请注意,每个案例的变异性(即标准差)源于训练过程的随机性,包括随机权重初始化、AdamW 优化器中的 mini-batch 采样以及 GPU 执行期间非确定性浮点运算。为得出具有统计可靠性的结论,我们对每种配置训练并测试了 10 个模型。
表 3. Transformer 编码器模型在不同训练噪声水平 σ 下 M 系列测试数据集上的预测 MAE、RMSE(括号内)和 R2 得分(方括号内)。
| 模型 | 数据集 | σ | 0 | 0.05 | 0.1 | 0.15 | 0.2 | 0.3 |
|------|--------|---|---|------|-----|------|-----|-----|
| TE4 | M-1 | MAE | 6.07±2.82 | 5.38±2.29 | 3.39±2.08 | 2.98±0.64 | 3.44±1.17 | 3.62±0.88 |
| | | RMSE | (7.30±3.10) | (6.79±2.64) | (4.41±2.27) | (4.12±0.99) | (4.79±1.56) | (4.96±1.20) |
| | | R2 | [0.01±0.67] | [0.14±0.56] | [0.54±0.39] | [0.61±0.16] | [0.50±0.29] | [0.41±0.23] |
| | M-3 | MAE | 3.69±1.38 | 3.77±1.13 | 3.63±1.08 | 3.30±0.92 | 3.09±0.84 | 3.43±1.14 |
| | | RMSE | (4.27±1.42) | (4.48±1.34) | (4.18±1.19) | (3.87±0.98) | (3.65±1.00) | (4.01±1.30) |
| | | R2 | [0.62±0.25] | [0.29±0.52] | [0.55±0.30] | [0.47±0.24] | [0.42±0.41] | [0.39±0.27] |
| | M-4 | MAE | 6.46±1.49 | 6.59±1.24 | 6.40±1.13 | 5.99±0.76 | 5.82±0.67 | 6.08±0.87 |
| | | RMSE | (18.59±0.77) | (18.69±0.51) | (18.66±0.59) | (18.66±0.29) | (18.68±0.44) | (18.79±0.40) |
| | | R2 | [0.55±0.15] | [0.53±0.13] | [0.57±0.13] | [0.58±0.07] | [0.56±0.12] | [0.55±0.09] |
| | M-5 | MAE | 4.77±1.42 | 4.09±2.08 | 2.98±1.19 | 2.22±0.48 | 2.38±0.58 | 2.21±0.42 |
| | | RMSE | (5.63±1.40) | (4.77±2.06) | (3.71±1.23) | (2.93±0.62) | (3.02±0.73) | (2.73±0.44) |
| | | R2 | [0.55±0.20] | [0.63±0.24] | [0.76±0.14] | [0.82±0.05] | [0.82±0.08] | [0.82±0.05] |
| TE6 | M-1 | MAE | 6.84±1.40 | 4.58±1.21 | 3.88±1.28 | 3.35±0.64 | 3.65±1.33 | 2.22±0.69 |
| | | RMSE | (8.42±1.72) | (5.35±1.13) | (4.76±1.61) | (3.84±0.72) | (3.98±1.36) | (2.70±0.77) |
| | | R2 | [-0.24±0.56] | [0.50±0.20] | [0.60±0.23] | [0.75±0.09] | [0.69±0.21] | [0.28±1.24] |
| | M-3 | MAE | 3.79±1.39 | 2.83±0.98 | 2.88±1.11 | 2.21±0.67 | 2.66±0.77 | 2.78±0.97 |
| | | RMSE | (4.46±1.58) | (3.31±1.03) | (3.30±1.17) | (2.56±0.69) | (3.05±0.74) | (3.21±0.99) |
| | | R2 | [0.39±0.51] | [0.70±0.14] | [0.65±0.23] | [0.78±0.08] | [0.77±0.08] | [0.75±0.09] |
| | M-4 | MAE | 6.40±0.96 | 5.72±0.82 | 6.20±1.12 | 5.81±0.95 | 6.26±0.70 | 6.45±1.19 |
| | | RMSE | (18.71±0.53) | (18.46±0.45) | (18.54±0.53) | (18.47±0.47) | (18.51±0.29) | (18.77±0.39) |
| | | R2 | [0.56±0.12] | [0.58±0.11] | [0.60±0.11] | [0.62±0.08] | [0.61±0.05] | [0.55±0.08] |
| | M-5 | MAE | 5.40±1.74 | 3.10±0.63 | 3.08±1.30 | 2.96±0.59 | 3.27±1.38 | 2.48±0.64 |
| | | RMSE | (6.11±1.78) | (3.72±0.68) | (3.65±1.29) | (3.53±0.56) | (3.78±1.36) | (3.00±0.66) |
| | | R2 | [0.45±0.28] | [0.78±0.08] | [0.79±0.12] | [0.82±0.05] | [0.80±0.13] | [0.84±0.06] |
表 3 显示,在大多数 M 系列数据集中,最低 RMSE 值出现在中等噪声水平(σ=0.15–0.20)时,而在更高的扰动水平下性能略有下降。例如,对于 TE4 在 M-1 上,平均 RMSE 在没有噪声增强时为 7.30,在最优噪声水平时降低约 44% 至 4.12,之后在最高测试水平时温和增加到 4.96。这种行为受到分布偏移程度的强烈影响。如图 4(b) 中归一化最近邻距离所示,M-3 和 M-4 表现出最大的分布偏移,其次是 M-5 和 M-1。对于严重偏移的 M-4 数据集,RMSE 对噪声增强基本不敏感,仅在 18.46 到 18.79 之间变化,这表明仅靠正则化不足以补偿严重的分布不匹配。噪声增强也改善了训练的鲁棒性,这反映在 RMSE 变异性的显著降低上;例如,TE4 在 M-1 上的标准差从 3.10 降至 0.99,TE6 在 M-3 上的标准差从 1.58 降至 0.69。
噪声增强的效果还取决于模型容量。在没有增强的情况下,低容量的 TE4 在所有数据集上始终优于 TE6(例如,在 M-1 上为 7.30 对 8.42),这表明高容量模型更容易过拟合。在适度噪声增强下,这一趋势发生了反转,TE6 在 M-1 和 M-3 上均优于 TE4。这些结果表明,高容量模型在适当正则化的情况下可以实现改进的预测性能,但它们通常需要更强的噪声增强来抑制过拟合并充分利用其额外的表示能力。
虽然适度的噪声增强可以改善泛化能力,但过度的扰动可能会降低预测精度。由于扰动起到正则化的作用,过强的噪声可能会对学习的映射进行过度平滑,这从 TE4 在 M-1 上超过 σ=0.15 时 RMSE 的温和上升可以得到证实。这些结果进一步表明,噪声增强的幅度应该谨慎选择,以在改善泛化能力和潜在的预测精度损失之间取得平衡。尽管如此,噪声增强相对于替代策略仍然具有吸引力,因为它更加简单。生成方法(如 CVAE 或 GAN)需要在代表性动力学上进行预训练,而基于敏感性分析的技术则依赖于与模拟器的持续交互,增加了计算和时间成本(Krishnamoorthy, 2023, 2022;Tan et al., 2026;Zhang et al., 2025)。相比之下,噪声增强不需要架构承诺或模拟器耦合,接受对称噪声注入而非针对性的、数据驱动的扩展,作为实现高泛化模型的一种有利折中方案。
4.2.2 双分支模型性能评估
根据上述分析的发现,双分支(DB)模型在 σ = 0、0.05、0.1 和 0.15 四种噪声条件下,使用 M 系列数据集进行了评估。表 4 汇总了使用 DB4 和 DB6 模型的预测 MAE、RMSE 和 R2 得分的均值和标准差。
表 4. 双分支模型在不同训练噪声水平 σ 下 M 系列测试数据集上的预测 MAE、RMSE(括号内)和 R2 得分(方括号内)。
| 模型 | 数据集 | σ | 0 | 0.05 | 0.1 | 0.15 |
|------|--------|---|---|------|-----|------|
| DB4 | M-1 | MAE | 2.96±1.35 | 2.21±1.31 | 1.67±0.75 | 1.60±0.47 |
| | | RMSE | (4.15±1.83) | (2.79±1.38) | (2.07±0.91) | (2.04±0.57) |
| | | R2 | [0.61±0.30] | [0.83±0.12] | [0.88±0.09] | [0.88±0.06] |
| | M-3 | MAE | 2.60±0.89 | 3.12±1.45 | 2.18±1.04 | 2.73±1.19 |
| | | RMSE | (3.07±0.94) | (3.41±1.43) | (2.45±1.03) | (2.97±1.18) |
| | | R2 | [0.73±0.15] | [0.83±0.10] | [0.84±0.07] | [0.80±0.09] |
| | M-4 | MAE | 5.64±1.39 | 5.56±1.02 | 5.07±0.69 | 5.22±0.98 |
| | | RMSE | (18.22±0.46) | (17.97±0.39) | (17.88±0.27) | (17.91±0.28) |
| | | R2 | [0.64±0.07] | [0.69±0.06] | [0.69±0.05] | [0.70±0.04] |
| | M-5 | MAE | 3.02±1.11 | 2.30±1.00 | 1.89±0.47 | 2.03±0.76 |
| | | RMSE | (3.60±1.11) | (2.80±0.95) | (2.32±0.48) | (2.54±0.71) |
| | | R2 | [0.80±0.10] | [0.88±0.06] | [0.90±0.04] | [0.89±0.05] |
| DB6 | M-1 | MAE | 2.96±1.35 | 2.03±1.27 | 1.63±0.76 | 1.67±0.56 |
| | | RMSE | (4.15±1.83) | (2.70±1.42) | (2.06±0.86) | (2.09±0.65) |
| | | R2 | [0.61±0.30] | [0.82±0.16] | [0.89±0.08] | [0.88±0.06] |
| | M-3 | MAE | 2.60±0.89 | 2.84±1.41 | 2.55±1.22 | 2.94±1.07 |
| | | RMSE | (3.07±0.94) | (3.15±1.38) | (2.82±1.20) | (3.22±1.07) |
| | | R2 | [0.73±0.15] | [0.82±0.12] | [0.82±0.11] | [0.79±0.11] |
| | M-4 | MAE | 5.64±1.39 | 5.46±0.93 | 5.28±0.84 | 5.34±0.88 |
| | | RMSE | (18.22±0.46) | (17.93±0.39) | (17.89±0.28) | (17.92±0.27) |
| | | R2 | [0.64±0.07] | [0.69±0.07] | [0.69±0.06] | [0.70±0.05] |
| | M-5 | MAE | 3.02±1.11 | 2.18±0.89 | 2.03±0.57 | 1.90±0.67 |
| | | RMSE | (3.60±1.11) | (2.69±0.86) | (2.52±0.61) | (2.39±0.66) |
| | | R2 | [0.80±0.10] | [0.89±0.06] | [0.89±0.05] | [0.89±0.04] |
总体而言,DB 模型在所有 M 系列数据集上均实现了比 TE 模型明显更低的 RMSE,这证实了通过图分支用控制回路结构信息增强时间分支可以提高预测精度。例如,M-1 上的最低 RMSE 从 TE4 的 4.12 降低到 DB4 的 2.04,降幅约为 51%,而在 M-3 上则从 3.65 降低到 2.45。噪声增强进一步降低了各数据集上的 RMSE:对于 DB4,M-1 上的 RMSE 从 σ = 0 时的 4.15 降低到 σ = 0.15 时的 2.04,而 M-3 和 M-5 的最低 RMSE 值则在 σ = 0.1 时获得,分别达到 2.45 和 2.32。对于 M-4,RMSE 仅有所降低,从 σ = 0 时的 18.22 降到 σ = 0.1 时的 17.88,这与 TE 模型在同一数据集上观察到的对噪声增强敏感性有限相一致,表明这种特定的分布偏移无法仅通过正则化有效解决。噪声增强还改善了预测的可重复性,M-1 上的 RMSE 标准差从 σ = 0 时的 1.83 降到 σ = 0.15 时的 0.57,表明训练结果的一致性显著提高。DB4 和 DB6 在所有数据集上表现出相似的 RMSE 趋势,这表明一旦图结构得到充分表示,增加 GNN 复杂度提供的额外收益有限。综合来看,这些结果表明时间分支和图分支捕获了过程动力学中互补的方面,而适当的噪声增强可以改善时间分支的正则化,并使双分支架构更充分地实现编码控制拓扑所带来的预测优势。
图 6 展示了使用 σ = 0.0 和 0.15 训练的最佳性能 TE4 和 DB4 模型,在 M-1 数据集上四个关键控制回路的真实轨迹和预测轨迹:RIC-100、PIC-100、XIC-100 和 ERIC-100。选择这些回路是因为它们控制脱甲烷器部分的能耗计算,而这些变量的准确预测对于系统的后续优化和控制至关重要。如图 6 所示,虽然两个模型都能对真实动态提供定性良好的预测,但 DB 模型在定量上显著优于 TE 模型,尤其是在瞬态动态方面。例如,在预测 RIC-100 变量时,TE 模型的预测表现出与真实值的持续偏差,而 DB 模型的预测在过程扰动后表现出更快的回归正确轨迹的能力。这种行为表明,控制分支为模型提供了关于未来 PV 值与当前 SP 和 OP 值之间因果效应的隐式表示,使预测能够更好地反映反馈控制架构。此外,噪声增强似乎对长期预测和频繁扰动的动态产生了显著益处。例如,σ = 0.15 的 DB 模型在预测 PIC-100(OP)动态方面(大约在第 3200 个时间步之后)明显优于 σ = 0 的 DB 模型,在预测 XIC-100(PV)动态方面也表现出更好的性能。对于 TE 模型,同样可以从图 6 中得出 σ = 0.15(有噪声增强)与 σ = 0(无噪声增强)的类似结论。
下载:下载高分辨率图片(1MB)下载:下载全尺寸图片
图 6. 使用 σ = 0.0 和 0.15 训练的最佳性能 TE4 和 DB4 模型,M-1 数据集中四个关键控制回路变量的真实值(黑色)与预测值对比。红色曲线为过程变量的设定值(SP)。
除了提高预测精度之外,控制分支中的图注意力机制还提供了一定程度的可解释性,这是纯时间模型所不具备的,因为学习到的注意力权重可以量化不同控制关系的相对重要性。为说明这一能力,我们分析了没有噪声增强的最佳性能 DB6 模型。图 7 汇总了按边类型(图 7A)、跨回路交互(图 7B)、跨回路 OP→PV 影响(图 7C)以及按控制回路聚合的跨回路影响(图 7D)的平均学习注意力权重。
下载:下载高分辨率图片(610KB)下载:下载全尺寸图片
图 7. 最佳性能 DB6 模型的学习连接性和边权重分布。(A) 按交互类别的平均边权重。(B) 有向误差到输出(Δ_i→OP_j)连接性。(C) 有向输出到过程变量(OP_i→PV_j)连接性。(D) 跨过程网络的聚合跨回路依赖结构。
结果首先揭示,自环(e3)和回路内边(e0、e1、e2)携带最高的聚合注意力权重,表明每个节点的当前状态及其局部反馈结构提供了主要的预测信息。
这与底层的过程动力学一致,即每个控制回路的PID作用主要由其自身的误差信号驱动,而跨回路效应则表现为扰动通过互联系统进行传播的结果。除这些局部相互作用外,学习到的跨回路权重还提供了关于回路间影响层级的额外见解,这对于后续的过程优化和控制尤为重要。例如,进料流量控制器FIC-100通过Δ→OP边(e5)对下游OP节点表现出最强的跨回路影响,这与进料流量扰动同时通过多个下游调节回路传播的事实一致,也是CRR过程中耦合瞬态行为的主要来源。PIC-100在跨回路影响中排名第三,这与其作为脱甲烷塔的主要压力控制器的角色相符,其中压力决定汽液平衡,因此影响甲烷-乙烷分离以及与XIC-100、LIC-100和ERIC-100相关的控制变量。RIC-100调节旁路至膨胀机的流量比,从而影响塔进料的热负荷,在OP→PV图中成为最具影响力的跨回路节点之一,排名第四。
**边的效果**
为了确定所提出的建模框架的性能提升是否源于在双分支架构中显式编码控制拓扑,而不仅仅是由于模型复杂度的增加,我们进一步评估了一个全连接的双分支模型,命名为FC-DB4。FC-DB4模型与所提出的DB模型具有相同的模型容量、辅助监督和交叉注意力机制,唯一的区别在于图分支的连接方式。其预测的MAE、RMSE和R2分数总结于表5中。
**表5** FC-DB4模型在不同训练噪声水平σ下对M系列测试数据集的预测MAE、RMSE(括号内)和R2分数(方括号内)。
| 数据集 | σ=0 | σ=0.05 | σ=0.1 | σ=0.2 | σ=0.3 |
|--------|-----|--------|-------|-------|-------|
| M-1 | 2.58±0.74 (3.40±0.92) [0.69±0.14] | 2.19±0.63 (2.95±0.76) [0.74±0.13] | 1.71±0.40 (2.22±0.44) [0.79±0.07] | 1.70±0.41 (2.21±0.48) [0.79±0.07] | 1.60±0.30 (2.15±0.45) [0.78±0.09] |
| M-3 | 4.07±1.35 (4.70±1.54) [0.47±0.25] | 3.99±1.39 (4.62±1.53) [0.45±0.42] | 3.21±1.13 (3.78±1.21) [0.57±0.17] | 3.12±0.74 (3.69±0.88) [0.58±0.11] | 2.87±0.66 (3.36±0.75) [0.52±0.12] |
| M-4 | 7.29±1.23 (18.93±0.61) [0.36±0.16] | 7.39±1.84 (18.86±1.08) [0.45±0.26] | 6.96±1.37 (18.75±0.48) [0.46±0.10] | 6.98±1.08 (18.72±0.48) [0.47±0.11] | 6.41±0.72 (18.69±0.34) [0.43±0.12] |
| M-5 | 2.71±0.73 (3.41±0.86) [0.65±0.18] | 2.83±0.61 (3.48±0.63) [0.72±0.09] | 2.44±0.51 (3.05±0.54) [0.74±0.05] | 2.45±0.37 (3.12±0.43) [0.73±0.07] | 2.20±0.24 (2.76±0.26) [0.76±0.06] |
根据表5,FC-DB4模型需要显著的噪声增强才能达到其最优状态(在当前模型配置下),其最低RMSE始终出现在σ=0.3时,而DB4模型则在σ=0.1–0.15时达到最优。这表明,在没有指定控制架构的情况下,图分支更依赖正则化来避免过拟合。更重要的是,DB4在其各自的最优点上,在所有数据集上均达到了比FC-DB4更低的RMSE:在M-3数据集上改进最为明显(2.45 vs. 3.36,降低了27%)和M-5数据集上(2.32 vs. 2.76,降低了16%),在M-1(2.04 vs. 2.15)和M-4(17.88 vs. 18.69)上仍保持一致。这些收益进一步证明了在图边中编码实际控制回路拓扑的优势,即结构化先验将消息传递约束在系统特定的交互范围内,缩小了设计空间,使模型能够更有效地泛化到未见过的操作条件。
**5. 结论**
在本研究中,我们以冷余液回流液化天然气脱甲烷过程为例,提出了一种双分支图-时序代理建模架构,以改善多元化工过程控制系统中的分布外预测精度。该架构将时序Transformer与图神经网络相结合,后者将控制系统编码为有向图,边类型表示闭环反馈、跨回路耦合和误差响应关系,通过交叉注意力融合机制实现整合。为了增强对分布外预测的泛化能力,我们还引入了基于高斯噪声的数据增强来丰富训练动态,缓解训练数据集与测试数据集之间的差异。
通过扰动单个或多个关键控制回路设定值生成的数据集进行的性能评估表明,通过GNN将系统固有控制回路的结构信息添加到纯时序模型中,可以显著提高长期预测精度和频繁瞬态动态过程的预测精度。虽然基于噪声的数据增强可以进一步提高训练数据集外部动态的预测精度,但过度的噪声可能导致纯时序模型失效,而添加结构信息则有助于稳定模型在不同噪声水平下的性能。
总之,这些发现表明,所提出的双分支预测建模架构是模拟具有内部控制回路的多元化工过程的一个有前景的解决方案,这些回路在决定过程动态方面起着重要作用。通过将变量间的结构交互信息与时序动态建模相结合,双分支框架可以显著提高预测精度和对训练数据集外部动态的泛化能力,解决现有机器学习预测模型普遍面临的推理挑战。由于该架构通过类型化边以通用方式编码控制结构,因此原则上可迁移到其他调节拓扑可表示为类似反馈图的工艺过程中。然而,未来研究需要在更广泛的系统范围内评估其实际适用性和性能。
为了进一步完善该框架,未来工作将重点包括:将图公式扩展到单层PID回路之外的分层和级联控制方案、评估学习到的图结构对相关联但不同的工艺配置的迁移能力以用于建模有限训练数据的新装置,以及研究通道特定的数据增强策略,根据各个传感器噪声特性定制扰动幅度。
**CRediT作者贡献声明**
Marcus Pereira:写作 – 审阅与编辑,写作 – 原稿,方法学,调查研究,形式化分析,概念化。Eric Dixon:写作 – 审阅与编辑,监督,方法学,形式化分析。P. Kerr Wall:写作 – 审阅与编辑,监督,方法学,形式化分析。Xun Tang:写作 – 原稿,监督,方法学,经费获取,形式化分析,概念化。Jose A. Romagnoli:写作 – 审阅与编辑,监督,方法学,经费获取,概念化。
Marcus Pereira | Eric Dixon | P. Kerr Wall | Xun Tang | Jose A. Romagnoli