物理信息神经网络结合正交配置法用于化学动力学模拟
《Computers & Chemical Engineering》:Physics-informed neural networks with orthogonal collocation for chemical kinetics simulation
【字体:
大
中
小
】
时间:2026年10月28日
来源:Computers & Chemical Engineering 4.9
编辑推荐:
• 在物理信息神经网络中嵌入勒让德插值层。
• 时变系数实现灵活的全局解表示。
• OCPINN 在非线性、刚性及固定床反应器系统中进行评估。
• 在所研究案例中,OCPINN 产生的平均误差低于 PINN 和 VS-PINN。
1. 引言
化学工业中基于模型的监测、优化和控
• 在物理信息神经网络中嵌入勒让德插值层。
• 时变系数实现灵活的全局解表示。
• OCPINN 在非线性、刚性及固定床反应器系统中进行评估。
• 在所研究案例中,OCPINN 产生的平均误差低于 PINN 和 VS-PINN。
1. 引言
化学工业中基于模型的监测、优化和控制应用的日益增多,要求对反应系统进行准确可靠的动态建模(Zhao 等,2025;Yin 等,2023)。这些从石油化工精炼到药物合成的复杂化学过程受质量守恒和能量守恒定律支配。它们通常由常微分方程组(ODEs)或微分代数方程组(DAEs)建模,这些方程组可能是高维、强非线性的,甚至可能表现出显著的刚性(Kim 等,2021;Goswami 等,2024)。成熟的数值积分方法,包括后向微分公式、隐式龙格-库塔格式和自适应刚性求解器,为其中许多系统提供准确可靠的解,并且仍然是一次性前向模拟的首选。然而,在参数估计、动态优化、模型预测控制和重复场景评估等过程系统工程应用中,动态模型可能需要在迭代计算工作流程中被重复评估或微分。这些应用推动了连续可微且物理一致的模型表示的发展,这些表示可以补充而非普遍取代既有的数值积分器。
在此背景下,物理约束机器学习(PCML)已成为科学机器学习的一个重要分支,其中物理知识被融入到模型架构、训练目标或机理组件与数据驱动组件之间的耦合中。Mukherjee 和 Zavala(Mukherjee 和 Zavala,2026)最近将化学工程中的 PCML 方法归纳为宽泛的类别,包括软约束学习、硬约束学习以及混合或灰箱建模。这些公式已被研究用于代理建模、过程监测、不确定性量化、优化和控制(Mukherjee 和 Zavala,2026)。
在更广泛的 PCML 领域中,标准物理信息神经网络(PINNs)通常采用软约束公式来求解正向和逆向微分方程问题。通过将控制方程残差以及初始和/或边界条件纳入训练目标,PINNs 构建了近似满足规定物理模型的连续神经表示(Raissi 等,2019)。因此,基于 PINN 的方法已在过程系统工程中得到研究,用于状态估计(Yan 等,2025)、化学反应器建模(Wu 等,2024)、过程相关输运现象(Horiguchi 等,2025)、最优操作(Wang 和 Wu,2024)、反应动力学(Zhang 等,2024)、聚合系统(Ryu 等,2024)以及动态过程建模(Velioglu 等,2025)。对于控制方程已知的正向问题,PINNs 可以在没有内部参考解数据的情况下进行训练,由微分方程本身提供主要训练信号。它们的连续可微表示对于需要敏感性或基于梯度的计算的应用也很有吸引力。
PINNs 的实际实现受到若干数值和优化挑战的限制。多个残差分量的同时最小化可能产生平衡不良的优化景观,特别是当状态变量或控制方程跨越尺度差异很大时。这些困难在刚性或多尺度系统中可能变得更加显著,传统 PINNs 可能表现出收敛缓慢、训练振荡强烈或残差梯度大且相互冲突(Cuomo 等,2022;Sharma 等,2023)。此外,传统 PINNs 通常通过软惩罚施加物理关系,因此不保证等式或不等式约束的精确满足。最近的硬约束 PCML 方法从不同方向解决了这一问题。例如,Iftakher 等(Iftakher 等,2026)提出了 KKT-Hardnet,其中通过由 Karush-Kuhn-Tucker 条件导出的可微投影层来强制实施非线性等式和不等式约束。
还开发了一系列结构和算法策略,专门用于改进瞬态、多尺度和刚性动力学的神经求解方法。De Florio 等(De Florio 等,2022)使用函数连接极值理论(X-TFC)严格强制初始约束。物理信息随机投影神经网络(PIRPNN)(Fabiani 等,2023)和变量缩放策略如(VS-PINN)(Ko 和 Park,2025)已被提出,以简化学习任务并缓解尺度不平衡和谱偏差效应。此外,针对刚度主导的动力系统,探索了整合经典时间积分理论的概念。诸如延迟校正网络(DCNet)(Jeon 等,2024)和隐式单步神经 ODEs(Fronk 和 Petzold,2024)等架构已被证明能改善刚性动力系统的训练行为和收敛性。对于多尺度应用,基于神经算子的方法(Goswami 等,2024)无需逐步时间积分即可学习解算子,从而能够快速评估刚性化学动力学。总的来说,这些研究表明,物理信息动态建模可以通过约束处理、变量缩放、架构修改、隐式积分和基于算子的表示得到改善,同时也强调了将既有数值分析原理纳入科学机器学习公式的价值。
谱方法和配点技术同样已被引入神经微分方程建模。早期研究探索了谱离散和基于配点的神经 ODE 训练,作为重复顺序积分的替代方案(Quaglino 等,2020;Roesch 等,2021)。最近,Shapovalova 和 Tsay(Shapovalova 和 Tsay,2025)将神经 ODE 训练表述为一个完全离散化的同时优化问题。在他们的公式中,神经网络表示 ODE 的未知右端项,而描述状态轨迹的配点系数和神经网络参数则通过非线性规划求解器从观测轨迹数据中同时优化。Lueg 等(Lueg 等,2026)将同时方法扩展到神经微分代数系统,其中神经网络表示原本部分指定的 DAE 模型中的未知关系。正交配点用于完全离散化动态约束,状态轨迹和神经网络参数通过同时非线性规划公式确定,该公式还可以纳入代数和不等式约束。重要的是,这些神经 ODE 和神经 DAE 研究处理的学习问题与本文不同:它们的神经网络用于从数据中识别未知的动力学或本构关系,而本工作中的控制方程被假定为完全指定,神经网络用于近似其解。
然而,正交配点为构建物理信息解表示提供了一种有用的数值结构。经典正交配点使用在精心选择的节点(如高斯、高斯-拉道或高斯-洛巴托点)上构造的插值多项式来近似微分方程解(Young,2019;Carey 和 Finlayson,1975;Finlayson,1974)。由此产生的基表示对足够光滑的解提供高阶近似,并将连续微分方程转化为结构化的代数关系(?evik 等,2025)。在传统正交配点和有限元正交配点中,为离散化轨迹确定一组有限的状态或多项式系数。在上述同时神经 ODE 和神经 DAE 公式中,这些系数或状态值是直接与神经网络参数耦合的优化变量。相比之下,本工作处理的是具有完全指定控制方程的正向初值问题。神经网络将独立坐标映射到与勒让德-拉格朗日基相关的时变系数,这些系数用于在评估控制方程残差之前重构连续状态轨迹。与在每个单元内定义传统配点多项式的固定系数不同,这些系数随评估坐标变化,因此重构解不限于 N-1 次多项式。其导数包含系数变化和基变化,并通过端到端自动微分保留。因此,正交配点在此处作为基于残差的物理信息学习中的结构化解重构机制,而非用于构造同时非线性规划问题的完整离散化。
在本研究中,我们提出了一种用于求解 ODE 系统的正交配点物理信息神经网络(OCPINN)。主要的方法论区别在于引入了勒让德-拉格朗日重构层,其中神经网络预测时变系数函数,而不是像传统 PINN 那样直接输出状态变量。重构的连续解通过自动微分进行微分,并仅使用控制方程残差和初始条件损失进行训练;在本研究考虑的正向问题中不使用内部参考解数据。我们研究这种结构化表示是否相对于传统 PINN 能改善非线性反应动力学、未进行准稳态简化的完整刚性 Robertson 系统以及工业甲醇制丙烯固定床反应器模型的解精度和优化行为。
2. 方法论
本节介绍所提出的正交配点物理信息神经网络(OCPINN)方法。该框架将受正交配点启发的勒让德-拉格朗日重构结构引入物理信息神经网络解学习。以下小节描述网络架构和勒让德-拉格朗日重构公式,然后是损失函数的构建和训练过程。随后介绍用于量化模型精度的评估指标。
2.1. 网络架构与数值公式
OCPINN 的总体结构由三个组件组成:前馈神经网络模块、基于拉格朗日插值的重构模块和物理约束损失函数,分别如图 1 中的蓝色、黄色和橙色模块所示。与传统 PINN 直接预测状态变量不同,OCPINN 中的神经网络预测时变系数函数 {????(??)}???1??=0。然后,连续解被重构为定义在高斯-勒让德插值节点上的拉格朗日基函数的加权组合。重构的状态及其导数随后通过自动微分用于评估控制方程残差。这种混合表示提供了解的结构化基表示,并通过勒让德-拉格朗日插值函数耦合预测的动力学。
下载:下载高分辨率图像(660KB)下载:下载全尺寸图像
图 1. OCPINN 架构和训练工作流程的示意图。
考虑一个一阶常微分方程组:
(1) ????(??)/???? = ??(??(??),??), ??∈[??0,????], ??(??0)=??0
其中 ??(??) 表示待求解的状态变量,??(??(??),??) 是描述系统时间演化的给定向量值函数,??∈[??0,????] 表示时间域。初始条件指定为 ??(??0)=??0。尽管该公式是在时间相关常微分方程的背景下说明的,但所提出的方法可以很容易地扩展到空间域。
OCPINN 中的物理时间域首先通过将区间 [??0,????] 映射到标准域 ??∈[?1,1] 进行归一化,这与勒让德多项式的定义域一致。映射由下式给出:
(2) ??(??)=2(?????0)/(???????0)?1
勒让德多项式在区间 [?1,1] 上正交,其根满足最优数值求积性质。它们可以解析地定义为:
(3) ????(??)=1/(2^?? ??!) * ??^??/????^?? [(??^2?1)^??], ??=0,1,2,…
在该区间内,选择 N 个勒让德节点 {????}???1??=0(对应于勒让德多项式 ????(??) 的根)作为插值节点,以构建拉格朗日基。然后,解 ??(??) 可以通过拉格朗日插值表示为:
(4) ??(??)=∑_{??=0}^{???1} ????(??(??)) ????(??(??))
其中 ????(??)∈??^???? 表示与第 i 个插值节点相关的插值系数。与经典多项式插值中的固定值不同,????(??(??)) 是由神经网络生成的评估坐标的函数。它们的值通过物理残差最小化和初始条件处理确定。???? 表示 ODE 状态向量的维数。????(??) 表示拉格朗日基函数(Gao 和 Zahr,2023),定义为:
(5) ????(??)=∏_{??=0,??≠??}^{???1} (???????)/(?????????)
满足 ????(????)=??????(克罗内克 δ 函数),即:
(6) ??????={1, 若 ??=??;0, 若 ??≠??
2.2. 损失函数公式与训练协议
OCPINN/PINN 的训练目标是最小化整个时域上的两类误差:基于物理的残差损失 ?phys 和初始条件损失 ?ic。
(7) ?total=??phys·?phys+??ic·?ic
其中权重系数 ??phys 和 ??ic 设为 1。物理损失根据控制方程定义为:
(8) ?phys=∑_{??=1}^{????} ???? ???, ???=1/???? ∑_{??=1}^{????} ??^2_{??,??}
(9) ????,??={ 在 ???? 处的 ??????/???? ? ????(??(????),????),对于 PINN;在 ???? 处的 ??????/????·????/???? ? ????(??(??(????)),??(????)),对于 OCPINN }
其中 ???? 表示状态变量数量,???? 是训练点总数,???? 表示第 d 个状态变量,????/???? 是第 k 个训练点。????,?? 是第 d 个控制方程在 ????/???? 处的残差。项 ??????/????·????/????|???? 通过自动微分获得,而 ??(????) 表示通过归一化映射的逆映射对应于 ???? 的物理时间,也称为 ????。除非明确指定自适应状态残差加权,否则使用等权重 ????=1/????。自适应过程平衡不同状态方程的残差,这在支持信息第 S1 节中介绍。初始条件损失定义为:
(10) ?ic=1/???? ∑_{??=1}^{????} ‖????(??0)??????0‖^2
其中 ????(??0) 是第 d 个变量在初始时刻的预测值,?????0 是其对应的真实初始值。
使用 Adam 优化器(Kingma 和 Adam,2017)进行训练以最小化 ?total。应强调的是,训练过程中不使用参考解数据。神经网络的参数通过最小化控制方程残差以及规定的初始条件处理来确定。数值参考解是独立生成的,仅在训练后用于评估PINN和OCPINN预测的精度。2.3. 模型评估指标模型精度在????个独立的交错评估点上进行评估。这些点与训练期间使用的????残差网格不同。参考轨迹使用高精度数值ODE求解器生成,不参与训练或检查点选择。为了量化模型在不同时间点的逐点预测精度,我们引入了一个依赖于时间且状态缩放的均方误差指标???(????)。由于状态变量可能具有显著不同的量级,每个状态均使用模型无关的参考均方根尺度????进行归一化。其定义为(11)???(????)=1?????∑??=1????(??????????????????)2,????=1?????∑??=1????(???????)2其中??????和???????分别表示第??个变量在第??个离散评估点上的预测值和真实值。???(????)对所有状态变量赋予同等重要性,用于检验预测误差的时间分布。主要的标量精度指标是状态缩放的全局均方根误差,定义为(12)????????????=√(1?????∑??=1???????(????))除非另有说明,主要比较和插值节点研究均使用十个固定随机种子重复进行。架构和损失权重敏感性分析使用三个种子,具体见相应表格。精度指标在统计聚合前分别对每个训练模型进行计算。结果以跨种子的平均值和样本标准差报告。预测图显示了确定性参考轨迹以及独立训练模型的平均预测和变异性。训练时间、可训练参数数量和相同种子下配对获胜的频率作为补充计算指标进行报告。3. 案例研究本节评估并比较了所提出的OCPINN方法与常规PINN和VS-PINN在三个代表性ODE问题(案例1-3)上的性能。考虑三个案例:非线性连续反应系统、强刚性的Robertson基准问题,以及工业甲醇制丙烯(MTP)固定床反应器案例。这些案例评估了OCPINN在非线性瞬态动力学、显著刚性和多变量过程耦合下的表现。目的是比较OCPINN与PINN和VS-PINN在不同问题设置下的预测精度、训练行为和计算特征。OCPINN、PINN和VS-PINN均使用PyTorch框架(Paszke等,2019)在Python环境下实现。为了公平起见,在每个案例中,PINN、VS-PINN和OCPINN使用相同的隐藏层架构、激活函数、学习率、权重初始化策略、训练轮数和残差点网格。方法特异性差异仅限于其解表示,对于VS-PINN,还有校准的输入缩放因子。缩放因子使用留出的物理损失准则进行选择,不接触参考解。对于主要比较,OCPINN使用N = 5个Gauss–Legendre插值节点,而所有模型使用1000个残差点训练10000个轮次。真实解使用SciPy库中的LSODA求解器获得(Hindmarsh和Petzold,2005)。为便于比较不同问题设置下的模型性能,案例1、2和3中使用的网络架构和关键超参数设置汇总于表1。更多细节可在代码库中找到。对于Robertson问题,对PINN和OCPINN均进行了额外的架构敏感性分析,而主要比较使用固定的64-64-64架构。表1. 案例1、2和3的网络架构和超参数设置。超参数案例案例1案例2案例3隐藏层数333每层神经元数32-64-3264-64-6464-64-64激活函数tanhtanhtanh初始学习率10–310–310–3训练轮数10,00010,00010,000残差点数1000100010003.1. 案例1:非线性连续反应(非线性ODE)在恒温间歇反应器中,物质A经历一级反应生成中间产物B,B随后经历二级反应生成最终产物C。该连续反应过程可由以下方程表示:(13)??→??1??→??2??以下ODE描述了物质A和B的浓度变化:(14){??????????=???1??????????????=??1?????2??2????2初始条件为:?????(0)=1.0 mol/L,?????(0)=0 mol/L,??1=0.1 min-1,??2=0.05 L/mol/min,时间范围??∈[0,50] min。图2比较了物质A和B的预测浓度与真实解。曲线和阴影区域分别表示十个固定随机种子下的平均预测值和一个标准差。所有三个模型都再现了整体浓度分布,包括中间产物B的快速形成和随后的消耗。然而,OCPINN提供了与参考解最接近且最一致的吻合,达到了1.53 × 10-3的状态缩放全局RMSE,而PINN为3.27 × 10-3,VS-PINN为2.73 × 10-3。此外,OCPINN在所有十个配对随机种子下的误差均低于两种PINN变体,表明其改进对网络初始化具有鲁棒性。下载:下载高分辨率图像(230KB)下载:下载全尺寸图像图2. 案例1:PINN、VS-PINN和OCPINN在间歇反应器系统中的预测解与真实解的比较,分别为(a)????和(b)????。图3(a)比较了训练损失历史。OCPINN达到更低的损失水平,并在训练后期表现出更窄的种子间变化。OCPINN、PINN和VS-PINN的平均最优损失分别为8.00 × 10?8、3.40 × 10?7和4.64 × 10?7。尽管VS-PINN通过校准的输入缩放因子4相对于PINN降低了平均预测误差,但其改进在随机种子间的一致性较差。下载:下载高分辨率图像(350KB)下载:下载全尺寸图像图3. 案例1:(a) PINN、VS-PINN和OCPINN的训练损失收敛曲线;(b) PINN、VS-PINN和OCPINN获得的时间相关误差曲线???(????)的比较。图3(b)进一步显示了时间相关的状态缩放MSE。PINN和VS-PINN的最大误差出现在初始瞬态期间,峰值分别约为5.08 × 10?5和7.07 × 10?5,而OCPINN的最大平均误差为1.16 × 10?5。这些结果表明,结构化的OCPINN表示更准确地捕捉了非线性连续反应的快速瞬态行为。为了进一步检验所提出的表示的效果,图4比较了OCPINN预测的时变插值系数????(??)?(??)(虚线)与从参考解(黑线)在插值节点处获得的固定系数????ref(黑点)。如图4(a)和4(b)所示,OCPINN系数随时间连续演化,而常规的固定系数表示对应于单个静态插值多项式。因此,时变公式在保留Legendre–Lagrange基结构的同时,为表示解的局部变化提供了额外的灵活性。下载:下载高分辨率图像(601KB)下载:下载全尺寸图像图4. 案例1中OCPINN插值系数的比较。(a, b)插值系数的时间演化与真实解的比较;(c, d)固定和时变系数重构的瞬时斜率。图4(c)和4(d)比较了真实浓度斜率与固定和时变插值系数重构获得的斜率。固定系数插值在局部斜率上显示出明显的偏差,特别是在时间边界附近。时变重构更紧密地跟踪真实斜率。该比较说明了时变系数表示在保持底层正交配置结构的同时,如何改进局部瞬态动力学的描述。3.2. 案例2:Robertson问题(刚性ODE)Robertson模型是化学动力学中一个标准的刚性系统测试问题(Hairer和Wanner,1996)。反应方案如下:(15){??→??1????+??→??2??+????+??→??3??+??相应的ODE为:(16){????1????=???1??1+??3??2??3????2????=??1??1???2??22???3??2??3????3????=??2??22反应速率常数为??1=4×10?2,??2=3×107,??3=104,跨度达9个数量级,导致系统存在显著差异。初始条件为[1, 0, 0],时间域为[0, 102]。为了量化整个Robertson系统的刚度,沿数值参考轨迹评估了物理Jacobian的特征值。排除与守恒关系相关的零特征值,瞬时刚度比从t = 10?4时的约3.00 × 103增加到t = 100时的4.70 × 105,证实了快慢动力学模式之间存在明显的分离。代表性特征值、刚度比和参考求解器诊断报告见支持信息第S2节。由于Robertson动力学跨越多个时间尺度,且中间物种比主要状态小几个数量级,因此使用移位对数时间坐标来提供快速初始瞬态的更密集残差覆盖,同时保留完整的物理时间域。还引入了约束感知输出变换,使得初始条件、非负性和守恒关系通过构造得以满足。所有三个原始控制方程的残差均使用自动微分和链式法则在物理时间中评估。相同的坐标变换和约束处理应用于PINN、VS-PINN和OCPINN,以确保一致性比较;实现细节见支持信息第S2节。图5比较了十种子平均预测与数值参考解。所有三种方法都再现了多时间尺度的Robertson动力学,包括y1的缓慢消耗、中间物种y2的快速形成以及y3的积累。主要差异出现在y2的快速瞬态期间,其中预测的转变相对于参考解略有延迟。OCPINN对缓慢演化组分提供了更清晰的改进:OCPINN对y1和y3的平均相对L2误差分别为3.27 × 10–4和3.08 × 10–3,而PINN分别为8.23 × 10–4和7.75 × 10–3。下载:下载高分辨率图像(228KB)下载:下载全尺寸图像图5. 案例2:PINN、VS-PINN和OCPINN在Robertson问题中的预测解与真实解的比较,分别为(a) y1,(b) y2和(c) y3。图6进一步比较了训练损失和时间相关误差行为。如图6(a)所示,三种方法收敛到相似的最终损失水平,约为2.04 × 10?5,尽管VS-PINN和OCPINN在早期训练阶段下降稍快。图6(b)显示主要预测误差集中在中间物种的快速瞬态附近,而在剩余的大部分时间域中观察到明显较小的误差。在整个评估域上,OCPINN实现了最低的平均状态缩放全局RMSE,为2.062 × 10?2,而PINN为2.097 × 10?2,VS-PINN为2.133 × 10?2。因此,对于这种强刚性基准问题,全局改进是适度的,但逐分量结果表明对缓慢演化状态y1和y3有更明显的优势。下载:下载高分辨率图像(260KB)下载:下载全尺寸图像图6. 案例2:(a) PINN、VS-PINN和OCPINN的训练损失收敛曲线;(b) PINN、VS-PINN和OCPINN获得的时间相关误差曲线???(????)的比较。为了检验该比较是否强烈依赖于网络容量,在其余训练设置相同的情况下,使用五种代表性架构对PINN和OCPINN进行了额外评估。完整的架构敏感性结果汇总于表2,相应的PINN结果见支持信息第S2节。128-128-128架构给出的平均误差略低于64-64-64网络,但参数数量约为后者的四倍。因此,64-64-64架构保留为紧凑的参考配置,而非普遍最优的选择。在五种架构中,OCPINN在四种情况下实现了比PINN更低的平均误差,表明其比较性能不限于单一网络规模。表2. OCPINN对Robertson问题的架构敏感性。架构????????????#参数训练时间(s)#64-64(2.125±0.043) × 10–24938410.6 ± 12.832-32-32(2.400±0.386) × 10–22506431.9 ± 21.064-64-64(2.050±0.006) × 10–29098431.9 ± 30.4128-128-128(2.045±0.003) × 10–234,570420.6 ± 3.064-64-64-64(2.062±0.009) × 10–213,258443.0 ± 10.0#值报告为三个固定随机种子下的平均值±标准差。训练时间表示10,000轮次优化循环的墙钟时间。3.3. 案例3:工业MTP固定床反应器案例为了进一步证明OCPINN在过程相关反应系统中的适用性,所提出的OCPINN应用于甲醇制丙烯(MTP)固定床反应器模型(Zhang等,2025)。具体而言,将原始反应器优化框架中的单级模型表述为沿反应器床层坐标的ODE初值问题,其中耦合反应网络和能量平衡控制集总组分的摩尔流率和反应器温度的演化。有关模型的更多细节可在参考文献(Zhang等,2025)中找到。选中物种的组分平衡和能量平衡可以写成:(17)???dCCH3OHds=?κ(r1+r2+r3+r4+r5+r6+r7+r8+r9+r10)dCC2H4ds=κ(12r1+r14)dCC3H6ds=κ(13r2?r7+r11+2r12+2r13+r15?r17)dCC4H8ds=κ(14r3+r7?r8?2r11+r12+r14+r15)dCC5H10ds=κ(15r4+r8?r9+r11?2r12)dCC6H12ds=κ(16r5+r9?r10?r13?r14)dCC7H14ds=κ(17r6+r10?r15?r16)dCC7H8ds=κr16dCC3H8ds=κr17dCH2Ods=κ(r1+r2+r3+r4+r5+r6+r7+r8+r9+r10)dTds=?ρ(πdt24)∑17n=1rnΔHn????????Cp·?
其中,Ci (mol/(m3)) 表示集总组分 i 的浓度,T (K) 表示温度,s 表示反应器坐标,rn (mol/(kgcat·h)) 表示反应 n 的动力学速率表达式。ΔHn (kJ/mol) 代表与反应 n 相关的有效放热贡献,Cp???????? (kJ/(kg·K)) 表示热容,? (kg/h) 表示质量流量。κ 是一个定义参数,等于 1QV(πdt24)ρ,其中 QV (m3/h) 是气体体积流量,dt (m) 是反应器直径,ρ (kg/m3) 是反应器床层密度。完整的动力学方案、模型参数、初始条件和坐标规格见支持信息第 S3 节。
图 7 比较了代表性变量(包括 CH?OH、C?H?、C?H? 和温度)的预测轴向分布与数值参考解。其余状态轨迹见支持信息第 S3 节。所有三种方法都能重现主要的反应器趋势,尽管它们的精度在不同状态变量上有所差异;OCPINN 提供了最低的整体预测误差。在共同的 N=5 设置下,OCPINN 实现了十次随机种子下的状态缩放全局 RMSE 为 (4.208±1.515)×10?2,而 PINN 为 (1.339±1.045)×10?1,VS-PINN 为 (3.206±1.799)×10?1。OCPINN 在十次配对运行中有七次优于 PINN,并在全部十次运行中优于 VS-PINN。
下载:下载高分辨率图像 (600KB)
下载:下载全尺寸图像
图 7. 沿反应器坐标的关键变量预测轨迹比较:(a) CH?OH;(b) C?H?;(c) C?H?;(d) 温度。
改进在低幅值中间组分中最为显著。对于 C?H?? 和 C?H?,平均相对误差从 PINN 的 0.367 和 0.248 分别降低到 OCPINN 的 0.0864 和 0.0659。这表明结构化重构对于多变量反应器系统中难以精确解析的状态尤为有益。训练损失历史、时间相关误差分布以及完整的预测轨迹集见支持信息第 S3 节。
主要的 MTP 比较使用固定的相等状态残差权重,因为一致应用于所有方法的自适应权重消融并未提高状态缩放后的全局精度。完整结果见支持信息第 S3.4 节。
4. 进一步分析与讨论
4.1. 插值节点数量的影响
表 3 总结了 OCPINN 在 N=3~7 个高斯-勒让德插值节点下的状态缩放全局 RMSE、可训练参数数量和训练时间,图 8 显示了相应的精度趋势。N 的影响强烈依赖于具体问题。对于案例 1,增加插值节点数量一致地提高了预测精度:平均全局 RMSE 从 N=3 时的 (2.079±0.851)×10?3 降低到 N=7 时的 (0.518±0.190)×10?3。所有研究的 OCPINN 配置都优于 PINN 和 VS-PINN 基线。在共同的参考设置 N=5 下,平均误差相对于 PINN 和 VS-PINN 分别降低了约 53.3% 和 44.0%。
表 3. 不同插值节点数量下 OCPINN 的状态缩放全局 RMSE、参数数量和训练时间,以 PINN、参数匹配 PINN 和 VS-PINN 作为参考基线。
| 案例 | 方法 | E_S_RMSE | #参数 | 训练时间 (s) |
|------|------|----------|-------|--------------|
| 案例1 | OCPINN, N=3 | (2.079±0.851)×10?3 | 4454 | 266.9±14.2 |
| | OCPINN, N=4 | (1.753±0.557)×10?3 | 4520 | 292.1±20.3 |
| | OCPINN, N=5 | (1.526±0.277)×10?3 | 4586 | 350.4±16.0 |
| | OCPINN, N=6 | (0.907±0.354)×10?3 | 4652 | 382.9±14.4 |
| | OCPINN, N=7 | (0.518±0.190)×10?3 | 4718 | 455.9±14.2 |
| | PINN | (3.269±1.573)×10?3 | 4322 | 178.7±18.0 |
| | PINN (匹配) | (4.216±1.355)×10?3 | 4590 | 177.8±10.6 |
| | VS-PINN | (2.724±0.796)×10?3 | 4322 | 181.7±13.9 |
| 案例2 | OCPINN, N=3 | (2.092±0.047)×10?2 | 8838 | 299.5±14.3 |
| | OCPINN, N=4 | (2.065±0.012)×10?2 | 8968 | 348.0±12.6 |
| | OCPINN, N=5 | (2.062±0.015)×10?2 | 9098 | 401.8±9.0 |
| | OCPINN, N=6 | (2.069±0.015)×10?2 | 9228 | 479.3±8.0 |
| | OCPINN, N=7 | (2.055±0.006)×10?2 | 9358 | 580.8±12.7 |
| | PINN | (2.097±0.024)×10?2 | 8578 | 260.1±10.6 |
| | PINN (匹配) | (2.087±0.016)×10?2 | 9114 | 259.7±11.9 |
| | VS-PINN | (2.133±0.093)×10?2 | 8578 | 263.8±7.4 |
| 案例3 | OCPINN, N=3 | (2.021±0.981)×10?2 | 10,593 | 625.1±11.5 |
| | OCPINN, N=4 | (4.277±2.164)×10?2 | 11,308 | 751.2±9.2 |
| | OCPINN, N=5 | (4.208±1.515)×10?2 | 12,023 | 921.8±16.2 |
| | OCPINN, N=6 | (15.771±7.782)×10?2 | 12,738 | 1137.5±16.5 |
| | OCPINN, N=7 | (29.053±10.610)×10?2 | 13,453 | 1413.3±25.4 |
| | PINN | (13.386±10.445)×10?2 | 9163 | 432.1±11.0 |
| | PINN (匹配) | (1.647±0.695)×10?1 | 12,051 | 435.8±14.8 |
| | VS-PINN | (32.063±17.988)×10?2 | 9163 | 442.1±14.4 |
注:数值以十个固定随机种子的均值±标准差表示。训练时间表示 10,000 轮优化循环的壁钟时间。
下载:下载高分辨率图像 (268KB)
下载:下载全尺寸图像
图 8. 随着插值节点数量 N 增加,OCPINN 的状态缩放全局 RMSE:(a) 案例 1,(b) 案例 2,(c) 案例 3。
Robertson 问题对 N 的依赖性明显不同。如图 8(b) 所示,平均误差保持在 2.055×10?2 到 2.092×10?2 的狭窄范围内,各配置之间的变化小且非单调。对于 MTP 反应器,依赖性更强,但趋势与案例 1 相反。最低平均误差 (2.021±0.981)×10?2 在 N=3 时获得;精度在 N=6 和 N=7 时显著恶化。这些结果表明,增加插值节点数量并不一定转化为训练模型精度的提高。
增加 N 也会提高输出维度、参数数量和残差评估成本。从 N=3 到 N=7,平均训练时间从案例 1 的 266.9 秒增加到 455.9 秒,案例 2 从 299.5 秒增加到 580.8 秒,案例 3 从 625.1 秒增加到 1413.3 秒。因此,更大的重构空间提供了更高的逼近能力,但代价是更大的优化问题和更高的自动微分成本。因此,N 应被视为一个结构超参数,平衡表示能力、优化难度和计算成本,而不是一个传统离散化阶数,因为增加 N 并不能保证误差的单调减小。
4.2. 模型容量与表示分析
与直接映射独立坐标到状态变量的传统 PINN 相比,OCPINN 为每个状态预测多个插值系数,导致输出映射的大小略有增加。
为了确定观察到的精度提升是否仅仅是模型容量增加的结果,我们构建了一个参数匹配的 PINN,通过增加其最终隐藏层的宽度,同时保持网络深度、激活函数、学习率、残差点和其他训练设置不变。所得模型包含与 (N=5) OCPINN 配置大致相同或略多的可训练参数。
如表 3 所示,仅增加 PINN 的参数数量并不产生系统性的预测精度提升。在案例 1 和 3 中,参数匹配的 PINN 比原始 PINN 表现更差,在 Robertson 案例中仅提供了微小的改进。相比之下,OCPINN 在 30 次配对随机种子运行中有 29 次实现了低于参数匹配 PINN 的状态缩放全局 RMSE。对于非线性连续反应和 MTP 反应器案例,改进是显著的;对于刚性 Robertson 问题,改进较小但一致。这些结果表明,OCPINN 的优势不能仅归因于其增加参数数量,而是与时变系数表示和勒让德-拉格朗日重构有关。
结构化重构引入了额外的计算成本。尽管参数数量与匹配的 PINN 相当,但 (N=5) OCPINN 所需的训练时间约为 1.5–2.1 倍,因为残差评估涉及拉格朗日重构和通过多个系数函数的自动微分。经典 LSODA 在一次性前向积分中仍然显著更高效;因此,OCPINN 在此被视为连续可微的解表示,而不是替代已建立的 ODE 积分器。详细的运行时和推理基准见支持信息第 S5 节。
4.3. OCPINN 重构的逼近能力
经典勒让德-拉格朗日插值作为 OCPINN 假设空间中的一个特例,通过将系数函数设置为相应的常数节点值。因此,对于在归一化域邻域内解析的参考解,OCPINN 假设空间内可实现的最佳逼近满足(19)infθ∥yref??N(·;θ)∥∞≤Crr?N,1< /><ρ
该结果确立了重构空间的谱逼近潜力,而不是训练模型的指数收敛。实际预测误差还取决于神经网络学习系数函数的准确程度。如支持信息第 s4 节所推导,(20)∥yref??n∥∞≤crr?n+λnmaxi∥yref(τi)?ci(·;θ)∥∞
其中 λn 是与插值节点相关的勒贝格常数。第一项代表与勒让德-拉格朗日基相关的逼近误差,第二项反映系数学习和优化误差。因此,增加 n 扩大了重构的逼近能力,但并不保证训练模型误差的单调或指数下降,这与表 3 和图 8 中观察到的依赖于问题的行为一致。因此,n 被视为结构超参数,而不是传统离散化阶数。
对于 robertson 问题,重构的潜在变量随后经过一个非线性约束感知变换。上述逼近能力结果因此直接适用于勒让德-拉格朗日重构层,不应解释为最终约束物理状态的直接误差界。
4.4. 局限性
每个训练模型代表给定控制方程、参数和初始条件在指定域内的解。未评估域外外推或跨操作条件的泛化能力。勒让德-拉格朗日重构定义在归一化区间 [?1,1] 上,因此相关的逼近特性不保证在该区间之外的外推有效。尽管可微表示可能有助于敏感性分析和优化工作流,但这些应用层面的优势在此未得到验证。
当前公式仅限于由 ode 系统控制的前向初值问题。其对边值问题、偏微分方程和其他分布参数系统的适用性尚未研究。此类扩展需要额外处理边界约束、多维基构造、残差点分配和计算规模。
5. 结论
在本研究中,我们开发了 ocpinn,一种结合了勒让德-拉格朗日重构层和神经网络预测时变插值系数的物理信息神经表示。与传统 pinn 不同,ocpinn 通过结构化基表示重构连续解,同时保留基于残差的训练和自动微分。
该方法在非线性连续反应系统、完整的刚性 robertson 系统和一个工业甲醇制丙烯固定床反应器上进行了评估。在三个案例中,ocpinn 在传统 pinn 和 vs-pinn 基线中实现了最低的平均状态缩放全局 rmse。对于非线性反应和 mtp 反应器案例,改进显著,而 robertson 问题的优势在全局水平上较小。参数匹配比较进一步表明,观察到的改进不能仅归因于重构层引入的可训练参数数量的增加。
插值节点数量的影响依赖于具体问题,反映了表示能力和计算成本之间的权衡。ocpinn 最好被视为可微的结构化解表示,而不是在一次前向模拟中替代已建立的 ode 求解器。本研究仅限于指定域内的前向初值问题;扩展到反问题、参数化代理建模、边值问题和分布参数系统仍是未来研究的课题。
credit 作者贡献声明
彭飞普:写作 – 初稿,可视化,软件,方法论,调查,数据管理。洪晓东:可视化,验证,监督,资金获取,概念化。廖祖伟:写作 – 审阅与编辑,监督,项目管理,资金获取。王静岱:项目管理,资金获取。杨永荣:资源,形式分析。
彭飞普 | 洪晓东 | 廖祖伟 | 王静岱 | 杨永荣 该结果确立了重构空间的谱逼近潜力,而不是训练模型的指数收敛。实际预测误差还取决于神经网络学习系数函数的准确程度。如支持信息第 s4 节所推导,(20)∥yref??n∥∞≤crr?n+λnmaxi∥yref(τi)?ci(·;θ)∥∞ 其中 λn 是与插值节点相关的勒贝格常数。第一项代表与勒让德-拉格朗日基相关的逼近误差,第二项反映系数学习和优化误差。因此,增加 n 扩大了重构的逼近能力,但并不保证训练模型误差的单调或指数下降,这与表 3 和图 8 中观察到的依赖于问题的行为一致。因此,n 被视为结构超参数,而不是传统离散化阶数。 对于 robertson 问题,重构的潜在变量随后经过一个非线性约束感知变换。上述逼近能力结果因此直接适用于勒让德-拉格朗日重构层,不应解释为最终约束物理状态的直接误差界。 4.4. 局限性 每个训练模型代表给定控制方程、参数和初始条件在指定域内的解。未评估域外外推或跨操作条件的泛化能力。勒让德-拉格朗日重构定义在归一化区间 [?1,1] 上,因此相关的逼近特性不保证在该区间之外的外推有效。尽管可微表示可能有助于敏感性分析和优化工作流,但这些应用层面的优势在此未得到验证。 当前公式仅限于由 ode 系统控制的前向初值问题。其对边值问题、偏微分方程和其他分布参数系统的适用性尚未研究。此类扩展需要额外处理边界约束、多维基构造、残差点分配和计算规模。 5. 结论 在本研究中,我们开发了 ocpinn,一种结合了勒让德-拉格朗日重构层和神经网络预测时变插值系数的物理信息神经表示。与传统 pinn 不同,ocpinn 通过结构化基表示重构连续解,同时保留基于残差的训练和自动微分。 该方法在非线性连续反应系统、完整的刚性 robertson 系统和一个工业甲醇制丙烯固定床反应器上进行了评估。在三个案例中,ocpinn 在传统 pinn 和 vs-pinn 基线中实现了最低的平均状态缩放全局 rmse。对于非线性反应和 mtp 反应器案例,改进显著,而 robertson 问题的优势在全局水平上较小。参数匹配比较进一步表明,观察到的改进不能仅归因于重构层引入的可训练参数数量的增加。 插值节点数量的影响依赖于具体问题,反映了表示能力和计算成本之间的权衡。ocpinn 最好被视为可微的结构化解表示,而不是在一次前向模拟中替代已建立的 ode 求解器。本研究仅限于指定域内的前向初值问题;扩展到反问题、参数化代理建模、边值问题和分布参数系统仍是未来研究的课题。 credit 作者贡献声明 彭飞普:写作 – 初稿,可视化,软件,方法论,调查,数据管理。洪晓东:可视化,验证,监督,资金获取,概念化。廖祖伟:写作 – 审阅与编辑,监督,项目管理,资金获取。王静岱:项目管理,资金获取。杨永荣:资源,形式分析。 彭飞普 | 洪晓东 | 廖祖伟 | 王静岱 |>ρ
该结果确立了重构空间的谱逼近潜力,而不是训练模型的指数收敛。实际预测误差还取决于神经网络学习系数函数的准确程度。如支持信息第 s4 节所推导,(20)∥yref??n∥∞≤crr?n+λnmaxi∥yref(τi)?ci(·;θ)∥∞
其中 λn 是与插值节点相关的勒贝格常数。第一项代表与勒让德-拉格朗日基相关的逼近误差,第二项反映系数学习和优化误差。因此,增加 n 扩大了重构的逼近能力,但并不保证训练模型误差的单调或指数下降,这与表 3 和图 8 中观察到的依赖于问题的行为一致。因此,n 被视为结构超参数,而不是传统离散化阶数。
对于 robertson 问题,重构的潜在变量随后经过一个非线性约束感知变换。上述逼近能力结果因此直接适用于勒让德-拉格朗日重构层,不应解释为最终约束物理状态的直接误差界。
4.4. 局限性
每个训练模型代表给定控制方程、参数和初始条件在指定域内的解。未评估域外外推或跨操作条件的泛化能力。勒让德-拉格朗日重构定义在归一化区间 [?1,1] 上,因此相关的逼近特性不保证在该区间之外的外推有效。尽管可微表示可能有助于敏感性分析和优化工作流,但这些应用层面的优势在此未得到验证。
当前公式仅限于由 ode 系统控制的前向初值问题。其对边值问题、偏微分方程和其他分布参数系统的适用性尚未研究。此类扩展需要额外处理边界约束、多维基构造、残差点分配和计算规模。
5. 结论
在本研究中,我们开发了 ocpinn,一种结合了勒让德-拉格朗日重构层和神经网络预测时变插值系数的物理信息神经表示。与传统 pinn 不同,ocpinn 通过结构化基表示重构连续解,同时保留基于残差的训练和自动微分。
该方法在非线性连续反应系统、完整的刚性 robertson 系统和一个工业甲醇制丙烯固定床反应器上进行了评估。在三个案例中,ocpinn 在传统 pinn 和 vs-pinn 基线中实现了最低的平均状态缩放全局 rmse。对于非线性反应和 mtp 反应器案例,改进显著,而 robertson 问题的优势在全局水平上较小。参数匹配比较进一步表明,观察到的改进不能仅归因于重构层引入的可训练参数数量的增加。
插值节点数量的影响依赖于具体问题,反映了表示能力和计算成本之间的权衡。ocpinn 最好被视为可微的结构化解表示,而不是在一次前向模拟中替代已建立的 ode 求解器。本研究仅限于指定域内的前向初值问题;扩展到反问题、参数化代理建模、边值问题和分布参数系统仍是未来研究的课题。
credit 作者贡献声明
彭飞普:写作 – 初稿,可视化,软件,方法论,调查,数据管理。洪晓东:可视化,验证,监督,资金获取,概念化。廖祖伟:写作 – 审阅与编辑,监督,项目管理,资金获取。王静岱:项目管理,资金获取。杨永荣:资源,形式分析。
彭飞普 | 洪晓东 | 廖祖伟 | 王静岱 | 杨永荣>