从反应器数据中稳健提取基于热力学原理的神经网络动力学模型:甲烷化、甲醇合成和二甲醚合成
《Journal of Catalysis》:Robust extraction of thermodynamically consistent neural-network-based kinetic models from reactor data: Methanation, methanol synthesis, and dimethyl ether synthesis
【字体:
大
中
小
】
时间:2026年05月17日
来源:Journal of Catalysis 6.5
编辑推荐:
蒂姆·基尔彻 | 马丁·沃茨迈尔
德国达姆施塔特工业大学,达姆施塔特
**摘要**
动力学模型在催化反应系统的设计、分析和控制中起着核心作用。当前的动力学建模方法依赖于基于化学直觉、从头算计算和实验室反应器测量的机制性速率表达式的推导和参数化。然而,这一过程耗时较长
蒂姆·基尔彻 | 马丁·沃茨迈尔
德国达姆施塔特工业大学,达姆施塔特
**摘要**
动力学模型在催化反应系统的设计、分析和控制中起着核心作用。当前的动力学建模方法依赖于基于化学直觉、从头算计算和实验室反应器测量的机制性速率表达式的推导和参数化。然而,这一过程耗时较长,并且需要大量的系统特定专业知识。这些挑战促使人们开发出替代框架,以便直接从实验反应器数据中高效提取动力学模型。在这里,我们展示了如何从实验室反应器数据中稳健地提取出化学计量和热力学上一致的基于神经网络的动力学模型,应用于三个具有工业意义的催化系统:甲烷化、甲醇合成和二甲醚合成。首先,我们识别出阻碍训练的故障模式,然后引入了一种有界的全局反应神经网络(bGRNN)架构,该架构限制了热力学驱动力的影响,从而实现稳定的优化。利用这种架构,我们为这三个系统提取出了准确的动力学模型,并且这些模型能够泛化到之前未见过的操作条件。对于使用混合催化剂的二甲醚合成过程,该框架正确地将甲醇合成归因于CuO/ZnO/Al2O3催化剂,将甲醇脱水归因于γ-Al2O3催化剂,而无需预先指定反应-催化剂对应关系。总体而言,这些结果支持基于神经网络的动力学模型提取方法,作为从反应器数据中高效推导出物理上一致的动力学模型的实用途径。
**引言**
动力学模型是基于模型的催化反应工程的核心。在异相催化中,它们提供了表面化学与宏观反应器行为之间的联系,使得反应器设计、放大、基于模型的控制以及过程优化成为可能[1]。传统的动力学建模方法依赖于基于机制的速率表达式,其参数是根据实验数据拟合得到的。尽管这类模型在物理上是可以解释的,并且已经得到了广泛认可,但其推导和参数化过程耗时较长,并且需要大量的系统特定专业知识[2][3]。在具有竞争性反应路径、强烈的平衡限制以及操作窗口内主导动力学行为变化的催化系统中,这一过程变得更加困难。甲烷化、甲醇合成和二甲醚合成就是这些挑战的典型例子。这促使人们开发出能够直接从实验反应器数据中高效提取动力学模型的替代框架,同时保持质量平衡和热力学一致性等基本约束[4]。在这项工作中,我们基于全局反应神经网络(Global Reaction Neural Network)构建了模型,该网络将化学计量和热力学纳入模型架构中[5],从而从实验反应器数据中提取动力学模型。在反应器数据上训练这类基于神经网络的动力学模型需要将其与反应器模型相结合,这通常会引入数值常微分方程求解器到训练循环中。因此,稳健的训练不仅取决于学习到的动力学模型本身,还取决于它们与求解器的相互作用。对于化学反应系统来说,由于化学动力学中常见的数值刚性问题,这一点仍然具有挑战性[6][7]。因此,显式积分方案可能缺乏稳定性,而隐式方案则可能给基于梯度的优化带来额外困难。在这里,我们分析了与显式和隐式积分方案相关的故障模式,并引入了一种有界的全局反应神经网络(bGRNN),该架构限制了热力学驱动力的影响,从而实现稳健的优化。利用这种架构,我们为甲烷化、甲醇合成和二甲醚合成提取出了准确且热力学上一致的动力学模型,这些模型能够泛化到之前未见过的条件。
**异相催化反应动力学模型的推导遵循一种机制驱动的工作流程**[3][8]。首先,根据化学直觉、表面科学实验和从头算计算提出一个反应机制。然后将这一反应机制转化为描述反应速率的固定功能形式,并使用从头算和实验数据进行参数化。通常采用两种主要的建模方法来描述异相催化动力学:朗缪尔-欣谢尔伍德-豪根-沃森(LHHW)模型和平均场微动力学模型。LHHW模型提供了全局反应速率的紧凑解析表达式,其一般形式为:
r_j = Kinetics × Thermodynamics × Adsorption 或 Inhibition
LHHW模型的推导需要明确选择速率决定步骤和吸附平衡,所得到的功能形式具有高度的系统性,并且仅在假设速率决定步骤成立的操作窗口内有效[8]。相比之下,平均场微动力学模型完全解析了基本反应,而不将动力学简化为单一的全局速率表达式。相反,它们旨在描述所有基本表面反应和吸附步骤的完整网络,每个基本步骤都有正向反应r→和反向反应r←。平均场微动力学机制的一般形式为:
r_j = r_{→j} ? r_{←j} = k_{→j} ∏_{i} θ_i ? ν_{i,j} ∏_{i} p_i ? ν_{i,j} ? k_{←j} ∏_{i} θ_i ν_{i,j}
其中ν_{i,j} < 0 或 ν_{i,j} > 0,p表示分压,θ表示表面覆盖率,k表示动力学常数,ν表示化学计量系数。这些模型更具通用性,能够在广泛的条件下捕捉表面覆盖率和反应路径的变化,而不会将表观动力学限制为单一的速率决定步骤[8]。然而,在实践中,它们引入了大量动力学参数,其中许多参数难以从转化率或选择性等反应器级别的可观测量中识别出来。此外,还需要考虑基本反应层面的热力学一致性[9]。虽然基本速率公式结合从头算模拟将机制建立在第一性原理基础上,但模型推导通常采用迭代细化策略,这既耗时又需要大量的系统特定专业知识[10]。
甲烷化、甲醇合成和二甲醚合成的动力学模型推导过程很好地体现了这些挑战。对于甲烷化,已经开发了全局LHHW型速率表达式[11][12][13][14][15]和平均场微动力学模型[16][17],但关于主要表面中间体和速率决定步骤仍存在争议[16]。同样,对于甲醇合成,已经提出了从基于全局LHHW的公式[18][19][20][21][22][23][24]到详细的平均场微动力学描述[25][26]的各种动力学模型,适用于不同CO/CO2比例的COx进料。对于二甲醚合成,也开发了一系列全局LHHW型动力学模型,以支持反应器设计和过程优化[27][28][29]。这表明,将经典动力学模型应用于不同催化剂和操作条件通常需要反复调整速率表达式和参数。随着催化剂数量、操作窗口和数据集的增加,这种工作流程的成本也越来越高。在这种情况下,嵌入物理特性的神经网络提供了一种可扩展的替代方法,可以从实验数据中高效提取物理上一致的动力学模型。
传统的基于物理的异相催化动力学模型是通过指定反应机制并将其转化为简化假设下的解析速率表达式来推导的。如上所述,这需要预先选择功能形式,并将机制假设直接嵌入模型结构中。基于机器学习的动力学模型代表了另一种方法。机器学习算法(例如神经网络NNw)直接从数据中近似反应条件与化学源项s?之间的功能关系:
s? ≈ NN_w(pi,T)
这种形式提供了高度的灵活性。原则上,神经网络可以通过通用逼近定理[30]表示热化学状态与化学源项之间的高度非线性依赖性和相互作用。同时,这种灵活性将建模挑战从功能形式的选择转移到了训练策略和网络架构的设计上,以确保泛化能力和保证物理意义上的行为。基于机器学习的动力学建模中的一个核心难点是化学源项的数值特性。反应速率和物种源项通常跨越多个数量级,并且可能会根据操作条件改变符号[31]。可以对数值条件进行对数缩放以改善数值稳定性,但这仅适用于符号固定的量[32][33]。为了解决这一限制,提出了适用于正负值的替代对数类变换[34][35][36]。将这些变换嵌入神经网络的潜在表示中可以提高训练稳定性,同时保留表示符号变化的能力。
除了数值考虑之外,基于神经网络的动力学模型还必须满足与机制模型相同的基本物理约束。最显著的是,它们应遵守化学计量和热力学一致性。化学计量一致性确保了原子平衡的守恒,防止物质的非物理创造或破坏。这一约束可以通过对预测的源项进行后处理[31][34][36][37]或直接将守恒关系嵌入网络架构[5][35][38][39][40]来实施。热力学一致性要求预测的动力学使系统趋向于热力学平衡。这一属性可以通过在学习到微动力学模型的全局反应速率后扣除热力学驱动力来实现[37],或者通过将热力学驱动力结构化嵌入模型架构来实现[5][38]。基于全局反应的神经网络架构在数据驱动建模和教科书反应工程概念之间提供了自然的联系。通过学习全局反应速率并通过嵌入神经网络的代数关系计算物种源项,这些模型保留了基于反应的结构,同时避免了基本机制的显式指定[5][38]。因此,基于神经网络的动力学可以被视为机制建模的补充框架,它在放宽功能形式假设的同时,保持了可靠模拟所需的物理约束。
要从实验室反应器数据中提取基于神经网络的动力学模型,需要将催化反应动力学与反应器级别的可观测量(即表观转化率和选择性)结合起来。与传统动力学建模类似,这需要将动力学模型与描述热传递和质量传递的反应器模型相结合。对于模型优化,高效的基于梯度的优化方法特别有吸引力,因为神经网络模型中通常存在大量可训练参数。因此,需要可微分的反应器模型才能直接在反应器数据上高效训练神经动力学模型。对于理想化的反应器配置(如塞流反应器或连续搅拌罐反应器),这种结合会导致描述质量和能量平衡的常微分方程组。在这种情况下,基于神经网络的动力学模型可以直接嵌入反应器平衡方程中,并使用可微分的常微分方程求解器进行求解,从而得到所谓的神经常微分方程(neural ODEs)[41]。为了实现基于梯度的训练,需要通过反向模式自动微分计算损失函数(即预测值与测量值之间的偏差)相对于神经网络参数的梯度。这种方法已被用于从反应器数据中学习具有物理和化学约束的基于神经网络的动力学模型[5][35][38][40][42][43][44],并使用基于梯度的方法开发和优化动力学机制[45][46][47][48][49][50]。
将这种工作流程应用于异相催化的一个根本挑战在于,动力学数据通常是针对单点积分测量和狭义定义的实验范围收集的,其中温度、压力和进料组成以有限且相关的方式变化。虽然这样的数据集可能足以在固定模型结构内识别参数,但它们往往无法提供关于模型在探索的操作窗口之外有效性的充分信息。因此,从这些数据中提取的基于神经网络的动力学模型可能表现出较差的外推性能,并且在应用于不同的反应器配置或操作条件时可能会失败。一种解决泛化能力的方法是使用嵌入物理特性的神经网络架构,例如之前讨论的质量平衡和热力学一致性约束[5][35][38][40][42][44]。基于将物理知识纳入模型训练的想法,一种扩展是将反应器几何知识嵌入到可微分反应器模型中[51][52]。基尔彻和沃茨迈尔最近研究了这一点,他们将神经动力学模型与由偏微分或微分代数方程描述的更复杂的可微分反应器模型相结合,后者嵌入了质量传递信息。这使得可以将学习到的内在动力学与质量传递效应分离[51]。在基于神经网络的动力学模型作为神经ODEs进行训练时,另一个挑战是通过数值求解器进行反向模式微分的成本[41]以及化学动力学的刚性[6]。为了降低训练神经ODEs的成本,探索了将昂贵的训练过程划分为计算成本较低的子步骤的预训练策略[51][53][54]。此外,选择常微分方程的数值求解方案也很重要。基于梯度的优化依赖于损失函数对模型参数的敏感度,Fronk和Petzold的研究表明,在训练化学动力学等刚性系统的神经常微分方程(neural ODEs)时,隐式ODE求解器方案可以提高训练的鲁棒性和收敛性[7]。在本文中,我们展示了一个高效的端到端框架,该框架利用基于神经网络的动力学方法从实验室反应器数据中提取出鲁棒且物理上一致的动力学模型。首先,我们识别了可能导致模型训练失败的几种模式,然后引入了一种有界且热力学上一致的全局反应神经网络(bGRNN)架构来解决这些问题。该框架应用于三个与碳利用和能源应用相关的反应系统:甲烷化、甲醇合成和二甲醚合成。在这三种情况下,bGRNN模型都是从零开始训练的,并且能够生成在热力学上保持一致且能够泛化到之前未见条件的准确动力学模型。
我们首先描述了计算实现细节,包括有界的全局反应神经网络架构、训练过程和数据集。接着,我们分析了标准全局反应神经网络在显式和隐式积分方案下的失败模式,同时考虑了正向模拟和通过反向模式自动微分进行梯度计算的情况。基于这些分析,我们提出了实用的鲁棒端到端训练策略。最后,我们在甲烷化、甲醇合成和二甲醚合成的文献数据集上验证了该方法,并评估了训练模型的预测性能及其与热力学平衡的一致性。对于二甲醚合成,我们进一步分析了提取出的特定催化剂的全局动力学特性,并评估了训练模型在训练条件之外的外推能力。
**结果与讨论**
基于神经网络的动力学模型的优势在于它们能够快速地根据实验室测量数据参数化。然而,这一优势只有在模型训练真正实现即插即用的情况下才能实现。先前关于将神经网络与基于ODE的反应器模型以及神经常微分方程(neural ODEs)框架内的数值积分方案相结合的研究表明,这在化学动力学领域仍然具有挑战性。这些挑战源于...
**结论**
在本文中,我们展示了如何高效地从三个不同的实验反应器数据集中提取基于神经网络的动力学模型。为此,我们提出了一种数值上鲁棒的有界全局反应神经网络架构,该架构包含了嵌入的化学计量关系和热力学驱动力的有界贡献。通过关注三个代表性的COx氢化系统(甲烷化、甲醇合成和二甲醚合成),我们展示了如何高效地提取出准确的动力学模型。
**CRediT作者贡献声明**
Tim Kircher:撰写——原始草稿、可视化、验证、软件开发、方法论、调查、形式分析、概念化。
Martin Votsmeier:撰写——审阅与编辑、监督、资源管理、项目协调、资金获取。
**利益冲突声明**
作者声明他们没有已知的财务利益或个人关系可能影响本文所述的工作。
**致谢**
作者衷心感谢NHR中心(NHR4CES@TUDa)提供的Lichtenberg高性能计算机的计算支持。该计算资源由德国联邦教育和研究部(BMBF)以及黑森州科学与研究、艺术与文化部(HMWK)资助。
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号