一种可解释的白盒机器学习框架,用于估算纯二氧化碳(CO2)的逸度系数:实现精准CO2储存分析的关键
《Results in Engineering》:Explainable White-Box Machine Learning Framework for estimating fugacity coefficient of pure CO2: Key to accurate CO2 storage analysis
【字体:
大
中
小
】
时间:2026年05月09日
来源:Results in Engineering 7.9
编辑推荐:
奥科里·埃克韦·阿格武 | 萨阿德·阿拉特菲 | 纳沃德·阿格武 | 奥贡尼亚亚·阿格武
马来西亚霹雳州斯里伊斯坎达尔,PETRONAS技术大学石油工程系,32610
摘要
二氧化碳逸度系数(?)在相平衡计算和过程建模中是一个不可或缺的因素。虽然这一参数传统上使用状
奥科里·埃克韦·阿格武 | 萨阿德·阿拉特菲 | 纳沃德·阿格武 | 奥贡尼亚亚·阿格武
马来西亚霹雳州斯里伊斯坎达尔,PETRONAS技术大学石油工程系,32610
摘要
二氧化碳逸度系数(?)在相平衡计算和过程建模中是一个不可或缺的因素。虽然这一参数传统上使用状态方程(EOS)模型来计算,但该过程在计算上非常复杂且要求较高。当代研究探讨了机器学习(ML)方法;然而,相关文献较少,而且现有模型大多缺乏透明度,无法复制,其通用性也未经过验证。在这项研究中,构建了一个基于Levenberg-Marquardt算法的前馈神经网络,用于预测不同压力和温度下的?值。为此,使用了来自涵盖广泛热力学条件范围的640条实验数据记录。模型诊断表明,该模型具有很高的预测能力,具体指标为:R2为0.997、MSE为0.00054、RMSE为0.0232。为了增强模型的可解释性,提供了?的精确数学公式。此外,通过相关性分析评估了每个输入因素的相对影响。研究发现温度是主要影响因素,贡献率为64%,压力贡献率为36%。趋势分析显示模型与二氧化碳逸度的热力学性质一致,杠杆图诊断表明数据库中99.5%的数据位于预测的有效范围内。鉴于该模型具有可解释性、以封闭方程形式呈现,并且预测精度合理,因此它可以作为严格且繁琐的EOS模型的可靠替代方案,用于?的估计。
1. 引言
向脱碳方向发展的普遍趋势涉及多个关键阶段。第一阶段是采取措施确保二氧化碳在其产生点处完全不释放。为了实现这一净零排放目标,国际能源署报告称到2030年每年需去除约1.2Gt二氧化碳,到2050年需去除6.2Gt二氧化碳[23]。在努力实现零排放的同时,另一个阶段是通过先进材料(如金属有机框架、离子液体和多孔液体及深共晶溶剂)捕获二氧化碳。随后,捕获的二氧化碳可用于盈利过程,例如通过二氧化碳驱油提高石油采收率。任何剩余或未利用的二氧化碳主要被永久封存于地质构造中,尤其是深层盐水层[32]。这就是碳捕获、利用和储存的概念。新兴技术包括在适当条件下将二氧化碳分子捕获在水笼中以及碳矿化,这些方法可以改进二氧化碳的捕获和储存[6,7,85]。尽管二氧化碳的吸收和注入遵循标准化协议,但确保气体在地质储存层中的持续封存仍面临重大挑战[55]。这些挑战源于气体本身的逸出倾向,这一特性在技术上称为逸度[49]。此外,将二氧化碳注入沉积物可能导致形成二氧化碳水合物,从而堵塞井筒并阻碍流体流动。为避免这一问题,可以使用低剂量水合物抑制剂(如基于氨基酸的添加剂[4,66]、离子液体[5,65,67]和可生物降解的表面活性剂)等绿色化学抑制剂。这些抑制剂通过调整不利于水合物形成的条件下的二氧化碳逸度温度平衡来发挥作用,从而确保二氧化碳注入的顺利进行。
原则上,二氧化碳逸度是一个热力学属性,表示系统中二氧化碳的逸出倾向或操作压力,补偿了气体的非理想状态。逸度系数(?)常用于与相平衡相关的计算(例如二氧化碳在盐水中的溶解度、气体在多孔结构中的吸附以及矿化反应)。这一概念突显了二氧化碳进入另一相的驱动力大小(例如在水中的溶解或在岩石上的吸附)。盐水储层中二氧化碳的逸度受温度、盐度浓度、压力以及岩石性质(如渗透性、孔隙度和裂缝的存在)等因素影响[68,70]。因此,精确预测二氧化碳逸度系数(?)对于评估储存完整性和预测气体迁移的可能性至关重要,使其成为二氧化碳储存研究的核心因素。例如,段和孙开发的二氧化碳溶解度热力学模型[26]虽然具有较高的预测能力,但仍依赖于迭代计算的二氧化碳逸度系数[33]。逸度的单位与 partial pressure 相同,即帕斯卡或大气压[37]。当逸度系数数值等于1时,气体行为类似于理想气体,表示气体分子之间没有相互作用;当值大于1时,分子间存在相互作用,气体分子所受的有效压力将大于理想气体的压力;当值小于1时,分子间存在排斥力,气体分子所受的有效压力将低于理想气体的压力[15]。根据Bhattacherjee等人的研究[15],逸度可以通过在固定温度下测量体积来实验确定,或者使用状态方程(EOS)通过迭代方法计算得出。实验测量这种方法较为繁琐,而EOS方法在需要快速预测时算法效率较低[9]。机器学习(ML)等技术创新已被引入作为碳捕获和储存(CCS)相关领域的替代建模方法,在预测二氧化碳溶解度、扩散性和二氧化碳-盐水界面张力方面取得了显著进展[14,29,69]。尽管如此,对二氧化碳逸度建模的关注仍然有限。现有的基于ML的逸度模型往往缺乏透明度,无法直接集成到工业软件工作流程中,因为它们不能提供逸度与控制性含水层参数之间的明确数学关系。
本研究通过构建一个使用Levenberg-Marquardt算法的强大、准确且可解释的ML模型来应对这一未探索的领域。该预测框架以用户为中心设计,无需具备ML专业知识或编程技能即可计算?值。此外,本研究还通过确定预测因子的比例贡献以及模型的适用范围,增强了模型的可解释性。通过将预测精度与模型可解释性相结合,本研究为工业CCS应用提供了实用工具。
1.1. 创新性
本研究对现有知识体系的创新贡献如下:首先,构建了一个简单、准确且本质上可解释的ML模型,用于二氧化碳逸度系数预测。其次,对先前发表的机器学习方法进行了严格评估,突出了它们的优势和局限性——这一方面在早期综述中往往被忽视。第三,通过趋势分析验证了所提出模型的适用范围,并展示了其物理有效性。
1.2. 逸度系数概念的迭代性质说明
理论上,逸度系数(?)有助于将真实气体的行为与理想气体的行为联系起来。这在方程(1)中有所体现:
(1) ln? = ∫?^P Z^(-1) P dP
方程(1)中的参数定义如下:Z是压缩因子,P表示压力。为了找到?值,确定Z是重要的。这可以通过使用适当的状态方程来实现。以Peng-Robinson状态方程为例(方程(2):
(2) P = RT^v^(-b) - aαv^(v+b) + b^(v-b)
其中a=0.45724R^2T^c^2P^c,b=0.07780RT^cP^c,α=[1+κ(1-Tr)]^2,κ可以计算为κ=0.37464+1.54226ω^(-0.26992ω^2)。解压缩因子(Z)得到方程(3)中的三次方程:
(3) Z^3 - (1-B)Z^2 + (A-3B^2 - 2B)Z - (AB-B^2 - B^3) = 0
方程(3)的解可以通过迭代或数值方法获得,蒸气和液相可能有多个根。得到Z值后,可以根据方程(4)计算逸度系数:
(4) ln? = Z^(-1) - ln(Z-B) - A/(2^2B)ln(Z+(1+2)^BZ + (1-2)^B)
从上述分析可以看出,使用EOS获得逸度系数的过程较为复杂。因此,本研究旨在开发一个更简单、更准确的ML框架,不仅能够准确估计参数,还能符合二氧化碳逸度背后的物理原理。
2. 二氧化碳逸度系数估计的ML模型概述
本节旨在批判性地评估文献中现有的用于估计二氧化碳逸度系数的ML模型。这项分析的重点是展示现有方法的显著能力和关键限制。为此,选取了六项与主题相关的研究进行批判性评估,并在表1中展示。从表中可以得出以下结论:首先,关于?建模的研究很少,因此需要更多相关研究;其次,75%的研究使用了神经网络构建模型;第三,其中四项研究(Zeng等人[84]、Jang等人[37]、Moussa等人[56]和Ji等人[39])专注于海水中的二氧化碳逸度建模;Hassan[33]和Bhattacherjee等人[15]的模型关注不同温度和压力条件下纯二氧化碳的逸度系数。基于这些观察结果,提出了一些关键问题:
(i) 模型可解释性:简单来说,模型可解释性是指理解ML模型内部逻辑[12]。提高模型可解释性的方法包括:(a) 将模型表示为数学方程,以便明确输入与输出之间的关系[51];(b) 使用Shapley加性解释(SHAP)、局部可解释模型无关解释(LIME)、部分依赖图(PDPs)等相关技术,使模型变得可解释和透明,从而清晰理解输入变量与模型预测之间的关系,并验证其物理合理性,以便用于科学分析和实际决策[41]。从表1可以看出,约83%的研究者没有为其模型提供数学关联,也没有进行预测变量的敏感性分析。虽然某些ML算法本质上无法建立独立变量和依赖变量之间的明确数学关系,但已有研究表明一些算法可以实现这一点(例如多基因遗传编程、基因表达编程、分组数据处理方法和神经网络[15,39,67])。此外,结合预测现象物理基础的模型(如基于物理的神经网络)也有助于提高模型可解释性。Reichstein等人(2019)也强调了这一点,他们认为在算法开发过程中明确引入系统物理知识对于提高模型的合理性和可信度至关重要。
(ii) 模型适用范围:确定适用范围是为了明确模型能够生成可靠预测的输入范围[46]。由于机器学习模型依赖于训练数据的特点,而实际数据集往往包含与主要数据分布不同的观测值[35],因此需要机制来评估预测的可靠性。在这些异常观测值存在的情况下,模型性能可能会大幅下降[34],表现为预测误差增加、不确定性估计不稳定或两者兼有。在没有明确定义的适用范围的情况下,无法预先判断对未见样本的预测是否可信[76]。例如,异常值可能导致过拟合,使模型捕捉到随机噪声而非数据中的真实关系[60]。复杂的高维学习者,包括深度神经网络和基于集合的树模型,特别容易对极端数据点产生高度敏感,这可能导致对错误预测的过度自信[36]。此外,异常值可能会通过人为夸大或抑制输入特征的感知重要性来扭曲模型的可解释性[61]。因此,在数据挖掘和机器学习研究中,识别此类观测结果始终是一项关键任务。通常使用几种统计技术来进行异常值检测,包括中位数绝对偏差、基于百分位的阈值和四分位距方法。在诊断工具中,残差与杠杆图被广泛用于识别异常和有影响力的观测结果[73]。这种图形方法有助于评估模型的适用性,超出±3杠杆阈值的数据点通常与模型表现不佳相关[80]。然而,如表1所示,许多现有研究在定义模型应用范围时并未明确检查异常值的存在与否。
(iii) 物理趋势分析:通过应用趋势分析技术来评估新开发模型的物理合理性[63]。趋势指标旨在说明输入变量和潜在假设对模型预测输出的影响。其应用变得越来越重要,特别是在由黑盒算法生成预测的情况下,因为这些算法的内部机制无法直接解释[13]。因此,当基于已建立的理论原理预期模型表现出单调或凸行为时,趋势分析是一个必要的验证步骤,以确认模型响应符合这些预期模式。然而,如表1所总结的,大多数评估研究并未在其模型评估程序中包含这种分析。
(iv) 模型泛化测试:机器学习模型在大型数据集上表现最佳,因为它们提供了更多的样本,从而可以从中学习系统中的潜在关系和变异性,从而提高其泛化能力[20,24]。然而,测试模型使用独立数据集进行泛化的能力是判断机器学习范式如何预测任何给定实体的关键[11]。这涉及在新数据上进行测试,以查看算法在其训练环境之外的表现如何[1]。这与交叉验证等内部验证方法不同,后者可能会由于依赖原始训练样本而使准确性看起来更高。这个过程称为外部验证,它使用来自不同来源或操作条件的数据来确定模型是否捕获了重要模式,而不仅仅是记住训练集的特异之处。然而,这可能会受到数据可用性的限制。如表1所示,许多研究人员对机器学习建模过程中的这一重要部分关注较少。
表1. 现有用于预测CO2逸度系数的机器学习模型概览。
**参考文献**
| ML方法 | 数据详情 | 输入 | 性能 | 模型优点 | 模型不足 |
|--------------|------------------|-----------------|-----------------|-----------------|
| Hassan [33] | ANN | 210个数据点 | 训练(70%),测试(30%) | 压力,温度 | MSE = 6.3027E-06 | 平均误差 = 0.16% | R2 = 0.999 | 缺乏明确的输入-CO2逸度关系方程 |
| | | | | |
| | | | | |
| Zeng et al. [84] | ANN | 127,880个数据点 | 训练(90%),测试(10%) | 海表面温度,盐度,叶绿素a | R2 = 0.882 | 使用大型数据库 | 缺乏输入变量敏感性分析 |
| | | | | |
| | | | | |
| Moussa et al. [56] | ANN | 718个数据点 | 训练(67%),测试(33%) | 海表面温度,盐度,叶绿素a | R2 = 0.7;RMSE = 8.72 | 简单的网络拓扑 | 无明确的神经网络模型 |
| | | | | |
| | | | | |
| Jang et al. [37] | SVR,RF,MNR | 843个数据点 | 训练(80%),测试(20%) | CDOM,Chl-a,MLD,SSS,SST,四波段反射率 | RF: R2 = 0.97;RMSE = 5.49 | 无明确的CO2逸度模型 |
| | | | | |
| | | | | |
| Bhattacherjee et al. [15] | LR,DT,RF,XGB,SVM | 640个数据点 | 训练(80%),测试(20%) | 温度,压力 | XGB: R2 = 0.9986;MSE = 0.0002 | 使用模型计算CO2溶解度 | 无明确的模型,无敏感性分析 |
| | | | | |
| Ji et al. [39] | XGB,RF,LGBM,FFNN,CNN,BPNN | 16,000个数据点 | 训练(80%),测试(20%) | 21个输入参数 | XGB: R2 = 0.91;RMSE = 18.08 | 无明确的模型,无趋势分析 |
**3. 方法论**
为了实现本研究的目标,将使用如图1所示的结构化五阶段工作流程。首先,将通过对控制变量进行统计分析来仔细检查数据集,然后研究数据的分布,最后进行预处理。第二步是使用处理过的数据集来构建预测模型,包括分割数据、定义模型架构并对其进行训练。第三阶段将分享模型训练的结果,其中包括输入变量与CO2逸度系数之间的相关性。第四阶段将进行敏感性评估和趋势分析,以确定变量的重要性,验证其与物理过程的符合性,并确定其预测范围。最后,将使用三种基于回归的评估指标来比较模型的预测能力。
**下载:**下载高分辨率图像(344KB) | 下载全尺寸图像
**3.1. 数据库的统计分析**
首先需要说明的是,本研究使用的数据集来自Bhattacherjee等人的研究[15]。该数据库包含640条数据记录,其中两个热力学变量(摄氏度)和压力作为预测因子,而CO2逸度是输出。表2中呈现的统计分析是对本研究中使用的数据库的总结。表中突出显示了七个统计参数。
**表2. 变量统计**
| 变量 | 最大值 | 最小值 | 范围 | 均值 | 中位数 | 众数 | 偏度 | 标准差 | 峰度 |
|-------------|------------|-------------|--------------|-------------|-------------|-------------|-------------|-------------|
| 温度(摄氏度) | 1000 | 0 | 1.819 | 40 | 400 | 10 | 0.408 | 283.57 |
| 压力(巴) | 2000 | 0 | 1.835 | 138 | 104 | 1.132 | 0.846 |
| CO2逸度系数 | 1999 | 0.132 | 1.687 | 188 | 2.592 | 1.253 | 0 |
| | | | 1.132 | 188 | 2.548 | 0 |
**3.2. 数据分布**
图3(a-c)中的直方图显示了本研究中使用的数据分布。图3a中的温度数据分布呈现出近似对称且轻微正偏的轮廓,表明数据在低温和高温范围内分布相对平衡。另一方面,图3b中的压力数据呈负偏态,意味着大量数据集中在高压区域,而其余数据位于低压区域。图3c中的CO2逸度系数分布呈现出大致对称的轮廓,略带负偏。此外,观察到逸度系数数据的大部分集中在中间值附近,极端值的数据点较少。这种近乎紧凑的分布表明数据集的稳定性。总体而言,缺乏极端偏度或多模态性表明数据集适合用于模型构建。
**3.3. 数据预处理**
对于基于机器学习的模型来说,数据库的预处理是模型构建过程中的一个关键步骤[78]。实现这一目标的一种方法是规范化用于建模的数据。为了平滑模型训练过程,通过将数据缩放到指定范围内来进行规范化。这样做有两个目的:首先,它为所有参数提供了公平的机会来贡献于输出预测,通过限制幅度较大的参数对幅度较小的参数的支配作用[77];其次,它加快了模型的收敛速度,从而促进了模型学习过程的表现[44]。为此,采用了最小-最大缩放框架。该方法允许数据在[-1, 1]范围内进行缩放。该方法的公式如方程(5)所示:
**公式(5):**
```python
Pn = 2((P - Pmin) / (Pmax - Pmin)) ^ -1
```
其中,Pmin和Pmax分别是参数P的最小值和最大值,Pn是P的规范化值。
**公式(6)、(7)、(8)**分别是用于缩放两个输入变量和CO2逸度系数的公式。在这些公式中,参数的最小值和最大值基本上取自第3.1节中的表2。
**3.4. 训练范式的工作原理——Levenberg-Marquardt算法**
神经网络范式的学习能力类似于人类中枢神经系统的工作方式[31]。一方面,在人类中,当相互连接的神经接收信号并将其汇总后,通过突触发送响应,突触的强度会根据经验不断调整。另一方面,神经网络通过获取输入信号、应用加权连接并通过传递函数产生结果来学习。为了实现学习,神经网络使用训练数据集迭代调整连接权重[50]。网络持续暴露于数据中可以缩小估计误差,从而允许模型系统地提取数据集中存在的模式和关系[10]。这使模型能够以类似于人类认知学习的方式泛化到外部测试数据。为了调整权重以减少误差,需要一个训练算法。在本研究中采用了Levenberg–Marquardt算法。这种非线性训练范式结合了拟牛顿方法和梯度下降技术,通过在模拟过程中探索多个方向的差异(误差)来实现快速局部收敛和高性能[42,75]。梯度下降方法利用总误差的一阶梯度来获得误差的最小值。根据Mun等人的说法[57],梯度g可以用雅可比矩阵J表示,如方程(10)所示:
**公式(10):**
```python
g = Je
```
因此,高斯-牛顿算法的参数更新规则如方程(12)所示:
**公式(12):**
```python
wk+1 = wk - (JkTJk) ^ -1
```
其中,λ是阻尼参数;I是单位矩阵,wk是权重向量,JT是J矩阵的转置。
**公式(13):**
```python
wk+1 = wk - (JkTJk + λI) ^ -1
```
在方程(13)中,λ是阻尼参数;I是单位矩阵,wk是权重向量,JT是J矩阵的转置。LM范式在λ的绝对值很小时使用高斯-牛顿方法,当其值较大时(α=1/λ)则切换到梯度下降技术。因此,在整个模型训练过程中,LM算法在梯度下降和高斯-牛顿技术之间切换。LM训练范式在小型网络中提供了一些优势,如表现出高水平的预测精度和稳定性[44],但正如Kim等人[45]所指出的,它需要大量的内存资源。
**3.5. 提出模型的超参数配置**
在学习过程中指导算法的控制参数称为网络的超参数[71]。这些参数通常在模型训练之前设置,优化这些超参数至关重要,因为它们最终会影响模型的性能[27,48]。必须指出的是,超参数与模型的参数(如网络的权重和偏差)有显著不同,因为后者是在算法学习过程之后从数据中获得的[62]。对于本研究,使用的超参数、它们的作用和初始配置在表3中进行了总结。表3. 模型训练前的超参数设置。
超参数 | 作用 | 调整范围
---|---|---
学习率(α) | 控制网络权重优化过程中步长的大小 [83] | [0.001, 0.01, 0.1]
传递函数 | 为模型赋予非线性,使其能够捕捉到变量之间的复杂模式和关系 [28] | Tanh, Sigmoid
隐藏神经元数量 | 帮助网络学习复杂模式 [16] | [2, 4, 6, 8, 10]
训练周期 | 确定模型在学习过程中遍历整个数据集的频率 [2] | [500, 1000, 2000]
优化器 | 用于调整网络权重和偏差以获得最小值 [18] | SGD, LM
为了调整表3中的超参数,采用了网格搜索策略。超参数的指定值是基于先前的研究和试验模拟获得的。这些超参数的合理组合形成了一个多维网格。在这方面,超参数集合的笛卡尔积总共产生了3×2×5×3×2=180种不同的超参数设置。网格中的每种配置都用于构建一个独立的神经网络模型。每种配置在70%的数据集上进行了训练,而15%分别用于测试集和验证集。为了避免模型过拟合并提高网络的泛化能力,应用了“提前停止”技术来跟踪训练过程中的验证损失,并在未观察到明显改善时停止过程。下一节中强调的基于回归的指标被用来选择最优的超参数集。
3.6. 提出模型的准确性评估指标
可以通过使用标准回归指标来评估受机器学习启发的模型的预测精度[58]。在本研究中,选择了三个指标,并在表4中进行了总结。
表4. 模型评估指标
| 符号 | 公式 | 模型可接受性的标准 |
|----|------|-------------|
| R2 | R2=1?∑i=1N(fCO?actual?fCO?predicted)2 | 如果R2值接近1,模型性能可接受;接近0的值表示模型拟合效果差 |
| MSE | MSE=1/N∑i=1N(fCO?actual?fCO?predicted)2 | 越接近0的MSE值越可接受;过高的值表示模型预测能力差 |
| RMSE | RMSE=1/N∑i=1N(fCO?actual?fCO?predicted)2 | 越接近0的RMSE值越可接受;过高的值表示模型预测能力差 |
4. 结果和讨论
4.1. 最优模型拓扑的选择
超参数——隐藏神经元数量是神经网络架构的唯一决定因素。确定这个数量对于获得最佳模型性能至关重要。为了确定这个值,测试了表3中强调的180种超参数设置,每种设置至少模拟了50次。主要的性能指标是R2和MSE值。表现出最高R2和最低MSE值的设置被选为表现最佳的模型。在这方面,观察到中间层有4个神经元时效果最好。因此,网络的最优拓扑可以表示为[2 – 4 – 1]。这表示网络输入层、中间层和输出层的神经元数量。这种架构的可视化表示见图4。
图4. 用于估算二氧化碳逸度系数的最佳神经网络架构。
图4基本上展示了一个全连接的前馈网络设计,它将两个热力学输入(温度和压力)映射起来以估算二氧化碳的逸度系数。四个隐藏神经元中的每一个接收这两个输入的加权组合(用wij表示),加上一个可训练的偏置项b1,然后将聚合信号通过一个非线性激活函数(tanh)传递,使网络能够逼近热力学输入和二氧化碳逸度系数之间的复杂、非线性的函数关系。输出神经元汇总来自隐藏层的转换特征,并加上第二个偏置项b2,生成二氧化碳逸度系数的连续估计值。输出层中使用的激活函数是purelin,即纯线性函数。该传递函数只是将值原样传递,不改变其形状。分层结构表明,网络通过反向传播隐式地学习了编码状态依赖的热物理规则。
4.2. 开发二氧化碳逸度系数的封闭本构方程(白盒模型)
根据Alatefi等人的研究[3],白盒模型本质上是那些用数学相关性明确表达的模型,输入和输出之间的关系用封闭方程表示。此外,Arreche和Abdallah[8]报告称,由于模型的参数和架构是可用的,白盒可解释的AI模型被认为是明确定义的。这一特性使得白盒模型更加可复制、可靠且值得信赖,在推理其决策时提供了更多洞察。从本研究中开发的神经网络中得出的封闭本构方程对于模型的透明性和可解释性至关重要。这是因为它提供了简单的、直接的、计算成本低的、且热力学变量与逸度系数之间自包含的相关性。如前所述,传统模型依赖于EOS,由于存在多个辅助方程,在许多情况下需要迭代数值求解器来计算,这导致它们存在复杂性问题。为了获得这个白盒模型,需要神经网络的连接权重和偏置。这些权重和偏置在表5中显示。
表5. 网络连接权重和偏置
| | | |
| T (IW1,1) | P (IW2,1) | |
| | | |
| b1 | | |
| Hid neuron 1 | 2.25 | | 148 |
| | | |
| b2 | 0.327 | | 193 |
| | | |
| Hid neuron 2 | 2.124 | | 654 |
| | | |
| | 7.089 | | 191 |
| | | |
| Hid neuron 3 | 1.474 | | 743 |
| | | |
| Hid neuron 4 | -2.296 | | 698 |
| | | |
为了生成白盒模型,使用了方程(14)中展示的神经网络算法背后的通用公式。
(14) fCO? = ∑j=14{purelin[LWj,1(∑i=12∑j=14tanh(Xi×IWi,j+b1)) + b2}
将方程(14)分解为其组成部分,得到每个隐藏层神经元的本构方程,即方程(15)至方程(18)。
(15) H1 = 7.089191×tanh[2.251487Tn + 0.327193Pn + 2.124654]
(16) H2 = -5.69653×tanh[2.394209Tn + 0.483817Pn + 2.261803]
(17) H3 = 1.766163×tanh[-2.29698Tn - 5.02267Pn - 7.69128]
(18) H4 = -1.15729×tanh[0.171434Tn - 0.6378Pn + 0.697391]
方程(15)至方程(18)的求和包括输出层偏置,得到方程(19),该方程用于计算二氧化碳逸度系数的标准化值。
(19) fCO?n = H1 + H2 + H3 + H4 + 1.474743
方程(15)至方程(18)中的下标n表示输入参数(温度(T)和压力(P)处于它们的标准化形式。这些标准化形式是通过应用(6)、(7)获得的。
如前所述,并在方程(9)中所示,为了获得二氧化碳逸度系数的实际值,必须对输出进行反标准化。因此,二氧化碳逸度相关性的反标准化形式由方程(20)给出:
(20) fCO? = 0.8435fCO?n + 0.9755
方程(20)因此代表了从Levenberg Marquardt算法训练的神经网络中得出的白盒模型。这种相关性可以直接嵌入到商业软件/模拟器中,以便快速估算二氧化碳逸度系数。
4.3. 模型性能评估
表6是模型在三个数据分割上的性能快照。仔细观察表格可以看出,模型在所有数据 partitions上的预测能力都很好。具体来说,模型的训练MSE为3.18×10??,RMSE为0.0178,相应的R2为0.9988,而验证和测试结果的误差仅有轻微增加(验证MSE = 6.60×10??,测试MSE = 5.40×10??,R2分别为0.9978和0.9974),与训练性能几乎相同。正如Yang等人[82]所报告的,数据集之间的最小误差差异验证了没有过拟合现象。这证实模型没有记忆训练样本,而是学习了一个在面对未见数据时仍能保持预测准确性的通用本构关系。此外,所有分割中普遍较高的R2值(>0.997)进一步证明了网络的鲁棒性,并验证了Levenberg–Marquardt算法有效地找到了稳定的解。
4.4. 参数敏感性分析
根据Mandler和Weigand[52]的观点,赋予模型可解释性的一种方式是阐明输入对输出估计的贡献方式。这可以通过量化每个输入的贡献程度来实现。这被称为特征重要性或相关性。诸如相关性因子(r)、连接权重、Garson算法、Shapley图等方法很多。Mandler和Weigand[53]以及Olden等人(2021)的综述对这些方法提供了深入的见解。本研究采用了相关性因子。相关性因子ri的定义如方程(21)所示。
(21) ri = ∑k=1N(xi,k?x?i)(yk?y?) / (∑k=1N(xi,k?x?i)2 ∑k=1N(yk?y?)2
其中xi,k是第i个输入变量的第k个值,yk是相应的输出,x?i和y?是它们的平均值,N是数据点的总数,在这里是640个数据点。方程(21)用于计算两个输入对模型的相关性,图6是结果的图形表示。如图所示,温度的相关性因子(约为0.69)远高于压力(约为0.39),表明温度对预测响应有更大的影响。这一趋势与二氧化碳逸度系数的热力学行为一致,即温度对其通过影响分子相互作用和偏离理想气体行为的方式非常敏感。根据Chakrapani等人[17]的研究,二氧化碳逸度系数随温度升高而增加,但随压力降低而降低。从图6可以看出,压力的贡献幅度较小,这证实了逸度现象取决于温度的事实。理论上,压力通过改变流体密度和分子力来影响逸度系数,其相对较低的相关性因子表明在所研究的范围内它的作用是次要的。因此,相关性分析不仅验证了模型的敏感性结构,而且与控制二氧化碳逸度的公认热力学原理一致,从而增强了建模方法的物理可信度。
4.5. 模型适用范围和异常值分析
根据Roy和Kar[74]的观点,模型验证需要定义模型的适用范围。适用范围定义了模型预测可以被认为是可靠的输入空间区域,因为它受到训练数据范围和分布的限制[43]。在此范围内进行的预测得到了足够的数据支持,因此不太容易产生外推错误。适用性领域有助于我们理解模型预测的局限性和有效性,这基于输入数据的特性。相比之下,异常值分析被用来识别与一般数据模式显著偏离的数据点,这些偏离可能由实验误差、测量噪声或罕见的物理条件引起。识别这些异常值非常关键,因为它们可能不成比例地影响模型训练并扭曲预测性能[25,47]。为了确定这一领域,图7中使用了Williams图来显示神经网络模型的输出。在这种方法中,部署了一个称为帽子矩阵(hat matrix)的矩阵。公式(22)中显示的相关性被用来创建该矩阵。(22)H=M(MTM)?1MT下载:下载高分辨率图像(298KB)下载:下载全尺寸图像图7. 适用性领域和异常值检测的Williams图。在公式(22)中,M代表包含预测变量的输入矩阵。矩阵的主对角线被用作Williams图的横轴。模型残差误差的标准化值被绘制在纵轴上。使用这种方法,检查了两个阈值,即模型适用区域和可疑数据区域。为了确定模型适用区域的限制,应用了公式(23)。(23)H*=3×(P+1)q在公式(23)中,P是独立变量的数量(本例中为2);q是数据库中的数据条目数量(本例中为640)。将这些值代入公式(23),得到的H*数值为0.014。观察图7可以看出,没有任何数据点落在这个点(红色虚线)之外。这表明数据的质量和分布是良好的。为了确定异常值,考虑了[-3≥SR≤3]范围之外的标准化残差(SR)值。在这种情况下,图7中用红色标出的3个数据点被识别为异常值。这意味着图7中用绿色标出的637个数据点(占数据集的99.5%)位于安全和有效的范围内。鉴于识别出的异常值数量极少(<数据集的1%),并且在这些点从模型中排除后模型性能没有改善,可以得出模型的适用性领域为:[0°c≤t≤1000°c]和[1bar≤p≤2000bar]。图7中的杠杆图(leverage plot)观察到的趋势主要是热力学数据集结构化的反映,而不是模型偏差或过拟合的迹象。这是由于输入变量的离散性质,其中温度和压力在固定水平上采样,形成了不同的热力学状态。因此,同一温度或压力线上的数据点具有相似的物理响应,导致残差形成簇或曲线趋势,而不是随机分布。 4.6 趋势一致性分析 物理模型基于一组基本的物理定律和原理,可能包括运动定律、能量和质量守恒定律以及热力学原理[19]。趋势一致性分析涉及验证所提出模型的输出趋势是否与不同条件下的实际数据和理论估计(基于物理定律)相匹配。根据jiang等人的研究[40],建立这种趋势可以确保所提出的模型符合自然法则;这意味着预测因子的任何变化都会导致输出的比例变化,这与现象的基本物理规律相符。为了确定所开发模型与物理定律的趋势一致性,采用了每次只改变一个因素的方法。在这里,每个输入变量都被改变,而其他变量保持在其平均值,然后观察它们对输出的影响。这项分析的结果分别在图8和图9中展示。 图8显示了在100 – 300°c的等温条件下,co2逸度系数随压力的变化。从图中可以看出,在接近室温时,逸度系数(?)接近1,表现出近乎理想气体的特性。但随着压力的增加,?显著减小,特别是在较低温度下。理论上,这可以归因于气体分子之间的分子间吸引力占主导。此外,随着温度的升高,偏离理想特性的程度减小,因为?趋向于1。这些观察结果与murdeshwar和ghoshal[59]的研究结果相似。这种行为的物理意义在于,在亚临界和接近临界条件下,逸度校正对于准确模拟co2相平衡、在流体中的溶解度以及地质化学过程(如碳封存)是必要的。?曲线的独特曲率反映了peng–robinson或soave–redlich–kwong状态方程中考虑的吸引力和排斥力的平衡。 图9表明,?随着温度的升高而单调增加,在高温状态下趋于1。在低温和高压下,偏离理想状态的情况较为明显,而在大约350°c时,无论压力如何,都能有效恢复到理想气体行为。这些结果强调了在亚临界条件下建模co2热力学时逸度校正的关键作用,同时在高温状态下验证了理想气体的假设。 4.7 模型简化分析 模型选择技术旨在确定模型的数据拟合能力和实现这种能力所需的复杂性之间的最佳平衡[72]。除了表6中的回归指标所显示的模型预测精度外,确定模型的简单性也是非常重要的,这是模型选择的一个标准。有多种可用于模型简单性选择的度量方法,包括schwarz信息准则(sic)、hannan-quinn信息准则(hqic)、akaike信息准则(aic)和贝叶斯信息准则(bic)等。在这项工作中,将使用akaike信息准则(aic)。使用aic准则选择模型的标准是选择指数最低的模型[54,79]。根据panchal等人的研究[64],aic的公式如下。(24)aic=2k+n[lnRSSn]在公式(24)中,k是自由参数的数量,n是数据集的大小,RSS是残差平方和,RSS/n相当于均方误差。在计算Akaike信息准则(AIC)时,使用的数据集大小是评估模型似然的数据库大小[81]。神经网络中的参数总数直接取决于其架构设计。对于包含一层和两层隐藏层的浅层神经网络配置,相应的参数数量可以使用(25)和(26)来确定。(25)n=[HL1(i+1)+OL(HL1+1)](26)n=[HL1+(i×HL1)]+[HL2+(HL1×HL2)]+[OL+(HL2×OL)]其中i是输入变量的数量,HL1和HL2分别是第一层和第二层的神经元数量。文献中基于神经网络的两个ML模型的AIC与本研究建立的模型的AIC进行了比较,并在图10中展示。选择这两个模型进行比较是因为其他研究人员使用的基于树的模型(如随机森林或XGBoost)没有明确定义或容易量化的有效参数数量,因此它们被排除在分析之外。如图10所示,所比较的CO2逸度系数模型在复杂性方面存在明显差异。Moussa等人的模型[56]尽管具有简单的架构[3 –6 – 1],但其aic值最高,为19,685。hassan的模型[33]的aic值第二高,这很可能归因于复杂的神经网络架构[2–7–13–1]。相比之下,本研究提出的模型采用了更简单的[2–4–1]架构,获得了最低的aic值。因此,当前模型因简洁性、鲁棒性和更广泛的适用性而被认为更优,推荐用于可靠的co2逸度系数估计。 下载:下载高分辨率图像(169kb)下载:下载全尺寸图像图10. 不同ml模型的aic值。 4.8 与文献中报告的模型的性能基准测试 表7使用测试数据指标比较了所提出模型与现有基于ml的co?逸度系数估计模型的预测性能。根据总体预测准确性(高r2和低mse rmse),模型可以按以下顺序排列:hassan [33]> Bhattacherjee等人[15] > 本研究(2026)> Jang等人[37] > Ji等人[39] > Moussa等人[56] > Zeng等人[84]。Hassan [33]和Bhattacherjee等人[15]的模型显示出优异的准确性,但前者依赖于相对复杂的架构和较小的数据量,而后者没有以明确的数学形式表达输入和输出之间的相关性。本研究提出的模型表现出比较性能,R2=0.9974,误差值低,同时采用了更简单的ANN结构(2–4–1)。重要的是,与大多数现有模型不同,当前模型是用封闭形式的数学方程表示的,便于直接进行软件部署,该模型遵循?现象的物理规律,并且是用广泛的数据开发的。
5 结论
本研究为我们提供了一个清晰、易于理解且完全可复制的机器学习框架,用于在广泛的热力学条件下预测CO2的逸度系数。所提出的方法不同于传统的黑盒神经网络,因为它结合了数据驱动学习和物理可解释性,通过创建一个封闭形式的构成表达式,明确了控制热力学变量和逸度行为之间的数学联系。比较性能分析表明,该模型不仅与现有的最先进的相关性方法相当,而且在许多情况下预测更加准确。以下是研究的结论:
i. 优化后的神经网络(2–4–1)在测试数据上的预测能力合理,R2、MSE和RMSE值分别为0.997、0.00054和0.0232。
ii. 输入敏感性分析表明,温度是对逸度系数变化影响最大的变量。另一方面,趋势分析表明,该模型与已知的热力学行为一致,使其在物理上更加一致。
iii. 适用性领域评估和异常值筛选表明,99.5%的所有情况都落在模型的可靠预测范围内。
iv. 该模型的简单结构、较低的Akaike信息准则(AIC)值以及可以解析表达的能力使其易于集成到模拟平台和工程工作流工具中。
v. 总的来说,所提出的框架是热力学建模的一大进步,因为它提供了一种非常准确、符合物理规律且易于使用的方法,使得预测更加清晰,并促进了其实际应用。
vi. 由于数据限制,模型中没有考虑盐度效应,因此未来的研究可以在此基础上提高模型的准确性和更广泛的适用性。数据集的1%),并且在这些点从模型中排除后模型性能没有改善,可以得出模型的适用性领域为:[0°c≤t≤1000°c]和[1bar≤p≤2000bar]。图7中的杠杆图(leverage>奥贡纳亚·阿古(Ogbonnaya Agwu)的研究领域包括:写作(包括审阅与编辑、创作初稿)、可视化技术、数据验证、软件开发、研究方法论、实证分析以及概念化过程。
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号