《Journal of Chemical Information and Modeling》:Differentiable Thermodynamic Phase-Equilibria for Machine Learning
编辑推荐:
相平衡的准确预测一直是化学工程领域的核心挑战。将热力学结构融入神经网络的物理一致性机器学习方法,近期在活度系数建模中展现了强大性能。然而,将这些方法扩展到由极值原理产生的平衡数据(如液液相平衡)仍然困难。本文提出了DISCOMAX,一种用于相平衡计算的可微算法
相平衡的准确预测一直是化学工程领域的核心挑战。将热力学结构融入神经网络的物理一致性机器学习方法,近期在活度系数建模中展现了强大性能。然而,将这些方法扩展到由极值原理产生的平衡数据(如液液相平衡)仍然困难。本文提出了DISCOMAX,一种用于相平衡计算的可微算法,该算法在训练和推理阶段均能保证热力学一致性,仅受限于用户指定的离散化程度。该方法将可行相态的离散枚举与前向传播中真实平衡态的传播相结合,在后向传播中采用掩码softmax聚合,并利用直通梯度估计器实现神经超额吉布斯能(gE)模型的物理一致性端到端学习。研究结果表明,该方法与统计热力学具有类比性,并在二元液液相平衡数据上进行了评估,其性能优于现有的基于代理模型的方法,同时为从不同类型平衡数据中学习提供了一个通用框架。
**论文解读:面向机器学习的可微热力学相平衡算法研究**
**一、研究背景与问题**
相平衡的准确预测是化学工程领域一项基础性且极具挑战性的课题,广泛涉及精馏、萃取、结晶等单元操作的设计,以及药物制剂开发、地质过程研究和生命科学等多个领域。传统的活度系数模型,如Wilson、NRTL和UNIQUAC,虽然计算高效并能描述多种体系,但严重依赖从实验数据中进行大量的参数拟合。基团贡献法(如UNIFAC)和基于量子化学的方法(如COSMO-RS)在一定程度上扩展了预测能力,但分别受限于适用领域、精度或高昂的计算成本。近年来,机器学习模型在活度系数和混合物非理想性预测上取得了高精度,但往往以牺牲热力学一致性为代价。
为此,科研人员提出了多种混合或物理信息机器学习方法,将热力学结构直接嵌入学习架构中。例如,通过引入可微潜变量构建超额吉布斯能(g
E)模型,可以强制执行Gibbs-Duhem一致性,这类方法在活度系数和汽液相平衡(VLE)建模中已足够。然而,当目标量本身是隐式定义的优化问题(如液液相平衡(LLE))的解时,学习任务便呈现出双层优化结构,其梯度计算变得十分困难。现有的代理求解器方法,虽然通过训练神经网络来近似相平衡计算过程,但存在两个关键缺陷:其一,代理模型不保证满足全局最优性和稳定性条件,甚至可能返回非物理解;其二,代理训练数据本身由半经验模型(如UNIFAC)生成,其参数化过程可能已隐式包含了测试集分子的信息,导致数据泄漏。因此,亟需一种无需合成数据、可微且严格热力学一致的相平衡求解算法,以支持端到端的机器学习模型训练。
**二、研究开展、结论与意义**
针对上述问题,研究人员提出了DISCOMAX,一种可微的相平衡计算算法。该方法将相平衡计算重新表述为一个部分掩码的分类问题:在前向传播中,通过离散枚举所有满足质量平衡的可行相态对,并执行硬最小化(arg min)来选择全局最优状态,从而保证了热力学极值原理和稳定性条件;在后向传播中,采用直通梯度估计器,利用带温度参数的softmax函数对可行状态进行玻尔兹曼加权聚合,从而实现了梯度的有效传播。这使得神经网络g
E模型能够在无任何合成数据的情况下进行端到端训练。
研究人员在一项包含8,597个独特二元LLE体系的新数据集上对该方法进行了评估,并以近期提出的代理求解器作为主要基线。结果表明,DISCOMAX不仅在拟合单个体系时大幅优于代理方法,在泛化到新体系的10折交叉验证中,其平均绝对误差(MAE)相比代理方法降低了约15%。这项工作证明了将严格的平衡热力学嵌入现代机器学习流程是可行的,相关成果发表在《Journal of Chemical Information and Modeling》上。
**三、主要关键技术方法**
研究人员主要采用了以下关键方法:第一,使用Chemprop D-MPNN作为分子编码器,将分子图映射为连续嵌入向量,并拼接形成混合物嵌入M;第二,构建物理一致的神经网络Δg
mix模型,即通过x(1?x)缩放网络输出并加上理想混合项Δg
id(x),以确保纯组分边界的热力学一致性;第三,提出DISCOMAX离散求解器,在给定进料组成z下,枚举所有满足质量平衡的相态对并选择总Δg
mix最小的硬最小化器作为前向预测;第四,在后向传播中使用带温度参数τ的掩码softmax聚合和直通估计器实现可微松弛。数据来源方面,研究人员基于Dortmund Database训练的HANNA 2模型合成了包含8,597个二元LLE体系的标准数据集。
**四、研究结果**
**拟合单个体系。** 研究人员将50个混溶隙宽度不同的体系进行单独拟合,以测试优化器在无分子特征提取干扰下的优化能力。实验结果显示,最佳的DISCOMAX配置(结合Hessian损失与Gibbs损失,即DISCOMAX H+G)取得了0.016±0.017的平均绝对误差(MAE),而最佳代理模型变体(Surrogate H+G)的MAE为0.109±0.071,前者精度提升约6.8倍。定性比较表明,代理求解器经常收敛到违反极值原理的热力学不一致状态,而DISCOMAX在所有情况下都保持了热力学一致性,其偏差主要集中在极窄的混溶隙体系。
**泛化到新体系。** 研究人员在完整的包含不同化学混合物的数据集上进行了10折交叉验证,以评估模型的泛化能力。实验结果显示,DISCOMAX H+G模型在测试集上取得了最佳性能,平均MAE为0.067±0.002,均方根误差(RMSE)为0.089±0.005,决定系数(R
2)为0.971±0.003,显著优于Surrogate G的0.080±0.002。按混溶隙宽度进行分箱分析发现,在宽度≤0.40的窄混溶隙挑战性区间内,DISCOMAX H相比Surrogate G显著降低了中位误差和误差方差,展现了对困难体系的更强拟合能力。
**五、讨论与结论**
讨论部分指出,代理求解器在单体系拟合中表现不佳,但在全数据训练中缺陷有所掩盖,这可能是由于小批量随机梯度下降的随机性以及代理近似误差本身的正则化效应。然而,代理模型提供的稳定梯度可能有偏,容易导致优化收敛到完全错误的平衡态。相比之下,DISCOMAX因前向传播天然具备热力学一致性,无需代理训练数据,且不受分子结构信息泄漏的影响,因此更具普遍性和稳健性。其局限性在于离散化算法的计算成本随组分数呈组合爆炸式增长,但考虑到现有实验数据多为二元体系,该问题不影响实际应用。未来工作可考虑引入互溶体系数据以扩展模型适用范围。
研究结论指出,研究人员解决了将严格热力学约束嵌入机器学习模型以供隐式定义目标量学习的问题。通过引入离散极小化与直通梯度估计相结合的DISCOMAX求解器,在训练和推理过程中均严格保证了热力学一致性,并在二元LLE相组成预测任务中取得了优于代理方法的定量表现。该研究为直接从相平衡数据中学习热力学自洽的机器学习模型建立了原则性框架,并有望拓展至汽液相平衡、固液相平衡以及更复杂的化学体系。