微调技术将基础性的机器学习原子间势能模型统一至从头算(ab initio)的精度水平
《The Journal of Physical Chemistry Letters》:Fine-Tuning Unifies Foundational Machine-Learned Interatomic Potential Architectures at ab initio Accuracy
【字体:
大
中
小
】
时间:2026年03月05日
来源:The Journal of Physical Chemistry Letters 4.6
编辑推荐:
高分辨率图像
下载MS PowerPoint幻灯片
本研究展示了微调技术如何将基础的机器学习原子间势(MLIPs)转化为在多种架构下都能保持一致、接近从头算精度的模型。通过对五个领先的MLIP框架(MACE、GRACE、SevenNet、MatterSim和ORB)在七
高分辨率图像
下载MS PowerPoint幻灯片
本研究展示了微调技术如何将基础的机器学习原子间势(MLIPs)转化为在多种架构下都能保持一致、接近从头算精度的模型。通过对五个领先的MLIP框架(MACE、GRACE、SevenNet、MatterSim和ORB)在七种化学性质不同的化合物上的测试发现,微调能够将力预测的准确性提高5-15倍,并将能量精度提高2-4个数量级。所研究的模型涵盖了等变和不变架构,以及保守和非保守架构。虽然通用基础模型具有鲁棒性,但它们在预测结果上仍会与从头算参考数据存在差异;而通过针对特定系统的专门训练(微调)可以消除这些差异,从而实现原子和结构属性的定量准确预测。使用从2000个等距采样的短从头算分子动力学轨迹构建的数据集,微调将力误差降低了1个数量级,并在所有架构上统一了性能。这些发现表明,微调是一种通用的方法,可以在保持MLIPs计算效率的同时实现特定系统的预测准确性。为了促进这一技术的广泛应用,我们推出了aMACEing工具包,它为多个MLIP框架的微调工作流程提供了统一且可复制的接口。
长期以来,材料和分子系统的计算探索一直受到精度与效率之间基本权衡的限制。基于密度泛函理论(DFT)的头算分子动力学(AIMD)虽然能够提供化学上的高精度,但由于计算成本过高,只能模拟几百个原子和皮秒级别的时间尺度。(1–3)基于经验力场的分子动力学虽然可以模拟数百万个原子在几纳秒内的行为,但在精度、可转移性和化学保真度方面存在显著不足,其适用范围也受到限制。(4–6)这种精度与效率的困境从根本上限制了通过原子模拟能够解决的问题范围。
机器学习原子间势(MLIPs)作为一种强大的方法出现,它将接近从头算的精度与接近经典方法的计算效率相结合。(7–10)早期的神经网络势和高斯近似势证明了直接从量子化学数据中学习势能表面的可行性。(11–13)随后图神经网络、等变架构和保持对称性的表示方法的采用,极大地提高了MLIPs在多种化学系统中的精度和可转移性。(14–20)最近开发的用于原子模拟的基础模型代表了向通用预训练势的转变,这些模型能够模拟几乎整个周期表中的物质。(21–24)这些模型在来自Materials Project、Open Materials和Alexandria数据库等的大量DFT计算数据集上进行训练,展现出在多种化学系统中的出色零样本预测能力。(25–29)值得注意的例子包括在多个数据集上训练的MACE-MPA-0和GRACE基础模型、MatterSim的通用势、ORB的v3基础模型以及SevenNet的多保真度模型。(22–24,30,31)然而,尽管这些基础模型具有广泛的适用性,但如果不进行进一步优化,它们往往无法捕捉特定系统的特性。(32–40)微调技术,即使用特定系统的训练数据对预训练的基础模型进行优化,已成为在特定应用中实现定量准确性的关键方法。最近的研究证明了微调方法在各个领域的有效性。(32–35)迁移学习策略使得使用相对较少的训练数据即可高效地优化基础模型,通常所需的训练数据远少于从头开始训练所需的数据,同时仍能在实践中保持竞争力。(30,38)尽管人们对微调的重要性认识日益增加,但仍存在一些挑战限制了其广泛应用。首先,每个MLIP框架的微调实现方式不同,不同的程序、超参数和数据格式给研究人员带来了技术障碍。其次,不同框架和化学系统之间微调效果的系统比较仍然有限,难以确定最佳实践。第三,基础模型性能与微调后模型精度之间的关系,以及不同训练策略的影响,需要进一步深入研究。
在这项工作中,我们通过对五个领先的MLIP框架(MACE、GRACE、SevenNet、MatterSim和ORB)的基础模型进行系统评估,解决了这些问题。(16,19,30,41,42)我们测试了这些模型在七个不同化学系统上的微调性能:
- 优秀的固态质子导体:磷酸氢铯(CsH2PO4)及其衍生物Cs7(H4PO4)(H2PO4)8,其中含有不寻常的四羟基磷鎓阳离子H4PO4+L-焦谷氨酸铵,这种有机晶体具有低势垒氢键,并在近紫外激发下表现出非芳香性固有荧光(43–45)
- 溶化的苯酚,用于研究液体中的氢键
- 水合氢氧化钾溶液,代表浓缩电解质环境
- 晶态硅化锂(Li13Si4),一种Zintl相金属间化合物
- 含硫空位的二硫化钼(MoS2)结构,用于模拟二维材料中的缺陷工程
这些系统的选择旨在涵盖不同的化学环境、键合类型和与当前材料研究相关的动态现象。我们的综合分析表明,微调在所有框架和系统中都能显著提高模型精度,力误差通常降低5-15倍,能量误差降低2-4个数量级。更重要的是,我们证明了微调能够准确再现基础模型无法捕捉的特定系统物理属性,包括扩散系数、氢键动态和结构相关性。通过系统比较训练时间、超参数要求和最终精度,我们为不同应用提供了选择合适框架和策略的实际指导。
为了促进这些方法的更广泛应用,我们推出了aMACEing工具包,它为所有支持的MLIP框架的微调工作流程提供了统一的命令行接口。该工具包通过处理框架特定的复杂性(如训练数据格式、训练设置、与模拟环境的干扰、模型转换、性能评估和计算结果的文档记录)来简化流程,同时仍允许研究人员专注于科学问题而非实现细节。结合全面的轨迹后处理分析能力,该工具包大大降低了在分子动力学研究中使用最先进机器学习势的门槛。
**基础模型和MLIP框架**
我们评估了五个基于图神经网络的著名MLIP框架,每个框架都基于全面的量子化学数据集进行了训练。MACE采用更高阶的等变消息传递机制。(16,22,46)GRACE利用图扩展来处理原子簇展开。(19,24)MatterSim是一种基于M3GNet架构的不变图神经网络。(30,47)SevenNet提供了具有GPU并行支持的可扩展等变架构,基于NequIP架构。(15,31,41)ORB是非保守的且不变的,类似于MD-ET框架,它直接预测力而不是计算能量函数的梯度。(23,42,48)除了MatterSim之外,所有框架的基础模型都是在以下数据库的组合或子集上训练的:Materials Project、Alexandria Database、Open Materials 2024和Open Molecules 2025。(25–29)微软研究院AI for Science团队使用DFT计算的数据训练了基础模型,这些数据的温度范围为0-5000 K,压力范围为0-1000 GPa。(30)该数据库不公开。Materials Project包含了超过200,000种材料的DFT计算结果。(26,27)训练时通常使用pymatgen的StructureMatcher对数据库进行子采样,得到包含146,000种材料和150万次DFT计算(PBE+U)的数据集(MPtrj)。(49,50)Alexandria数据库包含了300万种材料的DFT结构弛豫轨迹和3000万次DFT计算(PBE+U),训练时通常使用名为sAlex的子数据集,其中包含1000万次DFT计算。(25,28)Meta的FAIRchem提供的Open Materials 2024和Open Molecules 2025数据集各自包含超过1亿次DFT计算(OMat24: PBE+U和OMol25: ωB97M-V)。(28,29)所有这些框架及其基础模型都被Matbench Discovery和MLIP Arena评为目前性能最佳的MLIPs之一。(51,52)
**化学系统和微调数据生成**
我们的评估涵盖了七个化学性质不同的系统,这些系统代表了不同的材料类别和动态现象。CsH2PO4(CDP,512个原子,立方晶胞,a = 19.82 ?)作为一种模型固体酸电解质,其质子导电性得益于强而波动的氢键网络。(53–55)Cs7(H4PO4)(H2PO4)8(CPP,576个原子,立方晶胞,a = 20.20 ?)代表一种复杂的离子固体,其中同时存在阳离子和阴离子磷酸基团。(56,57)L-焦谷氨酸铵(144个原子,正交晶系,a = 5.15 ?, b = 14.56 ?, c = 17.05 ?)是具有短氢键的有机分子晶体的例子。苯酚-水系统(388个原子,立方晶胞,a = 15.64 ?)模拟了一个简单的有机分子与溶剂的相互作用。(43–45)水合KOH溶液(288个原子,立方晶胞,a = 14.21 ?)代表含有氢氧根离子传输的电解质溶液。(33,58)Li13Si4(204个原子,正交晶系,a = 15.90 ?, b = 15.13 ?, c = 13.40 ?)代表一种锂硅化物,是电池研究中的感兴趣材料,其中锂离子具有扩散特性。(59–62)最后,具有硫空位的忆阻性和二维1H-MoS2(106个原子,六方晶系,A = [19.15 ?, 0.0 ?, 0.0 ?], B = [9.58 ?, 16.59 ?, 0.0 ?], C = [0.0 ?, 0.0 ?, 40.0 ?])展示了具有高激活能量的协同动态,完善了我们的测试集。(34,63,64)
对于每个系统,训练数据是从使用CP2K和BLYP或PBE交换相关函数、Goedecker-Teter-Hutter赝势以及DZVP-MOLOPT基组计算的Born-Oppenheimer AIMD轨迹中提取的2000个配置。(65–81)在AIMD的每100帧中选取一个配置,以覆盖目标温度下的主要相空间,并具有代表动态过程的结构多样性。使用这种方法,为所有系统计算了包含位置、力和能量的微调数据集。
**微调方法**
针对每个MLIP框架分别实现了微调协议,并评估了每个框架-系统组合的超参数,同时保持训练数据和评估程序的一致性。训练使用了70-90%的配置进行优化,剩余数据用于验证和测试。为了获得能够运行稳定MD模拟的微调基础模型,调整了关键超参数,包括学习率(10–4–10–2)、力到能量损失比率(0.5–150)、批量大小(4或5)和迭代次数(200–2500),以获得适用于每个系统的MD-ready MLIP(见支持信息表S4)。训练在GPU集群上进行,并仔细监控收敛行为。微调协议应用于第一代基础模型:MACE-MP-0、GRACE-1L-OAM、SevenNet-0、MatterSim Large和ORB-v2(见图1)。(22,24,30,41,42)虽然这些框架通常提供在Matbench Discovery上表现更好的更复杂的基础模型,但针对特定系统进行微调并减少参数数量可以取得良好的性能,同时受益于更小的模型尺寸,这样可以在内存较小的硬件上运行,并且比更复杂的模型更快。(51)为了简化,微调协议的应用没有结合主动学习。
**图1**
图1. 预训练的基础机器学习原子间势的微调。
**评估指标和分析**
模型性能通过使用第一性原理方法重新计算从扩展的MLIP生成轨迹中提取的一组配置来评估。这个测试集包含真正的训练外配置;然而,由于这些结构通常来自配置空间的相似区域,因此不应被视为完全超出训练范围。除了力和能量的平均绝对误差外,还评估了模型再现从扩展分子动力学模拟中得出的关键物理属性的能力。因此,使用微调和基础模型进行了2-10纳秒的分子动力学模拟:径向分布函数用于表征结构相关性,均方位移和扩散系数用于量化传输现象,矢量自相关函数用于描述取向动态(见支持信息图S1–S19)。
**aMACEing工具包实现**
为了促进可复制的微调工作流程,我们开发了aMACEing工具包,它为所有支持的MLIP框架提供了统一的接口。该工具包处理数据格式转换,生成框架特定的输入文件,管理高性能计算环境的作业提交,并提供全面的日志记录以确保可重复性。工具包的关键特性包括为初学者提供的交互式问答界面、用于自动化的单行命令执行、跨多个框架的系统基准测试能力、内置的轨迹后处理分析工具以及包含实际示例的全面文档(见图2)。该工具包可以为Atomic Simulation Environment(ASE)和LAMMPS创建输入文件。(82,83)其模块化架构便于轻松扩展到其他框架,同时保持一致的用户体验。
**图2**
图2. aMACEing工具包的模块和功能。
**其他类似功能的Python包**
还有其他一些具有类似功能的Python包,例如Janus-Core和AiiDA-TrainsPot。(84,85)Janus-Core提供了许多模块,用于使用多个MLIP进行几何优化、分子动力学、nudge弹性带计算等。AiiDA-TrainsPot是一个自动训练MLIP的工作流程,但目前仅能训练MACE。同样的限制也适用于使用Janus-Core进行微调。
**基础模型与微调模型的系统比较**
我们的综合评估显示,通过基础模型微调,在所有测试系统和框架中都取得了显著且一致的性能提升。图3展示了基础模型与其微调后的模型之间的力预测误差,证明了这种方法的普遍有效性。基础模型在预测力时存在相当大的误差,范围从0.15-0.45 eV/?,这反映了它们是针对多种化学系统进行通用训练的,而不是针对特定应用进行优化的。包括能量误差在内的数值列在支持信息中的表S1中。图3显示了所有评估系统的基础模型和微调模型的均方根力误差:CsH2PO4(CDP)、Cs7(H4PO4)(H2PO4)8(CPP)、Li13Si4、溶剂化的PhOH、水溶液中的KOH、L-焦谷氨酸铵(L-Pyro)、MoS2;以及相应的基础模型框架:MACE-MP-0、GRACE-1L-OAM、SevenNet-0、MatterSim-Large、ORB-v2。力误差以eV ?–1为单位,平均误差降低百分比也在表中给出。
高分辨率图像
下载MS PowerPoint幻灯片
微调显著减少了这些误差。力精度提高了5-15倍,所有框架和系统的平均绝对力误差降低到0.02-0.07 eV/?。能量误差也大幅减少,通常减少了几个数量级,但其绝对值强烈依赖于所使用的参考水平(例如,功能基组)。因此,虽然能量误差的减少突显了通过微调获得的一致性,但力精度的提高是分子动力学模拟中模型性能提升的更具有物理意义的指标。这些改进表明,微调有效地适应了基础模型中编码的广泛知识,以接近量子化学精度地捕捉系统特定的相互作用。
值得注意的是,改进的程度对特定的MLIP框架的依赖性有限,这表明微调的有效性主要由训练数据的质量和相关性决定,而不是架构细节。所有框架:MACE、GRACE、SevenNet和甚至非保守框架ORB,在微调后都达到了可比的最终精度,尽管它们展示了不同的基础模型性能水平。这些模型在每个微调过程中都没有进行广泛的超参数优化;对于某些系统,只需要对示例值进行小的调整。这些发现具有重要的实际意义,表明在选择框架时可能会优先考虑计算效率、训练速度或易用性,而不仅仅是基础模型的精度。实现更好精度最重要的步骤是微调步骤,因为基础模型尚未达到这种精度水平。通过使用微调后的基础模型,可以应用更快的工作流程,用更少的计算资源获得大系统在纳秒时间尺度上的近乎从头算的精确轨迹。
训练效率和计算需求
对训练时间的分析显示,不同框架和系统之间的差异很大,这取决于系统大小、框架架构和超参数选择。表1系统地比较了每个框架和系统进行100个微调周期的计算时间,揭示了影响实际部署决策的框架特定特征。
表1. 在一个NVIDIA A100上进行10,000个分子动力学步骤和100个微调周期(2,000个数据点)的计算时间,系统包含512个原子
任务 MACE MACE+cueq GRACE
分子动力学(秒) 390.2 383.5 12.6
模型微调(分钟) 134.0 51.8 40.9
任务 SevenNet MatterSim ORB
分子动力学(秒) 555.0 90.4 131.6
模型微调(分钟) 373.0 342.1 77.7
GRACE通常表现出最快的训练时间,通常在研究的系统中100个周期内不到一小时,使其适用于快速原型设计和迭代改进。MACE显示出中等的训练时间。SevenNet和MatterSim的性能取决于系统特性,通常需要较长的训练时间。ORB在计算效率方面表现出竞争力,特别是在只有像ORB这样的计算效率高的非保守模型可行的系统大小情况下。
物理性质再现
除了传统的能量和力精度指标外,我们还评估了微调模型恢复关键物理性质的能力,如扩散系数、径向分布函数和从扩展分子动力学模拟中获得的能量路径。这项分析表明,微调不仅提高了与参考力和能量的吻合度,还能够准确预测结构和动态可观测量,这些在短时间尺度的从头算模拟中通常是无法获得的,而且基础模型也捕捉得不好。
固体酸CsH2PO4和Cs7(H4PO4)(H2PO4)8(图4a,b)是无机晶体化合物,在高温下表现出超质子相变,伴随着质子导电性的急剧增加。在这些化合物的高温相中,氢键网络变得高度无序,阴离子的旋转动力学接近液态。这种强且动态变化的氢键网络使得通过Grotthuss机制的质子传输变得高效。这些材料中的整体质子扩散率是由阴离子的旋转速率和相邻阴离子之间的质子传输速率共同决定的。虽然单个氢键内的质子传输事件发生在皮秒时间尺度上,但阴离子的旋转运动通常发生在几百皮秒的量级。因此,在从头算分子动力学模拟中很难收敛扩散系数。实验研究表明,CsH2PO4中的质子扩散比Cs7(H4PO4)(H2PO4)8中的更快。(56,86)然而,由于AIMD可访问的时间尺度有限,即使是从头算模拟也常常无法再现这种扩散系数的定性差异(图4a,b)。(32,57)同样,许多基础模型错误地预测了两种化合物之间的扩散系数比率:DCDP/DCPP = 1.2 ± 0.6。相比之下,所有微调后的基础力场都正确地再现了实验趋势:DCDP/DCPP = 4.1 ± 1.2(见支持信息,图S1–S7)。作为对比,最近的一项MLIP研究报告了扩散系数比率为4。(32)
图4
图4. 使用第一性原理方法、基础模型和微调后的基础模型获得的不同物理性质的比较:(a, b) CDP和CPP的质子扩散系数比率(MatterSim),(c) Li13Si4的锂离子平均平方位移和扩散系数(ORB),(d) 水中的苯酚,(O–H)羟基键长度分布(SevenNet),(e) 水中的KOH,水分子和氢氧根离子的平均平方位移和OHydroxide-Ion-O水径向分布函数(GRACE),(f) l-焦谷氨酸铵沿质子传输坐标的自由能曲线(ORB),(g) MoS2的硫跳跃到相邻硫空位的势能曲线(MACE)。
高分辨率图像
下载MS PowerPoint幻灯片
使用第一性原理方法获得的锂硅化物Li13Si4中锂离子的扩散系数(0.04 ?2/ps)在微调后的基础模型计算的轨迹中得到了再现(0.05±0.01 ?2/ps),而基础模型一致地低估了这个值(0.02±0.01 ?2/ps)(见图4c和支持信息图S8和S9)。
鉴于O–H伸缩在决定苯酚的振动响应和氢键行为中的关键作用,评估了各种机器学习原子间势在再现这一结构特征方面的准确性。图4d展示了苯酚中的O–H距离分布,表明微调模型产生的分布(最大位置:1.00 ± 0.01 ?,强度:8.6 ± 1.7)与从头算分子动力学参考值(最大位置:1.00 ?,强度:12.7)非常吻合,有效地捕捉了与周围溶剂环境的相互作用。相比之下,基础模型产生的分布更宽且过度分散,反映了沿O–H伸缩坐标的不现实软化势(最大位置:1.03 ± 0.01 ?,强度:13.3 ± 1.5)。这种人为的软化导致伸长的O–H构型的过度表示,可能偏置了红外(IR)峰的位置和强度。此外,微调模型准确地再现了苯酚中羟基氢周围的水结构(见支持信息图S12)。
图4e比较了水溶液中氢氧根离子和水分子的迁移率。基础模型未能准确再现扩散系数,低估或高估了H2O(0.01 ± 0.01 ?2/ps)、K+(0.02 ± 0.01 ?2/ps)的扩散,而高估了OH–(0.72 ± 0.49 ?2/ps)的扩散(见支持信息图S13-S17)。相比之下,微调后的模型(D(K+) = 0.14 ± 0.02 ?2/ps,D(H2O) = 0.15 ± 0.01 ?2/ps,D(OH–) = 0.41 ± 0.01 ?2/ps)与AIMD数据(D(K+) = 0.10 ?2/ps,D(H2O) = 0.09 ?2/ps,D(OH–) = 0.33 ?2/ps)非常吻合。此外,微调模型比基础模型更准确地捕捉了氢氧根离子的溶剂化环境。
L-焦谷氨酸铵是另一个有趣的系统,它是一种有机晶体,其特征是具有短氢键(SHB),供体-受体距离低于2.5 ?。在之前的工作中,我们展示了这种SHB在经典Born-Oppenheimer分子动力学(BOMD)模拟中表现出低势垒、不对称的质子传输(PT)势。这些模拟中的PT自由能势垒约为23 meV。尽管这个势垒很浅,但它在这个系统的光学性质中起着重要作用。(44,45)当通过路径积分分子动力学包含核量子效应时,这个势垒消失,SHB变得对称且分散。(43)然而,本工作中用于训练机器学习势的参考数据来自经典BOMD轨迹,这些轨迹保留了不对称的低势垒轮廓。这种区别对于评估ML模型的性能至关重要。如图4f所示,正确的经典参考轮廓是不对称的,具有浅最小值。然而,大多数基础模型未能再现这种结构(能量势垒:8 ± 8 meV)。除了MACE-MP-0之外,它们反而预测出平坦或对称的自由能表面,错误地模仿了训练数据中不存在的量子行为。这导致了不准确的SHB动力学和误导性的结构解释。相比之下,所有框架中的微调模型都恢复了正确的不对称轮廓,并再现了经典BOMD模拟中观察到的低势垒(能量势垒:23 ± 2 meV,图5)。这些发现表明,像SHB中的浅PT势垒这样的微妙但化学上重要的特征无法被通用模型捕捉到,需要针对特定系统进行微调。
图5
图5. 使用不同MLIP框架计算的L-焦谷氨酸-NH4中短氢键沿质子传输坐标的自由能曲线。基础模型和微调后的基础模型的结果与AIMD参考数据进行了比较。
高分辨率图像
下载MS PowerPoint幻灯片
在MoS2中,基础模型预测的势能曲线大大低估了空位跳跃势垒(0.44 ± 0.16 eV),并且总体上呈现出错误的趋势。相比之下,微调后的模型(0.81 ± 0.30 eV)准确地再现了DFT能量曲线(0.81 eV,图4g)。
支持信息中提供了更广泛的比较,其中展示了这里介绍的每个分析中所有调查的基础模型和微调模型的性能。还列出了其他径向分布函数比较和其他分析。这些结果表明,微调不仅提高了数值精度,还忠实再现了物理现象,使得微调后的模型适合于定量预测实验可观测的性质。为了更具体地说明这种效果,图5提供了一个代表性的例子,展示了微调在L-焦谷氨酸铵材料中取得的卓越性能。基础模型预测的自由能曲线(尽管使用了MACE)与AIMD参考值有非系统性的偏差。相比之下,微调显著减少了这些差异:所有来自微调后分子动力学模拟的曲线都与AIMD参考数据非常吻合。
对70个多纳秒MLIP模拟中所有调查的性质进行综合评估,使我们能够从图4和支持信息中的图表中得出一般性观察:
1. 基础模型的性能值得注意。特别是,这些模型非常适合这里研究的无机晶体系统,这些系统在化学上与训练数据中的材料相似。它们在预测非动态性质(如径向分布函数)方面表现良好,有时微调是不必要的。
2. 对于本研究中研究的有机固体(L-焦谷氨酸铵)和液体系统(水溶液中的KOH和PhOH),基础模型的表现相当好,但仍与AIMD和实验参考数据有显著偏差,这些偏差大部分通过微调得到了解决。
3. 不同基础模型之间的差异通常很大;没有一个模型在所有情况下都表现最佳,最准确的模型取决于系统。
4. 微调系统地增强了力和能量的预测,产生的性质预测在所有MLIP框架中通常与AIMD参考数据在质量上无法区分。(仅发现了一个例外:SevenNet预测的MoS2中硫跳跃的势能曲线。)
5. 在所有情况下,微调显著减少了基础模型在性质和力预测方面的精度差异。
框架比较和建议
所有评估的MLIP框架在微调后都表现出显著的性能提升,而它们相应的基础模型已经展示了出色的多功能性。通过最小的微调努力(无需主动学习),所有框架都能准确再现第一性原理轨迹,并且经常达到接近从头算的精度。从保守框架派生的微调模型产生了稳定的分子动力学模拟,持续时间超过多个纳秒。总体而言,框架之间的差异很小,不会导致它们的实际适用性有显著变化。在35次微调尝试中,只有1次使用SevenNet模拟的MoS2未能以接近从头算的精度再现物理性质。这一发现不仅强调了所评估方法的稳健性,也凸显了aMACEing_toolkit的实际优势——它能够高效地测试和比较多个MLIP框架,而其他一些工具包在模型支持方面存在局限性。尽管如此,不同框架之间的细微差异仍可能影响它们在特定研究目标中的选择。MACE在训练时间、精度以及提供稳健的基础模型方面取得了良好的平衡,特别适合探索性研究。GRACE结合了出色的精度和最快的训练及推理性能,能够进行长时间和空间尺度的模拟。通过集成新的cuEquivariance包(该包替代了广泛使用的等变神经网络库e3nn的计算程序),MACE的计算时间与GRACE相当,成为我们研究中最为稳健的框架。(87) ORB由于其非保守的架构,也提供了较高的计算速度;然而,在长时间的分子动力学模拟中,这一特性有时会导致模拟箱爆炸。SevenNet和MatterSim虽然实现了可靠的精度,但在分子动力学模拟中的微调和推理阶段相对较慢。总之,所有研究的框架在所研究的系统中都提供了令人满意的精度和计算性能,表明在实际应用中选择MLIP框架进行微调并不是一个关键的限制因素。这项全面的评估表明,对基础模型进行微调是一种实现接近从头算精度的变革性方法。我们对五种MLIP框架和多种化学系统的系统研究得出了几个具有广泛意义的结论,对计算化学和材料科学具有重要意义。无论选择哪种框架,微调都能显著提高模型精度,力的精度通常提高5-15倍,能量的精度提高2-4个数量级。这种普遍性表明,微调的效果主要取决于训练数据的质量和相关性,而非架构细节,从而可以根据计算需求和用户偏好灵活选择框架。更重要的是,微调能够准确再现基础模型通常无法捕捉到的系统特定物理性质,包括传输系数、结构相关性和其他动态现象。这一能力将MLIPs从近似模拟工具转变为接近从头算精度的预测方法,可以直接与实验测量结果进行比较。鉴于微调精度与底层MLIP架构无关,并且训练数据选择过程中没有使用任何主动学习协议,我们建议未来的社区发展工作应优先考虑推理速度,即使这可能会略微牺牲精度。aMACEing Toolkit的开发通过提供跨多个框架的统一工作流程,解决了限制其广泛采用的关键障碍。该工具包在保持灵活性的同时抽象了技术复杂性,使研究人员无需深厚的专业知识即可利用最先进的方法,从而可能加速不同应用中的科学发现。微调效果的普遍性表明,标准化的基准测试协议和高质量的数据集有助于系统地比较不同的方法。值得注意的是,当有足够大且高质量的系统特定数据集时,从零开始训练可以实现非常高的精度,并且根据架构和优化情况,其精度可能与微调相当甚至超过微调。对代表性MLIP框架、数据集大小和系统的系统评估将有助于明确它们的相对效率。这样的举措将受益于像aMACEing Toolkit这样的工具提供的统一接口,从而实现大规模的协作评估研究。最终,这项工作确立了微调作为现代分子模拟工作流程中的关键组成部分,为实现接近量子化学精度的扩展模拟提供了实际途径。随着基础模型的不断发展和训练数据集的扩大,微调方法可能会变得更加复杂,为我们在能源存储、催化、生物系统和材料设计等不同应用中理解复杂化学系统提供令人兴奋的机会。
计算细节:
所有微调计算都是通过各自的MLIP框架实现进行的:MACE-torch 0.3.10、GRACE tensorpotential、SevenNet 0.11.2、MatterSim 1.1.2和ORB 0.3.2,使用它们的官方API进行。(16,19,23,24,30,31,41,42,46) 从头算参考计算使用CP2K 2025.1和PBE及BLYP交换相关泛函以及GTH赝势进行。(65–81) 训练数据包括从AIMD轨迹中提取的每个系统的2000个配置,温度根据系统不同在300-600 K之间。分子动力学模拟用于性质评估,使用LAMMPS和ASE以及Nosé-Hoover链恒温器进行,温度根据系统特定情况进行设置。(79–83) 计算在Ilmenau技术大学的计算集群上进行,使用NVIDIA A100 GPU进行训练和MD模拟。
aMACEing Toolkit可在https://github.com/jhaens/amaceing_toolkit获取,其详细文档位于https://amaceing-toolkit.readthedocs.io。