《Computational Materials Science》:Physical-time-adaptive nested low-rank transfer of phase-field foundation models for microstructure evolution
编辑推荐:
``摘要相场替代模型降低了微观结构模拟的成本,但要将其应用于未见过的材料条件,需要针对特定目标进行适应性调整。标准的参数高效微调(PEFT)方法使用静态参数能力,无法适应随时间变化的谱分布和物理约束。在这项工作中,我们提出了物理时域自适应嵌套低秩传输(ST-NLR)这一新颖框架,
``
摘要
相场替代模型降低了微观结构模拟的成本,但要将其应用于未见过的材料条件,需要针对特定目标进行适应性调整。标准的参数高效微调(PEFT)方法使用静态参数能力,无法适应随时间变化的谱分布和物理约束。在这项工作中,我们提出了物理时域自适应嵌套低秩传输(ST-NLR)这一新颖框架,它利用物理时间作为动态坐标来调节微调过程中的模型能力。ST-NLR引入了一个统一的嵌套因子库,并根据热力学和物理约束(包括自由能耗散、相界面动力学和质量守恒)自适应地激活前缀等级(例如等级4、8和16)。在Allen–Cahn、Cahn–Hilliard和各向异性固化(PFHub-3)这三个典型的相场基准测试中,ST-NLR的表现始终优于现有的PEFT基线方法。值得注意的是,ST-NLR将自由能预测误差降低了多达16.92%,同时将适配器的算术操作次数(GMACs)减少了59.09%。一个30轮的V100基准测试反映了在Eager PyTorch中的实现开销,清晰地区分了理论上的算术减少和实际部署延迟。ST-NLR为可扩展的相场基础模型提供了一种高效且基于物理的迁移学习策略。
引言
材料微观结构将处理条件与宏观性质联系起来,因为晶界迁移、相分离和树枝状固化决定了域的大小、界面密度和空间组成。在不同热力学和动力学条件下的快速预测对于材料筛选、工艺窗口探索和微观结构设计非常重要。相场方法用连续的序参量描述晶粒、相和移动界面。自由能函数和耗散动力学控制着域的粗化、相分离和固化过程[1]、[2]、[3]、[4]、[5]。尽管这些模型具有明确的物理意义,但它们需要精细的空间网格、小时间步长以及大量的参数化计算。界面宽度的变化、反应强度、迁移性、热扩散或初始微观结构的变化可能需要新的高成本训练过程和重新的替代模型适配。
数据驱动的替代模型可以快速近似相场轨迹。最近在《计算材料科学》领域的研究[6]、[7]、[8]、[9]中,这些模型预测了晶粒生长、旋涡分解、多相演变和固化过程,同时评估了形态和热力学量。神经算子学习了偏微分方程(PDE)替代模型的函数空间之间的映射[10]、[11]。多物理场和多PDE预训练方法从PDE轨迹集合中学习表示,以便进行后续的迁移[12]、[13]、[14]。这一进展引发了一个实际部署问题:当预训练的模型被应用于未见过的材料条件时,是否必须更新整个模型,并在整个物理过程中使用相同的适应能力?
低秩适应技术冻结了预训练的权重,并学习紧凑的残差更新[15]。现有的变体在层间分配等级,联合训练多个等级,或者沿着生成模型的时间步长专门化适配器[16]、[17]、[18]、[19]。相场轨迹中的物理时间具有直接的材料意义:它区分了快速松弛、界面迁移、高曲率区域的移除以及后期粗化阶段。因此,合适的相场适配器应该在需要时重复使用相同的校正方法,而仅对必要的物理阶段分配额外的能力。
我们将这种方法称为共享时域自适应嵌套低秩适应(ST-NLR)。其中,“共享”指的是在物理阶段之间复用的一个因子库,“时域感知”是指将物理时间作为能力坐标,“嵌套低秩”是指随着等级的增加而保留较小前缀的方向。我们为每种未见过的材料条件校准一个单独的因子库,同时保持预训练的模型不变。在每个物理时间点,模型激活满足所需材料质量的最小前缀。多前缀蒸馏提取重复的校正项,基于场值、界面、自由能、守恒和结构规模的验证标准来选择部署的能力。一项确认性的Allen–Cahn研究比较了四种条件和三种训练种子,在接近的活跃预算下进行测试。参数控制、数据控制、固定前缀控制和动态路由控制确定了收益的来源和成本。Allen–Cahn、Cahn–Hilliard和PFHub-3类型的双场任务在不同动力学条件下测试了相同的设计。
主要贡献如下:
- 1.
我们为相场基础模型引入了物理时域自适应嵌套低秩传输技术,通过在整个物理过程中重用一个有序的因子库,避免了在整个轨迹上使用固定高等级以及由独立时间专家导致的表示碎片化。
- 2.
我们从自由能变化中推导出质量目标,并利用材料可观测量的稳定性来定义目标。然后,局部分布尾部和受限能力最小化引导时变设计,从而实现了材料感知的联合多前缀校准目标。
- 3.
我们从非保守的粗化过程验证了该方法的有效性,随后在保守的相分离和各向异性热耦合固化过程中也取得了良好效果。一个包含四种条件和三种种子的研究确立了匹配预算下的质量优势。数据和训练控制措施评估了迁移效率,材料可观测量在不同动力学条件下的通用性。
本文的其余部分首先将ST-NLR与相场替代模型、科学算子和灵活的低秩适应技术进行比较。然后,材料系统定义了所需的物理原理和质量度量标准。理论将这些度量标准转化为物理时域能力问题,该方法实现了相应的共享嵌套表示,实验在三种类型的相场动力学条件下测试了这一设计的各个部分。
章节片段
相关工作与定位
ST-NLR结合了三个通常独立研究的领域:数据驱动的相场演化、用于科学动力学的预训练算子以及具有灵活能力的参数高效适应。这三个领域的交集定义了这项工作的贡献。
材料系统和相场物理学:从自由能到三种演化任务
控制方程定义了目标轨迹以及材料替代模型必须保持的量。Allen–Cahn、Cahn–Hilliard和热耦合的树枝状生长模型对界面、自由能、守恒、结构规模和耦合场提出了要求。这些要求决定了每个物理时刻最小的可行前缀等级。
从材料质量到物理时域能力:问题定义与理论
上述材料物理学导致了四个可测试的设计要求。目标域解决方案算子指明了需要适配的内容。稳定性界限将场误差与相分数、界面和自由能联系起来。局部校正的谱尾部描述了时变等级需求。材料容忍度则定义了最小能力部署规则。
方法:材料感知的共享嵌套低秩适应
理论设计包括三个相互关联的模块:一个随时间共享的有序因子库、一个将常见材料校正放入较小前缀的联合校准目标,以及一个在验证容忍度下选择最小可行等级的部署规则。图1总结了这些模块与材料轨迹、模型适应和物理校准之间的关系。
图1将方法分为物理轨迹定义、共享嵌套传输和
数值材料系统和验证设计
实验从经过验证的参考轨迹开始,进行确认性比较、机制控制和跨动力学的传输。四个Allen–Cahn条件和三种种子确立了中心的质量-能力结果。固定等级、动态路由、完全微调和数据预算控制措施确定了其来源和部署价值。Cahn–Hilliard和PFHub-3类型的双场任务在保守和多场耦合条件下评估了相同的嵌套能力设计。
结果:材料质量和活跃能力的证据
结果在匹配的活跃预算下确立了材料质量,确定了共享嵌套的贡献,量化了数据和计算需求,并测试了其在保守粗化和各向异性热耦合固化过程中的应用效果。这一序列遵循了先前理论的可观察后果。
物理阶段共享校正基础
核心结果是,一个有序的校正基础适用于整个材料轨迹。快速松弛、界面迁移和后期粗化包含重复的空间方向,以及特定阶段的精细化调整。嵌套因子库将重复的方向放在较小的前缀中,并为需要额外细节的阶段预留后续因子。时间分辨的等级追踪、固定前缀容量审计以及已发布的方法比较支持了这一点
结论
本研究解决了在新参数条件下相场替代模型部署的一个核心问题:目标域的能力应该如何分布在不同的物理阶段?ST-NLR通过结合自由能耗散、界面运动、质量守恒和热耦合,以及一个所有物理时间都共享的最大等级因子库来回答这个问题。嵌套前缀、多前缀蒸馏和材料容忍度选择将活跃能力分配给需要它们的阶段
Ruiling Jiang:起草初稿、软件开发、调查、形式分析、概念化。Yong Zhang:审阅和编辑、监督。Houbiao Li:审阅和编辑、监督。
在准备这项工作时,作者使用了OpenAI Codex来辅助英语翻译、语言编辑和手稿组织。作者审阅并编辑了所有输出内容,验证了科学内容的准确性,并对出版物的内容负全责。
作者声明他们没有已知的财务利益或个人关系可能会影响本文报告的工作。
Ruiling Jiang|Yong Zhang|Houbiao Li
```