时序一致性增强的神经算子——面向冰盖演变的数据高效模拟器

《Neurocomputing》：Temporal consistency–enhanced neural operators for data-efficient emulator of ice-sheet evolution

　　

• •
  我们开发了一种数据高效的神经算子，用于冰盖模拟。
• •
  双编码器提高了效率和跨分辨率鲁棒性。
• •
  有限差分一致性损失减少了长时序漂移。
• •
  该模型在各种分辨率和低数据条件下均优于强基线方法。

引言

格陵兰和南极陆地冰的快速流失是当代海平面上升的主要驱动因素之一。基于这些观测，理解和预测冰盖动力学已成为一项核心科学挑战。冰盖动力学遵循粘性、非牛顿流动规律。全斯托克斯（FS）方程提供了最完整的表述，但在快流区域所需的分辨率下计算成本高昂[1]。

为了在保持物理保真度的同时缓解这些计算障碍，已开发了先进的有限元模型。冰盖与海平面系统模型（ISSM）在具有非结构网格、自适应网格细化（AMR）和并行执行的有限元框架中实现了这些流动模型[2]。通过在快流区域细化分辨率、在其他区域粗化网格，ISSM在关键区域保持精度的同时降低了计算成本。尽管如此，ISSM的高计算成本仍然严重制约了对冰盖在不同环境强迫下响应的系统性探索。

这一局限性推动了统计模拟器的使用——即基于学习的代理模型，用于近似从地球物理输入和强迫到冰动力状态的映射。GPU加速的深度学习可以利用大规模并行性来缩短实际运行时间，同时近似数值求解器的行为。早期研究采用简单的人工神经网络架构来模拟数值模型预测的冰川学特征之间的统计映射[3]、[4]。特别是，基于规则网格的神经网络（例如全卷积网络）已被广泛用于捕获冰川的空间模式和地形[5]、[6]，但固定的感受野和网格结构与数值模拟中的非结构有限元网格不匹配。最近，图神经网络（GNNs）在非结构网格中复现厚度和速度场方面实现了比传统深度学习方法更高的保真度和计算效率[7]、[8]。GNNs还展示了相比ISSM数量级的运行时间减少，证明了基于GPU的模拟在瞬态集成研究中的潜力[7]。

超越离散图模型，神经算子（NO）方法提供了一个学习无穷维函数空间之间映射的通用框架，使其特别适合受偏微分方程（PDEs）控制的系统。与在固定网格上近似输入-输出对的常规神经网络不同，NO旨在学习底层的算子本身，从而在不同的分辨率、几何形状和强迫条件下实现强泛化能力。这一能力在冰川学建模中尤为吸引人，因为在冰川学建模中非结构网格和多尺度、非平稳动力学是常见的。它们还支持零样本超分辨率，允许在粗粒度数据上训练的模型直接产生精细尺度预测而无需重新训练。当大量粗分辨率观测数据存在而标注的精细尺度数据稀缺时，这一属性尤为宝贵。神经算子是唯一一类同时保证离散不变性和万能逼近能力的模型，使其成为数据驱动PDE模拟的自然基础。

在现有变体中，傅里叶神经算子（FNO）[9]通过参数化全局谱核来捕获长程空间依赖关系，在多种前向问题中展现了令人印象深刻的精度和效率。然而，标准FNO训练独立监督每个查询时间状态，并未明确约束成对时间状态之间的关系，当缓慢趋势或急剧瞬态变化被低估时，这可能导致多年模拟过程中出现漂移式的时间不一致性。此外，低维驱动因素（例如标量时间和底部融化率）与高维静态场（例如基岩地形、表面质量平衡、初始状态）在尺度和语义上存在巨大差异。简单地将它们投影到共享的潜在空间可能会产生虚假耦合并导致条件不良。最后，纯全局谱核可能会忽视快流出口和接地带附近冰川演化至关重要的局部化和非平稳模式。

在本工作中，我们解决了这些局限性，利用ISSM生成的数据研究了Pine Island Glacier（PIG）在海冰驱动强迫下的冰川演化，涵盖多种底部融化情景、多分辨率网格（2/5/10公里）以及多年跨度的月度时间步长。我们的学习设置与先前的模拟器[7]针对相同的预测任务，即从地球物理背景和强迫轨迹中预测厚度和水平速度，同时关注时间保真度和输入条件化。具体而言，我们提出了一种时序一致性增强的神经算子框架，主要贡献如下：

• 1.
  双编码器输入建模。 低维驱动因素（时间和底部融化）与准静态地球物理场分别编码后再融合到算子主干中，缓解了尺度和语义不匹配问题，并改善了训练过程中的数值条件。
• 2.
  有限差分时间一致性。 一种简单而有效的正则化方法约束预测增量 $$ 与真实时间增量 $$ 相匹配，减少了不同查询时间状态之间的漂移式时间不一致性，在不改变主干的情况下提高了趋势保真度。
• 3.
  高数据效率和跨分辨率鲁棒性。 大量实验表明，仅使用5%的数据进行训练就已经超过了强图基模拟器，并且模型在2公里、5公里和10公里网格上保持了稳定的精度（图1）。

我们在PIG区域对框架进行了多分辨率和多强迫水平的评估，将其与先进的算子基线和每项设计选择的消融实验进行了比较。结果表明，在训练过程中显式地纳入时间结构提供了一种简单、与模型无关的方法，用于稳定精确的冰动力学模拟，从而在保持动力学活跃区域高空间保真度的同时，实现对海洋强迫影响的更快更可靠探索。

章节摘要

相关工作

最近的观测表明，格陵兰和南极冰盖经历了数十年的质量损失，且自20世纪90年代初以来速度不断加快[10]。南极洲的Pine Island Glacier（PIG）是一个主要贡献者，经历着由海洋融化驱动的快速变薄和流动加速[11]、[12]、[13]。这些变化使PIG成为开发冰盖演化数据驱动模拟器的重要地点。

为了捕获如此复杂的动力学，基于……的连续介质模型

傅里叶神经算子

傅里叶神经算子（FNOs）是一类专门的神经算子，通过利用傅里叶变换来学习函数空间之间的映射。这种表述方式可以捕获长程空间依赖关系，非常适合冰川动力学，因为冰川动力学中非局部相互作用和平滑空间场占主导地位。

给定定义在空间域 $$ 上的输入函数 $$，FNO学习一个算子$$$$其中 $$ 将 $$ 提升到更高维度的特征空间，$$ 表示第 $$ 个傅里叶层，$$ 将…投影

数据集与实验设置

在本文中，我们使用了使用ISSM生成的Pine Island Glacier（PIG）瞬态模拟数据集[7]。该数据集包含25,920个时空帧，每帧由唯一的时间戳、空间分辨率和底部融化率定义。它涵盖了从0到70 m/年（以2 m为单位递增）的36种底部融化情景和三种网格分辨率（2公里、5公里、10公里），共产生108个模拟文件。每个文件提供240个月度快照（12个月 $$ 20年），冰川状态变量存储为

讨论与结论

本工作提出了一种时序一致性增强的傅里叶神经算子，用于Pine Island Glacier动力学的长时序模拟。通过将双编码器输入模块与有限差分时间一致性正则化器相结合，所提出的模型解决了原始神经算子的两个关键挑战：异质驱动因素和静态地球物理场的早期纠缠，以及对步间演化缺乏显式约束。在三种空间分辨率上的大量实验…

CRediT作者贡献声明

Wang Heling： 写作——审稿与编辑、写作——原创草稿、可视化、验证、软件、方法论、调查研究、形式分析、数据整理。 Koo Younghyun： 写作——审稿与编辑、数据整理、概念构思。 Rahnemoonfar Maryam： 写作——审稿与编辑、指导、资源、项目管理、方法论、调查研究、经费获取、概念构思。

利益冲突声明

作者声明以下可能被视为潜在利益冲突的财务利益/个人关系：

Maryam Rahnemoonfar报告称获得了美国国家科学基金会的资金支持。Heling Wang报告称获得了美国国家科学基金会的资金支持。如果还有其他作者，他们声明没有已知的竞争性财务利益或个人关系可能影响本研究中报告的工作。

Wang Heling|Koo Younghyun|Rahnemoonfar Maryam