基于时空相干位移的集合神经数据同化：4DVarNet-LU重建与不确定性量化

《Environmental Data Science》：Spatiotemporal coherent displacements for ensemble-based neural data assimilation

　　

尽管深度学习（DL）方法拓展了数据同化（DA）中状态估计问题的求解途径，但稳健方法需将其扩展至不确定性量化。在本研究中，研究人员提出一种通过物理空间中的随机、时空相干位移表示基于位置不确定性的方法，用于在给定参考状态附近采样状态。研究人员将该策略集成到端到端变分DA框架中，称为4DVarNet-LU，并将其性能与UNet基线比较，证明通过显式使用先验状态信息可提高重建技能。该模型在输出上确定性训练、在输入上随机训练；研究人员证明，在推理时使用初始条件信息可提高技能。基于单层准地转模型与稀疏伪天底高度计观测的观测系统模拟实验，研究人员评估重建均值与集合技能。结果表明，4DVarNet-LU在均方根误差（RMSE）和连续排序概率评分（CRPS）方面持续优于UNet基线，且对初始条件偏差的鲁棒性增强，时间稳定性改善。尽管该方法并不旨在考虑DA中所有不同不确定性来源，但其为建模和训练处理基于位置不确定性的DL模型提供了结构化途径。未来工作可扩展该方法以考虑额外不确定性来源和端到端集合生成。

论文解读：在地球科学中，深度学习（deep learning, DL）已成为处理状态重建和预报问题的新途径。通过训练阶段，深度神经架构可从大量时空数据中捕获复杂非线性关系。相对地，传统基于物理的方法依赖数据同化（data assimilation, DA）框架，显式利用物理知识，但多次运行通常计算昂贵，并且一般依赖简化模型和假设以保持可解性。DA领域持续发展模型架构，以改进DA流程中的不同组件和算法；针对DA问题结构知识的端到端神经架构也取得新架构发现和适配任务的改进。然而，DL在DA中的应用并非没有挑战：关键挑战在于不确定性量化和模型对未见数据的泛化能力。因此，在DA中同时获得最佳估计并量化相关不确定性十分重要。集合方法尤其一直是基于物理的业务DA系统的基石，其依赖物理参数的随机扰动和用于初始化模型的扰动初始条件。在DL中，现代方法可从噪声生成新状态，如概率扩散模型，但其在反问题设定中采样物理一致状态的能力仍是科学挑战。在此背景下，研究人员研究如何在端到端神经DA方案，即Fablet等提出的4DVarNet中嵌入不确定性量化。利用物理一致的随机扰动方案，研究人员引入新的集合神经DA方案4DVarNet-LU，将4DVarNet扩展到不确定性量化问题。所考虑的随机扰动通过高斯随机场（Gaussian random field, GRF）在物理空间中用时空相干位移建模基于位置的不确定性。研究人员证明，用反映先验知识和位置误差的初始状态进行训练，可在推理时从给定部分观测获得重建集合。研究人员利用该方法探索此类方案如何帮助减少DA系统的重建偏差和不确定性。研究报道了单层准地转动力学与稀疏观测，作为海表动力学中间复杂度测试平台。结果支持端到端神经DA在处理部分观测系统时增强集合重建的相关性。

研究人员开展的研究及结论与意义：研究人员提出通过随机、时空相干位移在物理空间中表示基于位置的不确定性，采样给定参考状态附近状态，并集成到端到端变分DA框架4DVarNet-LU，与UNet基线比较。模型训练在输出上确定性、在输入上随机；推理时使用初始条件信息提高技能。基于单层准地转模型和稀疏伪天底高度计观测的观测系统模拟实验（observation system simulation experiment, OSSE），研究人员评估重建均值和集合技能。结果显示，4DVarNet-LU在均方根误差（root mean square error, RMSE）和连续排序概率评分（continuous ranked probability score, CRPS）方面持续优于UNet基线，对初始条件偏差更鲁棒，时间稳定性改善。该方法虽不旨在涵盖DA中所有不确定性来源，但为建模和训练处理基于位置不确定性的DL模型提供结构化方式。未来工作可扩展至额外不确定性来源和端到端集合生成。其意义在于为理解和发展不确定性感知的DL神经DA模型提供了步骤。

关键技术方法：研究基于单层准地转模型在周期边界128×128网格上生成流函数场，并通过伪天底高度计轨道掩膜产生稀疏观测，构建OSSE。核心是4DVarNet-LU：在4DVarNet中采用GRF采样时空相干位移场Sⁱ(x,t)～GRF(σ_disp,L,T)，对参考状态进行位移以生成初始状态X⁰，训练时σ_disp～U(0,σ_max)，σ_max=15.0。UNet作为编码器-解码器基线，输入为Y与X^ptb通道拼接。评估用RMSEs和CRPS，集合大小25，测试期81天。模拟数据公开于Zenodo，包含准地转流函数和涡度真值及卫星轨道观测。

研究结果：
3.1 Reducing reconstruction uncertainties from a first guess：研究人员用无偏集合，在推理时围绕真实状态X^t采样第一猜测状态。结果显示，即使个别初始条件远离真实状态，两种模型集合平均均能减少训练中未见误差，尤其σ_disp=20和25。σ_disp接近0存在阈值：UNet在σ_disp=5和10之间，4DVarNet-LU低于σ_disp=5。4DVarNet-LU在所有扰动水平优于UNet；随位移水平增加精度略降但稳定。CRPS时间结构显示集合稳定，CRPS值受扰动水平影响很小。结论：显式使用先验状态信息提高重建技能，且4DVarNet-LU更优。

3.2 Biased DA ensemble as first guess: out-of-distribution generalization：研究人员通过施加恒定空间相干位移构造有偏初始集合均值，偏移为b。结果显示，性能随初始集合偏差和离散度增加而下降，零偏差最高；有偏时重建性能逐渐下降，但进一步增加偏差幅度额外退化有限，说明观测可补偿初始条件误差。CRPS随时间显示4DVarNet-LU优于UNet；固定偏差下，CRPS随σ_disp增加而增加；位移偏差影响更显著，集合离散度不一定补偿偏差；较小σ_disp略低CRPS但影响有限，时间趋势主要受偏差分量主导。集合代表相干非高斯不确定性；增加σ_disp不一定改善可靠性，反而提高CRPS。时间序列显示4DVarNet-LU和UNet集合均值跟随真实数据，95%置信区间初始集合最宽、4DVarNet-LU最窄。结论：4DVarNet-LU在偏置初始集合下仍优于UNet，具有纠正偏差一定水平和训练分布外泛化能力。

讨论与结论部分总结并翻译如下：DA方法结合观测与先验估计或背景知识求解反问题。研究人员探索初始条件信息如何用于神经DA方法，主要关注两种可训练求解DA任务的DL模型4DVarNet-LU和UNet。利用DA中基于位置不确定性思想，研究人员提出通过物理空间相干随机位移以可控方式在给定真实状态周围系统采样状态。该策略提供物理合理机制，用高斯随机场模型生成结构化变率，保持连续性和时空相干性，这是物理真实场的关键特征。该方案成为新学习策略一部分，保留大尺度相干结构，同时生成随机性用于集合生成。推理时，训练模型可与初始条件集合一起用于同一组观测获得重建集合。在准地转模型上的实验表明，4DVarNet-LU以RMSE和CRPS量化持续优于UNet。性能差距可归因于前者基于DA的变分公式感知架构。重要的是，即使对训练中未见的偏置初始集合，4DVarNet-LU仍保持优于UNet的重建技能，证明在重建中纠正偏差一定程度并泛化到训练分布外。虽然质量或平均场值等全局量在该方案下保持，但局部梯度和细尺度结构可能因插值修改，需进一步研究能量和涡度等高阶导出量守恒。该工作是朝向稳健方法和策略，理解和进一步发展不确定性感知DL神经DA模型的一步。