基于函数先验的贝叶斯偏微分方程约束反演方法：物理信息神经网络

《COMPUTER METHODS IN APPLIED MECHANICS AND ENGINEERING》：Functional-prior-based approaches to Bayesian PDE-constrained inversion using physics-informed neural networks

　　

# 翻译说明

本文是对一篇学术论文的中译，原文题为"Functional-prior-based approaches to Bayesian PDE-constrained inversion using physics-informed neural networks"，探讨了如何利用函数先验改进基于物理信息神经网络（PINNs）的贝叶斯PDE约束反演方法。以下为完整中译：

---

## 摘要要点

- 函数先验为基于物理信息神经网络的贝叶斯PDE约束反演提供了统一的视角。
- FPI-BPINN和fParVI-PINN使得利用具有物理可解释性的先验进行不确定性量化成为可能。
- 随机傅里叶特征改善了高斯先验的表示与后验近似。

## 引言

从观测数据中估计未知参数，同时强制满足控制偏微分方程（PDE）的反演问题——我们称之为PDE约束反演问题——在科学和工程的许多领域中发挥着核心作用，包括地球科学、流体力学、材料科学和热工程。这些问题通常是非线性的且不适定的，并且往往受到观测噪声和模型不确定性的严重影响。因此，除了基于离散化正向求解器和优化的确定性估计外，采用能够量化不确定性的贝叶斯框架也十分重要。传统上，正向分析、伴随方法和基于网格或网格剖分表示的采样方法一直是主流的贝叶斯方法。

然而，近年来，基于深度学习的无网格反演分析作为替代方法引起了关注。一个代表性示例是物理信息神经网络（PINN）[1]，它通过将控制方程的残差纳入损失函数，提供了一种以统一方式处理正向问题和PDE约束反演问题的框架。PINNs在反演问题中的一个主要优势是，不仅可以表示控制方程的解，还可以用神经网络（NNs）表示系数场和源项等未知量，从而实现完全无网格化的估计。另一方面，标准PINNs本质上是一种点估计方法，无法直接处理由观测噪声或数据稀疏性引起的不确定性。因此，将基于贝叶斯推断的不确定性量化（UQ）引入基于PINN的反演分析是一个有前景的方向。与其他方法（如基于随机过程的回归方法）相比，基于PINN的贝叶斯方法可以更自然地纳入PDE约束，包括涉及非线性微分算子的约束，同时保持基于神经网络训练相对于数据点数量的可扩展性。然而，此类研究仍处于早期阶段。

一个先驱性示例是贝叶斯物理信息神经网络（B-PINNs）[2]，其中将贝叶斯神经网络（BNNs）引入PINNs，提供了一个使用哈密顿蒙特卡洛（HMC）[3]和变分推断（VI）[4]估计后验分布的框架。也有研究使用不同的贝叶斯方法解决了类似问题[5]、[6]，如基于粒子的变分推断（ParVI）[7]、[8]和集合卡尔曼反演（EnKI）[9]。B-PINNs证明了带有噪声数据的正向问题和PDE约束反演问题可以以贝叶斯方式进行处理。与普通贝叶斯推断不同，在普通贝叶斯推断中未知参数是直接估计的，而在BNNs中，未知参数通常是神经网络的权重。在BNNs中，贝叶斯推断所需的先验分布是在神经网络权重上指定的。通常，给权重分配简单的先验，如独立同分布（IID）高斯分布或Student's t分布。然而，权重空间中的这种简单先验在神经网络输出所表示的函数空间中难以进行物理解释，并可能向推断结果中引入不可控的影响[10]。

因此，这里的一个基本问题在于当PDE参数由神经网络表示时如何设计先验分布。[11]将此认定为BNNs的一个基本局限性，并提出了一种框架，通过Wasserstein距离最小化训练神经网络权重先验以匹配由高斯过程（GP）定义的目标函数先验。换言之，与权重空间相比，函数空间在物理和统计上更具可解释性，这一观点对PDE约束反演问题同样重要。近期研究继续提出权重先验[12]和激活函数[13]的设计，使得神经网络输出函数的随机行为更接近于函数空间中理想的高斯过程。在BNN中聚焦于函数空间先验的思想也引起了生成对抗网络（GANs）[14]、[15]、扩散模型[16]、[17]和锚定集成[18]领域的关注。然而，在基于PINN的反演问题中，与函数先验一致的权重先验学习这一问题上尚未有研究。

与这条研究路线相关，直接在函数空间中为BNNs制定不确定性量化的研究也得到了发展[10]、[19]、[20]。[10]提出了函数空间ParVI（fParVI），在函数空间而非权重空间中执行ParVI，从而避免基于粒子的方法在过参数化模型中的退化。由于该方法在函数空间中制定贝叶斯估计，可以直接纳入闭式函数先验。该方法也被[21]解释为函数空间中带有排斥项的深度集成。据我们所知，这些直接在函数空间中进行贝叶斯推断的方法首次由[22]应用于基于PINN的反演问题，具体是在固体地球地球物理的语境下。此后，[23]、[24]、[25]也独立提出了类似的思想，尽管引入适当的先验并非其主要关注点。

因此，在本研究中，我们引入了一个统一框架，我们称之为基于物理信息神经网络的函数先验贝叶斯PDE约束反演（fpBPINN），用于基于PINNs的PDE参数贝叶斯反演问题。fpBPINN聚焦于在神经网络输出所表示的函数空间中具有明确含义的先验。具体而言，我们比较了两种方法：函数先验驱动的贝叶斯物理信息神经网络（FPI-BPINN），它首先学习一个与预设函数先验一致的神经网络权重先验，然后在权重空间中进行贝叶斯推断；以及fParVI用于PINNs（fParVI-PINN），它直接在函数空间中对PDE参数执行ParVI。前者提供了在先验学习之后利用现有BNN推断方法的灵活性，而后者允许在函数空间中自然描述先验分布。此外，我们指出，当将这些方法应用于基于PINN的反演分析时，将随机傅里叶特征（RFF）引入神经网络对于促进与函数空间中先验分布对应的频率分量的学习起着重要作用。通过一维（1D）地震走时速度估计，我们证明了在追求与物理直觉一致的贝叶斯估计时考虑函数先验的重要性，并展示了所提出的两种方法均能实现精确的函数先验推断。在二维（2D）Darcy流渗透率估计中，我们验证了所提出方法在更真实问题设置中的适用性。我们阐明了将具有物理可解释性的函数先验引入基于PINN的反演问题的意义，并比较了两种方法的各自优势。

本文其余部分组织如下：第2节公式化贝叶斯PDE约束反演问题，并总结所提出框架中使用的基于伴随方法的梯度评估。第3节介绍基于函数先验的贝叶斯PINN方法，包括FPI-BPINN和fParVI-PINN。第4节展示一维地震走时层析成像和二维Darcy流渗透率反演的数值实验。第5节讨论所提方法的含义、优势和局限性，并提供结论。

## 第2节：PDE约束反演的神经网络公式化

设Ω?R^d为具有边界?Ω的空间域。一般的PDE约束可以以算子形式表述为：

$$F(u(x), m(x)) = 0, \quad x \in \Omega$$
$$B(u(x)) = 0, \quad x \in \partial\Omega$$

其中F和B分别表示定义物理模型和边界条件的（可能为非线性的）微分算子。u(x)是点x处PDE的解。我们将PDE约束反演问题定义为：在给定数据D = {(x_i, u(x_i)}的条件下，估计满足PDE约束（公式(1)、(2)）的参数场m(x)的问题。

## 第3节：方法1——函数先验驱动的贝叶斯物理信息神经网络（FPI-BPINN）

在BNNs中，权重参数θ_m的先验分布通常被设为简单分布，如独立同分布（IID）正态分布。然而，已知这种先验在神经网络的函数空间中难以解释，并且往往导致估计结果中不可控的不利影响[10]、[26]。相反，我们在神经网络的函数空间中定义一个合理的随机过程，并据此训练p(θ_m)。

## 第4节：一维地震走时层析成像

为验证FPI-BPINN和fParVI-PINN进行不确定性量化的准确性，我们将这些方法应用于[22]中相同的合成一维层析成像测试，其中存在半解析解可供验证。地震走时层析成像是一种利用地震走时观测确定地震速度结构（即地震波速度的变化）的技术，即从地震波从震源传播到地震仪所需的时间来推断地下速度分布。基本方程为走时方程。

## 第5节：讨论与结论

在本研究中，我们从函数先验的角度研究了基于物理信息神经网络的贝叶斯PDE约束反演。具有物理意义的先验假设在函数空间中描述更为自然；因此，我们引入了统一框架fpBPINN。在该框架内，我们考虑了两种互补方法：FPI-BPINN，它学习一个与预设函数先验一致的权重空间先验，然后在权重空间中进行贝叶斯推断；以及fParVI-PINN，它在函数空间中对PDE参数执行ParVI。

## CRediT作者贡献声明

**Ryoichiro Agata**：撰写——审稿与编辑，撰写——原稿，可视化，软件，方法论，调查研究，资金获取，形式化分析，概念化。

**Tomohisa Okazaki**：撰写——审稿与编辑，监督，资金获取。

## 利益冲突声明

作者声明不存在已知的可能影响本研究所报告工作的竞争性经济利益或个人关系。

## 致谢

本研究得到日本学术振兴会（JSPS）KAKENHI资助（项目编号25K01084）以及东京大学地震研究所（ERI）JURP 2025-B-01的资助。计算在日本海洋科学技术研究中心（JAMSTEC）的地球模拟器上完成。

---

Ryoichiro Agata | Tomohisa Okazaki

---

## 翻译结论

本文提出了一种统一的函数先验框架（fpBPINN），通过两种互补方法——FPI-BPINN（先学习权重先验再进行权重空间贝叶斯推断）和fParVI-PINN（直接在函数空间中进行粒子变分推断）——解决了基于PINN的贝叶斯反演中先验设计的核心难题。研究还揭示了随机傅里叶特征在促进先验分布频率分量学习中的关键作用。通过一维地震走时层析成像和二维Darcy流渗透率反演的数值实验验证了方法的有效性，表明函数先验能够显著提升反演结果与物理直觉的一致性。