带有混合加速迭代策略的渐近保持神经网络用于灰体辐射传递方程

《Communications in Nonlinear Science and Numerical Simulation》：Asymptotic Preserving Neural Networks with Hybrid Acceleration Iteration Strategy for Gray Radiative Transfer Equations

　　

# 摘要

灰体辐射输运方程（GRTEs）控制着光子在参与介质中的传播以及与散射和吸收相关的能量交换过程。由于其固有的多尺度特性，原始的物理信息神经网络（PINNs）往往难以准确捕捉GRTEs的扩散极限解。虽然现有的渐近保持神经网络（APNNs）在一定程度上缓解了这一问题，但能量交换项中固有的强非线性对直接应用APNNs框架所能达到的精度构成了根本性限制。为克服这些挑战，本文提出了一种新颖的矩加速迭代渐近保持神经网络（MAI-APNNs）方法。其核心思想是将非线性耦合的GRTEs重新表述为迭代解耦的矩系统，从而将原始非线性问题转化为每一步迭代中依次求解两个线性偏微分方程（PDEs）和一个常微分方程（ODE）。为保证渐近保持特性和迭代方案的快速收敛，我们引入了具有两种不同闭合策略的矩加速方法：通过可变爱丁顿因子实现的乘法闭合，以及通过二阶矩方法实现的加法闭合。我们进一步开发了一种混合数值框架，其中有限差分法用于温度ODE的稳定离散化，而PINNs则用于求解所得的线性PDEs，从而兼具神经网络的网格灵活性和传统方法的数值稳定性。严格的渐近分析证明，所提出的MAI-APNNs在扩散区域严格保持了正确的扩散极限，且迭代方案的收敛性得到了理论保证。数值实验表明，所提出的MAI-APNNs在解的精度和鲁棒适应性方面，在所有区域中均优于原始PINNs和基于宏微分解的最先进APNNs。

# 引言

灰体辐射输运方程控制着光子通过背景介质的输运以及通过散射和吸收过程进行的能量交换[1]。灰体辐射输运方程的数值模拟是众多科技领域的关键研究课题，如天体物理学[2]、核物理学、惯性约束聚变[3]以及放射治疗剂量计算[4]等。然而，实现高效准确的求解面临三大挑战。首先，方程本质上是一个高度耦合的非线性积分微分方程组。非线性主要来源于对材料温度的四次幂依赖关系以及辐射强度在角空间上的积分项，两者通过辐射-材料能量交换过程紧密耦合。其次，输运方程涉及高维参数空间。除了常规的时间和空间坐标外，还包括描述光子传播方向的角变量。关键的是，背景介质光学厚度范围的巨大变化（跨越数个数量级）引入了显著的多尺度特性。要在数值模拟中准确捕捉动力学多尺度效应，传统方法通常要求空间网格尺寸与光子平均自由程相匹配。因此在光学厚介质中，平均自由程极短，导致所需网格点数量急剧增加。从而，计算成本变得高得令人望而却步。

求解GRTEs的经典数值方法分为两大类。第一类是粒子追踪方法，以蒙特卡洛（MC）方法[5][6]为代表。虽然在光学薄区域计算效率较高，但在光学厚介质中需要进行大量粒子追踪，导致计算成本显著增加。第二类是确定性方法。常见的方法包括离散纵标法（SN）[7]，该方法通过对角变量进行离散采样来求解方程，是主流的辐射输运模拟技术；以及球谐函数法（PN）[8][9]，其核心概念是将辐射强度在角空间展开为球谐级数。作为谱方法，PN具有指数级收敛效率并严格保持旋转不变性。然而，这些确定性方法面临局限性：难以直接处理多尺度问题，且在高维场景中，有限的角度离散化会引发射线效应[10]或虚假振荡。

随着辐射输运数值方法的发展，出现了更多针对性的策略来应对这些挑战。对于非线性耦合，以源迭代（SI）[11]为代表的迭代方法通过交替求解辐射输运方程和材料温度方程来解耦方程组，显著降低了求解复杂度。尽管有各种加速技术，如扩散综合加速（DSA）[12]、可变爱丁顿因子（VEF）[13][14]、二阶矩方法（SMM）[15][16]等，但收敛速度和计算开销仍然是关键问题。对于多尺度挑战，渐近保持（AP）方法[17][18][19]提供了更好的解决方案，其核心设计原则是在离散层面精确捕捉原始方程在连续极限下的渐近行为[20]。具体来说，当光子平均自由程远小于网格尺寸并趋近于零时，若一个方案能稳定收敛到扩散极限方程的一致离散形式，则该方案具有AP性质。这些方法克服了光学厚区域中时空网格的约束，大幅提高了计算效率。

虽然传统方法在求解GRTEs方面发挥了基础作用，但其固有的局限性继续推动着先进数值方法的开发。近年来，基于深度神经网络的方法在偏微分方程领域[21][22][23]，尤其是可积系统[24][25][26]方面经历了快速发展，成为一种具有变革潜力的高新范式。这些方法的一个关键优势在于其无网格特性，这有望从根本上缓解传统技术所遭遇的维度灾难[27]。其中，最广泛采用的变体是物理信息神经网络（PINNs）[21]。该方法将微分方程的求解重新表述为一个优化问题：通过在计算域中采样配点，利用优化算法最小化控制方程连同初始和边界条件的残差，从而得到近似解。该框架的一个显著特征是兼具无网格操作和维度无关性。尽管早期实现面临精度和效率方面的挑战，但后续改进已在各种PDE问题中展现了显著优势[28][29]。

鉴于神经网络方法的快速发展，涌现了大量专门用于求解辐射输运方程和动力学方程的方法[30][31][32][33][34][35][36][37][38][39]。利用深度神经网络求解辐射输运方程的研究可追溯到Mishra[31]的先驱性工作，该工作将PINNs应用于线性辐射输运方程（LRTEs）的正向和逆问题。然而，该研究仅限于动力学区域，忽略了方程的多尺度特性，且其在水密介质中的有效性尚未得到验证。关于多尺度LRTEs，Jin和Wu[33]证明原始PINNs无法在水密区域准确分辨扩散极限解，并将这一困难归因于损失函数的退化。为克服这一局限，他们引入了奇偶分解[34]和宏微分解[33]来重构损失函数，从而发展出一种渐近保持神经网络（APNNs），有效解决了扩散区域中的挑战。然而，当将该基于宏微分解的APNNs框架扩展到GRTEs时，Li等人[36]发现GRTEs中固有的强非线性耦合对神经网络优化构成了重大挑战，从而限制了求解精度。为了提高精度，他们引入了有限的监督数据来指导训练。然而，这一策略受限于参考解获取的困难，更重要的是，它偏离了PINNs的无监督特性。最近，RT-APNN方法[38]在没有外部监督的情况下提高了预测精度，其结合了自适应采样和预训练机制以及其他针对PINNs的增强技术。然而，这增加了实现复杂度和计算开销。现有的APNNs框架都直接求解GRTEs并依赖辅助技术来处理强非线性。相比之下，本工作引入了一种基础的无监督框架，在不纳入任何针对PINNs的增强技术的情况下实现了更高的精度。

为高效求解多尺度GRTEs并提高计算性能，本工作提出了一种矩加速迭代渐近保持神经网络（MAI-APNNs）方法，该方法基于GRTEs的迭代表述，并将具有渐近保持特性的深度神经网络与之集成。它克服了原始PINNs在克努森数趋近于零时无法捕捉正确扩散极限的失败。在分析了原始PINNs的局限性之后，我们将问题重新表述为一个等价的迭代系统。这一重构将原始非线性问题转化为每一步迭代中依次求解两个线性PDEs和一个ODE。这一变换避免了对强非线性问题进行直接优化的需要。为保证迭代方案的快速收敛，我们采用了矩加速方法。在现有的辐射输运和温度方程之外，引入了辐射密度的矩加速方程。为实现渐近保持，我们纳入了两种不同的闭合策略：通过可变爱丁顿因子实现的乘法闭合和通过二阶矩方法实现的加法闭合。我们进一步开发了一种混合数值框架来求解每个迭代方程。PINNs用于求解所得的线性PDEs，而有限差分法则处理温度ODE的稳定时空离散化。这一策略结合了神经网络的网格灵活性和传统方法的数值稳定性。在PINNs求解过程中还融入了迁移学习[40]。每次迭代的预训练网络用于初始化下一步，显著提高了训练效率。此外，我们提供了对渐近保持特性的理论分析。我们证明了在所提出的框架内，PINNs的损失函数优化可以独立于克努森数ε进行，且迭代方案收敛于扩散极限方程。最后，我们证明了在扩散区域中，MAI-APNNs获得的近似解与真实扩散极限解之间的误差独立于ε，仅取决于优化误差、近似误差和离散化误差。

本工作的关键贡献在于构建了一个鲁棒的混合迭代框架，有效应对了GRTEs的强非线性耦合、高维性和多尺度特性。我们强调以下核心创新：

- **迭代求解架构**：为降低复杂度，原始耦合方程组通过一系列更简单方程的迭代序列来求解。通过可变爱丁顿因子和二阶矩方法这两种不同的闭合策略引入矩加速方程，这些方法增强了迭代的收敛速度。
- **渐近保持保证**：提供了对应用于GRTEs的原始PINNs的严格误差分析，阐明了其在捕捉扩散区域中的局限性。为解决在扩散极限下的这一失败，基于迭代结构开发了一种渐近保持神经网络表述，确保在克努森数趋近于零时具有准确的解行为。还提供了渐近保持特性的理论证明。
- **混合求解策略**：采用了混合方案。辐射输运和矩加速方程使用PINNs求解，而解耦后的温度方程（一个ODE）则通过有限差分法高效处理。
- **迁移学习技术**：为提高迭代训练效率，每一步迭代中的神经网络参数被重新用于初始化后续步骤。这加速了收敛并降低了计算成本。

实验结果表明，我们的方法成功解决了原始PINNs在求解扩散区域解方面的挑战。与原始PINNs、基于宏微分解的APNNs和RT-APNN方法相比，在计算精度和成本方面实现了显著改进。

本文的组织结构如下。第2节介绍GRTEs并对原始PINNs进行误差分析，以解释其在扩散极限下的失败。第3节利用乘法（VEF）和加法（SMM）闭合推导两种矩加速迭代方案。第4节提出所设计的MAI-APNNs方法的实现框架。第5节证明MAI-APNNs方法的渐近保持特性。第6节提供了验证该方法有效性的数值实验，第7节给出结论。

## GRTEs的片段

灰体辐射输运方程是简化但具有物理意义的模型，描述了辐射输运以及辐射与材料之间的能量交换，包括辐射输运方程和材料温度方程，可写为以下缩放形式：

$$\varepsilon^2 c \frac{\partial I}{\partial t} + \varepsilon \hat{\boldsymbol{\Omega}} \cdot \nabla_{\mathbf{r}} I = \sigma\left(\frac{1}{4\pi}acT^4 - I\right)$$

$$\varepsilon^2 C_v \frac{\partial T}{\partial t} = \sigma\left(\int_{\mathbb{S}^2} I\, d\hat{\boldsymbol{\Omega}} - acT^4\right)$$

其中，$I(t, \mathbf{r}, \hat{\boldsymbol{\Omega}})$ 表示辐射强度，$T(t, \mathbf{r})$ 表示材料温度。

它们是关于时间 $t \in [0, \tau] \subset$ 的函数

**矩加速迭代方法**

在本节中，我们给出了一种针对灰辐射传递方程的新型渐近守恒神经网络方法的构造及其对应的迭代求解算法。为此，我们首先推导了两种矩加速迭代方案：带乘法闭合的可变爱丁顿因子方法和带加法闭合的二阶矩方法。

**MAI-APNNs 与混合策略**

为解决第2节中讨论的问题，我们提出了 MAI-APNNs 方法来求解灰辐射传递方程。由于强度 $I(t, \mathbf{r}, \Omega)$ 的辐射传递方程是一个高维方程，我们将利用无网格物理信息神经网络来求解它。而对于物质温度 $T(t, \mathbf{r})$ 的简单常微分方程，我们可以使用有限差分法。至于辐射密度 $\rho(t, \mathbf{r})$ 的动量加速方程，本文也采用物理信息神经网络方法来求解。因此我们构造了一个

**渐近分析**

在本节中，我们证明了在所假设的条件下，所提方法具有渐近守恒性质。基于第2节的分析，当 $\varepsilon$ 较小时，神经网络损失函数的优化误差必须降至 $\mathcal{O}(\varepsilon^2)$ 量级，这对优化器提出了极其苛刻的要求。因此，标准物理信息神经网络难以求解扩散极限问题。为此，我们首先给出一个引理，证明当 MAI-APNNs 方法采用时

**数值实验**

在本节中，我们呈现了一维和二维的数值结果，选取了从动力学区间（$\varepsilon \approx \mathcal{O}(1)$）到扩散区间（$\varepsilon \to 0$）的多个问题进行验证，以检验我们所提出的 MAI-APNNs-VEF 和 MAI-APNNs-SMM 方法。

除非另有说明，在损失函数的优化过程中，我们采用 Adam 算法，初始学习率为 0.001，学习率衰减系数取为 0.9。对于灰辐射传递方程，我们采用残差网络架构，固定

**结论**

本文基于矩加速迭代方案，针对多尺度灰辐射传递方程开发了一种新颖且高效的渐近守恒神经网络方法。首先，通过对物理信息神经网络的误差分析，我们揭示了在扩散区间处理灰辐射传递方程时的关键挑战，以及使用传统优化器会导致显著的数值困难。为解决这一问题，我们进一步提出了矩加速

**未引用参考文献** [52]、[53]

**CRediT 作者贡献声明**

吴宇航：撰写初稿、软件、方法论、形式分析、概念构思。孙文军：撰写——审阅与编辑、方法论、获取资金、概念构思。黄建华：监督、获取资金。钱旭：获取资金。

**利益冲突声明**

作者声明不存在已知的竞争性经济利益或个人关系可能影响本文所报告的工作。

吴宇航 | 孙文军 | 黄建华 | 钱旭

国防科技大学理学院，湖南长沙，410073，中国