基于深度学习粒子方法的麦肯恩 - 弗拉索夫随机微分方程求解

《Communications in Nonlinear Science and Numerical Simulation》：Solving McKean–Vlasov Stochastic Differential Equations by a Deep Learning Particle Method

　　

摘要我们开发了一种神经残差框架，用于麦肯 - 弗拉索夫随机微分方程（MV-SDEs）的数值近似。其定义的非线性源于演化解律对漂移和扩散系数的反馈。主要思想是将样本轨迹表示为时间和驱动路径的函数，并通过匹配伊藤公式诱导的漂移和扩散项来恢复目标动力学。这导致了一种无网格求解器，其中近似是通过最小化残差获得的，而不是通过局部时间步进更新来推进交互粒子系统。

在此框架内，我们考虑两种近似策略。第一种使用依赖于粒子的神经表示来近似交互粒子系统。第二种使用共享的神经表示并结合独立采样的布朗路径来直接近似 MV-SDE 的分布。在所述的利普希茨假设下，稳定性估计控制了依赖于分布的非线性反馈，并以初始差异以及漂移和扩散残差为项得出误差界限，在共享网络情况下还包括一个经验测度近似项。我们进一步将相同的构造扩展到自交互动力学，用于平稳分布近似。

所提出的公式特别适用于计算场景，其中需要无网格表示、不规则采样的布朗路径或并行优化。代表性示例的数值实验说明了两种近似策略的行为，展示了该方法在不规则采样下的灵活性，并表明该框架也可适应于由分数布朗运动驱动的麦肯 - 弗拉索夫方程。

引言经典伊藤随机微分方程通过漂移系数描述状态过程 Xt，该系数代表其局部确定性趋势，以及扩散系数，它传递来自布朗运动的随机波动 [1]。在标准利普希茨和增长条件下，这些系数确定一个唯一的强解，而伊藤公式提供了随机链式法则，分离了诱导的漂移和鞅项 [1]。由于闭式解很少见，数值 SDE 方法通常使用如 Euler–Maruyama 或 Milstein 等方案对时间进行离散化 [2]。强近似关注由相同噪声驱动的轨迹，而弱近似关注期望或分布量 [2]。这种区分在这里相关，因为所提出的公式在路径和分布层面都被评估。

麦肯 - 弗拉索夫随机微分方程（MV-SDEs）已被广泛用于建模具有平均场相互作用的随机系统 [3], [4]。它们出现在集体动力学、统计物理、数学金融、平均场博弈以及与机器学习相关的随机模型中 [5], [6], [7], [8], [9]。与经典 SDE 相比，一个核心困难是它们的漂移和扩散系数不仅依赖于当前状态，还依赖于解的分布 [3], [4], [10]。这种分布依赖性将每条轨迹与演化的人口分布耦合，并使数值近似和长时间模拟更具挑战性 [11], [12], [13]。

相关的非线性可以通过当前状态、概率测度或两者进入；对测度的依赖是麦肯 - 弗拉索夫设置特有的特征 [3], [4]。即使状态依赖很简单，自洽关系 μt=L(Xt) 也创建了一个非线性反馈回路：轨迹的变化改变其分布，进而改变系数，从而改变随后的轨迹 [4], [10]。在粒子近似中，相同的反馈表现为通过经验测度的耦合 [14], [15]。我们的分析没有线性化这种耦合；在状态和测度参数下所述的利普希茨假设下，它通过稳定性估计控制残差扰动的传播。

一种标准的数值路线首先用交互粒子系统的经验测度 μtN=N?1∑n=1NδXtn,N 替换 MV-SDE 中的未知分布 [4], [14], [15], [16]。给定独立同分布的初始样本和独立的布朗运动，每个粒子都在该共同经验测度处评估系数进行演化；原始依赖于分布的方程由此转化为一个有限维的经典但耦合的 SDE 系统 [4], [14]。概率论上的证明是混沌传播：随着 N 增加，每个固定的有限粒子子族渐近独立且具有共同分布 μt，而经验测度收敛于极限 MV-SDE 的分布 [4], [16], [17]。因此，粒子方法既提供了一组近似样本轨迹，又提供了演化分布的蒙特卡洛表示。

对于计算，连续时间粒子系统本身必须被离散化。粒子 Euler–Maruyama 是基本的显式选择，而 Milstein 方案可以在额外正则性下获得更高阶的强精度，当系数是超线性的或非全局利普希茨时，使用驯化或其他稳定化方案 [2], [13], [18], [19]。正则化粒子方案也已针对测度依赖不够光滑的应用进行了分析 [20]。一个相关的替代方法是量化：不是仅用未加权的随机粒子云来表示分布，而是用一组有限代表点和相关权重来近似它 [21], [22]。

这种构造引入了两个不同的近似层面。有限粒子误差衡量了 μt 被 μtN 替换的情况，并通过混沌传播或经验测度估计来控制，而时间离散化误差衡量了在网格上交互 SDE 系统的近似 [15], [18], [23], [24]。它们的速率取决于系数正则性、矩假设、维度、度量以及是否考虑强、弱、有限时间或一致时间精度 [17], [23], [24], [25]。最近的分析涵盖了弱粒子误差、奇异相互作用、超线性系数、长时间稳定性和不变测度近似 [13], [17], [22], [24]。对于大粒子群体或长时间范围，重复的时间步进和经验交互更新在计算上仍然可能是吃力的，特别是当系数评估需要粒子对相互作用时 [9], [22]。

自交互扩散通过用单条轨迹的占优测度替换系综相互作用，提供了通往不变测度近似的另一条路线 [26], [27]。相关的重采样和多级程序也已为 MV-SDE 模拟开发 [28], [29]。这些方法对长时间采样很有吸引力，尽管自交互公式保留了依赖累积历史信息 [27]。最近关于遍历麦肯动力学的研究也分析了围绕不变分布的线性化及其对长时间行为的影响 [30]。或者，可以通过相关的非线性福克 - 普朗克方程近似演化的分布 [10], [31]。这种分布层面的方法需要空间密度离散化，并且本身不返回一组样本轨迹 [31]。

神经残差方法可以被视为非线性配点方法。神经网络 uθ 取代了传统的试探函数。损失结合了采样内部点处微分方程的残差与初始或边界条件的残差；所需的导数通常由自动微分评估 [32], [33], [34]。与监督代理学习不同，这种构造不需要内部配点处的解值：控制方程本身提供训练信号 [33], [34]。因此它是无网格的，因为试探空间不绑定到固定的空间网格，尽管残差积分仍需通过采样或数值积分近似。

由此产生的误差有几个概念上不同的来源。近似误差询问所选网络类是否能表示目标解，优化误差衡量训练接近离散损失最小值的程度，而采样或求积误差衡量有限配点损失代表相应连续残差范数的程度 [34], [35], [36]。因此，小的经验训练损失本身并不是完整的解误差估计；需要额外的稳定性论证将微分残差的控制转化为对解的控制 [34], [35], [36]。这种残差到解的步骤是物理信息分析中与本文开发的估计最直接相关的部分。

对于依赖于分布的随机方程，最近的工作研究了高维前向 - 后向系统、DNN 表示复杂度、基于 DNN 的统计推断以及时间依赖函数有限维空间上的 SGD 近似 [9], [37], [38], [39]。这些方法处理不同的近似对象，并没有分析此处使用的特定组合：一个神经样本路径映射 Fθ(t, Wt)，其伊藤诱导的漂移和扩散同时匹配 MV-SDE 系数 [9], [37], [38]。

在这种背景下，我们研究一种基于样本路径神经表示的替代计算公式。而不是通过逐步离散化生成轨迹，我们将近似写成 Yt=Fθ(t,Wt) 的形式，其中 Fθ 是神经网络，Wt 是时间 t 处驱动布朗运动的值。在所有报告的计算中，X0=x0 是确定性的，不作为网络输入提供；相反，初始条件通过损失 |Fθ(0,0)?x0|2 强制实施。对于非退化的初始分布，一个独立样本 ξ～L0 通过静态条件 Fθ(t,Wt;e(ξ)) 提供，其中 e 可以是恒等映射或嵌入。该条件沿路径固定，且在伊藤公式中不被微分；报告的实验未使用此扩展。由于布朗样本路径在时间上不是经典可微的，适当的残差不能通过直接对 t 微分学习到的轨迹来形成。相反，应用于 Fθ(t, Wt) 的伊藤公式产生了一种伪随机动力学，其漂移由 ?tFθ+12ΔwFθ 确定，其扩散由 ?wFθ 确定 [1]。我们分别匹配这两个诱导系数到目标 MV-SDE 的漂移和扩散，因为需要这两个局部特征来指定随机动力学。

连续的漂移和扩散残差在训练中通过采样时间和布朗路径上的有限经验损失近似。这些采样时间充当随机配点，而不是局部 Euler 更新的序列：所有采样残差同时进入一个全局优化问题 [32], [33], [34]。因此，该构造允许不规则采样的时间，并且不会通过重复的单步传播累积局部截断误差。然而，它保留了通常的网络近似、优化和残差求积误差，这些在我们的分析和实现中保持区别。

目前的工作在三个相关设置中发展了这个想法。首先，我们考虑依赖于粒子的神经表示，并用它们来近似与 MV-SDE 相关的交互粒子系统。其次，我们考虑共享的神经表示，并将其与独立采样的布朗路径结合，以直接近似解的分布。这两个设置导致不同的近似机制和不同的理论解释：前者保持与粒子系统观点的联系，而后者用独立同分布布朗路径的蒙特卡洛采样替换粒子相互作用。第三，我们将相同的残差构造适应于自交互动力学，以便从单条轨迹近似平稳分布。

我们的目的是为这些问题构建一个统一的基于残差的框架，并澄清它提供什么样的误差控制。在每个设置中，神经近似生成一种伪随机动力学，其漂移和扩散由网络的导数确定。然后，近似误差与此伪动力学和目标方程之间的不匹配相关。这种残差到解的观点与最近关于物理信息神经近似的误差分析一致 [34], [35], [36]。这以初始差异和漂移和扩散项中的残差误差为项得出误差界限。从计算角度来看，该框架在需要无网格离散化、并行训练或不规则采样布朗路径的情况下，为经典求解器提供了灵活的替代方案。一旦有了相应的随机链式法则，它也能自然地适应其他驱动噪声 [40], [41]。

这项工作的主要贡献如下。

首先，我们提出了一种 MV-SDE 的神经残差公式，其中轨迹被表示为时间和驱动路径的函数，并通过伊藤公式匹配诱导的漂移和扩散项来强制实施目标动力学。

其次，我们开发了两种近似策略：用于交互粒子的依赖于粒子的公式和基于独立路径的共享网络公式。

第三，我们推导了误差估计，其中近似误差受初始不匹配和漂移和扩散项中的残差误差控制，在共享网络设置中还包括一个额外的经验测度近似项。

我们还讨论了两类公式中粒子相互作用和蒙特卡洛采样所扮演的不同角色。第四，我们将相同的框架扩展为用于平稳分布近似的自相互作用动力学，并通过数值方式展示了其计算行为。第五，我们展示了数值实验，说明了该方法的无网格特性、在不规则采样下的灵活性以及其在分数布朗运动驱动方程中的适用性。本文其余部分组织如下。在第 2 节中，我们介绍了 MV-SDE 设定，并提出了针对相互作用粒子、共享网络近似和自相互作用动力学的基于残差的神经网络公式。第 3 节包含相应的误差分析。第 4 节描述了算法，并报告了关于有限时域近似、不规则采样、分数布朗运动和平稳分布计算的数值实验。相对于上述已发表的文献，本文工作的区别可以明确陈述。现有的数值研究通过时间步进粒子系统、量化、密度方程、高维前向 - 后向公式、DNN 表示结果或对依赖测度的系数函数进行有限维优化来近似 MV-SDEs [9], [22], [24], [31], [37], [38]。据我们所知，引用的已发表工作中没有任何一项在一个框架中结合了以下所有要素：可训练样本路径表示 Fθ(t, Wt)；It? 诱导漂移和扩散的同时匹配；依赖粒子的、共享网络的和自相互作用的公式；以及区分粒子相互作用与独立同分布蒙特卡洛采样的基于残差的误差估计。因此，其新颖性在于这种特定的路径残差构造及其统一分析，而不仅仅是使用了神经网络。
章节片段
方法论 在本节中，我们介绍了本文研究的基于残差的框架。我们从 McKean–Vlasov 随机微分方程开始 dXt=b(t,Xt,μt)dt+σ(t,Xt,μt)dWt,t∈[0,T],L(X0)=L0。这里 μt:=L(Xt) 表示连续时间 t 时刻随机变量 Xt 的概率律。此外，Xt 定义在滤波概率空间 (Ω,F,(Ft)t≥0,P) 上，X0 是初始值，{Wt, t?≥?0} 是标准布朗运动。设 P(Rd) 为 Rd 上 Borel 概率测度的空间。对于 p
理论性质和误差分析 本节介绍了用于证明所提出公式正确性的符号和误差估计。
算法 本文考虑的三种公式基于相同的残差匹配思想。算法 1 描述了依赖粒子的训练模板，而共享网络公式是通过将粒子参数绑定在一起从相同模板中获得的。算法 2 描述了用于平稳分布近似的自相互作用版本。
数值实验 实验的组织旨在反映前面介绍的框架的三种用途。DPM2 实验对应于
结论 我们开发了一个用于 McKean–Vlasov 随机微分方程数值近似的神经残差框架。其核心非线性特征是演化律与漂移和扩散系数之间的反馈。该方法将轨迹表示为时间和驱动路径的函数，并通过由 It? 公式导出的残差损失将诱导的漂移和扩散项与目标方程相匹配。在此框架内，我们考虑了一种
CRediT 作者贡献声明 Jingyuan Li：撰写 – 原稿，可视化，验证，监督，软件，资源，项目管理，方法论，调查，形式分析，数据管理，概念化。Wei Liu：资金获取。
竞争利益声明 作者声明，他们没有已知的竞争性经济利益或个人关系，这些利益或关系可能会影响本论文中报告的工作。
Jingyuan Li|Wei Liu 武汉大学数学与统计学院，湖北武汉，中国