CBS-PINN：针对Calogero–Bogoyavlenskii–Schiff型方程中的非局域性与谱刚性问题的协同训练方法

《Neural Networks》：CBS-PINN: Coordinated Training to Address Nonlocality and Spectral Stiffness in the Calogero–Bogoyavlenskii–Schiff-type Equation

　　摘要：Calogero–Bogoyavlenskii–Schiff型方程可用于描述血液动力学中非线性波传播的特性，但利用物理信息神经网络对其进行模拟时，会面临严峻的优化难题。本研究指出，问题的根源在于非局部误差传播与谱刚度之间的不良耦合，这使得传统的PINN方法变得不稳定。为解决这一问题，我们提出了CBS-PINN这一协调框架，它通过有序且协同的优化流程来处理问题。首先，课程优先策略通过强制满足初始条件和边界条件来锁定解的空间，从而抑制约束违反条件的非局部传播。随后，基于曲率的加权策略利用二阶信息来缓解由谱刚度引起的梯度尺度失衡问题。大量实验表明，在(2+1)维CBS型方程上，CBS-PINN将相对L2误差降低到2.78e-02，而传统PINN及其他基准方法的误差则约为1e-01。该框架在数据匮乏的情况下仍具有很强的鲁棒性，并且能够很好地推广到KdV方程和Burgers方程上，同时对于(3+1)维CBS型方程也同样有效。值得注意的是，这些改进是在几乎不增加计算成本的前提下实现的，同时还提升了稳定性并加快了收敛速度。通过提供一种可靠且高精度的求解工具，这项工作可为心血管研究中的病理生理分析提供更精确的支持，同时为处理包含非局部项和高阶混合导数的CBS型方程提供实用的设计指导。

引言：非线性演化方程在自然现象的分析、建模和模拟中起着至关重要的作用。在各类非线性演化方程中，Calogero–Bogoyavlenskii–Schiff型方程已被广泛用于模拟生物流体力学、流体动力学和等离子体物理学中的非线性现象。在血液动力学的特定应用场景中，这类方程有助于模拟血流行为，这一功能对于识别异常的血流特征、进而实现心血管疾病的早期检测和预测分析具有重要意义。因此，开发出可靠的数值求解方法对于这类血管疾病的预后判断具有关键作用。为了满足血液动力学领域对高精度的要求，传统的数值方法需要使用足够精细的网格，而这往往会导致巨大的计算成本。近年来，人工神经网络领域的进展，尤其是物理信息神经网络，为解决非线性演化方程提供了新的思路。PINNs凭借深度学习模型出色的非线性建模能力，以及将控制方程与初始条件和边界条件无缝整合的特点，能够在有限的真实数据支持下进行有效训练。此外，这种整合方式还提升了PINNs相比传统神经网络的可解释性和鲁棒性。尽管PINNs在理论上具有很大潜力，但在应用于(2+1)维CBS型方程时，却会因方程本身的数学结构而面临严重的优化难题。该方程的结构特点在于非局部项与高阶混合导数之间存在耦合关系，这种耦合会导致全局性的误差传播——初始条件和边界条件中的误差并非局部问题，而是会在整个时空域内被放大，使得残差损失失去实际意义。更为严重的是，高阶混合导数还会引发剧烈的谱刚度效应，使得残差梯度的大小远远超过初始条件和边界条件对应的梯度。在并行优化过程中，这种梯度失衡会迫使优化器优先处理那些梯度较大的残差项，而忽视了至关重要的初始条件和边界条件。正因如此，传统的PINN方法对于(2+1)维CBS型方程来说是不适定的，这无疑会导致模拟结果陷入非物理意义上的局部最小值。目前，虽然有一些优化策略试图协调多个相互竞争的损失项，但在面对(2+1)维CBS型方程的复杂问题时，这些策略仍存在根本性的局限。其中一类常见的方法是通过损失平衡策略来动态调整各损失项的权重，但这些方法往往未能考虑到训练过程中梯度的变化情况。在存在非局部性和谱刚度的情况下，这类调整无法有效阻止约束违反条件的非局部传播，也无法确保训练过程朝着全局一致的解发展。另一类思路则是采用带有强约束结构的模型，通过将初始条件和边界条件直接嵌入网络结构中来强制满足这些条件。虽然这种方法在理论上是可行的，但对于血液动力学应用中常见的复杂几何结构来说，却难以在数学上实现。此外，它还会严重限制模型对离散传感器数据的处理能力。类似地，域分解技术虽然可以一定程度上缓解谱偏差问题，但由于积分运算需要全局信息，因此会在各子域之间带来巨大的通信开销。综上所述，目前亟需一种统一的框架，既能协调学习过程的顺序以解决非局部误差传播问题，又能借助基于曲率的更深层原理来平衡各种优化目标并克服谱刚度问题。为应对这些挑战，本研究提出了CBS-PINN这一协调训练框架，旨在解决(2+1)维CBS型方程的优化问题。本研究的主要贡献如下：首先，对(2+1)维CBS型方程中的非局部误差传播和谱刚度问题进行了理论分析，为所提出的协调优化策略提供了数学依据；其次，提出了两种协同工作的策略来解决上述问题——课程优先策略通过边界条件优先的原则将积分运算约束在有效的解空间内，而基于曲率的加权策略则利用二阶信息来稳定优化过程，从而克服高阶混合导数带来的刚度问题；最后，通过从边界条件约束逐步过渡到全域物理约束的机制，CBS-PINN框架在(2+1)维CBS型方程上的求解精度相比传统方法有了数量级的提升，而且计算成本相对较低，同时在KdV方程和Burgers方程上也表现出很强的鲁棒性和泛化能力。本文的其余部分结构如下：第二部分将对(2+1)维CBS型方程中的误差传播和刚度问题进行理论分析，并通过实验验证传统方法的收敛失败问题；第三部分详细介绍所提出的CBS-PINN框架，阐述其基于课程优先策略和基于曲率加权策略的协同工作机制；第四部分则进行全面的实验评估，包括与各类基准方法的定量比较、机制分析、鲁棒性验证、在KdV方程和Burgers方程上的泛化能力测试，以及针对具有不同初始条件、边界条件和更高维度设置的CBS型方程的进一步测试；最后，第五部分总结研究结果并探讨未来的研究方向。

问题构建与数学分析：为弄清PINNs在处理(2+1)维CBS型方程时出现模拟精度低下的根本原因，我们分析了非局部项和高阶项对优化过程产生的不良影响，并通过数值实验结果验证了这些不稳定性。

CBS-PINN框架概述：为解决第二部分所指出的结构缺陷，尤其是非局部误差传播和谱刚度问题，我们提出了CBS-PINN框架。如图2所示，该框架通过有序且协同的优化流程，确保从边界条件约束逐步过渡到全局物理一致性：第一阶段侧重于初始条件和边界条件的严格约束，这一步骤能有效切断错误传播的因果链。

结果与分析：在本部分中，我们以(2+1)维CBS型方程作为主要测试对象，评估所提出的CBS-PINN框架在预测精度和算法效率方面的表现。通过消融实验验证了课程优先策略和基于曲率加权策略的有效性，同时通过稳定性实验分析了模型对网络深度和有限训练数据的敏感度。此外，还在KdV方程和二维Burgers方程上进行了泛化能力测试，进一步证明了该框架的通用性。

结论：Calogero–Bogoyavlenskii–Schiff型方程是描述血液动力学中非线性波传播的重要模型。在这项研究中，我们提出了CBS-PINN这一协调训练框架，用以更精准、更稳健地求解(2+1)维CBS型方程。我们发现，在这种情况下，同时优化所有损失项往往难以取得理想效果，因为初始条件和边界条件中的误差容易在系统中传播开来。

作者贡献说明：贾婷婷负责写作——审稿与编辑、写作——初稿撰写、可视化、方法论、资金获取以及概念构思工作；李亚军同样负责写作——审稿与编辑、写作——初稿撰写、可视化、方法论和概念构思工作；龙军负责写作——审稿与编辑工作；邓高福也负责写作——审稿与编辑工作。

利益冲突声明：作者们声明自己没有已知的、可能影响本文研究结果的财务利益或个人关系。

致谢：本文档是中国国家自然科学基金项目（62202504）以及湖南省自然科学基金项目（2023JJ40767）资助的研究成果。

贾婷婷|李亚军|龙军|邓高福