用于混沌费米–帕斯塔–乌拉姆–京格晶格的结构保持神经网络

《Communications in Nonlinear Science and Numerical Simulation》：Structure-preserving neural networks for the chaotic Fermi–Pasta–Ulam–Tsingou lattice

　　

摘要

对于混沌哈密顿系统，守恒律的微小违背会被指数级放大，使得结构保持不仅是一种期望，更是长时间模拟的基本要求。我们在费米-帕斯塔-乌拉姆-钦古（FPUT）晶格的背景下研究这一原则，该系统随着非线性增强，会从近可积动力学转变为哈密顿混沌。我们开发了一种无监督的物理信息神经网络框架，其中哈密顿量和额外的首积分作为辅助网络与轨迹网络耦合，并通过泊松括号约束强制它们相互独立。首积分的习得是分层进行的：首先通过哈密顿方程的一致性来识别能量，然后归纳性地添加其他不变量（例如周期性边界条件下的总动量）。时间分段策略限制了每个网络必须保持精确的时间跨度，从而控制混沌区域中的误差增长。一个关键发现是，首积分的分层强制执行是控制长时间精度的主导因素，比方程残差最小化或网络容量更重要。在具有4个粒子的FPUT晶格中，在固定边界条件（混沌区域，相对L2误差相比普通PINN基线减少了1684.0倍）和周期边界条件（守恒动量的准周期区域，相对L2误差相比普通PINN基线减少了803.2倍）下，该方法将能量误差降低了三到四个数量级。结果表明，对于混沌哈密顿系统，强制执行不变量的数量和质量，而非逐点方程满足的保真度，是长期预测保真度的主要决定因素。

引言

在混沌哈密顿系统中，数值方法每步违反守恒律的量ε会产生以～????^??_max·??增长的轨迹误差，其中??_max是最大李雅普诺夫指数。在时间尺度约为??_max?1·log(1/ε)时，计算解将变得定性错误。因此，结构保持是物理上有意义的长时间模拟的必要条件，而不仅仅是一种理想属性[1]。

经典辛积分器通过保持辛2-形式满足此条件，对于具有已知哈密顿量的系统，它们仍然是首选方法。我们所探讨的问题是，当哈密顿量和其他守恒量没有以闭式给出时，长期的无监督学习框架能否达到可比较的结构保真度。

一类广泛的物理信息神经网络（PINNs）通过在配置点评估的残差项来纳入微分方程[2]、[3]、[4]、[5]。尽管这种公式可以提高数据效率和物理一致性，但在有限个点上满足微分残差本身并不意味着精确保持全局首积分。通常必须单独引入守恒约束、不变量保持架构或结构保持的时间离散化。对于混沌和多尺度系统，这一区别尤为重要，因为小的局部误差可能积累成能量或其他不变量中的显著长时间漂移（图1）。

对于具有不变量保持的力学系统，哈密顿神经网络（HNNs）参数化一个标量哈密顿量并通过哈密顿方程生成向量场[6]。相关的拉格朗日神经网络学习拉格朗日量并从欧拉-拉格朗日方程推导动力学，从而避免了规范动量的需求[7]。这些模型施加了强烈的变分归纳偏置，并将学习到的动力学与自治系统中的守恒能量相关联。辛ODE网络和辛神经网络等扩展方法则约束连续时间模型或学习到的流映射以尊重规范辛几何[8]、[9]。泊松神经网络将规范哈密顿构造推广到具有非规范或退化泊松结构的系统[10]、[11]。在此设置中，卡西米尔函数提供了由泊松张量的零空间确定的额外不变量。然而，这些方法通常依赖于轨迹数据的有监督训练，因此不能直接应用于完全无监督的设置。

一条互补的研究路线是直接从数据或已知微分方程中学习守恒量。Liu等人随后引入了神经和符号程序，用于从微分方程中发现多个守恒律，并提出了一种用于函数独立性的微分判据[12]。神经消元法迭代训练守恒律，同时惩罚对先前已识别量的依赖，对于哈密顿系统也是如此[13]、[14]。对比方法如ConCerNet学习轨迹级不变量表示并使用它们来改进动力学预测[15]，而其他工作从轨迹分布中几何地发现守恒律[16]。SPINI提供了一种无监督方法，从哈密顿方程中学习代理哈密顿量，无需预计算的轨迹[17]。

尽管取得了这些进展，无监督首积分发现与长时间动力学学习的联合问题仍未得到充分解决。结构保持模型如HNNs、拉格朗日网络、辛ODE网络和泊松神经网络主要编码预设的几何结构，通常需要轨迹数据，而且通常不能发现多个未知的首积分。相反，守恒律发现方法可以识别不变量，在某些情况下促进其函数独立性，但它们通常关注不变量识别而非将学到的量纳入动力学的预测模型。只有少数方法无需预计算轨迹运行，现有的无监督方法如SPINI主要集中于学习代理哈密顿量而非非冗余的首积分集合。此外，小的方程残差或准确的短时间预测并不一定能够阻止长时间推出过程中不变量误差的逐渐积累。因此，仍然需要一个统一的、无轨迹的框架，能够同时学习动力学和多个函数独立的首积分，使用学到的积分来约束演化，并在长时间预测范围内保持物理一致性。

因此，我们提出了一种分段哈密顿物理信息神经网络（SH-PINN），以填补这些空白。与轨迹有监督的方法不同，本文引入了一种无监督的、无轨迹的框架，直接从控制微分方程学习控制动力学及其相关的首积分，无需预计算解数据。系统的首积分由辅助神经网络近似，并与轨迹网络耦合。它们的守恒被作为主要结构约束强制执行，它们的相互独立性通过泊松括号惩罚得到保证。积分是分层次学习的：首先是能量（通过与哈密顿方程的一致性），然后是动量（通过带有独立性约束的归纳步骤）。时间分段策略将[0, T]划分为子窗口，限制了混沌误差放大作用的时间跨度。

主要贡献是在统一框架中整合了无监督动力学学习、独立首积分发现和长时间不变量保持预测。我们在费米-帕斯塔-乌拉姆-钦古（FPUT）晶格[18]、[19]上测试了SH-PINN，这是一个非线性晶格动力学的典范模型，表现出哈密顿混沌（固定边界，一个守恒量）和准周期运动（周期边界，两个守恒量）[20]、[21]、[22]、[23]、[24]。两种边界条件在单一物理系统中给出了具有??=1和??=2首积分的两种测试情况，解析已知的不变量允许精确测量守恒误差。

SH-PINN相对于相同规模的普通PINN将能量误差降低了二到三个数量级（固定边界条件下1684.0倍，周期边界条件下803.2倍）。首积分的强制执行占增益的大部分：在??=2个分段时能量改进已经达到60倍，而进一步分段到??=6增加了另一个9倍。消融实验显示，在保持另一个不变量（能量）的同时省略一个不变量（动量）的强制执行，会使未强制的量退化到低于PINN基线，这表明每个不变量必须单独强制执行，并且这种机制与多目标损失的几何相关，而不是与FPUT特有特征相关。

本文的组织如下：第2节介绍FPUT系统。第3节提出SH-PINN框架。第4节报告数值实验。第5节讨论结果。

FPUT系统

费米-帕斯塔-乌拉姆-钦古（FPUT）系统模拟了由n个粒子组成的一维链，位移为x_i(t)，速度为v_i(t)=?_i(t)相对于平衡位置，其中i=1,…,n。令??=(x_1,…,x_n)表示位移向量，??=(v_1,…,v_n)表示速度向量。每个粒子仅通过线性和非线性力与其最近邻相互作用。

α-FPUT链的运动方程为：

?_i = k(x_{i+1} - 2x_i + x_{i-1}) + α[(x_{i+1} - x_i)3 - (x_{i-1} - x_i)3]，i=1,…,n，

其中k > 0是

FPUT系统的SH-PINN框架

我们为FPUT晶格开发了一种分段哈密顿物理信息神经网络（SH-PINN）。轨迹和守恒量由耦合神经网络同时学习，哈密顿结构作为主要约束嵌入到训练损失中。

SH-PINN架构由两种神经网络组成（图3）：(x?(t;Θ), v?(t;Θ))和?_k(x,v;θ_k)，k=1,…,N，分别参数化为Θ和θ_k，k=1,…,N。这里N是首积分的数量（对于…，??=1）。

数值实验

我们呈现了评估SH-PINN框架在FPUT晶格上的数值实验。第4.1节描述实验设置。第4.2节呈现了SH-PINN和标准PINN在两种边界条件下之间的主要比较。第4.3节和4.4节提供了关于分段数和首积分损失权重的消融研究。

结论

我们提出了SH-PINN，一种用于FPUT晶格的分段哈密顿物理信息神经网络框架，并在混沌（固定边界）和准周期（周期边界）条件下对其进行了4粒子链的测试。

主要结论是，首积分的分层强制执行对长时间精度的控制远超方程残差最小化或网络容量。SH-PINN相对于普通PINN基线将能量误差降低了二到三个数量级。

CRediT作者贡献声明

Fan Junjie（范俊杰）：方法论，软件，验证，撰写——原稿。Chen Alatancang（陈阿拉坦苍）：监督，资金获取。Wang Peng（王鹏）：软件，验证。Zhang Hong-Kun（张宏坤）：调查，撰写——审稿与编辑。Li Mingkun（李明坤）：概念化，方法论，撰写——审稿与编辑，监督。

CRediT作者贡献声明

Fan Junjie（范俊杰）：验证，软件，方法论。Chen Alatancang（陈阿拉坦苍）：监督，资金获取。Wang Peng（王鹏）：验证，软件。Zhang Hong-Kun（张宏坤）：撰写——审稿与编辑，调查。Li Mingkun（李明坤）：撰写——审稿与编辑，监督，方法论，概念化。

利益冲突声明

作者声明，他们没有任何已知的竞争性经济利益或个人关系可能会影响本文所述工作的发表。

Fan Junjie（范俊杰）| Chen Alatancang（陈阿拉坦苍）| Wang Peng（王鹏）| Zhang Hong-Kun（张宏坤）| Li Mingkun（李明坤）

内蒙古工业大学理学院，呼和浩特，010051，中国