《Machine Learning and Knowledge Extraction》：MultiPINN: A Modular Framework for Physics-Informed Neural Networks
编辑推荐：
物理信息神经网络（Physics-informed Neural Networks, PINNs）通过将控制方程和边界条件嵌入训练目标来逼近微分方程的解。受控的PINN比较之所以困难，是因为几何表示、配点采样、损失构造、神经架构和优化设置都会影响结果。本文提出
物理信息神经网络（Physics-informed Neural Networks, PINNs）通过将控制方程和边界条件嵌入训练目标来逼近微分方程的解。受控的PINN比较之所以困难，是因为几何表示、配点采样、损失构造、神经架构和优化设置都会影响结果。本文提出了MultiPINN，一个用于组件级PINN研究的模块化PyTorch框架。MultiPINN将PINN工作流分解为可组合的几何体、边界实体、物理条件、点生成器、神经模型、损失项和训练服务。它支持解析几何和基于网格的几何、构造性操作、带法向量处理的边界壳抽象、条件特定的非自适应与残差自适应采样、损失正则化、混合精度训练、梯度累积、分布式多GPU执行以及基于回调的监控。研究人员在涵盖几何处理、采样策略、神经架构、三维非线性模拟和计算性能的代表性基准上对该框架进行了评估。结果表明，MultiPINN在保留统一实现工作流的同时，能够对单个PINN组件进行受控研究。研究人员还将MultiPINN与现有PINN框架进行了比较，并将其定位为用于复杂几何和可配置训练流程实验的紧凑研究环境。
物理信息神经网络（Physics-informed Neural Networks, PINNs）通过在训练目标中嵌入微分方程和边界条件来逼近方程解，但训练精度受神经架构、配点分布、损失权重比例、优化过程及计算域表示等多因素共同影响。由于问题特定实现中几何处理、边界条件定义、点采样、残差评估和优化逻辑常常耦合在一起，难以将精度或训练成本变化归因于单一方法学因素，尤其对于三维域、外部网格和需要可靠法向量信息的边界条件。为填补这一空白，研究人员提出了MultiPINN，一个基于PyTorch的模块化框架，将物理信息学习的主要元素表示为可组合模块，包括几何对象、条件对象、生成器、神经模型和训练器。其设计目标是作为紧凑研究环境，使各组件能在统一实验协议下独立配置和变化。
研究人员开展的工作包括：设计模块化架构；提出几何层支持解析基元、构造性实体几何（Constructive Solid Geometry, CSG）、边界壳抽象、法向量处理以及外部网格（FLUENT/TGrid格式）导入；实现条件特定的配点生成接口，支持非自适应和残差自适应采样；构建训练基础设施，支持损失平衡和正则化、梯度累积、混合精度、分布式多GPU执行和基于回调的监控；并通过一系列基准实验验证组件替换能力。此外，与DeepXDE和PhysicsNeMo等现有框架进行了比较，表明MultiPINN作为可复现方法论研究的紧凑环境具有补充作用。实验表明，MultiPINN能够在保持统一实现工作流的同时实现单个PINN组件的受控研究。
关键技术方法方面，研究人员构建的框架核心抽象包括：几何层整合解析与网格几何及CSG构造；条件对象编码控制方程和约束；生成器为每个条件独立分配非自适应（均匀、拉丁超立方、Halton、Hammersley、Sobol）和残差自适应（RAR-D、RAR-G、RAD、RAG、R3）采样；训练器支持条件级和点级损失聚合、Constant、Lagrangian、Gradient、Normal四种正则化策略、梯度累积、混合精度和分布式多GPU；神经模型层提供FNN、残差网络、PirateNet等架构。评估采用相对L
2误差，在多个基准上进行。
研究结果方面，各子研究的结果如下。7.1 实验协议与设计主张（Experimental Protocol and Design Claims）：研究采用共同报告协议，但非单一全局配置；每个基准只变化一个组件，其余固定。7.2 几何无关工作流（Geometry-Independent Workflows）：在一维区间、二维圆孔方形、三维圆柱孔立方体和带十七个圆孔的多孔板及空间-时间扩展上测试。结果显示，PDE残差和边界约束可以跨维度和构造性几何操作重用；在导入的FLUENT/TGrid网格上求解同一Poisson问题，误差与解析CSG结果同阶。制造解的Laplace问题验证了自动边界法向量在Neumann条件中的使用。7.3 损失正则化策略（Loss Regularization Strategies）：在二维Poisson问题上比较Constant、Lagrangian、Gradient和Normal策略。Normal获得最低平均相对误差（5.14e-4），训练时间44分钟；补充热传导和对流实验显示，Normal在Poisson和热传导中误差最低，Lagrangian在对流中最低，说明没有普遍最优策略。7.4 配点采样策略（Collocation Sampling Strategies）：在一维对流方程上比较多种采样器。当对流系数c=1时各策略均精确；当c=10时非自适应误差在0.576至0.663之间，而RAR-D降至0.047；但c=20时仅比较了Hammersley和RAR-D，误差分别为0.031和0.085，表明自适应采样的优势取决于输运机制。7.5 耦合PDE系统的神经架构（Neural Architectures for Coupled PDE Systems）：在三维Navier-Stokes管道问题上比较FNN、FFNN和PirateNet。PirateNet使用更少参数但在各字段有较低平均误差（无统计显著性）；在测试的FFNN尺度中，σ=0.1的FFNN平均误差最低（0.0822至0.1439）。这体现对架构和傅里叶尺度的敏感性。7.6 计算优化策略（Computational Optimization Strategies）：在二维Navier-Stokes障碍物问题中，有限差分（Finite Difference, FD）和自动混合精度（Automatic Mixed Precision, AMP）分别将迭代速度提高约2.01倍和2.18倍，但均增加平均场误差；FD还将峰值显存从19750 MB降至8050 MB。热方程中也观察到类似趋势，说明计算优化是速度-精度权衡。7.7 梯度累积与分布式训练基准（Gradient Accumulation and Distributed Training Benchmark）：在相同二维Navier-Stokes问题上，梯度累积将峰值内存减半但时间增加约19%；两GPU运行提供1.72倍加速，四GPU提供1.79倍加速，且梯度差异较小。这表明梯度累积主要用于内存节省，分布式执行用于加速。7.8 实验发现总结（Summary of Experimental Findings）：上述实验共同支持MultiPINN的核心设计主张，即几何、采样、损失聚合、神经架构和执行模式可独立变化。
第八节框架比较中，8.1 关键能力比较（Comparison of Key Capabilities）显示三种框架均支持条件级生成器，但MultiPINN将点生成附加到每个方程或边界条件，暴露方式不同。8.2 训练速度比较（Comparison of Training Speed）显示PhysicsNeMo在七个案例中平均迭代率最高，但最终残差排名不同，且能量消耗与速度排名不一致，表明固定预算更新率主要反映每更新固定开销。8.3 导数模式与配点规模（Derivative Mode and Collocation Scaling）比较显示有限差分在七个案例中比反向自动微分更快，但同时改变参数梯度；配点预算从1024增至16384时更新率几乎不变，而峰值内存按比例增加，再次说明固定开销主导。
讨论部分总结指出，MultiPINN提供了组件独立的工作流，但实验结果不主张任何策略的普遍优越性；PINN性能强烈依赖问题。框架仍有局限，如不消除PINN基本优化困难、三维大内存问题、网格格式依赖等。框架比较受单配置限制，不能作为整体排名。结论部分翻译如下：本文提出了MultiPINN，一个用于构建、训练和分析物理信息神经网络的模块化PyTorch框架。该框架将几何表示、物理条件、配点生成、神经近似、损失组装和优化分离为可组合模块。MultiPINN支持解析和基于网格的几何、构造性几何操作、条件特定的非自适应和残差自适应采样、多种神经架构、损失平衡机制、混合精度训练、梯度累积、分布式多GPU执行以及基于回调的监控。基准测试表明，这些组件能够在受控协议下针对椭圆、时变和流体动力学问题（包括复杂几何和耦合多输出方程）进行组合和变化。在框架比较中，测得的更新速率主要反映小网络的每次更新固定开销，因此不是各框架算术效率的排名。未来工作将扩展基准套件、拓宽网格支持、改进反问题与多物理场工具，并加强与神经算子模型的集成。
