用于含参偏微分方程约束最优控制问题的物理信息伴随神经网络

《Neural Networks》：Physics-Informed Adjoint Neural Network for Parametric PDE-Constrained Optimal Control Problems

　　

摘要

许多工程应用涉及求解由偏微分方程（PDEs）支配的参数最优控制问题。传统数值方法在多参数场景中面临高昂的计算成本，因为它们需要针对每种参数配置反复求解PDE系统，且如果计算域随参数变化，可能还需要重新划分网格。虽然深度学习通过同时处理多个参数提供了有前景的替代方案，但现有神经网络（NNs）在精度和计算复杂度方面仍面临挑战。我们提出了两种新颖的物理信息伴随神经网络（PIANN）方法，用于求解参数最优控制问题。PIANN1采用统一的神经网络架构，同时逼近状态变量和伴随变量，通过最优化条件损失最小化进行优化。控制解由伴随增强的PDE系统解析推导得出。PIANN2实现了一种耦合的双网络框架，其中独立的网络通过迭代式直接-伴随训练过程分别学习状态和伴随变量，该过程内在地保持了约束条件，而无需使用Karush-Kuhn-Tucker（KKT）条件的惩罚项。两种PIANN方法相较于传统神经网络都简化了网络结构，且PIANN2避免了KKT条件中惩罚参数的介入。这些方法的性能通过许多具有控制约束参数、几何参数、角奇异性和三维域的基准参数最优控制问题进行了验证。数值实验表明，所提出的方法相较于现有的神经网络技术实现了显著提高的精度。在附录中，我们进一步提供了所提方法的理论分析，建立了残差到解的稳定性、PIANN2在小增益条件下的不精确直接-伴随迭代收敛性，以及将经验KKT损失与连续残差相关联的泛化界。这些结果表明，经验残差最小化是求解参数PDE约束最优控制问题的数学上合理的方法。

引言

最优控制建模在现代工程和科学计算中应运而生，广泛应用于机械工程（Troltzsch, 2010）、计算机科学（Hintermüller等人, 2017）、微电子学（Pinnau等人, 0000）、环境科学（Strazzullo等人, 2018b）、流体力学（Chemetov和Cipriano, 2025）、医学成像（Zapf等人, 2025）等学科。这些问题通常涉及由偏微分方程（PDEs）支配的系统状态，求解此类问题需要在PDE约束下找到最小化指定代价泛函的最优控制函数。在实际工程应用中，PDE和代价泛函往往涉及多个可变参数（例如材料属性、控制约束、边界条件和计算域的几何参数 K?rcher等人, 2018, Negri等人, 2015, Nobile和Vanzan, 2024），从而导致参数PDE约束最优控制问题。

参数最优控制问题相关的计算挑战来自两个主要因素：（1）需要同时满足优化条件和支配PDE的解；以及（2）参数带来的额外复杂性，将单个优化问题变成了随不同参数值变化的多个相关问题。因此，从算法设计角度来看，参数问题比非参数问题需要显著更大的计算量。传统的基于空间离散的数值方法，如有限元法（FEM）（Gong和Yan, 2016, L?scher和Steinbach, 2024）和有限差分法（FDM）（Borzí等人, 2002），需要精心拟合的网格才能达到可接受的逼近精度。复杂域的网格生成成本本质上很高。此外，用于求解参数问题的FEM和FDM往往导致高维计算或病态代数系统，显著增加了计算复杂度。基于梯度的优化技术，如直接-伴随循环法（Fang等人, 2023, Mitter和Lions, 1971）、牛顿-共轭梯度方法（Herzog和Sachs, 2010, Sternberg和Hinze, 2010）、半光滑牛顿法（de los Reyes和Troltzsch, 2007, Yang等人, 2017），以及交替方向法等算子分裂技术（Chen等人, 2019），已被广泛应用于最优控制问题。然而，这些方法在参数设置中可能遇到困难，在参数变化中反复计算造成巨大的计算开销。降阶建模通过构建代理模型来捕获参数依赖的系统行为并降低维度，提供了有前景的解决方案（Negri等人, 2013a, Prusak等人, 2023）。如果解存在于低维子空间中，降阶方法可以提供高效稳定的逼近。然而，空间域和参数域之间的耦合使离散化复杂化，往往导致与维度相关的持续挑战。因此，在单个计算步骤中获得参数最优控制问题的解仍然困难（Quarteroni等人, 2015）。

近年来，基于深度学习（DL）的数值方法在求解PDE方面获得了显著关注（Aldirany等人, 2024, Calabrò等人, 2021, Hu等人, 2024, Raissi等人, 2019, Taylor等人, 2023, Zeng等人, 2022, Zhang等人, 2023, Zhang等人, 2024），因为它们具有强大的解决高维问题、非线性逼近和几何复杂域的能力。机器学习在工程计算中的应用可参见Baek和Chen（2024）；Bai等人（2023）；Goswami等人（2022）；Samaniego和Anitescu（2020）；Zhu等人（2025）。基于测量数据的机器学习技术已在Masud和Goraya（2022）；Masud等人（2023）中开发，其中高保真局部测量数据被纳入某些物理模型以推导出全局预测。值得注意的是，在使用深度学习方法解决PDE约束最优控制问题方面已取得多项进展。例如，物理信息神经网络（PINNs）通过将代价泛函纳入标准PINN损失函数来适应最优控制问题（Mowlavi和Nabi, 2023, Song等人, 2024）。此外，基于深度学习的代理模型（Hwang等人, 2022, Yong等人, 2024b）和神经算子学习方法（Dong等人, 2024, Yong等人, 2024a）已开发出来，以实现对最优控制解的快速推断，避免计算密集型过程。尽管有这些发展，大多数现有深度学习方法在参数最优控制问题上的适用性仍然有限。一些研究试图通过将PINNs扩展为以参数为输入来解决这一问题，使网络能够满足Karush-Kuhn-Tucker系统（KKT系统）等最优性条件（Demo等人, 2023）。在Yin等人（2024）中，作者提出了三个独立的神经网络分别表示状态、控制和伴随变量，训练过程按顺序实施。这些方法的主要困难在于要么涉及太多惩罚参数，使训练变得困难并增加不良收敛的风险，要么需要许多网络来处理KKT条件和不等式约束，这带来了计算复杂度的挑战。

本文针对参数PDE约束最优控制问题开发了两种物理信息伴随神经网络（PIANN）方法，以提高求解精度并降低计算复杂度。这些方法基于最优控制问题的伴随问题设计，由KKT条件描述。第一种方法称为PIANN1，使用单一神经网络架构产生两个不同的输出：一个用于系统状态变量，另一个用于相应的伴随变量。这种方法能够实现系统状态和伴随变量的同时计算。控制解基于网络输出从最优性条件中推导得出，确保与不等式约束的一致性。因此，PIANN1不仅便于学习输入与输出之间的关系，还简化了算法并提高了计算效率。相比之下，第二种方法PIANN2采用双网络框架，由两个独立的网络组成。一个网络专门用于预测系统状态变量，而另一个网络专注于伴随变量。KKT条件被分别学习，每个条件由一个独立的网络处理。PIANN2中的控制解同样基于伴随网络输出从最优性条件中推导得出。这种训练过程迭代实施。PIANN2的优势在于避免了KKT条件中惩罚参数的调整（无惩罚），同时减少了网络数量。两种方法都简化了训练过程，增强了整体计算性能，并提高了逼近精度。针对具有控制约束参数、几何参数、角奇异性和三维域的参数最优控制问题进行了数值实验。数值结果表明，所提出的方法显著提高了精度，在某些示例中实现了比传统深度神经网络求解器高出几个数量级的误差改善。

除算法开发外，我们还为所提方法提供了严格的理论分析。我们证明了在标准强制性条件和inf-sup条件下，KKT残差控制状态、伴随和控制变量中的解误差，从而论证了使用经验残差最小化的合理性。对于PIANN2，我们将交替最小化方案分析为不精确的直接-伴随循环法，并推导了显式的误差传播界。最后，我们提供了泛化误差界，将有限配置点上的经验损失与连续KKT残差损失联系起来，并显式依赖于样本数量和残差函数类的复杂度。这些理论结果得到了残差最小化理论（Shin等人, 2023）和PINN泛化分析（De Ryck和Mishra, 2022, Mishra和Molinaro, 2023）的支持；它们还依赖于网络导数的伪维数界（Yang, 2026, Yang等人, 2023）和迭代控制中的误差分解技术（Kim等人, 2026）。

本文其余部分结构如下。第2节介绍模型问题。第3节提出传统神经网络来解决参数PDE约束最优控制问题。第4节详细介绍了我们的物理信息伴随神经网络方法。第5节展示了证明所提方法效率和精度的数值实验。最后，第6节提供总结性评论。附录提供了所提方法的理论分析，包括残差到解的稳定性、PIANN2不精确迭代的收敛性以及从经验到连续损失的泛化界。

## 模型问题

我们考虑一个紧致参数集 $P \subset \mathbb{R}^n$（其中 $n \geq 1$），其中 $\mu = (\mu_1, \cdots, \mu_n) \in P$ 作为参数向量，表征优化问题。设 $\Omega(\mu) \subset \mathbb{R}^d$ 为一个开、有界、单连通域，具有分段Lipschitz连续边界 $\partial\Omega(\mu)$。状态空间和控制空间分别由Hilbert空间 $Y$ 和 $U$ 给出，观测空间在更大空间 $Z \supset Y$ 中进行。优化问题受以下线性变分问题约束：

求解 $y \in Y$，使得 $a(y, q; \mu)$

## 参数最优控制问题的传统神经网络

本节介绍用于求解参数最优控制问题的传统物理信息神经网络（PINNs）方法。如Yin等人（2024）所示，两种不同的PINNs方法用于求解参数最优控制问题，通常涉及三个独立的深度神经网络：$\hat{y}(\tilde{x}; \theta_y)$、$\hat{u}(\tilde{x}; \theta_u)$ 和 $\hat{p}(\tilde{x}; \theta_p)$。这些网络分别由 $\theta_y$、$\theta_u$ 和 $\theta_p$ 参数化，用于逼近状态变量 $y(\mu)$、控制变量 $u(\mu)$ 和伴随变量 $p(\mu)$。

## 物理信息伴随神经网络（PIANNs）

本节介绍两种物理信息伴随神经网络（PIANNs），旨在解决参数最优控制问题。这些方法基于最优控制问题的伴随问题设计，由KKT条件描述。在两种方法中，控制解基于网络输出从最优性条件中推导得出，确保与不等式约束的一致性。两种PIANN方法相较于传统神经网络都简化了网络结构。

## 数值实验

本节展示了五个数值实验的结果，以证明PIANN1和PIANN2方法的有效性。这些实验在不同设置下考察了不同类型PDE约束、目标函数和控制约束。我们关注的基准问题涉及控制约束、几何参数化、角奇异性和三维域。为评估方法性能，我们将PIANN1和PIANN2与有限元法（FEM）进行了比较。

## 结论与评论

本文提出了两种新的物理信息伴随神经网络（PIANN）方法来求解参数PDE约束最优控制问题。PIANN1使用单一神经网络同时计算状态和伴随变量，简化了学习过程并提高了效率。相比之下，PIANN2采用双网络架构，一个网络专注于预测状态变量，另一个专注于伴随变量。PIANN2学习KKT条件。

## 作者贡献声明

曾绍杰：撰写——初稿，可视化，验证，软件，方法学，调查研究，形式分析，概念化。韩昭兴：验证，可视化。

张晴辉：写作 – 审阅与编辑、指导、调查、概念构思。利益冲突声明：作者声明他们没有已知的竞争性经济利益或个人关系，这些利益或关系可能会影响本文所述的工作。邵杰曾|赵兴韩|张晴辉