一个用于求解逆混合变分不等式及其应用的二阶时变投影动力学模型

《Communications in Nonlinear Science and Numerical Simulation》：A Second-Order Time-Varying Projection Dynamical Model for Solving Inverse Mixed Variational Inequalities and Applications

　　

**摘要**

本文提出了一种新颖的基于投影的二阶时变动力系统（TVDS），用于求解逆混合变分不等式（IMVI）。所提出的模型在投影神经网络框架中嵌入了两个时间依赖参数。在底层算子强单调性和Lipschitz连续性的假设下，我们建立了系统轨迹的存在性、唯一性和全局渐近稳定性。通过对连续模型进行有限差分离散化，推导出其离散时间对应形式，从而得到一种惯性投影算法。建立了保证所提迭代格式线性收敛的充分条件，并利用Lyapunov直接方法严格分析了连续时间模型的稳定性。最后，通过三个数值算例以及与对应的一阶投影算法的全面对比，表明所提出的二阶方法在保持相当残差精度的同时实现了显著更快的收敛速度。此外，还通过环形拥堵定价和图像去模糊问题展示了其实际适用性。拥堵定价算例验证了理论条件并展示了惯性加速的效果，而灰度和彩色图像去模糊实验则表明所提出框架可应用于高维逆问题，从而进一步支撑了所提方法的有效性和计算潜力。

**引言**

记实$k$维欧几里得空间$\mathbb{R}^k$，具有内积$\langle \cdot, \cdot \rangle$及其对应范数$\|\cdot\|$。设$\mathcal{D}$为$\mathbb{R}^k$的一个非空子集，且是闭凸集。假设$\phi: \mathbb{R}^k \to \mathbb{R}^k$为连续算子，$\mathcal{D} \subset \mathbb{R}^k$为非空闭凸集。我们考虑变分不等式问题（VIP）的标准形式，即确定$u^* \in \mathcal{D}$满足以下条件：

$$\langle \phi(u^*), u - u^* \rangle \geq 0, \quad \forall u \in \mathcal{D}.$$

变分不等式（VIPs）在理论和应用领域已被广泛研究，包括优化、互补问题、鞍点（极小极大）问题、Nash均衡模型和不动点理论[1], [2]。因此，各种求解方法，特别是投影类方法，已被广泛探索（参见例如[3], [4], [5], [6], [7], [8]）。由[1], [9], [10]，我们利用成熟的投影定理，得出$VI(\phi, \mathcal{D})$的解为定义在(1)中的$u^* \in \mathcal{D}$，当且仅当对于固定常数$\mu > 0$，满足以下投影方程：

$$u^* = P_{\mathcal{D}}[u^* - \mu \phi(u^*)],$$

其中$P_{\mathcal{D}}: \mathbb{R}^k \to \mathcal{D}$是投影算子，定义为$P_{\mathcal{D}}(\mathbf{x}) = [P_{\mathcal{D}}(x_1), \cdots, P_{\mathcal{D}}(x_k)]^T$，且

$$P_{\mathcal{D}}(\mathbf{x}_i) = \arg\min_{v \in \mathcal{D}} \|x_i - v\|.$$

在数学模型的研究和发展中，逆问题发挥着特别重要的作用。这是因为给定问题往往可以借助另一个问题进行重新表述，两者的解密切相关。当某些问题无法直接求解时，逆问题的框架为获得有意义的结果提供了有力工具。因此，逆问题已在工程、金融、经济、交通和科学等多样化领域得到广泛应用。例如，许多作者[11], [12], [13], [14]研究了各种背景下的逆问题，包括优化问题、微分方程和变分方程。在这一方向上，VIP的一个重要扩展是其逆形式。假设$\Psi: \mathbb{R}^k \to \mathbb{R}^k$为单值连续算子。若逆函数$x = \Psi^{-1}(u) = \phi(u)$存在，则VIP可表述为逆变分不等式问题（IVIP），记为$IVIP(\Psi, \mathcal{D})$，即确定$x^* \in \mathbb{R}^k$满足以下条件：

$$\Psi(x^*) \in \mathcal{D},$$

$$\langle v - \Psi(x^*), x^* \rangle \geq 0, \quad \forall v \in \mathcal{D}.$$

尽管IVIPs出现在多个领域，包括经济均衡模型[15]和交通网络分析[16]中，但用于求解$IVI(\Psi, \mathcal{D})$（式(4)）的理论和数值方法相对较少。其等价于寻找以下投影方程的解：

$$\Psi(x^*) = P_{\mathcal{D}}[\Psi(x^*) - \mu x^*].$$

2016年，Zou等人[17]引入了一种动力系统（称为神经网络），通过构造以下系统来求解$IVI(\Psi, \mathcal{D})$（式(4)）：

$$\dot{x} = \sigma[P_{\mathcal{D}}(\Psi(x) - \mu x) - \Psi(x)],$$

其中$\dot{x} = \frac{dx}{dt}$，$P_{\mathcal{D}}$定义于(3)中，$\sigma > 0$为固定参数。He等人[18]将$IVIP(\Psi, \mathcal{D})$公式化，并开发了基于投影的迭代算法以求解。此外，通过应用该方法，他们解决了众多均衡问题。一些研究人员致力于IVIPs的推广，产生了被称为逆拟变分不等式问题[19], [20], [21]的重要问题类。本文研究的是逆拟变分不等式问题（IQVIP），即确定$x^* \in \mathbb{R}^k$使得：

$$\Psi(x^*) \in \Phi(x^*),$$

$$\langle x^*, v - \Psi(x^*) \rangle \geq 0, \quad \forall v \in \Phi(x^*),$$

其中$\Psi: \mathbb{R}^k \to \mathbb{R}^k$为单值映射，$\Phi: \mathbb{R}^k \to 2^{\mathbb{R}^k}$为与IQVIP（式(7)）相关的集值映射，且取值非空、闭、凸，则$x^*$求解(7)当且仅当满足投影形式：

$$\Psi(x^*) = P_{\Phi(x^*)}(\Psi(x^*) - \mu x^*).$$

2024年，Dey S.和Reich S.[20]通过将以下系统用于求解逆拟变分不等式(7)：

$$\dot{x} = \sigma[P_{\Phi(x)}(\Psi(x) - \mu x) - \Psi(x)],$$

其中$\dot{x} = \frac{dx}{ds}$，$P_{\Phi(x)}$定义于(3)中，$\sigma > 0$为固定参数。

另一方面，混合变分不等式是变分不等式的推广，后者是前者的特例。这一扩展首先由Bin-Mohsin等人[22]和Ju X.等人[23]引入。随后，Konnov和Volotskaya[24]利用混合变分不等式的概念来解决一般经济和寡头均衡问题。自那以后，众多研究人员在不同领域探索了混合变分不等式，包括优化、博弈论和控制理论（参见[25], [26], [27], [28]）。此外，IVI的发展导致了逆混合变分不等式的提出，其中包含了前者作为特例（参见[29], [30]）。2014年，Li等人[31]探索了逆混合变分不等式问题，并将其用于解决交通网络均衡和交通流量控制相关问题。利用广义$f$-投影算子，他们建立了关键结果并形式化了保证逆混合变分不等式对应算法收敛的性质。因此，我们将逆混合变分不等式（IMVI）表述如下：寻找$x^* \in \mathbb{R}^k$使得$\Psi(x^*) \in \mathcal{D}$，且

$$\langle x^*, y - \Psi(x^*) \rangle + f(y) - f(\Psi(x^*)) \geq 0, \quad \forall y \in \mathcal{D},$$

其中$\Psi: \mathbb{R}^k \to \mathbb{R}^k$为连续映射，$f: \mathcal{D} \to \mathbb{R} \cup \{+\infty\}$为适当、凸且下半连续函数。显然，$x^*$是IMVI问题（式(10)）的解当且仅当TVDS给出平衡点（即在TVDS中，函数$x(s) \equiv x^*$保持恒定并构成有效轨迹）。与Chen等人[14]的固定时间神经动力学不同——后者保证在独立于初始条件的规定上界内收敛——本文聚焦于建立二阶基于投影的TVDS关于IMVIs的全局渐近稳定性和线性收敛性。一阶TVDSs因稳定性和收敛性质已被广泛用于求解各类变分不等式[17], [29], [32], [33], [34], [35]。此类系统的一种常见形式可写为：

$$\begin{cases}
\dot{x}(s) = \sigma[P_{\mathcal{D}}(\Psi(x(s)) - \mu x(s)) - \Psi(x(s))], \\
x(0) = x_0,
\end{cases}$$

其中$\dot{x} = \frac{dx}{ds}$，$P_{\mathcal{D}}$表示定义于(3)中的投影算子，$\sigma > 0$为固定参数。这一形式为设计基于投影和基于近似的神经网络提供了基本框架，用于近似求解IMVIs及相关优化问题的解。受此研究启发，我们提出了一种基于投影神经网络的二阶时变动力系统（TVDS）。为求解IMVI问题$(\Psi, \mathcal{D})$，我们考虑以下TVDS：

$$\begin{cases}
\ddot{x}(s) + \tau(s)\dot{x}(s) + \sigma(s)[\Psi(x) - P_{\mathcal{D}}(\Psi(x) - \mu x)] = 0, \quad s \geq 0, \\
x(0) = x_0, \quad \dot{x}(0) = v_0,
\end{cases}$$

其中$\ddot{x} = \frac{d\dot{x}}{ds}$，$\tau: \mathbb{R}^+ \cup \{0\} \to \mathbb{R}^+ \cup \{0\}$和$\sigma: \mathbb{R}^+ \cup \{0\} \to \mathbb{R}^+ \cup \{0\}$为Lebesgue可测函数。若假设$\Psi$满足Lipschitz连续性条件，则系统(12)建立了解的唯一性和全局存在性。此外，我们证明当$\Psi$强单调时，该TVDS的轨迹全局收敛于IMVI问题$(\Psi, \mathcal{D})$的唯一解。

**动机与主要贡献**

基于投影的动力系统因具有吸引力收敛性质和在优化、均衡问题和工程应用中的广泛适用性，已被广泛研究用于求解VIPs及其逆形式[15], [16], [17], [35]。大多数现有连续时间动态模型基于具有固定参数的一阶神经网络框架[17], [20], [32], [35]。尽管这些方法具有坚实的理论收敛保证，但它们并未充分利用二阶惯性动力学所提供的加速机制。此外，现有基于投影的神经网络模型主要关注IVIPs和IQVIPs[17], [20]，而针对IMVIPs的二阶时变动力系统则相对较少关注。

另一方面，IMVIs构成一个更一般的框架，因其在优化、均衡理论和交通网络分析中的应用而受到日益关注的重视[29], [30], [31], [33]。近年来，已为IMVIs提出了若干高效数值方法和神经动力学模型[23], [29]；然而，这些方法主要基于一阶动力学或固定时间框架，并未研究二阶时变投影动力系统及其对应的惯性迭代格式。

基于上述观察，我们提出了一种新颖的二阶时变投影动力系统（式(12)）用于求解IMVIs。所提出的模型将惯性加速与自适应时变阻尼和缩放系数相结合，从而扩展了现有的一阶投影神经网络模型。此外，所提出的有限差分离散化自然地产生了一种与Polyak开发并由Bo?和Csetnek后续研究的Heavy-Ball和二阶优化动力学密切相关的惯性投影算法[9], [36]。这些发展为将基于动量的机制纳入所提出的IMVI框架提供了理论动机。从实际应用的角度来看，所提出的框架还在两个不同的应用场景中进行了检验。环形拥堵定价提供了一个均衡控制问题，其中理论假设可以直接验证，而图像去模糊则涉及具有非光滑正则化的更高维逆问题。这些应用旨在通过展示所提框架在良态和病态计算环境下的表现，来补充理论分析和低维数值算例。

本文的主要贡献总结如下：

1. 我们提出了一种新颖的二阶时变投影动力系统（式(12)），通过整合惯性动力学与自适应时变阻尼和缩放系数来求解IMVIPs（式(10)）。

2. 在Lipschitz连续性和强单调性的假设下，我们建立了所提动力系统轨迹的全局存在性和唯一性，并利用Lyapunov直接方法证明了其全局渐近稳定性。

3. 我们从所提出的连续时间模型（式(12)）推导出一种离散时间惯性投影算法，并建立了保证其线性收敛的充分条件。

4. 进行了大量数值实验以验证理论结果。特别地，在相同参数设置下，将所提出的二阶投影算法与对应的一阶投影算法进行了比较。数值结果表明，所提方法在保持基本相同的残差精度同时实现了显著更快的收敛速度，从而展示了惯性加速策略的有效性。

5. 我们通过环形拥堵定价和图像去模糊的应用进一步验证了所提出的框架，涵盖了良态均衡控制问题和高维逆恢复问题。

为总结本节，本文余下部分安排如下。第2节回顾了全文所用的基本定义、记号和辅助结果。第3节建立了所提二阶TVDS轨迹的存在性和唯一性，推导了相应的离散时间惯性投影算法，并证明了其线性收敛性。第4节呈现了Lyapunov稳定性分析以及全面的数值算例和与对应一阶投影算法的比较，以展示所提方法的收敛行为与计算效率。第5节呈现了灰度和彩色图像恢复的大规模应用。最后，第6节总结了全文并讨论了未来的研究方向。

**第2节 定义与预备知识**

本节汇编了所需的一些定义和引理。

**定义1** [37] 算子$\Psi: \mathbb{R}^k \to \mathbb{R}^k$具有以下特征：

1. 若对所有$x, v \in \mathcal{D}$，$\langle \Psi(x) - \Psi(v), x - v \rangle \geq 0$，则称其在$\mathcal{D}$上是单调的。

2. 若存在模量$\lambda > 0$，使得对所有$x, v \in \mathcal{D}$，$\langle \Psi(x) - \Psi(v), x - v \rangle \geq \lambda \|x - v\|^2$，则称其在$\mathcal{D}$上是强单调的。

注意(b)?(a)成立，但反之一般不一定成立。

**定义2** [37] 若存在$\zeta \geq 0$使得

$$\|\Psi(x) - \Psi(v)\| \leq \zeta \|x - v\|, \quad \forall x, v \in \mathcal{D},$$

则称算子$\Psi: \mathbb{R}^k \to \mathbb{R}^k$在$\mathcal{D}$上是$\zeta$-Lipschitz连续的。

**引理1** [38] 假设...

**第3节 主要结果**

以下结果展示了方程(12)轨迹的存在性和唯一性，证明改编自[36]。

**定理1** 若$\sigma, \tau: \mathbb{R}^+ \cup \{0\} \to \mathbb{R}^+ \cup \{0\}$为Lebesgue可测函数，则$\sigma, \tau \in L^1_{loc}(\mathbb{R}^+ \cup \{0\})$（即对每个$0 < c < +\infty$，$\sigma, \tau \in L^1_{loc}([0, c])$）。设$\Psi$为$\zeta$-Lipschitz连续算子。则对每个$x_0, v_0 \in \mathbb{R}^k$，TVDS（式(12)）具有唯一的强全局解。

**证明** 我们定义$A: \mathbb{R}^k \to \mathbb{R}^k$为

$$A(x) = \Psi(x) - P_{\mathcal{D}}(\Psi(x) - \mu x), \quad \forall x \in \mathbb{R}^k.$$

因此，TVDS（式(12)）可等价表示为：

$$\begin{cases}
\ddot{x}(s) + \tau(s)\dot{x}(s) + \sigma(s)A(x(s)) = 0, \\
x(0) = x_0, \quad \dot{x}(0) = v_0.
\end{cases}$$

**利用Lyapunov直接方法进行稳定性验证**

本节利用Lyapunov直接方法研究所提出的二阶TVDS（式(12)）的稳定性。设$x^*$为IMVI问题（式(10)）的唯一解。定义移位状态变量$y(s) = x(s) - x^*$。则二阶TVDS（式(12)）的平衡点为$(x^*, 0)$。

连续可微函数 ??:???×???→? 被称为 (12) 的 Lyapunov 函数，若它满足以下性质：(C1) ??(??,˙??) 是正定的，即 ??(??,˙??)≥0，且 ??(??,˙??)=0?(??**应用与数值实验**为更充分地说明所提出的二阶 TVDS 的实用价值，我们考虑了两个应用导向的问题：限行拥堵定价和图像去模糊。前者代表一个可验证理论假设的均衡控制问题，后者则提供了一个涉及灰度图像和彩色图像的大规模反演成像问题。这些应用补充了前文所述的数值算例，并展示了该方法的适用性。**结论**本文提出了一种新型基于投影的二阶时变动力系统，用于求解反演混合变分不等式。通过将惯性动力学与自适应时变阻尼系数和缩放系数相结合，所提出的模型拓展了现有的基于一阶的投影神经网络框架。在强单调性和 Lipschitz 连续性的假设条件下，建立了系统轨迹的存在性与唯一性，并且其**AI 工具使用声明**作者声明在撰写本文过程中未使用 AI 工具。**资助**本研究未获得任何外部资助。**CRediT 作者贡献声明**Vajahat Karim Khan：审稿与编辑、初稿撰写、验证、软件、资源、方法论、形式化分析、概念构思。Kalimuddin Ahmad：监督指导、调查研究、形式化分析、形式化分析、审稿与编辑。**利益冲突声明**作者声明不存在可能影响本文所报告工作的已知竞争性经济利益关系或个人关系。**作者信息**Vajahat Karim Khan | Kalimuddin Ahmad印度阿格拉，北方邦，阿拉加尔穆斯林大学，数学系，邮编 202002