基于黄金分割技术的变分不等式自自适应 Bregman 投影方法

《Journal of Computational and Applied Mathematics》：Self-adaptive Bregman projection method based on the golden ratio technique for variational inequalities

　　

摘要

本文研究了一种带有多个参数序列的黄金比例次梯度额外梯度法，用于求解反反射巴拿赫空间中的变分不等式问题。通过引入一种改进的自适应性规则，不仅避免了需要底层算子利普希茨常数的先验知识，还加速了算法的收敛速率。在适当的假设和合适的参数选择下，我们获得了弱收敛和R-线性收敛结果。此外，我们在希尔伯特空间和非希尔伯特空间中进行了数值实验，证明所提出的算法优于文献中的一些现有方法。最后，我们将所提出的算法和弱收敛结果应用于图像复原问题，验证了该算法的有效性和适用性。

引言

全文中，设?为一个实巴拿赫空间，其对偶空间为?*，设??为?中的一个非空闭凸子集。当??∈?且??*∈?*时，用???*,???表示??*(??)。在集合??上的变分不等式问题(VIP)是寻找一个点??∈??，使得：

??(??),??????≥0, ???∈??

其中?:?→?*是一个非线性算子。我们用Ω表示VIP的解集。

对VIP的研究历史悠久，其起源可追溯到西尼奥里尼接触问题[1]。1963年，菲凯拉[2]首次为这一问题建立了数学理论体系。随后，斯坦帕基亚[3]系统地提出并命名了变分不等式的数学框架，推动了拉克斯-米尔格拉姆定理的发展。自此，由于许多学者的持续发展，如安特曼、利昂斯和杜万等，该理论已成为连接优化理论、偏微分方程和泛函分析的重要环节；参见[4]、[5]、[6]。

人们提出了各种迭代算法来求解VIP。其中最著名的方法之一是梯度投影法[7]。迭代定义如下：

????+1=????(???????·?(????))

其中????表示度量投影，?是L-利普希茨连续且η-强单调算子，步长??∈(0,2??/??2)。在这些条件下，当该方法应用于仅单调的算子时可能会失败。为克服这一缺陷，科尔佩列维奇[8]（以及独立地安季平[9]）于1976年提出了以下额外梯度法(EGM)：

{????=????(???????·?(????))
????+1=????(???????·?(????))

其中?是L-利普希茨连续且单调的算子，步长??∈(0,1/??)。该方法最初用于求解有限维空间中的鞍点问题。由于变分不等式与鞍点问题之间的联系，EGM被广泛应用于无穷维空间中的变分不等式，参见例如[10]、[11]、[12]、[13]、[14]、[15]、[16]、[17]、[18]、[19]。该方法避免了关于算子的强单调假设，并且在适当条件下可以获得EGM的弱收敛结果。

然而，EGM需要在每次迭代中计算两次到可行集??的度量投影，即求解两个最小距离问题。计算难度和成本受可行集结构的影响，进而影响迭代的效率和复杂度。因此，许多研究者致力于克服这一缺点。2011年，辛瑟等人[20]提出了次梯度额外梯度法(SEGM)：

{????=????(???????·?(????))
????+1=??????(???????·?(????))

其中????:={??∈?:????????·?(????)?????,????????≤0}是一个半空间。SEGM通过迭代点????、????和步长??构造一个半空间，从而替代了EGM中到可行集的第二次度量投影。用半空间上的投影来近似一般闭凸子集上的投影，从而降低了投影计算的难度。此外，还有许多提高迭代算法收敛效率的方法，如岑格的额外梯度法[21]、投影收缩法[22]和黄金比例法[23]。这些成果引起了大量研究者的关注，并由此产生了这些方法的众多改进变体，参见例如[24]、[25]、[26]、[27]、[28]、[29]、[30]及其参考文献。

由于上述算法是针对希尔伯特空间中的变分不等式问题设计的，对于某些巴拿赫空间并不有效。梯度投影法、EGM和SEGM不能直接应用于巴拿赫空间，原因有三：(i)它们依赖于正交投影，而在一般情况下正交投影不可用；(ii)其收敛性证明依赖于希尔伯特空间中的强非扩张性；(iii)它们假设有限方差噪声和可处理的投影，而这里两者均不成立。这些缺陷促使了一种巴拿赫空间算法的发展，该算法用Bregman投影替代希尔伯特投影，并采用广义对偶映射。为提高这些算法的适用性，研究人员通过合适的凸势函数使用Bregman型构造。这产生了一种Bregman距离来替代平方范数，从而实现了广义投影和单调性估计。因此，所提出的算法是一种合理重建，解决了非希尔伯特环境中固有的计算和结构障碍，参见例如[31]、[32]、[33]、[34]、[35]、[36]、[37]、[38]、[39]及其参考文献。例如，Oyewole等人[37]提出了以下改进的自适应性算法，用于求解反反射巴拿赫空间中的VIP：

在算法1.1中，作者将黄金比例技术与次梯度额外梯度法相结合，并引入了一种改进的自适应性规则。通过利用Bregman距离函数和Bregman广义投影，他们在适当条件下获得了弱收敛结果。

受上述讨论的启发，我们提出了一种带有多个参数的黄金比例次梯度额外梯度法，用于求解反反射巴拿赫空间中的变分不等式问题。该方法具有以下特点：

• 我们在步长规则中引入了额外参数，从而扩大了有效参数空间。这种推广使参数选择具有更大的灵活性，并且在适当条件下，与固定步长情况相比改善了数值性能。

• 在半空间投影步骤中嵌入了一个可调标度参数。当该参数等于1时，所提出的方案等价于算法1.1以及其他所有次梯度额外梯度法；否则，它产生一系列具有不同投影几何特性的变体。这种灵活性提供了额外的自由度，可在实际中用于改善收敛行为。

• 主要的理论贡献在于将所提出的算法推广到非希尔伯特空间。这些空间中缺乏内积结构带来了重大的技术挑战，需要新的收敛性论证。相比之下，希尔伯特空间环境被视为一个直接的特例。数值实验被用来验证理论发现，包括与算法1.1的比较以及图像复原中的应用。

预备知识

本节包含研究所提出算法所需的基本定义和预备结果。

设?为一个实巴拿赫空间，其对偶空间为?*。假设??:?→?∪{+∞}是一个适定的、凸的下半连续函数，其定义域为dom g:={??∈?:??(??)<+∞}。对于任意??*∈?*，用公式??*(??*)=sup{???*,??????(??):??∈dom g}定义??*:?*→?∪{+∞}，则称g*为Fenchel共轭函数。设s∈int(dom g)，对于任意??∈?，g在s处的方向导数定义为：

??°(??,??)=lim_{??↓0} (??(??+????)???(??))/??

主要结果

在本节中，为求解反反射巴拿赫空间中的变分不等式问题，我们引入一种带有改进自适应性规则的黄金比例次梯度额外梯度法。我们首先陈述以下条件：

条件C1. 算子?:?→?*在??上是伪单调且L-利普希茨连续的。

条件C2. 算子?:?→?*满足：若{????}???且???????（弱收敛于??），则‖?(??)‖_{?*}≤lim inf_{??→∞}‖?(????)‖_{?*}。

条件C3. 解集Ω≠?。

条件C4. 设??:?→?为一个Legendre、一致...

数值实验

在本节中，我们将通过在MATLAB R2025a中编写代码并在PC桌面计算机（Intel(R) Core(TM) i5-5300 CPU @ 2.30GHz 2.29 GHz，内存12.00 GB）上运行一些数值实验，与其他现有算法进行比较，展示我们提出的算法3.1的表现。

例4.1

设?=??2([0,1])，??:={??∈?:‖??‖≤2}，??:??→?定义为：

??(??):=1/(1+‖??‖^2)

注意f是Lf-利普希茨连续的，????=1/625，且对所有??∈??有??(??)∈[1/5,1]。Volterra积分算子??:?→?为：

结论

在本文中，我们引入了一种带有多个参数的改进黄金比例次梯度额外梯度法，用于求解反反射巴拿赫空间中的伪单调变分不等式问题。黄金比例技术和改进自适应性程序的应用消除了对涉及算子的利普希茨常数的需求。在适当的假设下，通过选择合适的参数，我们证明了一个弱收敛定理。此外，一些数值...

出版同意

不适用。

伦理审批和参与同意

不适用。

人类和动物伦理

不适用。

支持数据的可获得性

数据共享不适用于本文，因为当前研究期间未生成或分析任何数据集。

资助

本研究得到了国家自然科学基金（批准号：12601241）、重庆市自然科学基金（批准号：CSTB2024NSCQ-MSX1181）、重庆市教育委员会科技研究项目（批准号：KJQN 202500844）、重庆工商大学研究项目（批准号：2056022, 2152022）、重庆市教育委员会科技研究项目（批准号：...）的资助。

利益冲突声明

作者声明不存在利益冲突。

谢仲兵 | 关锦林 | 李敏

重庆理工大学数学科学学院，重庆，400054，中国