复值混合阶神经网络:一种针对动态广义李亚普诺夫方程的新型抗噪声求解策略
《Neural Networks》:Complex-Valued Hybrid-Order Neural Network: A Novel Noise-Resilient Solving Strategy for Dynamic Generalized Lyapunov Equation
【字体:
大
中
小
】
时间:2026年10月06日
来源:Neural Networks 7.2
编辑推荐:
• 提出了一种复数值混合阶神经网络(CV-HBONN),用于求解复数值动态广义李雅普诺夫方程(CV-DGLE)。该网络采用了新颖的混合幂误差函数设计,这种设计将分数阶项集成到符号双幂激活函数中以实现有限时间收敛,积分项用于抗噪声,累积项用于加速误差下降,这些特性与高阶神经网络类似
• 提出了一种复数值混合阶神经网络(CV-HBONN),用于求解复数值动态广义李雅普诺夫方程(CV-DGLE)。该网络采用了新颖的混合幂误差函数设计,这种设计将分数阶项集成到符号双幂激活函数中以实现有限时间收敛,积分项用于抗噪声,累积项用于加速误差下降,这些特性与高阶神经网络类似,共同构成了一个统一且连贯的框架。• 三种代表性的实数值归零神经网络模型——AZNN、PID型ZNN和HONN——首次被扩展到复数域中,以求解CV-DGLE,为与提出的CV-HBONN进行公平直接的性能对比提供了基础。• 对所有四种模型都建立了严格的收敛性和抗噪声性证明,并系统地分析了它们之间的理论关系和区别。• 数值实验验证了理论结果的正确性;展示了超参数对CV-HBONN的影响;并突出了CV-HBONN在收敛性和抗噪声性方面的优越性。
引言
李雅普诺夫方程在稳定性分析、最优控制和安全共识控制中起着重要作用(Arockia Samy等人,2025年;Huang等人,2021年;Liu等人,2022年),特别是在需要快速且抗噪声解决方案的动态和噪声环境中,例如分布式微电网控制(Lin等人,2023年)。广义李雅普诺夫方程(GLE)通常表示为 ??*??????+??*??????=???,其中 ??,??,??∈????×?? 是给定的矩阵,??∈????×?? 是需要求解的矩阵(Huang和Huang,2025年)。?? 是一个数域,不限于实数域 ?。当 A 或 B 是单位矩阵时,GLE 退化为其标准形式,这种形式已在图像处理(Uhlig和Xu,2023年)、多智能体系统(Chen等人,2022年)和稳定性分析(Fule等人,2021年)中得到广泛应用。已经有很多研究致力于求解标准李雅普诺夫方程(SLE)。相比之下,复数值GLE受到的关注较少,主要是由于其固有的复杂性。一种实用的(尽管是间接的)求解复数值GLE的方法是通过矩阵乘法和求逆将其转换为复数值SLE,然后将其视为复数值西尔维斯特方程的一种特殊情况,即 ?????+?????=??(Hu等人,2022年),并使用最初为这类西尔维斯特方程开发的方法进行求解。最近的研究表明,重新构造数学等价表达式可以在保持数值准确性的同时大幅减少计算时间(López-Benítez和Alhulayil,2025年)。Zhao和Zhang开发了自适应归零神经网络来求解时变广义西尔维斯特方程,展示了动态系数和变指数激活策略在这类方程中的潜力(Zhao和Zhang,2026年)。这一发现突显了计算效率高的直接求解器的重要性。受到这一考虑的启发,本文旨在提出一种通用且实用的求解李雅普诺夫方程的策略,重点关注复数值动态广义李雅普诺夫方程(CV-DGLE)的情况,即 ??=???(??);??=???(??);??=???(??);??=???(??);??=?,其中 t 表示时间变量。在过去的几十年中,已被证明有效的求解SLE的方法主要分为两类:数值迭代算法和循环神经网络(RNNs)(Li等人,2023年;Wang、Hao、Zhang、Jin,2022年;Wang、Huang、Shi、Wang、Fu、Jin、Xiuchun,2021年;Yan等人,2019年;Yi等人,2013年)。Wang等人设计了一种抗噪声的牛顿-拉夫森迭代算法来求解动态SLE,并验证了其性能,无论是否存在噪声(Wang等人,2021年)。他们将这种算法与两种归零神经网络(ZNNs)进行了比较,其中全连接神经元展示了RNN的特性。实验结果表明,这两种ZNN中的一种收敛速度更快,但噪声抑制能力较差。此外,他们的算法可以转化为ZNN的离散化形式,这种离散化形式同时具有较好的收敛性和抗噪声性(Yan等人,2019年)。实际上,早在2011年,Zhang等人就在Zhang等人(2011年)的研究中澄清了牛顿-拉夫森迭代是ZNNs的一种特殊情况。在那项研究中,他们比较了两种方法,并发现牛顿-拉夫森算法在解决某些特殊问题时可能会失败或陷入振荡。2022年,Wang等人进一步开发了一种新型的有界ZNN模型,在求解动态SLE时表现出有限时间收敛性和良好的抗噪声性(Wang等人,2022年)。实际上,RNNs在高效建模和计算复数时变系统方面具有内在潜力,在广泛的工程应用中仍然非常重要。最近的研究调查了在耦合磁力、热力和滑移效应下的分数纳米流体系统的瞬态传输现象(Abbas等人,2025b)。同时,基于人工神经网络的方法已被用于近似复数纳米流体系统中物理参数与传输响应之间的非线性关系(Abbas等人,2025a;Ramzan等人,2025年)。这些研究共同展示了基于物理的动力学建模和神经计算的互补作用,进一步凸显了对时变非线性系统高效计算方法的需求。在这一背景下,由于其 inherent 的并行处理和分布式存储能力,RNNs被认为更适合信息存储(Xiao等人,2020年)。例如,Ali等人结合LSTM和图卷积来联合捕捉城市交通流预测中的时间演变、空间依赖性和外部因素(Ali等人,2022年)。除了ZNN之外,另一种有效的RNN模型是基于梯度的神经网络(GNN)。通常,GNNs非常适合求解静态问题,但由于它们的滞后误差较大,不太适合非平稳情况(Yi等人,2013年)。然而,使用自适应参数捕捉时间信息(Li等人,2023年),以及添加非线性(Zhang,2022年),可以显著提高GNNs消除稳态误差的性能。相比之下,ZNNs在解决动态问题方面尤为突出和流行,因为它们本质上是连续的,并且是为时变场景设计的(Chen等人,2024年)。一般来说,ZNN定义了一个时变误差函数,并使其以期望的方式遵循导数形式下降(Wu和Zhang,2023年)。它不仅迫使误差趋于零,还引导误差导数趋于零。因此,在处理时变问题时,ZNNs比数值算法和GNNs更智能。在过去的几十年中,已经发展出许多强调性能提升的研究。有三种主要的改进方法激发了我们构建本工作中新型模型的灵感。非线性激活函数(AFs)使ZNNs具有更快的收敛速度和更好的抗噪声性(Yang等人,2025年)。符号双幂(SBP)AF被广泛用作设计新型AF的基础,有效地将它们的收敛速度从指数时间提升到有限时间(Xiao等人,2024b)。Lv等人设计了一种改进的SBP(I-SBP)AF用于求解李雅普诺夫方程(Lv等人,2018年),进一步加快了收敛速度。在Tang等人(2025年)的研究中,将误差自适应权重整合到I-SBP AF中,构建了一个基于ZNN的机器人最优路径跟踪模型,证明了其高效性和鲁棒性。不仅如此,该模型还被证明具有预定义时间收敛性(He等人,2025年)。最近,在Yang等人(2026年)的研究中,通过引入指数增益权重和修改后的幂指数,提出了一种新型AF,使模型能够实现预定义时间收敛,并且与有限时间收敛模型相比表现出更好的抗噪声性。从上述文献中的理论证明和实验结果可以看出,模型的有限时间收敛或预定义时间收敛主要来源于SBP AF中的分数幂。由于复数时变系统经常受到外部干扰,因此需要稳健的方法(Ali等人,2026年)。对于模型驱动的ZNN求解器,需要加入某种抗外部噪声的机制。将积分项整合到ZNN模型中,称为PID型ZNN,已被证明是一种有效的抗噪声策略。由此产生的模型通常被称为PID型ZNN,因为累积残差提供了额外的积分校正作用。例如,在求解动态立方根问题时,Wang等人构建了一个积分增强型ZNN模型。数值实验表明,该模型对恒定噪声、随机噪声和线性噪声都具有较好的鲁棒性(Wang等人,2023年)。Xiao等人为积分增强框架设计了一种新型AF,并展示了其在解决四元数场中的四元数值矩阵方程以及在噪声环境下的适用性(Xiao等人,2025年)。该模型还应用于彩色图像处理(Xiao等人,2025年)。在Wang等人(2024年)的研究中,为了实现面向应用的离散化,设计了一种收敛速度较慢但结构更简单、计算效率更高的积分型ZNN模型。噪声实验 confirm 了这种模型在实际应用中的良好鲁棒性(Wang等人,2024年)。尽管这种模型的收敛速度相对较慢,但在离散化后降低了计算负担并保持了抗噪声性。文献中已知单个积分对恒定噪声有良好的响应。受此启发,许多研究在ZNN模型中引入了双积分项以实现抗线性噪声。例如,在Chen等人(2025年)的研究中,构建了一种新型ZNN模型来求解线性方程流,其中积分项提供了良好的抗噪声能力,并为求解时变线性方程流而开发。积分项增强了抗噪声性,而基于时间的参数有助于实现预定义时间收敛(Xiang和Gong,2025年)。从文献中可以看出,积分项用于累积历史误差对于在噪声环境中修改状态演变至关重要。此外,高阶神经网络(HONNs)因其更快的收敛速度而被广泛研究(Jerbi等人,2025年;Simos等人,2022年;Stanimirovi?等人,2020年;Xiao等人,2024a)。受到超幂迭代方法的启发,这些方法以表现出更高的收敛速度,Stanimirovi?等人在设计ZNN以求解动态矩阵求逆时创造性地定义了一种累积超幂误差函数(Stanimirovi?等人,2020年)。严格的理论分析和比较实验确认,使用超幂误差函数的HONN比使用传统误差函数的ZNN收敛速度显著更快。Simos等人验证了HONN在求解矩阵伪逆和移动对象定位方面的效率(Simos等人,2022年)。最近,Jerbi等人提出了一种中性逻辑驱动的HONN,以增强解决线性矩阵方程和声源跟踪任务的适应性(Jerbi等人,2025年)。在Xiao等人(2024a)的研究中,简化了超幂误差函数以减少计算负担,并结合变化参数和某些非线性AF,开发了一种新型神经求解器以实现矩阵Cholesky分解。结果表明,这种方法相对于现有的ZNN设计框架加速了收敛速度。从上述文献中可以确定三个改进ZNN的关键因素:类似SBP的AF可以缩短收敛时间,积分项可以抵抗外部干扰,累积超幂误差函数可以加速误差下降。然而,这些机制通常是单独研究的,现有的模型在直接求解复数值动态广义李雅普诺夫方程(CV-DGLE)时难以同时实现快速有限时间收敛和强抗噪声性。受到这些研究的启发,提出并应用了一种混合阶神经网络来求解复数值动态广义李雅普诺夫方程(CV-DGLE)。本研究提出了一种新颖的方法,并设计了首个专门用于解决CV-DGLE问题的ZNN。主要创新和贡献总结如下:
1) 提出了一种复值混合阶神经网络(CV-HBONN)来解决CV-DGLE问题。该网络采用了一种创新的混合功率误差函数设计,将分数阶项(用于SBP AFs中的有限时间收敛)、积分项(用于抗噪声)和累积项(用于加速误差下降,如HONNs中所示)整合到一个统一且连贯的框架中。
2) 首次将三种代表性的实值归零神经网络模型扩展到复数域,以解决CV-DGLE问题,为我们的CV-HBONN提供了公平且直接的性能基准。
3) 为所有四种模型建立了严格的收敛性和抗噪声性证明,并对其理论关系和区别进行了系统的比较分析。
4) 数值实验验证了理论结果的正确性;说明了超参数对CV-HBONN的影响;并突出了CV-HBONN在收敛性和抗噪声性方面的优越性。
本研究共分为六个部分。第2部分阐述了需要解决的CV-DGLE问题,重新设计了CV-HBONN,并扩展了三种现有的ZNN模型。第3.1节从理论上分析了CV-HBONN的收敛性和抗噪声性。对于这三种扩展模型,其理论结果在第3.2节中给出,详细推导过程见附录A-C。第4节提出了大量的比较实验。第5节总结了整个研究。
以下是本文中使用的一些符号说明:
- 上标T和*分别表示转置和共轭转置。
- 上标re和im分别表示实部和虚部。
- 下标rc表示矩阵中第r行第c列的元素。
- j表示虚数单位。
- 符号‖·‖2和∥·∥F分别表示2-范数和Frobenius范数。
- |·|和|·|.i分别表示元素的绝对值和元素的i次方。
- 符号⊙表示Hadamard积。
- 函数sign(x)在x>0时返回1,在x=0时返回0,在x<0时返回-1。
- vec(·)将矩阵转换为列向量。
- ?2(·)表示神经动力学中采用的标量激活函数。
- ??2(·)是?2(·)的复数对应形式,分别对输入矩阵的实部和虚部进行操作。
**问题陈述与神经模型**
复值动态广义李雅普诺夫方程通常表示为:
$$
A^*(t)X(t)B(t) + B^*(t)X(t)A(t) = -C(t),
$$
其中A(t)、B(t)和C(t)是??×?的矩阵,而X(t)∈??×?是未知矩阵,当且仅当??(t):=B^T(t)?A^*(t) + A^T(t)?B^*(t)是非奇异的时,X(t)唯一存在。
**假设**
为了建立模型和进行理论分析,我们假设:
1) A(t)、B(t)和C(t)是连续可微的;
2) 存在一个?>0,使得∥??^{-1}(t)∥F???。
**ZNN的设计**
本节讨论了新设计的CV-HBONN以及三种扩展的ZNN模型的收敛性和抗噪声性。需要注意的是,这三种扩展模型是从现有方法扩展到复数域以解决CV-DGLE问题的。因此,先前证明的定理不再重复,但由于领域扩展而可能具有不确定有效性的结果会经过严格证明。详细证明见附录A-C,以保持手稿的清晰度。
**数值实验**
本文通过使用CV-HBONN(8)和激活的CV-HBONN(9)来解决一个人工设计的CV-DGLE示例,来展示它们的性能。首先验证并比较了它们的退化情况(见表2),这些退化情况也代表了其他三种扩展ZNN模型的特殊情况。接下来,通过调整CV-HBONN(8)中的超参数,进行了一些实验以展示CV-HBONN(8)的一般性质,并揭示其巨大的影响。
**结论**
为了解决CV-DGLE问题,本研究通过将分数幂项、积分项和累积项纳入误差矩阵中,设计了CV-HBONN。这三个项分别负责实现有限时间收敛、增强抗噪性以及进一步加速实时误差的下降速度。此外,三种典型的ZNN模型被扩展到复数域以解决CV-DGLE问题,并作为对照组。严格的分析和比较实验结果表明了CV-HBONN的优势。
**作者贡献声明**
左秋月:撰写——原始草稿、验证、资金获取、形式分析、概念化。
周宇轩:撰写——审稿与编辑、可视化、验证。
肖琳:撰写——审稿与编辑、监督、资金获取。
秦云川:撰写——审稿与编辑、验证、监督。
**利益冲突声明**
作者声明他们没有已知的可能影响本文工作的竞争性财务利益或个人关系。
**致谢**
本研究部分得到了国家自然科学基金(项目编号62406109和62573109)和湖南省自然科学基金(项目编号2024JJ6320)的支持。
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号