朝着更快、更能抵御干扰的复值优化神经动态模型迈进

《Chaos, Solitons & Fractals》：Towards faster and disturbance-resilient neurodynamic model for complex-valued optimization

　　摘要
动态复合二次规划（DCQP）出现在具有复数值、时变变量的应用中。零化神经动力学为在线DCQP提供了一种连续时间方法，尽管现有公式可能表现出对干扰的敏感性、在原点附近的缓慢过渡，或依赖于手动选择的恒定增益。本文提出了一种鲁棒有限时间零化神经动力学（RFTZN）模型，其残差动力学结合了分量复数值有限时间激活函数、反正切调度增益和积分反馈。在指定的假设下，分析确立了适定性、残差收敛性、统一的有限时间上界以及对于分量有界干扰的最终残差界。数值研究检验了校准的增益计划、激活参数选择、五种有界干扰类别、可扩展性、理论界限、分量消融和重复运行的可变性。此外，还通过将约束能量最小化（CEM）表达为受限二次规划，并使用RFTZN解决其最优性系统，考虑了一个无需学习的遥感应用。

引言
约束二次规划用于机器人运动规划[1]、[2]、[3]、[4]、[5]、[6]、[7]、[8]、[9]、[10]、[11]、[12]、结构形式查找[13]、图像处理[14]、[15]、电力系统[16]、通信[17]、信号处理[18]和空气动力学[19]。相关公式也出现在分布式多机器人协调[20]、冗余操作器的稀疏运动规划[21]以及医疗工程设计[22]、[23]、[24]中。在这些设置中，诸如相位、幅度、发射器状态或流动方向等量通常由复数值向量表示[25]、[26]。因此，复数值模型可以保留否则需要耦合实数值表示的关系[27]、[28]。干扰衰减也是更广泛研究复非线性动力学中的一个核心问题[29]。
对于时变问题，省略导数补偿的求解器可能会表现出跟踪滞后[30]、[31]、[32]、[33]、[34]、[35]、[36]、[37]、[38]，从而导致解决方案精度下降[39]、[40]、[41]、[42]、[43]。最近的优化和神经动力学研究考虑了共同进化机制[44]、用于时变零寻找或动态规划的修改后的梯度网络[45]、[46]以及激活梯度机制[47]。对于DCQP，Qi等人引入了复数值神经动力学模型中的反馈以减弱干扰[48]，而Jiang等人将非线性激活扩展到复数值约束优化[49]。后续工作研究了这些系统中的干扰敏感性[50]、[51]、[52]、[53]。Song等人开发了用于DCQP的积分增强模型，并将其应用于机械臂控制[54]；Zhou等人研究了有限时间零化神经动力学电路框架[55]。这些贡献解决了问题的不同方面，但它们没有共同提供用于DCQP残差系统的分量复数值有限时间激活、时变增益和积分反馈[56]、[57]、[58]。
受这些要求的启发，我们将RFTZN表述为在线DCQP的耦合残差误差系统。积分反馈用于干扰调节，所提出的分量激活提供了有限时间分析中使用的非Lipschitz项，而正的时变增益在不改变平衡方程的情况下塑造了瞬态响应。通过明确假设下的分析结果、针对所述问题实例的数值比较以及基于CEM的遥感示例来评估该贡献的范围。主要贡献如下：
- 我们通过将复数值有限时间激活函数、反正切动态缩放因子和积分反馈通道嵌入到一个残差误差系统中，提出了在线DCQP的RFTZN解决方案。这种设计专门针对复数值DCQP，而不是实数值静态优化。
- 我们通过建立适定性、推导收敛证明中使用的级联条件、扩展有限时间收敛计算以及澄清所提出的CVAF的连续性、单调性、可微性和非Lipschitz行为来加强理论分析。
- 我们报告了校准的缩放函数比较、耦合的??,??,??敏感性、五种有界干扰类别、与分析残差和稳定时间界限的比较、可扩展性测试、干扰消融和重复运行统计。
- 我们通过展示如何将CEM转换为受限二次规划并通过所提出的RFTZN-CEM方案解决它，将优化模型与无需学习的遥感目标检测联系起来。

本文的其余部分组织如下。第2节定义了DCQP并回顾了相关的神经动力学公式。第3节介绍了RFTZN残差动力学和激活函数。第4节给出了收敛性、有限时间和有界干扰分析。第5节报告了数值比较，第6节介绍了CEM应用，第7节总结了发现和局限性。

问题定义和转换
本研究中考虑的DCQP问题是[48] min???(???(??))=‖???(??)????(??)+???(??)‖22,s.t.???(??)????(??)=???(??)，其中??2(??)∈???是在线决策变量，??2(??)∈???，??2(??)∈???，??2(??)∈???×??，??2(??)∈???×??。写作??2(??)=??2(??)+??3??2(??)，并将实数值目标表示为?2(??2(??),??2(??))。将??和???视为Wirtinger意义上的独立变量[59]，得到??????2(??2(??))=????2(??2(??))?????2(??)=123(???2(??)????2(??)+??3???2(??)????2(??))。定义??2(??)=??H2(??)???H2(??)∈???×??和??2(??)=??H2(??)???2(??)∈???，其中(?)H表示共轭转置。

方法论表述和分析
所提出的模型在[30]中的非线性反馈动力学基础上增加了时变增益和复残差的分量激活。图1总结了从DCQP最优性系统(3)构建RFTZN(17)的过程。设计目标是在测试设置下实现更短的残差过渡和对有界干扰的可分析最终响应。

理论分析
本节确立了RFTZN(17)的适定性、收敛性、有限时间稳定界限和有界干扰响应。首先陈述了证明中使用的假设和稳定性概念。
- 常设立场假设。在整个分析过程中，??2(??)、???(??)、??2(??)和???(??)在每个有限时间区间内都是连续且有界的。对于每个??≥0，KKT矩阵??2(??)具有满行秩，因此是非奇异的；其Moore–Penrose逆???2(??)=???1(??)是局部有界的。

实验分析
本节在所指定的DCQP实例上评估了RFTZN。自适应步长模型比较和固定步长鲁棒性分析使用不同的参数配置，在讨论结果之前确定了这些配置。分析涵盖了无干扰和受干扰模型比较、增益和激活参数、五种有界干扰类别、消融、可扩展性和有限时间界限。

应用于CEM目标检测
本节将RFTZN应用于约束能量最小化(CEM)的最优性系统。CEM需要预设的目标签名，但不需要监督训练或大量标记的数据集。这里的目的是将DCQP求解器与受限滤波器设计问题联系起来，并报告四个RGB遥感图像上的残差行为；没有与基于学习的检测器进行比较。设??=[???,?,???]∈??×??，其中??是像素数量，???=[???1,???2,???3]T包含...

结论
本文通过将分量非Lipschitz激活、正的下限调度增益和积分反馈耦合在一个复数值残差系统中，为在线DCQP制定了RFTZN。在常设立场假设下，分析确立了残差收敛性、统一的有限时间上界以及对于分量有界干扰的保守最终界限。对于在线DCQP，统一的稳定界限限制了残差误差可能持续存在的区间。

CRediT作者贡献声明
Song志远：撰写——原始草案，可视化，形式分析，数据整理。
He慧婷：撰写——原始草案，数据整理。
Jiang成泽：撰写——审阅与编辑，方法论。

利益冲突声明
作者声明他们没有已知的可能会影响本文报告工作的竞争财务利益或个人关系。