从二次规划视角看神经网络同步控制

《Neurocomputing》：A quadratic programming perspective on neural network synchronization control

　　摘要：本研究通过将控制李雅普诺夫函数嵌入凸二次规划框架，探讨了神经网络系统的主从同步控制问题。对于无干扰网络，我们将CLF条件表述为对输入的线性约束，该约束明确考虑了激活函数的影响，并可得到最优控制器。当无法获得激活函数的全局利普希茨界以及权重矩阵的谱信息时，可通过高斯过程直接从数据中学习未知的非线性项，将其后验均值和方差纳入CLF约束中，从而动态调整约束强度。这一机制同样适用于存在干扰的网络，此时借助高斯过程得到的上置信界无需依赖先验干扰模型即可实现高概率同步，进而通过单次优化步骤统一处理不同场景，降低控制策略的保守性。数值研究验证了所提出控制器的有效性。

引言：神经网络已广泛应用于信号处理、模式识别和控制科学等领域[16][17][26][28]。系统稳定性是该领域重要的研究方向，相关综述可见[6][31]。在众多研究主题中，主从同步因其在图像加密和安全通信等领域的关键应用而受到广泛关注[5][19]。为实现主从同步控制，近年来提出了多种控制策略，包括反馈控制[20]、固定点控制[30]、非周期性间歇控制[15]、自适应控制[25]以及脉冲控制[14]。

稳定性分析通常采用李雅普诺夫稳定性理论，该理论要求在特定可行控制输入作用下，李雅普诺夫候选函数能够收敛。控制李雅普诺夫函数的概念最初由[3][21]提出，其中定义了一组控制输入，这些输入能够确保CLF函数的收敛。为从该组输入中确定最优控制输入，尤其是在仿射控制系统中，人们会将CLF函数作为约束条件纳入二次规划优化框架中，此时成本函数以二次形式构建[9][10]。由于同时兼顾了稳定性和最优性，基于CLF的二次规划控制方法已被成功应用于各类控制系统，如保证非线性仿射控制系统的稳定性[2]、安全关键系统中的自适应控制[33]以及多智能体系统中的共识形成[12]。关于基于CLF的二次规划控制方法的详细综述可见[13]。

与神经网络同步领域中常用的专用控制方法相比，基于CLF的二次规划控制框架的优势在于无需针对不同场景单独设计控制策略，而是提供了一种统一且系统化的方法：一旦构建出合适的CLF函数，只需求解相应的二次规划问题即可得到最优控制器。在本研究中，我们探讨了将该框架应用于神经网络系统的可行性，并致力于进一步拓展其在更复杂控制场景中的应用范围。

此外，外部干扰是影响控制系统的常见因素，已有大量研究对其影响进行了分析。为减轻这些干扰的影响，文献中常采用基于观测器的方法，其中基于状态的Luenberger观测器[27]就是广泛应用的一个例子。在基于CLF的二次规划控制框架中，Zhao等人[33]通过为干扰的初始值和增长率设定界限来应对干扰。然而，由于该方法依赖于最坏情况假设，往往具有较高的保守性。在[11]中，人们利用对干扰模型的先验知识设计了基于模型的干扰观测器。另外，[22]中提出的输入到状态稳定性概念也被扩展用于处理输入到状态类型的干扰，如[1]中所讨论的，这类约束在比预期更广泛的范围内仍能得到满足。

还有研究探索了各种控制策略来描述干扰对系统稳定性的影响[24]。在[8]中，针对神经网络提出了混合驱动控制方法，通过比较引理的框架来处理外部干扰。在许多此类研究中，人们通常假设能够获取干扰的能量界限或利普希茨常数等信息，并将其用于控制设计。为减少对这类先验信息的依赖，人们采用了强化学习等基于学习的方法，通过采样数据来处理系统干扰[7]，但由于学习过程中的不确定性，这类方法也存在一定程度的保守性。作为一种替代方案，高斯过程回归作为一种数据驱动方法，已被证明可用于根据采集到的数据估计未知干扰。经过训练的高斯过程模型能够提供扰动估计的均值和方差，使得这些后验信息能够有效融入控制系统。因此，本研究采用高斯过程方法以数据驱动的方式估计并补偿干扰。

基于上述讨论，本研究聚焦于神经网络系统的同步控制问题。主要贡献如下：（1）我们提出了一种基于CLF的二次规划公式，用于实现神经网络主从系统的同步控制，该公式通过单次凸二次规划即可得到控制器，无需像现有方法那样针对不同场景进行单独设计。（2）我们在CLF约束中明确考虑了激活函数的影响，同时通过高斯过程代理模型，无需依赖权重矩阵的全局利普希茨界和谱信息，即可从数据中学习未知的非线性项，从而降低了现有方法中基于最坏情况假设的保守性。（3）在存在干扰的情况下，我们通过高斯过程的后验分布，利用均值加偏差的上界形式给出概率同步保证，无需依赖干扰模型或固定的增长界限，同时还能提供置信水平。该框架既通过CLF确保系统稳定性，又通过二次规划实现最优控制，同时还保持了凸优化的效率，解决了那些仅能提供定性稳定性却无法得到最优控制输入的方法的局限性。

符号说明：表示维向量空间；表示维矩阵空间；表示单位矩阵；表示所有元素均为1的维向量；表示欧几里得范数；表示对角线元素为的対角矩阵；表示概率测度；表示矩阵的谱范数，其计算方式为。

控制李雅普诺夫函数：考虑以下控制仿射系统：

定义1[3]：若存在连续可微函数，满足，其中为正常数，为控制输入的定义域，则称为控制李雅普诺夫函数。需要注意的是，是函数沿系统（1）的李导数。根据定义1，可定义如下集合：实际上，该集合通常包含多个元素。也就是说，多个控制输入可以满足CLF条件，进而使得对应的CLF函数收敛。

基于CLF的二次规划控制方法：本节研究神经网络（7）（8）的同步控制问题。给定在（9）中定义的误差，其动态行为可表示为。由于有效的CLF函数收敛即可实现误差的收敛，因此可考虑以下候选函数：该函数沿系统（10）的导数为。根据（3），用于稳定误差的可行控制输入可表示为，这些控制输入通常会与以下的二次规划优化问题结合使用。

CLF-GP融合的二次规划控制方法：在本部分，我们提出另一种方法，使原有的二次规划问题（14）能够得到求解。为估计未知项，我们采用高斯过程回归来预测其均值和方差。高斯过程模型可使用包含个样本的数据集进行训练。每个样本可表示为，其中为添加新样本及更新高斯过程模型时的时间点。根据（6），对于某个测试输入，高斯过程可为其估计出均值和方差的值，分别记为和。

仿真验证：本节通过三个数值示例来验证前述二次规划控制方法的可行性。

示例1：考虑无干扰的神经网络（7）（8），系统矩阵取为。激活函数为，它是一个利普希茨连续函数，其界为。矩阵的最大特征值为。初始状态值随机选取，在本例中分别为和。在基于CLF的二次规划控制方法（16）中，取矩阵为，进而可得到相应的控制结果。

结论：本文从二次规划的角度研究了神经网络系统的同步控制问题，涵盖了无干扰和存在干扰的主从系统场景。首先，针对无干扰的神经网络系统，提出了一种基于CLF的二次规划控制策略，该策略的CLF约束构建依赖于激活函数的利普希茨界以及权重矩阵的先验知识。为降低对模型信息的依赖，本文还提出了其他改进方法。

CRediT作者贡献声明：曹玉婷负责原文撰写、验证、软件实现、方法设计及形式化分析；李博谦负责文章审阅与编辑、研究指导、方法设计及形式化分析；文世平负责文章审阅与编辑、方法设计；黄廷文负责文章审阅与编辑、方法设计。

利益冲突声明：作者声明不存在任何可能影响本文研究成果的已知财务利益或个人关系。

致谢：本研究得到了国家自然科学基金（项目编号：62506239、62506048、62366034）的资助。曹玉婷于2017年在中国武汉的华中科技大学人工智能与自动化学院获得控制科学与工程专业硕士学位，2022年在中国长沙的湖南大学数学学院获得数学专业博士学位。她的研究兴趣包括神经网络、深度学习、计算机视觉及其应用领域。

曹玉婷|李博谦|文世平|黄廷文
中国深圳市518055，深圳技术大学计算机科学与控制工程学院