基于李雅普诺夫理论的dropout深度神经网络(Lb-DDNN)自适应控制器

《Automatica》:Lyapunov-based dropout deep neural network (Lb-DDNN) adaptive controller

【字体: 大 中 小 】 时间:2026年05月05日 来源:Automatica 5.9

编辑推荐:

  Saiedeh Akbari|Emily J. Griffis|Omkar Sudhir Patil|Warren E. Dixon 佛罗里达大学机械与航空航天工程系,美国盖恩斯维尔 FL 32611-6250 **摘要** 深度神经网络(DNNs)是功能逼近的成熟

  Saiedeh Akbari|Emily J. Griffis|Omkar Sudhir Patil|Warren E. Dixon
佛罗里达大学机械与航空航天工程系,美国盖恩斯维尔 FL 32611-6250

**摘要**
深度神经网络(DNNs)是功能逼近的成熟工具。然而,DNNs存在过拟合和共适应等问题,这些问题会影响其泛化能力和整体性能。一种强大的正则化技术是dropout,可以减轻过拟合和共适应问题。在dropout技术中,随机选定的神经元被忽略或“丢弃”,即它们对下游神经元的贡献暂时被移除,从而有助于缓解这些神经元的过拟合和共适应。本文提出了一种基于Lyapunov的dropout DNN(Lb-DDNN)正则化方法,用于停用DNN每一层中随机选定神经元的权重。Lb-DDNN通过一个包含多个基于DNN的控制器的集合来建模,每个控制器分别逼近未知的非线性动力学。这些控制器之间的切换由一个通用的状态和时间依赖的切换信号控制。同时,开发了一种基于Lyapunov稳定性的权重适配律,以在线适应DNN的权重。通过基于Lyapunov的稳定性分析确保了跟踪误差的渐近收敛。通过对一个五维非线性系统的仿真进行了广泛的消融研究,以探讨不同dropout训练参数对Lb-DDNN控制器性能的影响。仿真结果表明,与没有dropout正则化的基于Lyapunov的DNN(Lb-DNN)自适应控制器相比,Lb-DDNN在跟踪误差、功能逼近误差和控制功耗方面分别提高了34.56%、43.69%和33.88%。

**引言**
深度神经网络(DNNs)作为通用功能逼近器(Anderson, 1995),已成为识别和控制具有未知动力学和结构不确定性非线性系统的流行方法(Abbeel等人, 2010; Bansal等人, 2016; Li等人, 2017; OConnell等人, 2022; Punjani和Abbeel, 2015; Shi等人, 2019; Zhou等人, 2017)。通常,在基于DNN的控制方法中,DNN模型使用数值优化方法在离线训练数据集上训练,以识别模型动力学中的未知非线性(Brunton & Kutz, 2019第6.6节)。训练好的DNN作为前馈项与控制器中的静态权重估计一起使用,以补偿动力学中的结构不确定性。DNN权重不在线更新,因此缺乏对动力学变化的鲁棒性。相比之下,基于Lyapunov的DNN控制方法使用基于Lyapunov分析得出的权重更新律(Griffis等人, 2023; Hart等人, 2023; Joshi和Chowdhary, 2018; Joshi和Chowdhary, 2019; Le等人, 2022; O. Patil等人, 2022; O.S. Patil等人, 2022)。Joshi和Chowdhary(2018, 2019)的发展涉及在离线训练内层权重的同时实时更新外层权重。Griffis等人(2023)、Hart等人(2023)、O.S. Patil等人(2022)和O. Patil等人(2022)的最新发展使用基于Lyapunov的方法为DNN的所有层权重开发适配律(即基于Lyapunov的深度神经网络(Lb-DNNs)。O. Patil等人(2022)将Lb-DNN与Sun等人(2022)的离线DNN和基于Lyapunov的迭代调整DNN方法进行了比较,显示出在跟踪和功能逼近方面的性能提升。Lamb等人(2023)的结果表明,Sun等人(2022)的方法在轨迹跟踪能力上的表现优于传统的PID、模型参考自适应控制(MRAC)和深度MRAC(DMRAC)控制器。

**在线和离线训练**
由于数据过拟合,无论是在线还是离线训练都可能导致全连接DNN的性能下降。另一个降低训练好的DNN泛化和性能的挑战是共适应,即在训练过程中多个神经元甚至整个层变得过于依赖彼此(Charu, 2018)。一种有效的解决方法是通过dropout正则化。 Dropout最初由G. Hinton在Hinton等人(2012)引入,用于防止特征检测器的共适应并提高DNN的泛化性能。dropout正则化包括在训练过程中随机丢弃神经元,这有助于防止过拟合,提高整体功能逼近性能,并在更新网络权重时高效分配计算资源(Le等人, 2022; Srivastava等人, 2014)。通过将某些单独权重的激活设置为零,dropout在网络中引入稀疏表示,减少了神经元之间的依赖性。Dropout可以视为训练多个宽度较小的独立DNN集合。训练中的独立性具有正则化效果,并对新信息提供更好的泛化能力。这种直观的推理也适用于基于DNN的自适应控制,因为dropout通过减少影响适配律的权重数量来缓解共适应。Wei等人(2020)表明,dropout具有隐式的正则化效果,即dropouts的随机性在训练过程中引入了小的探索性扰动。尽管dropout正则化已被用于DNN的离线训练(如Ba和Frey(2013)以及Dahl等人(2013)的研究结果),但在实时自适应控制中的应用有限。O. Patil等人(2022)和O.S. Patil等人(2022)开发的Lb-DNN控制架构相比Sun等人(2022)的先前版本,在跟踪和功能逼近性能上有所提升。O.S. Patil等人(2022)的结果使用了残差神经网络(ResNet),这种架构不同于DNN,因为它包含快捷连接。这些连接通过在反向传播过程中允许梯度绕过某些层来解决梯度消失问题。与DNN类似,ResNets仍然容易过拟合和共适应。本文旨在通过使用时间和状态依赖的随机化矩阵来改进O.S. Patil等人(2022)首次提出的Lb-DNN的dropout技术。然而,在实时自适应控制方法中应用dropout正则化面临诸如问题表述和设计等挑战,需要以易于处理的形式利用dropout的通用功能逼近特性,并设计适合适配律设计和基于Lyapunov稳定性分析的适当dropout策略。在Lb-DNN中使用dropout引入了各种开放性问题,例如何时以及多久执行dropout,何时停用它们,应丢弃多少神经元等。

**本文提出了一种基于DNN的自适应控制器的dropout训练算法,该算法使用构建的基于Lyapunov的适配律(即基于Lyapunov的Dropout深度神经网络(Lb-DDNN)架构)实时更新DNN权重。所提出的技术涉及选择性停用或丢弃每个DNN层中随机选定神经元的权重。为了将dropout纳入自适应DNN架构并促进稳定性驱动的权重适配律的设计,使用随机化矩阵开发了Lb-DDNN模型的递归表示。设计的Lb-DDNN架构被建模为一系列在选定节点集合之间切换的较小DNN。通过在稳定性分析和稳定性驱动的权重适配律中纳入较小DNN之间的切换,通过非光滑的基于Lyapunov的稳定性分析,确保设计的控制器和权重适配律能够保证跟踪误差渐近收敛到零。**

**为了探讨实际应用dropout时的上述问题,在一个五维非线性系统上进行了广泛的消融研究,以探究不同dropout训练参数对Lb-DDNN控制器性能的影响。具体来说,仿真实验研究了dropout停用时间、改变dropout配置的频率以及丢弃的神经元数量的影响。此外,还进行了额外的仿真,将Lb-DDNN自适应控制器与O.S. Patil等人(2022)开发的基线自适应DNN控制器进行了比较,并比较了这两种控制器在非轨迹数据集上的功能逼近性能。同时,还研究了Lb-DDNN自适应控制器与窄NN自适应控制器和稀疏Lb-DNN架构的性能。还包括了将开发的Lb-DDNN与剪枝方法进行比较的仿真。尽管剪枝方法已广泛应用于离线学习问题,但它们不适用于在线学习。因此,引入了一种在线剪枝算法与开发的Lb-DDNN进行比较。仿真结果表明,与O.S. Patil等人(2022)的基线控制器相比,所提出的控制器在跟踪误差、功能逼近误差和控制功耗方面分别提高了34.56%、43.69%和33.88%)。第5.2节提供了其余消融研究参数的影响。**

**符号说明**
给定集合A、B、C和函数f1:A→B以及f2:B→C,f2°f1表示函数f1和f2的复合。f1和f2的复合是一个新函数f:A→C,定义为f?f2°f1=f2f1,对所有a∈A成立。维度为p×q的零矩阵表示为0p×q。维度为p的单位矩阵表示为Ip。设A+∈Rn×m表示矩阵A的右伪逆,其中A+??A??A?A???1。对于x∈R,令元素级符号函数定义为sgnx?1(x>0),sgnx?0(x=0)。

**基于Lyapunov的dropout深度神经网络架构**
在本节中,开发了一种Lb-DDNN架构来补偿(1)中的未知漂移向量场。为了设计DNN架构的dropout方法,随机选择DNN每一层的权重并将其置零,其余权重根据稳定性驱动的适配律进行更新。在训练过程中省略随机选定的权重可以减少过拟合和共适应等问题,因为它减轻了对特定神经元和权重的过度依赖。

**稳定性分析**
设连接向量z:R≥0→Rψ定义为zt?e?t,θ??t?,其中ψ?n+∑j=0kLjLj+1。由于(10)和(15)中的不连续性,后续稳定性分析集中在广义解上。随后分析每个子系统的收敛特性,并据此得出整个切换系统的特性。后续分析使用了Kamalapurkar等人(2019)中的切换分析技术。设Fi:Rψ×R≥0?Rψ是一个集值映射,其微分...

**方法**
为了展示Lb-DDNN自适应控制器的性能和有效性,基于一个五维非线性系统(即动态模型1)的仿真进行了消融研究。使用该模型,漂移向量场f定义为f=x1x22tanhx2+sinx12cosx1+x2+x33?expx22+x1x2x32log1+absx1?x2sinx1+x222?expx312+x1+x3x2tanhx2+cosx12,其中x?x1,x2,x3,x4,x5?:R≥0→R5表示系统状态。每个仿真实验持续10秒,初始条件为x0=5,1,...

**结论与未来工作**
本研究开发了首个Lb-DDNN,用于补偿一般控制仿射非线性动态系统中的未知漂移向量场,以实现轨迹跟踪目标,同时减轻共适应和过拟合。dropout技术随机选择DNN每一层的一批神经元,并将其相关权重置零,同时根据基于Lyapunov的更新律更新其余权重。每δt时间,随机选择新的一批神经元,并在每个...

Saiedeh Akbari是佛罗里达大学机械与航空航天工程系的博士候选人。她的研究重点是开发针对随机非线性系统的自适应学习控制策略。Saiedeh于2020年在KN Toosi理工大学获得了机械工程学士学位。在本科期间,她研究了永磁直流电机的离散时间滑模控制。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号