《Neurocomputing》：Discrete-time zeroing neural networks: Models, developments, and robotic applications—A survey
编辑推荐：
•本文系统地综述了离散时间零梯度神经网络（DTZNN）的研究进展，填补了DTZNN模型专用综述的空白。•本文全面回顾了DTZNN在机器人系统中的代表性应用，从而突出了DTZNN在实时工程任务中的实际意义和研究价值。•基于现有研究，本文进一步讨论了DTZNN的几个有前景的未来研
- •
本文系统地综述了离散时间零梯度神经网络（DTZNN）的研究进展，填补了DTZNN模型专用综述的空白。
- •
本文全面回顾了DTZNN在机器人系统中的代表性应用，从而突出了DTZNN在实时工程任务中的实际意义和研究价值。
- •
基于现有研究，本文进一步讨论了DTZNN的几个有前景的未来研究方向，为后续研究提供参考。
引言
零梯度神经网络（ZNN）作为一种实用的计算框架，已被广泛研究。凭借其并行计算能力和强大的实时跟踪性能[1]、[2]、[3]，基于ZNN的方法已成功应用于广泛的领域，包括图像处理[4]、[5]、[6]、数字信号处理[7]、[8]以及机器人运动学[9]、[10]、[11]、[12]、[13]、[14]、[15]。大多数ZNN方法最初以连续时间形式构建[16]、[17]、[18]、[19]、[20]，主要用于求解时变线性方程组[21]、[22]、[23]、[24]、[25]、非线性方程组[26]、[27]、[28]、[29]、时变等式约束优化问题[30]、[31]、[32]、[33]、时变矩阵求逆[34]、[35]、[36]以及伪逆计算[37]、[38]、[38]。连续时间零梯度神经网络（CTZNN）能够直接引入时变信息，并利用Lyapunov理论进行严格的收敛性分析[40]、[41]、[42]。此外，通过引入精心设计的非线性激活项，改进的ZNN变体可以确保残差误差在有限时间内收敛[43]、[44]、[45]、[46]、[47]。然而，在实际系统中，感知、计算和执行是在具有有限采样间隔的数字硬件上完成的[48]、[49]、[50]。因此，CTZNN模型无法直接以连续时间形式实现，必须通过数值离散化转换为离散时间形式[51]、[52]、[53]。
为了实现数字化实施，Zhang等人[54]引入了一种求解时变线性方程的离散时间零梯度神经网络（DTZNN）模型，为后续DTZNN研究奠定了基础。此后，DTZNN研究持续扩展，逐渐形成了较为清晰的发展轨迹。总体而言，现有工作可分为两大类。第一类是根据离散步数来组织的DTZNN模型，通过引入不同数量的历史状态来提高数值近似精度。第二类是通过修改模型结构来提高鲁棒性、收敛速度或计算效率的DTZNN变体。对于前者，Guo等人[55]首先提出了一步欧拉ZNN模型，作为后续多步DTZNN模型研究的基础。在此基础上，Guo等人[56]进一步做出重大改进，提出了一种三步DTZNN模型，提高了数值近似精度。随后，文献[57]、[58]、[59]提出了一系列多步DTZNN模型，在更高阶数值离散化、稳定性分析和性能优化方面不断深化相关理论。最终，Yang等人[60]总结并统一了上述多步DTZNN研究，提出了一种具有通用形式的步DTZNN模型，建立了覆盖多种离散步长情况的统一理论框架。关于DTZNN模型变体，Xiang等人[61]提出了一种噪声容限的DTZNN模型，提高了噪声条件下的鲁棒性。此外，Ma等人[62]提出了一种主-辅助网络协同进化状态更新机制，避免了离散实施过程中直接计算雅可比矩阵的逆，从而显著提高了计算效率。从离散结构设计角度来看，Liu等人[63]提出了可学习离散化的概念，使DTZNN模型同时具备高阶数值精度和任务适应性。从优化与通信机制角度来看，He等人[64]提出了一种事件触发DTZNN模型，只有当预定义的触发条件被违反时才激活状态更新和信息交换，从而有效降低了通信和计算开销。总之，DTZNN研究从早期的基本离散化方法演进为一个沿多个维度推进的系统框架，包括高精度多步离散化、模型结构修改和机制创新。
基于上述综述，现有DTZNN模型可归类为多步离散化模型以及基于结构或机制的变体。现有综述从不同角度研究了ZNN相关研究。文献[65]中的综述提供了ZNN模型及其发展的广泛概述，而[66]则专注于多智能体系统中用于控制和计算的神经动力学方法。更近期，文献[67]从理论、算法和应用等更广泛的角度回顾了ZNN。这些综述提供了ZNN和神经动力学方法的有价值总结，但其范围比以DTZNN为中心的综述更广泛或方向不同。相比之下，本综述以DTZNN为核心对象，沿着三条密切相关的线索系统地组织其发展：数值离散化与多步模型演进、基于结构和机制的DTZNN变体，以及机器人系统中的代表性应用。特别关注离散化结构、数值精度、稳定性与DTZNN模型后续演进之间的关系。因此，本综述从专门视角提供了DTZNN在离散时间设置下方法学发展和应用的专门视角。基于这一动机，所提出的综述聚焦于离散时间设置下的DTZNN模型，试图提供其数值离散化、结构变体和代表性应用的统一视角。为清晰起见，本综述中使用的主要术语和缩写在表1中总结。本文的其余部分组织如图1所示。第二节回顾了基于多步离散化策略的DTZNN模型。第三节综述了从结构或机制角度开发的DTZNN变体。第四节回顾了DTZNN模型在机器人系统中的代表性应用。第五节讨论了未来研究方向，第六节对本文进行总结。此外，本文的贡献列如下。
- •
本文系统地综述了DTZNN的研究进展，填补了DTZNN模型专用综述的空白。
- •
本文全面回顾了DTZNN在机器人系统中的代表性应用，从而突出了DTZNN在实时工程任务中的实际意义和研究价值。
- •
基于现有研究，本文进一步讨论了DTZNN的几个有前景的未来研究方向，为后续研究提供参考。
章节摘要
多步DTZNN模型
本节介绍多步DTZNN模型。通过引入多个历史状态，多步结构[68]、[69]在灵活性和表达能力上比单步对应方法显著更强。因此，多步方法能有效抑制离散化误差的累积，允许更大的步长，在保持数值稳定性的同时实现更高阶的近似精度。这些优势使多步方法成为实现高精度
变体DTZNN模型
本综述中回顾的DTZNN模型从两个互补的角度进行分类。具体而言，第二节的"多步DTZNN模型"根据其离散时间构建策略进行分类，其中引入多个历史状态以提高数值精度和收敛行为。相比之下，本节讨论的DTZNN变体专注于功能增强和面向应用的扩展，旨在解决实际问题
应用
虽然DTZNN模型并非固有地局限于特定应用领域，但目前大多数已报告的实现主要集中在机器人和操纵器系统[100]、[101]、[102]。这种集中与机器人控制问题的内在特征密切相关。首先，许多基本的机器人任务，包括逆运动学[103]、[104]、[105]、约束运动生成[106]、[107]、[108]以及协同控制[109]、[110]、[111]、[112]，都可以
未来研究方向
尽管DTZNN已从基本的数值离散化发展至多步、机制增强和面向应用的模型，但仍有若干问题有待进一步研究。特别是，可学习和自适应模型的发展、向大规模和复杂系统的扩展，以及非机器人应用领域的探索代表了三个有前景的方向，可将DTZNN从现有模型特定设计推向更通用和实用的
结论
本综述系统地回顾了离散时间零梯度神经网络（DTZNN）的发展和代表性应用。首先，总结了多步DTZNN模型从基本的单步离散化到高阶和通用多步公式的演进，突出了其在数值精度和稳定性方面的进展。其次，回顾了代表性的变体DTZNN模型，包括噪声容限、事件触发、可学习以及组合模型
作者贡献声明
Li Angjin：撰写——初稿，数据管理，概念化。Zhang Zhijun：撰写——审阅与编辑。Fu Zhuosong：撰写——审阅与编辑。
利益冲突声明
作者声明不存在已知的可能影响本文所报告工作的竞争财务利益或个人关系。
Angjin Li|Zhijun Zhang|Zhuosong Fu
