改进的FIR系统识别方法：基于经验copula的延迟估计技术及可变堆叠长度的多梯度算法

《Mathematics and Computers in Simulation》：Enhanced FIR system identification: Empirical copula delay estimation method and variable stacking length multi-gradient algorithm

本研究提出了一种改进的FIR系统识别方法，基于经验copula的时间延迟估计方法结合动态堆叠长度的随机梯度算法，通过成本函数下降率优化参数估计，有效提升了收敛速度和精度。

　　本研究提出了一种改进的策略，用于识别有限脉冲响应（FIR）系统。FIR系统因其结构简单且在实际应用中广泛使用，成为系统建模与参数估计的重要对象。然而，传统方法在处理包含时延的FIR系统时存在一定的局限性，特别是在噪声环境下的收敛速度和参数估计精度方面。因此，本文针对这些挑战，提出了一种基于经验copula的改进时延估计方法，以及一种具有可变堆叠长度的自适应多梯度算法，旨在提高参数估计的效率与准确性。

系统识别是通过分析输入-输出数据来构建动态系统数学模型的技术。它在多个领域，如机器人学、航空航天、经济学和生物医学工程中具有重要的应用价值。在这些领域中，可靠的模型对于系统的分析、预测和控制至关重要。近年来，系统识别技术取得了显著进展，涌现出多种主流方法。其中，预测误差（PE）方法因其全面性和对多种模型结构的适应性而被广泛应用，但其计算成本较高。子空间方法则提供了一种非迭代的方式，用于状态空间模型的识别，但在存在较大噪声的情况下，其性能可能会下降。递归最小二乘（RLS）方法因其参数的增量更新特性，适用于在线识别，但其复杂度随着参数数量的增加而迅速上升。最大似然（ML）方法则在高斯噪声假设下提供统计最优估计，但其计算负担重且对初始参数估计敏感。

梯度算法因其较低的计算成本而在系统识别中受到关注，但其收敛速度通常较慢，限制了其在实际应用中的广泛使用。为了克服这一限制，研究者们开发了多种改进方法，如动量优化方法、自适应学习率技术以及随机梯度下降方法。其中，多创新（MI）方法因其引入多个近期误差的堆叠结构，被认为是较为直接的改进方式。这些方法，特别是丁的研究成果，为多创新系统识别方法奠定了基础，并在参数识别和系统建模中发挥了重要作用。

然而，现有文献并未明确提出一种方法来选择关键的超参数，该参数代表信息长度或堆叠长度。堆叠长度在MI算法的性能中起着至关重要的作用，但其选择往往依赖于人工调整。这种随意的选择可能导致参数估计的波动或收敛速度的减缓。因此，本文提出了一种基于自定义成本函数下降趋势的新方法，用于确定最优的堆叠长度。与传统方法不同，本文的算法采用可变堆叠长度，通过动态调整堆叠长度来优化算法的性能。

此外，本文还关注了未知整数时延的识别问题。时延在工业应用中非常常见，因此，如何准确地估计时延成为系统识别中的一个重要课题。目前，有两种主要方法用于估计时延：一种是将时延估计视为优化问题，通过迭代调整时延和参数估计来实现；另一种是利用输入-输出相关性进行估计，这种方法允许独立地进行时延估计，而不依赖于参数估计。然而，相关性方法仅适用于线性系统和某些非椭圆情况。本文提出了一种创新的时延估计技术，通过经验copula构建的输入-输出关系，实现对时延的精准估计，无需进行舍入或预先参数估计。与相关性方法相比，copula方法能够有效捕捉输入和输出之间的线性和非线性依赖关系。

在本文中，选择FIR模型作为研究对象有其特定原因。首先，FIR模型的结构相对简单，便于展示所提出方法的有效性，避免了复杂模型带来的挑战。其次，FIR模型在系统识别和建模中被广泛使用，其在实际应用中的灵活性和可解释性使其成为重要的研究工具。最后，FIR模型能够以较高的精度逼近稳定的动态系统，因此，其在参数识别和时延估计中的应用具有广泛的前景。

本文的主要贡献可以概括为以下三点：第一，基于经验copula的改进时延估计方法被扩展到FIR系统中，提高了时延识别的鲁棒性；第二，提出了一种具有可变堆叠长度的多梯度算法，用于FIR系统的参数识别，增强了算法的收敛速度和估计精度；第三，通过自定义成本函数下降趋势的准则，实现了对最优堆叠长度的确定，进一步优化了算法的性能。

本文的结构安排如下：第二部分简要介绍了包含时延的FIR模型；第三部分详细描述了时延估计的方法；第四部分介绍了用于参数识别的新算法；第五部分探讨了参数估计过程中的计算负担；第六部分通过多个数值实验验证了所提出方法的有效性；第七部分总结了研究的主要结论。

在问题描述部分，我们介绍了包含未知整数时延的离散FIR系统。输入信号为$u(k)$，输出信号为$y(k)$，噪声为$v(k)$。FIR模型的参数形式为$y(k) = z^{-\tau}B(z^{-1})u(k) + v(k)$，其中$B(z^{-1})$为系统传递函数，$\tau$为时延，$n_b$为模型阶数。通过将模型表示为向量形式，即$y(k) = \phi^T(k)\theta + v(k)$，其中$\phi(k)$为输入信号的延迟版本，$\theta$为参数向量，$n_b$为参数数量，我们明确了本文的研究目标：即从观测数据中估计未知参数向量$\theta$和整数时延$\tau$。

在经验copula部分，我们回顾了copula的基本概念。Copula是一种用于连接边缘分布以形成联合分布的函数，能够有效建模随机变量之间的依赖结构。例如，2-copula是连接二元分布到两个一维边缘分布的函数。通过Sklar定理，我们可以将联合分布表示为copula函数与边缘分布的组合。这一理论为本文提出的基于copula的时延估计方法提供了数学基础。

在基于自定义下降曲线的多梯度参数识别部分，我们首先定义了预测误差$e(k)$和成本函数$V(k)$。预测误差$e(k)$是输出信号与预测输出之间的差值，而成本函数$V(k)$则是预测误差的平方。通过计算成本函数的梯度，我们建立了著名的随机梯度（SG）算法。该算法通过梯度和步长的更新来改进参数估计，其计算效率较高，适用于在线识别任务。

在性能分析部分，我们探讨了所提出算法的收敛性和计算成本。由于最大堆叠长度小于算法稳定所需的堆叠长度，因此，本文提出的CFDR-MG算法的收敛性证明方法与文献中描述的定理相似，因此，不再详细展开。相反，我们重点分析了梯度算法的计算成本。实验结果表明，所提出的方法在不同条件下均表现出良好的性能，能够有效减少计算负担，提高估计效率。

在时延估计部分，我们通过实验验证了所提出方法的有效性。所采用的FIR模型具有特定的传递函数，输入信号为随机高斯信号，噪声则来自均值为零、方差为$\sigma^2$的正态分布。在接下来的四个实验中，我们测试了噪声水平、参数数量、参数值以及数据长度等因素对所提出时延估计方法的影响。实验结果表明，所提出的方法在不同噪声水平下均能保持较高的估计精度，且在不同参数数量和数据长度下均表现出良好的适应性。

在结论部分，我们总结了本文的主要成果。本文提出了一种基于经验copula的改进时延估计方法和一种具有可变堆叠长度的自适应多梯度算法，用于FIR系统的参数识别。这些方法通过自定义成本函数下降趋势的准则，实现了对最优堆叠长度的确定，从而提高了算法的收敛速度和估计精度。实验结果表明，所提出的方法在不同条件下均表现出良好的性能，为未来研究更复杂的系统识别方法提供了基础。

此外，本文的研究还涉及了对系统识别方法的复杂性分析。通过比较不同算法在计算成本和收敛速度方面的表现，我们明确了所提出方法的优势。该方法不仅能够有效减少计算负担，还能在不同噪声和数据条件下保持较高的估计精度。因此，所提出的方法在实际应用中具有重要的价值。

在实验设计方面，我们采用了多种测试条件来验证所提出方法的有效性。这些测试条件包括不同的噪声水平、参数数量、参数值以及数据长度。通过这些实验，我们能够全面评估所提出方法在不同情况下的表现，确保其在实际应用中的可靠性。实验结果表明，所提出的方法在各种测试条件下均表现出良好的性能，能够有效提高参数估计的精度和时延识别的准确性。

在实际应用中，FIR模型因其结构简单和计算效率高而被广泛使用。然而，传统的时延估计方法在处理噪声较大的情况时可能面临一定的挑战。因此，本文提出的基于经验copula的时延估计方法能够有效应对这些挑战，提高时延识别的鲁棒性。同时，通过动态调整堆叠长度，所提出的多梯度算法能够更好地适应不同的系统特性，提高参数估计的精度和收敛速度。

综上所述，本文提出了一种综合性的系统识别方法，能够有效处理包含时延的FIR系统。通过改进的时延估计方法和自适应多梯度算法，我们提高了参数估计的效率和准确性。实验结果表明，所提出的方法在不同条件下均表现出良好的性能，为未来研究更复杂的系统识别方法提供了基础。本文的研究不仅在理论层面具有创新性，还在实际应用中展现了良好的适应性，为系统识别领域的发展做出了贡献。