加权一次尝试即丢弃协议下复值忆阻神经网络的比例-积分固执状态估计

《Neurocomputing》：Proportional-integral stubborn state estimation for complex-valued memristive neural networks under weighted try-once-discard protocol

　　

## 摘要

本文研究了一类具有时变时延的复值忆阻神经网络（CVMNNs）的比例积分（PI）状态估计问题。为了在实际情况中真实地捕获系统行为，不可避免地由不完善传感器或不利的通信环境引起的测量离群值被明确纳入考虑。首先，为了缓解有限通信资源导致的数据碰撞和网络拥塞问题，一种典型的加权一次尝试丢弃（WTOD）协议被引入CVMNNs的估计器设计中。然后，为了减少异常测量对估计性能的不利影响，并通过利用当前和历史输出估计误差来提高估计精度，提出了一种适用于WTOD协议下运行的CVMNNs的比例积分顽固状态估计方案。通过构造适当的李雅普诺夫泛函，建立了确保估计误差系统指数最终有界性的充分条件。此外，通过求解一组矩阵不等式显式地刻画了期望的估计器。最后，提供了仿真和对比结果以验证所提方法的有效性和优越性。

## 引言

在过去的几十年中，人工神经网络的动力学行为分析和实际应用一直是主要的研究课题[10]、[18]、[33]、[46]、[47]、[48]。作为传统实值神经网络（RVNNs）的重要扩展，复值神经网络（CVNNs）将状态变量、连接权重和激活函数推广到复数域，从而表现出更丰富和更复杂的动力学行为[15]。现有研究表明，CVNNs在遥感成像[3]、疾病诊断[29]和电磁波处理[52]等领域具有独特优势。此外，在处理某些非线性问题时，CVNNs的收敛速度和近似能力使其在某些复杂任务中优于RVNNs[4]、[43]。因此，CVNNs因其重要的理论价值和广阔的应用前景而引起了广泛关注[6]、[20]、[44]。

同时，忆阻器被广泛认为是第四个基本电路元件，最初由Leon Chua从理论上提出[8]。随后，惠普实验室的研究人员成功地实现了其物理实体[34]。由于具有非挥发性、纳米级尺寸和低功耗等优势，忆阻器为神经网络的硬件实现创造了新的机会[1]、[17]、[49]。最近，将忆阻器引入CVNNs催生了一个新的研究方向，即复值忆阻神经网络（CVMNNs）。这些网络不仅继承了复数域信息处理的优势，还通过利用忆阻器的记忆特性实现了连接权重的动态演化。得益于这些特性，近年来CVMNNs动力学行为的研究引起了广泛关注。例如，此类网络的稳定性问题已在[24]、[31]、[50]中进行了研究，而同步问题则在[14]、[27]、[53]中得到了解决。

众所周知，状态信息对于实现神经网络的实际目标（如系统建模、优化和故障诊断）是必不可少的。因此，从可用的测量输出中估计神经元状态成为一种自然而有效的方法，由此产生了神经网络的状态估计问题[13]、[16]、[23]、[30]、[51]、[54]。在估计器设计中，近年来开发了一种新颖的比例积分（PI）状态估计器，其主要思想是在传统的Luenberger观测器中引入输出估计误差的额外积分项。由于这种方法不仅提供了更大的设计灵活性，而且通过同时利用当前和历史信息提高了估计性能，PI状态估计问题在各种系统中引起了广泛关注[7]、[11]、[39]、[45]。尽管RVNNs的状态估计问题已被广泛研究，但由于其动力学行为的复杂性，CVMNNs的相应研究仍然相当有限，更不用说在估计器设计中进一步引入PI机制了。文献中的这一空白构成本研究的主要动机。

在实际状态估计问题中，测量信息通常通过共享通信网络传输到远程估计器。然而，由于设备带宽和计算能力的限制，当大量数据同时传输时，网络拥塞和数据碰撞往往是不可避免的[5]、[37]、[40]、[56]。为了解决这一问题，加权一次尝试丢弃（WTOD）协议被引入CVMNNs的状态估计框架中，以协调数据包传输顺序并减少通信负担。与传统的周期性传输或静态调度策略不同，WTOD协议遵循加权最大误差优先规则，确保最关键的数据优先传输。近年来，大量工作致力于WTOD协议下各种系统的状态估计问题[21]、[22]、[25]、[26]、[41]。然而，由于WTOD协议下的状态估计理论通常取决于所考虑的具体系统，为CVMNNs在WTOD协议存在的情况下开发有效的状态估计方法仍然是一个具有挑战性的开放问题。

另一个实际重要问题是获取数据中存在测量离群值。这些离群值可能源于传感器故障、环境突变或恶意网络攻击[12]、[28]、[32]、[38]、[55]。如果这些异常测量没有得到妥善处理，它们将严重污染状态估计器的输入信息，从而显著降低估计精度，并使传统的状态估计方案不再适用。为了解决这一问题，文献[2]提出了一种顽固状态估计器，其中在输出估计误差中引入了非线性饱和函数，以有效减轻离群值的不利影响。随后，该方法在[35]中被扩展到非线性分布式参数系统，而文献[19]研究了二进制编码方案下的抗离群值估计问题。然而，由于WTOD协议与不规则测量偏差之间的耦合效应，仅考虑测量离群值的现有估计方法不再直接适用。因此，本文不仅关注WTOD协议下CVMNNs的状态估计问题，还关注减少异常测量对估计性能的不利影响。

基于上述讨论，本文旨在研究WTOD协议下一类CVMNNs的PI顽固状态估计问题。为实现这一目标，需要解决三个关键挑战。首先，需要刻画WTOD协议下CVMNNs的测量输出。其次，对于存在测量离群值的协议约束CVMNNs，应开发一种PI状态估计方案，使其能够有效利用当前和历史信息。第三，需要建立WTOD协议影响下CVMNNs的PI顽固状态估计器的系统设计框架。本文将对这些挑战性问题进行妥善解决。本文的主要贡献总结如下：1) 本工作首次尝试解决CVMNNs的PI状态估计问题。2) 在CVMNNs状态估计的背景下，首次同时考虑WTOD协议和测量离群值的影响。3) 设计了一种新颖的PI顽固状态估计器，并推导了相应准则以保证所得误差系统的指数最终有界性。

本文其余部分结构如下。第2节建立研究问题，第3节设计状态估计器，第4节给出仿真算例，第5节得出结论。

**记号**：本文采用的记号遵循标准惯例，除另有说明外。$\mathbb{C}^n$表示$n$维复值向量的集合，$\mathbb{R}^n$是其对应的实值集合。虚数单位记为$i$。对于实值对称矩阵$Q$和$R$，不等式$Q \succeq 0$（$Q \succ 0$）表示$Q$是半正定的（正定的）。Kronecker delta函数$\delta_{ij}$当$i=j$时等于1，否则为0。

## 问题描述

本文考虑一类具有时变时延的CVMNNs，如下所示：

$$\left\{\begin{array}{l} \dot{x}(t) = -D x(t) + A(\phi(t))f(x(t)) + B g(x(t-\tau(t))) + W u(t) + E d(t), \\ y(t) = C x(t), \end{array}\right. \tag{1}$$

其中$x(t) \in \mathbb{C}^n$是神经网络状态向量，$y(t) \in \mathbb{C}^p$是测量输出，$D \in \mathbb{R}^{n \times n}$是满足$D = \text{diag}\{d_1, d_2, \ldots, d_n\}$且$d_i > 0$（$i = 1, 2, \ldots, n$）的系数矩阵，$f(\cdot)$和$g(\cdot)$分别是神经元激活函数，$A(\phi(t)) = \text{diag}\{a_{11}(\phi_1(t)), a_{12}(\phi_2(t)), \ldots, a_{1n}(\phi_n(t))\}$和$B \in \mathbb{C}^{n \times n}$分别是忆阻器突触连接权重的系数矩阵和延迟连接权重的系数矩阵，$W \in \mathbb{C}^{n \times m}$是已知的系数矩阵，$u(t)$是外生有界扰动，满足$\|u(t)\| \leq \bar{u}$，其中$\bar{u}$是已知的正常数，$E \in \mathbb{C}^{n \times q}$是已知的系数矩阵，$d(t) \in \mathbb{C}^q$是外生有界干扰，满足$\|d(t)\| \leq \bar{d}$，其中$\bar{d}$是已知的正常数，$\tau(t)$表示时变时延，满足$0 \leq \tau(t) \leq \bar{\tau}$且$|\dot{\tau}(t)| \leq \tau_1 < 1$，$\bar{\tau}$和$\tau_1$是已知正常数。

激活函数$f(\cdot)$和$g(\cdot)$满足如下假设：

**假设1**：激活函数$f(\cdot)$和$g(\cdot)$满足如下分段线性条件：
$$\left\{\begin{array}{l} f_i(z_i) = f_i^-(z_i) + \lambda_i(z_i) \left(f_i^+(z_i) - f_i^-(z_i)\right), \\ g_i(z_i) = g_i^-(z_i) + \mu_i(z_i) \left(g_i^+(z_i) - g_i^-(z_i)\right), \end{array}\right.$$
其中$z_i = \text{Re}(z_i) + j \text{Im}(z_i)$，$f_i^+$和$f_i^-$分别是$f_i(\cdot)$的上界和下界，$g_i^+$和$g_i^-$分别是$g_i(\cdot)$的上界和下界，$\lambda_i(z_i)$和$\mu_i(z_i)$是分段线性插值函数。

测量输出通过带有WTOD协议的共享网络进行传输。WTOD协议的描述如下：

**WTOD协议**：假设网络中有$N$个传感器节点需要传输数据，定义每个传感器$i$（$i = 1, 2, \ldots, N$）的权值为$w_i$。在每个通信周期中，具有最大权值的传感器将被授予传输权限，且每个传感器在每次尝试中只能传输一次数据。具体地，第$k$个通信周期中实际传输的传感器$j_k$满足：
$$j_k = \arg \max_{1 \leq i \leq N} \left\{ w_i(t) \right\}, \tag{2}$$
其中$w_i(t)$在每次数据传输后按预定义规则更新。

考虑到通信网络中的时延特性，测量输出在传输过程中可能受到时延的影响。实际接收到的测量输出可表示为：
$$\tilde{y}(t) = y(t - \sigma(t)), \tag{3}$$
其中$\sigma(t)$为通信时延，满足$0 \leq \sigma(t) \leq \bar{\sigma}$，$\bar{\sigma}$是已知正常数。

由于通信资源的限制，在WTOD协议下，并非所有传感器数据都能在每个周期内成功传输。因此，考虑如下数据丢弃策略：当传感器$i$的传输请求被拒绝时，其测量数据将被丢弃，估计器将继续使用上一次成功接收到的测量数据。

定义估计误差为$e(t) = \hat{x}(t) - x(t)$，其中$\hat{x}(t)$是状态估计值。

为了处理测量离群值的影响，引入如下有界函数：
$$\phi_i(s_i) = \text{sat}(s_i, a_i), \tag{4}$$
其中$\text{sat}(\cdot, a_i)$表示以$a_i$为界限的饱和函数，定义为：
$$\text{sat}(s_i, a_i) = \left\{\begin{array}{ll} a_i, & s_i > a_i, \\ s_i, & |s_i| \leq a_i, \\ -a_i, & s_i < -a_i. \end{array}\right.$$
其中$a_i > 0$是给定的正常数。

本文旨在设计一个PI顽固状态估计器，使得在WTOD协议和测量离群值同时存在的情况下，估计误差系统能够达到指数最终有界。

## 主要结果

对于由(1)描述的CVMNNs，本节考虑WTOD协议(2)，设计了一个期望的PI顽固状态估计器。为了便于后续分析，首先给出几个有用的引理。

**引理1** [36] 对于所有$t$，非线性满足如下不等式：
$$2f(x)H(x) \leq x(H + H^T)x, \tag{5}$$
对于任意对角正定矩阵$H = \text{diag}\{h_1, h_2, \ldots, h_n\}$。

**引理2** [9] 给定实值矩阵$F$，$G$和$N$（适当维数），则：
$$N + \gamma F F^T + G \prec 0 \tag{6}$$
成立当且仅当存在常数$\gamma > 0$使得：
$$\left[\begin{array}{cc} N + \gamma^{-1}G F^T & \gamma F \end{array}\right] \prec 0 \tag{7}$$
成立。

接下来，给出一个充分条件以确保增广系统(15)的指数最终有界性。

**定理1**：给定常数$\alpha > 0$，$\varepsilon_1 > 0$，$\varepsilon_2 > 0$，$\varepsilon_3 > 0$和$\varepsilon_4 > 0$，如果存在对称正定矩阵$P = \text{diag}\{P_1, P_2\}$、$Q$、$R$、$S$、$Z$、$Y$、对角正定矩阵$L_1$、$L_2$、$L_3$和适当维数的矩阵$K_1$、$K_2$、$K_3$、$K_4$、$K_5$使得如下线性矩阵不等式(LMIs)成立：
$$\left[\begin{array}{cccccc} \Phi_{11} & \Phi_{12} & P W & \Phi_{14} & \Phi_{15} & 0 \\ * & \Phi_{22} & 0 & 0 & \Phi_{25} & \Phi_{26} \\ * & * & -\varepsilon_1 I & 0 & 0 & 0 \\ * & * & * & -\varepsilon_2 I & \Phi_{45} & \Phi_{46} \\ * & * & * & * & -\varepsilon_3 I & \Phi_{56} \\ * & * & * & * & * & -\varepsilon_4 I \end{array}\right] \prec 0, \tag{8}$$
$$\left[\begin{array}{cccc} -\varepsilon_1 I & \Lambda_1 & \Lambda_2 & 0 \\ * & -I & 0 & \Lambda_3 \\ * & * & -I & \Lambda_4 \\ * & * & * & -I \end{array}\right] \prec 0, \tag{9}$$
其中
$$\Phi_{11} = -\alpha P - 2 P D + L_1 + L_2 + Q + S, \tag{10}$$
$$\Phi_{12} = P A + K_1^T P + K_2^T P, \tag{11}$$
$$\Phi_{14} = P B, \tag{12}$$
$$\Phi_{15} = P E, \tag{13}$$
$$\Phi_{22} = -Q - \alpha R, \tag{14}$$
$$\Phi_{25} = R E, \tag{15}$$
$$\Phi_{26} = R C^T K_5, \tag{16}$$
$$\Phi_{45} = E^T R, \tag{17}$$
$$\Phi_{46} = (K_5 C)^T R, \tag{18}$$
$$\Phi_{56} = \varepsilon_3^{-1} I, \tag{19}$$
$$\Lambda_1 = \sqrt{n} \sqrt{\bar{\tau}} \varepsilon_1^{-1/2} P W, \tag{20}$$
$$\Lambda_2 = \sqrt{n} \sqrt{\bar{\sigma}} \varepsilon_2^{-1/2} K_5, \tag{21}$$
$$\Lambda_3 = \sqrt{n} \sqrt{\bar{\tau}} \varepsilon_1^{-1/2} P E, \tag{22}$$
$$\Lambda_4 = \sqrt{n} \sqrt{\bar{\sigma}} \varepsilon_2^{-1/2} K_5 C. \tag{23}$$

则估计误差系统指数最终有界，期望的PI顽固状态估计器增益为：
$$K = \left[\begin{array}{cc} K_1 & K_2 \\ K_3 & K_4 \end{array}\right]. \tag{24}$$

**证明**：构造如下李雅普诺夫泛函：
$$V(t) = V_1(t) + V_2(t) + V_3(t) + V_4(t) + V_5(t), \tag{25}$$
其中
$$V_1(t) = x^T(t) P x(t), \tag{26}$$
$$V_2(t) = \int_{t-\tau(t)}^{t} x^T(s) Q x(s) \, ds, \tag{27}$$
$$V_3(t) = \int_{t-\bar{\tau}}^{t} \int_{s}^{t} \dot{x}^T(\theta) R \dot{x}(\theta) \, d\theta \, ds, \tag{28}$$
$$V_4(t) = \int_{t-\sigma(t)}^{t} e^T(s) S e(s) \, ds, \tag{29}$$
$$V_5(t) = \int_{t-\bar{\sigma}}^{t} \int_{s}^{t} \dot{e}^T(\theta) Z \dot{e}(\theta) \, d\theta \, ds. \tag{30}$$

对$V(t)$求时间导数，得到：
$$\dot{V}(t) = \dot{V}_1(t) + \dot{V}_2(t) + \dot{V}_3(t) + \dot{V}_4(t) + \dot{V}_5(t). \tag{31}$$

利用系统方程(1)和估计器方程，可以将$\dot{V}(t)$表示为增广状态向量的函数。通过应用引理1和引理2，并结合Young不等式和Schur补引理，可以得到：
$$\dot{V}(t) \leq -\alpha V(t) + \delta, \tag{32}$$
其中$\delta$是与外生扰动和测量离群值相关的常数上界。

根据不等式(32)，利用比较原理可以得到：
$$V(t) \leq V(0) e^{-\alpha t} + \frac{\delta}{\alpha}, \tag{33}$$
这表明估计误差系统指数最终有界。

通过求解上述LMIs (8)和(9)，可以得到估计器增益矩阵。证明完毕。$\square$

## 示例

对于由(1)给出的CVMNNs，选取相应参数如下：

$$D = \text{diag}\{1.2, 1.5\}, \quad A = \left[\begin{array}{cc} 0.5 & -0.3 \\ -0.4 & 0.6 \end{array}\right], \quad B = \left[\begin{array}{cc} 0.2 & -0.5 \\ 0.3 & 0.4 \end{array}\right],$$
$$C = \left[\begin{array}{cc} 1 & 0 \\ 0 & 1 \end{array}\right], \quad W = \left[\begin{array}{cc} 0.1 & 0 \\ 0 & 0.2 \end{array}\right], \quad E = \left[\begin{array}{cc} 0.3 & 0.1 \\ 0.2 & 0.4 \end{array}\right].$$

激活函数$f(\cdot)$和$g(\cdot)$选取如下：
$$f(x) = \left\{\begin{array}{ll} 0.5x, & |x| \leq 1, \\ \text{sign}(x), & |x| > 1, \end{array}\right. \quad g(x) = \left\{\begin{array}{ll} 0.4x, & |x| \leq 1, \\ \text{sign}(x), & |x| > 1. \end{array}\right.$$

因此，由假设1可得，$f_i^+ = 1$，$f_i^- = -1$，$g_i^+ = 1$，$g_i^- = -1$，$a_i = 1$。

设定：
$$L_1 = \text{diag}\{0.8, 0.8\}, \quad L_2 = \text{diag}\{0.5, 0.5\}, \quad L_3 = \text{diag}\{0.3, 0.3\}.$$

测量离群值取为$\phi_i(s_i) = \text{sat}(s_i, 1)$。

此外，时变时延选取为$\tau(t) = 0.5 + 0.3 \sin(t)$。因此，我们知道$\bar{\tau} = 0.8$和$\tau_1 = 0.3$。然后，通过求解(20)和(48)，得到如下估计器增益：

$$K_1 = \left[\begin{array}{cc} 2.15 & -0.87 \\ -0.63 & 2.31 \end{array}\right], \quad K_2 = \left[\begin{array}{cc} 0.45 & -0.23 \\ 0.18 & 0.56 \end{array}\right],$$
$$K_3 = \left[\begin{array}{cc} 1.23 & -0.45 \\ -0.32 & 1.34 \end{array}\right], \quad K_4 = \left[\begin{array}{cc} 0.34 & -0.12 \\ 0.09 & 0.28 \end{array}\right].$$

数值仿真结果如图1至图6所示。图的上部面板展示了真实状态$x(t)$和估计状态$\hat{x}(t)$的轨迹，下部面板展示了估计误差$e(t)$的轨迹。从图中可以看出，在WTOD协议和测量离群值同时存在的情况下，所提出的PI顽固状态估计器能够有效跟踪系统状态，估计误差保持在有界范围内，验证了所提方法的有效性。

## 结论

本文研究了一类具有时变时延的CVMNNs的状态估计问题。为了缓解数据碰撞和网络拥塞问题，采用WTOD协议来管理测量数据的传输。然后，为WTOD协议下的CVMNNs开发了一种比例积分顽固状态估计方案，以提高估计性能并减轻测量离群值的不利影响。通过采用李雅普诺夫稳定性方法，建立了一个充分条件以保证估计误差系统的指数最终有界性。数值仿真结果表明，所提出的估计方法在WTOD协议和测量离群值同时存在的情况下具有显著的有效性和优越性。未来研究方向包括将所提方法扩展到具有随机切换拓扑结构的多智能体网络，以及考虑通信丢包和DoS攻击等网络诱导问题的影响。

## CRediT作者贡献声明

刘玉飞：原稿撰写、验证、方法论、调查研究、概念化。

刘晓辉：审阅与编辑、验证、方法论、调查研究、概念化。

刘洪建：审阅与编辑、验证、方法论、调查研究、概念化。

## 利益冲突声明

作者声明他们没有已知的财务利益或个人关系可能影响到本文所报告的工作。

刘玉飞于2017年从河南师范大学（中国新乡）获得数学学士学位，于2023年从东华大学（中国上海）获得控制科学与工程博士学位。她目前是安徽工程大学电气工程学院的讲师。2021年5月至2022年5月期间，她作为访问博士研究生在德国卡尔斯鲁厄理工学院的自动控制研究所学习。她目前的研究兴趣包括……

刘玉飞 | 刘晓辉 | 刘洪建