一种由dGaussian激活的忆阻 Hopfield 神经网络的动态多样性及视觉加密效率

《Physica A: Statistical Mechanics and its Applications》：Dynamical diversity and visual encryption efficiency of a dGaussian-activated memristive Hopfield neural network

　　摘要：忆阻式霍普菲尔德神经网络（HNNs）为模拟神经和电路系统中的复杂非线性现象提供了一个有效的框架。本文提出了一种具有电磁感应效应的高斯导数激活忆阻式霍普菲尔德神经网络（dGHNN）。在非单调的高斯导数激活函数的驱动下，该系统表现出丰富的动态特性，包括四叶吸引子、混沌爆发、瞬态混沌和对称共存吸引子。为了解决激活函数的非可逆性问题，建立了一个基于Lambert W函数的框架，用于平衡计算和局部稳定性分析。利用分岔图、李雅普诺夫谱、0-1测试、双参数图和吸引盆 analyzing等方法进行的数值研究揭示了参数依赖的混沌、周期性和共存状态。相同动态类型的吸引子之间可以共存，例如两个对称的混沌吸引子或两个周期吸引子。在选定的混沌序列生成和加密参数条件下，吸引盆分析确定了仅包含混沌区域的区域，而不包括周期区域、不动点区域或发散区域。基于固定点四阶龙格-库塔（Runge-Kutta）计算的LTspice电路仿真和FPGA实现进一步验证了dGHNN的硬件可实现性。为了安全的视觉处理，实现了像素域加密基准和基于CHPE的脉冲域加密框架。在后者中，明文图像被转换成随机的1位脉冲流，并直接在脉冲域进行加密。统计分析和基于FPGA的演示验证了所提出框架在神经形态学边缘导向安全视觉处理中的有效性和可行性。

引言：霍普菲尔德神经网络（HNN）是一个受大脑启发的代表性模型，以其循环拓扑结构和生成复杂非线性动态的能力而闻名[1]。带有传统双曲正切（tanh）激活函数的HNNs已经被广泛研究[2]、[3]、[4]。最近的研究将HNNs扩展到连续时间[5]、离散时间[6]和分数阶框架[7]，揭示了各种非线性现象，如混沌[8]、超混沌[9]、瞬态混沌[10]、共存吸引子[11]和无限吸引子[12]。此外，研究逐渐从孤立神经元发展到耦合神经网络，产生了多种集体行为和同步模式，包括反相位爆发[13]、环耦合动力学[14]和大规模100×100格子动力学[15]。

忆阻器在丰富HNNs的动态特性方面发挥了重要作用，因为它们可以作为非线性体细胞元素或突触权重引入。作为体细胞组成部分，忆阻器能够模拟膜电位的记忆效应，使自适应异构HNNs生成多卷螺旋混沌和共存吸引子[16]。作为突触元素，它们的可塑性有助于模拟神经元间耦合[17]和自突触连接[2]。特别是，与电磁感应效应相关的多段忆阻器可以生成具有任意数量卷螺旋[18]、[19]和初始偏移共存吸引子的多卷螺旋吸引子[20]，从而大大丰富了神经系统的动态行为。非线性激活函数对于准确表征神经元反应和塑造HNNs的全局动态同样重要[21]。例如，修正线性单元（ReLU）函数支持无乘法器的电路实现，这在保持丰富集体动态的同时简化了硬件实现[22]、[23]、[24]、[25]。为了进一步增强动态复杂性，引入了异质激活函数，如Sine-Tanh和ReLU-Tanh-Gauss组合，以诱导超混沌和不同的分岔模式[26]、[27]。周期性激活函数（如正弦函数）也可以产生丰富的共存吸引子。然而，过多的共存并不一定意味着更可靠的混沌行为，特别是对于加密应用而言。例如，Zhou等人[28]报告说，带有正弦激活的三维HNN可以生成多达14个共存吸引子，其中最多只有两个是混沌的，其余的吸引子是稳定的节点焦点吸引子或周期吸引子。这种碎片化的吸引盆可能会限制初始条件的选择，因为不适当的初始状态可能会落入非混沌区域，降低安全信息处理所需的混沌序列的随机性。

出于对周期性激活函数导致的吸引盆碎片化问题的兴趣，本文引入了高斯导数（dGaussian）函数作为非单调但非周期性的神经元激活函数。与正弦激活不同，dGaussian函数表现出局部符号变化的非线性，并且随着状态幅度的增加逐渐衰减到零，这有助于保持强烈的非线性激励，同时减少由周期性引起的过度共存。在研究的初始条件范围内，所提出的dGaussian激活忆阻式HNN保持了纯粹的混沌吸引盆，不含不动点、周期或发散区域，这有利于鲁棒的混沌序列生成和灵活的键选择。然而，dGaussian函数的非单调性和非可逆性也在逆映射、平衡计算和局部稳定性分析中带来了分析挑战。受到参考文献[28]中忆阻式HNN框架的启发，本文开发了一种三神经元的高斯导数激活忆阻式霍普菲尔德神经网络，称为dGHNN，在其中引入了通量控制的忆阻器来模拟电磁感应。

最近的研究进一步表明，忆阻式HNNs和忆阻器电路正从动态探索扩展到面向任务的智能应用。Yu等人[29]使用双重忆阻式HNN中的隐藏异质性和均匀极端多稳定性为基于LSTM的时间序列预测提供了混沌初始化，表明复杂的吸引子结构可以用于智能预测任务。相比之下，本文将可靠的纯粹混沌盆分布与面向图像加密的混沌序列生成联系起来。Xu等人[30]开发了一个通用框架，用于配置完全基于忆阻器的仿生脉冲电路，展示了忆阻器电路在神经形态学脉冲生成中的重要性。与这种电路配置视角不同，本文使用CHPE将视觉信息转换为脉冲域表示，以便在FPGA上进行后续的安全处理。为了进一步验证其实际应用性，通过对dGHNN进行模拟电路仿真、基于FPGA的数字实现和安全视觉处理应用进行了研究。除了传统的混沌图像加密之外，本文还通过将基于混沌的硬件泊松编码器（CHPE）与基于dGHNN的加密框架集成，进一步探索了脉冲域视觉表示。尽管传统的像素扰动-扩散方案已经被广泛研究[31]、[32]、[33]，但它们与基于脉冲的视觉表示的集成仍然有限。因此，所提出的流程将像素域混沌加密扩展到了脉冲域神经形态学视觉处理，为安全的高效视觉感知提供了面向硬件的框架。与现有的基于HNN的混沌系统相比，本研究的主要创新在于基于FPGA的CHPE辅助脉冲域图像加密，而dGaussian激活和可靠的混沌盆组成提供了这一扩展的动态基础。

本文的主要贡献总结如下：

1. 提出了一种具有电磁感应效应的高斯导数激活忆阻式霍普菲尔德神经网络（dGHNN）。非单调和非周期性的dGaussian激活丰富了系统动态，产生了四叶吸引子、爆发振荡、瞬态混沌和对称共存混沌吸引子。
2. 理论上分析了dGHNN的有界性、平衡点和局部稳定性。开发了一种基于Lambert W函数的逆映射方法，以解决dGaussian激活的非可逆性问题并确定多个平衡点。
3. 使用分岔图、李雅普诺夫指数谱、0-1测试和吸引盆 analyzing研究了dGHNN的复杂动态。揭示了电磁辐射强度p和突触权重k的影响，确认了鲁棒的混沌状态和纯粹的混沌盆。
4. 通过LTspice电路仿真、基于FPGA的数字实现和安全视觉处理应用验证了所提出的dGHNN的实际应用性。LTspice仿真验证了连续时间混沌系统的模拟可行性，而基于固定点四阶龙格-库塔的FPGA实现实现了实时混沌序列生成。进一步展示了两种渐进的应用场景：传统的8位像素域图像加密用于加密评估，以及CHPE辅助的1位脉冲域加密用于神经形态学视觉处理。

本文的其余部分组织如下。第2节介绍了dGHNN模型，包括dGaussian激活函数和通量控制的忆阻器。第3节使用Lambert W函数分析了系统的有界性、平衡点和局部稳定性。第4节研究了关键参数变化下的非线性动态。第5节报告了硬件实现和安全视觉处理应用。最后，第6节总结了本文。

电路实现：dGaussian激活函数的实现对于赋予人工神经网络非线性处理能力至关重要，激活函数通过引入非线性映射、调节信号传输和优化梯度流来模拟复杂问题。虽然传统的霍普菲尔德神经网络（HNNs）通常只使用tanh函数，但本研究为基于记忆的HNNs引入了一种新的激活机制：来自径向基函数神经网络（RBFNNs）的高斯导数函数。

系统有界性的推导：为了推导dGHNN模型的充分有界性条件，引入了一个加权李雅普诺夫函数Vq(x1,x2,x3,φ)=1/2(x1^2+x2^2+x3^2+qφ^2)，其中q>0是一个权重系数。沿着方程(4)的轨迹对方程(6)求导得到V?q=?(1?pa)x1^2?x2^2?x3^2?qαφ^2?qβx1φ?(pb?q)x1φ^2+v(x1,x2,x3)，其中v(x1,x2,x3)=(1.2x1+8x2?2x3)dG(x1)+(?x1+2.5x2+3x3)dG(x2)+(kx1+3x2+0.4x3)dG(x3)。由于对于i=1,2,3，|dG(xi)|≤1，与激活相关的项满足v(x1,x2,x3)≤(2.2+|k|)|x1|+1/3.5|x2|+5.4|x3|≤

数值模拟和复杂动态行为：本节使用分岔图、李雅普诺夫指数谱和0-1测试对dGHNN模型进行了全面的动态分析。研究了忆阻器辐射强度p和神经元耦合权重k的影响，揭示了周期轨道、混沌状态和对称共存吸引子。所有数值模拟都是在MATLAB中使用ode45求解器进行的，输出步长为0.01。

硬件实现和加密应用：在这项工作中，通过两种渐进的应用场景评估了所提出的dGHNN生成的混沌序列。首先，设计了一种传统的8位像素域图像加密方案作为基准，以验证生成的混沌序列的随机性、密钥敏感性和加密适用性。其次，为了将所提出的混沌系统扩展到神经形态学视觉处理，开发了一个基于CHPE的脉冲域加密框架。

结论：本文提出并分析了一种具有电磁感应效应的高斯导数激活忆阻式霍普菲尔德神经网络（dGHNN）。dGHNN表现出丰富的非线性动态，并开发了一个基于Lambert W函数的框架来研究其平衡点和局部稳定性。数值研究表明，在选定的加密相关参数条件下，存在鲁棒的混沌状态和纯粹的混沌盆。LTspice仿真和FPGA实现进一步

作者贡献声明：
Ao Tan：撰写 - 审查与编辑，撰写 - 原稿，可视化，验证，软件，资源，方法论，调查，概念化。
Haotong Song：资源，方法论，调查。
Yuan Chai：撰写 - 审查与编辑，撰写 - 原稿，可视化，验证，软件，资源，方法论，调查，资金获取，概念化。
Tingfang Wang：可视化，验证，软件。
Zhaojun Yan：可视化，验证。
Rui Zhu：撰写

伦理批准：本研究不涉及人类参与者和/或动物。

资助：本研究得到了国家自然科学基金（中国）的资助， grant编号为12172210和11502139。

利益冲突声明：作者声明他们没有已知的竞争性财务利益或个人关系可能影响本文报告的工作。

致谢：本研究得到了国家自然科学基金（中国）的支持。

Ao Tan|Haotong Song|Yuan Chai|Tingfang Wang|Zhaojun Yan|Rui Zhu
上海电力大学数学与物理学院，中国上海，201306