量子分层细胞神经网络的模式形成

《Communications in Nonlinear Science and Numerical Simulation》：Pattern Formation in Quantum Hierarchical Cellular Neural Networks

　　

摘要

我们提出了一类新的量子神经网络（QNNs），其状态是带有非局部势的 p 进薛定谔方程的解，该势控制着神经元之间的相互作用。这些方程是通过 p 进细胞神经网络（CNNs）的状态方程进行维克旋转获得的。p 进 CNNs 是大型离散分层神经网络（NNs）的连续极限。CNNs 受到威尔逊 - 考万模型的生物启发，该模型描述了大型神经元群体的宏观动力学。我们提供对新的 p 进薛定谔方程离散化的详细研究，这允许在简单图上构建新的 QNNs。我们还进行了详细的数值模拟，为新的 QNNs 的运作提供了清晰的见解。在数学层面上，我们证明了新的 p 进薛定谔方程全局解的存在性。

引言

20 世纪 80 年代，Chua 和 Yang 引入了一种新的自然计算范式，即细胞神经网络（CNNs），其中包含细胞自动机作为一个特例。CNNs 是一种类似于神经网络的并行计算范式，其中每个细胞（处理单元）只与其最近邻直接通信；这种局部化的模拟处理使得能够实时、高速地解决复杂的计算问题，特别是那些涉及空间和时空数据的问题，如图像和视频处理；参见例如 [1]、[2]、[3] 及其中的参考文献。CNN 模型受到威尔逊 - 考万模型的生物启发，该模型描述了突触耦合神经元网络中兴奋性和抑制性活动的演化；参见例如 [4]、[5]、[6] 及其中的参考文献。

量子细胞神经网络（QCNNs）是结合量子力学与经典细胞神经网络架构的计算模型；它们由 Toth 等人在 20 世纪 90 年代引入，[7]。在最初的提议中，使用量子点细胞自动机作为基本处理单元。QCNN 单元的动力学由含时薛定谔方程控制，使得网络能够操作连续值而不仅仅是二值。在本文中，我们启动了 p 进 QCNNs 作为量子计算工具的严格研究。

在引入正式构造之前，直观地解释为什么 p 进数是分层神经网络的天然领域是有用的。p 进整数 Zp 可以可视化为无限根树的边界，其中每个节点有 p 个子节点：两点 x,y∈Zp 是“接近”的——在 p 进意义上，|x?y|p 小——当且仅当它们共享该树的长共同分支，即当它们的 p 进数字展开在许多前置数字上一致时。这是一种超度量、分层的接近概念，与欧几里得概念根本不同：接近程度是由树中的共同祖先组织的，而不是由沿线的距离组织的。这种结构是对以嵌套尺度或集群组织起来的系统的自然数学理想化——例如，生物神经系统中神经元分化为细胞、柱、区域和叶的分层组织，这正是下文回顾的经典 p 进 CNNs 背后的威尔逊 - 考万启发动机。这种直觉促使我们在 Zp 上工作，而不是在欧几里得域 Rn 上，这是大多数现有 QNN 提议的惯例。

基于薛定谔方程构建量子神经网络（QNNs）的提议并非新事物，参见 [8]、[9]、[10]、[11]、[12]、[13]、[14]、[15]。在 [10] 中，作者引入了一种基于非线性薛定谔方程的运动目标眼部追踪循环量子神经网络（RQNN）模型。另一方面，非线性薛定谔方程已被广泛用于图像处理；参见例如 [16]、[17]、[18]、[19]。

分层神经网络（NNs）数学模型的构建是一个活跃的研究领域。在此，值得注意的是，p 进数自然地组织成树状结构，可用于构建分层 NNs 的模型。在 [20] 中，前两位作者引入了 p 进细胞神经网络，这是经典 CNNs 的数学推广。新网络具有无限数量的细胞，以树状结构分层组织，并具有无限数量的隐藏层。直观地说，p 进 CNNs 表现为大型分层离散 CNNs 的极限。在 [21]、[22] 中，他们开发了使用 p 进 CNNs 的图像处理算法。在本文中，我们引入了 p 进 CNNs 的量子对应物。

连续时间量子游走（CTQWs）是开发高效量子算法、模拟复杂量子系统以及 potentially 在各种计算任务中实现量子优势的基本工具，[23]、[24]、[25]、[26]。在 [27] 中，另见 [28]、[29]，第一作者表明一大类 p 进薛定谔方程是某些连续时间量子马尔可夫链（CTQMCs）的标度极限。在实践中，离散化这样一个方程会产生一个 CTQMC。这种构造包括，作为特例，使用邻接矩阵构建的 CTQWs。

在本文中，我们引入了一类新的 p 进非线性薛定谔方程，它是 p 进 CNNs 状态方程的维克旋转。方程的形式为
i??tΨ(x,t)=Ψ(x,t)?J(|x|p)*Ψ(x,t)+∫ZpW(x,y)?(Ψ(y,t))dy+Z(x,t),
其中 J:[0,1]→R≥0，且 ∫ZpJ(|x|p)dx=1，且 W(x, y), Z(x, t), Ψ(x, t) 是复值函数；Zp 是 p 进单位球，它是一个加法群，dx 表示该群上的哈尔测度。当 W(x,y)=0 时，(1.1) 是一个 CTQMC。在这种情况下，如果 ∥Ψ(·,0)∥2=1，那么对于任何 t?≥?0，∥Ψ(·,t)∥2=1，这意味着 (1.1) 描述了一个幺正演化。(1.1) 的严格离散化（当 W(x,y)=0 时）在 [27]、[28]、[29] 中讨论。另一方面，当 W(x, y)?≠?0 时，(1.1) 描述了一个非幺正演化。退相干是量子系统因与周围环境相互作用而失去其独特量子特性（如叠加和纠缠）的过程。非幺正演化（例如由 Lindblad 主方程描述）是用于对该过程进行建模的数学框架。基于这些想法，我们提出 (1.1) 是一种新型的主方程，描述了一个开放量子网络。这一解释已在我们的所有数值模拟中得到确认。

通过将函数 W(x, y), Z(x, t), Ψ(x, t) 表示为它们的实部和虚部，积分微分方程 (1.1) 对应于一个针对 Re(Ψ(x,t)) 和 Im(Ψ(x,t)) 的 Wilson-Cowan 型系统。这直接表明 (1.1) 是一个神经活动模型的量子版本；参见 [30] 及其中的参考文献。

(1.1) 的适当离散化给出了简单图上的新量子网络。设 (G,V,E) 是一个简单图，邻接矩阵为 A=[AI,K]I,K∈V。我们设 D=[DI,K]I,K∈V 为由 DI,K=val(K)δI,K 定义的偶矩阵，其中 val(K) 表示顶点 K 的价，δI,K 是克罗内克符号。一个 QNN 的新例子（使用我们的理论获得）由以下 G 上的离散薛定谔方程给出：
i??t[ΨI(t)]I∈V=?p?l(A?D)[ΨI(t)]I∈V+[p?l∑K∈VWI,K?(ΨK(t))+ZI(t)]I∈V;
其中 ΨI(t)∈C，对于 t?≥?0, I?∈?V，是顶点 I 的量子状态，列向量 [ΨI(t)]I?∈?V 是网络的波函数；WI,K∈C，对于 I, K?∈?V，是神经元之间连接的权重；ZI(t)∈C，对于 t?≥?0, I?∈?V，是神经元 I 在时间 t 的偏置，且 ?:R→R，其中 ?(a+ib)=?(a)+i?(b)，是激活函数。最后，l 是一个正整数，p 是一个素数。量 p?l 是一个尺度因子。网络 (1.2) 是 p 进 CNN 的量子版本。如果 ?=0，薛定谔方程
i??t[ΨI(t)]I∈V=?p?l(A?D)[ΨI(t)]I∈V
描述了图上的标准 CTQWs；参见例如 [23]、[24]、[25]、[26]、[27]、[28]、[29]。

值得一提的是，图上有另一种类型的薛定谔方程；参见 [31] 及其中的参考文献。在此语境下，图上的薛定谔方程是一组由图的边参数化的普通薛定谔方程，其中顶点编码方程的边界条件。据我们所知，这种类型的薛定谔方程与这里考虑的方程完全无关。另一方面，在 [32] 中，另见 [33]，引入了量子图神经网络（QGNNs）。在这种方法中，从图中构建离散哈密顿量，网络由作为该哈密顿量指数乘积获得的演化算符定义。这些网络与这里考虑的网络完全不同。

引入又一种 QNN 架构的更广泛理由最好通过现有提议的局限性来解释。变分量子电路，近期主导范式，是有限的、严格幺正的，并且除了电路布局强加的结构外，没有内在的分层结构；非线性仅通过测量结果的后处理进入。量子图神经网络同样是幺正和离散时间的，在量子动力学本身中没有内置显式的非线性激活函数。定义在欧几里得域 Rn 上的基于薛定谔方程的 QNNs 不携带原生的多尺度或分层几何；任何此类结构必须外部施加。此处引入的 p 进 QCNNs 同时解决了这三个局限性：域 Zp 携带树状拓扑，非线性通过激活函数 ? 直接进入薛定谔动力学，且单个控制方程 (1.1) 根据权重核 W 是否消失，在封闭（幺正）和开放（非幺正）演化之间连续插值。第 6 节提供了与六个代表性 QNN 家族的详细、逐标准比较——变分量子电路、[7] 中原始的量子点 QCNNs、量子图神经网络、欧几里得薛定谔基于 QNNs、连续时间量子游走以及本模型衍生的经典 p 进 CNNs；那里的比较还指出了激发本构造的文献中的具体空白。

从一开始就阐明所提出的框架与实际量子计算的关系也是很有用的，因为它被表述为基于薛定谔方程的动力系统，而不是在量子硬件上实现的变分量子电路。本工作应被理解为严格的数学和理论基础，带有一部分可实现的线性部分：自由演化（当 W=0 且 Z=0 时获得）是真正的幺正的，并且如第 8 节所述，原则上允许通过量子 - 傅里叶变换类型分解实现基于门的实现（对于 p=2，这与 l 个量子比特上的沃尔什 - 哈达玛变换一致）。非线性和开放系统机制（W?≠?0 或 Z?≠?0），这是第 7 节数值研究的模式形成和退相干现象的核心，目前不对应于幺正门序列；在这个阶段，它们构成了一个开放量子网络的理论、量子启发模型，它们的硬件实现被确定为第 8 节和第 9 节局限性讨论中的开放问题。

除了与量子计算的相关性外，所提出的框架本身也对非线性科学具有内在兴趣。方程 (1.1) 是非阿基米德（超度量）空间上的真正非线性、非局部动力系统，因此其模式形成行为独立于任何量子计算动机而具有兴趣。此外，由于设置 W=0 和 ?=0 恢复了图上的标准连续时间量子游走，该框架严格推广了 CTQWs，并自然连接到基于图的量子算法文献。最后，因为控制方程是通过维克旋转从经典的威尔逊 - 考万启发的 p 进 CNNs 获得的，它提供了经典神经模式形成与量子类似物之间的具体数学桥梁，这对于研究神经和大脑动力学的量子模型具有独立兴趣（见第 9 节）。

我们通过总结手稿的目标和主要贡献来结束本引言。主要目标是构建并严格分析一类状态在分层（超度量）域上解决 p 进薛定谔方程的量子神经网络，并从解析和数值上理解非局部权重核如何驱动封闭（幺正）和开放（非幺正）量子动力学之间的转换。主要贡献包括：(a) 一类新的非线性 p 进薛定谔方程，作为 [20] 中 p 进 CNNs 状态方程的维克旋转获得；(b) 这些方程的全局存在性和唯一性结果（附录）；(c) 产生简单图上有限维 QNNs 的严格离散化方案（第 4–5 节）；(d) 与六个现有 QNN 家族的系统的、逐标准比较，阐明了本方法的新颖性（第 6 节）；(e) 详细数值研究，表征幺正 - 非幺正转换以及由此产生的退相干和模式形成现象（第 7 节）；以及 (f) 计算复杂度、内存成本和可扩展性的分析，以及量子硬件实现前景的讨论（第 8 节）。

本文的组织结构如下。

在第 2 节中，我们提出了在此所需的一些 p-进分析的基本结果。在第 3 节中，我们介绍了 p-进量子神经网络（QNNs）；第 4 节专门讨论 QNNs 的离散化。在第 5 节中，提出了简单图上的新 QNNs。第 6 节呈现了将量子机器学习（QML）与新的 p-进 QCNNs 进行比较的讨论。第 7 节专门用于数值模拟。第 8 节讨论了 p-进 QCNNs 的计算复杂度。最后，在第 9 节中，我们提出了结论和一般性讨论。附录专门讨论某些 p-进薛定谔方程全局解的存在性。图 1 提供了整个构建过程的示意图，从 Wilson–Cowan 生物模型到最终简单图上的 QNN，可作为读者阅读全文的指南。章节摘要 p-进分析的基本概念 在本节中，我们固定符号并收集了一些我们在本文中使用的基本 p-进分析结果。关于 p-进分析的详细阐述，读者可参考 [34], [35], [36], [37], [38], [39]。CNNs 和 QNNs 用 Ω 表示神经元空间，我们假设它是一个赋予测度 dμ 的无限集（(Ω, dμ) 是一个测度空间），并用 y(x, t) 表示一个实值函数，代表位置 x ∈ Ω 和时间 t 处的神经活动。一大类连续神经网络由以下形式的积分微分方程定义：dy(x,t)dt=?γHy(x,t)+∫ΩA(x,z)y(z,t)dμ(z)+∫ΩB(x,z)x(z,t)dμ(z)+∫ΩW(x,z)?(y(z,t))dμ(z)+∫ΩU(x,z)?(x(z,t))dμ(z)+η(x,t)，其中 x ∈ Ω, t∈R。核函数 A(x, z), B(x, z), p-进 QNNs 的离散化 第 3 节中引入的式 (1.1) 是置于紧致群 Zp 上的无限维薛定谔方程（即状态是无限维函数空间的元素），因此不能直接用于数值模拟或有限维量子电路实现。为了获得有限神经元网络，我们通过转到有限商群 Gl=Zp/plZp 来对 Zp 进行离散化，对于固定的层级 l∈N：这相当于将注意力限制在 图上的 p-进 QNNs 设 (G,V,E) 为一个简单图，这意味着 G 不包含任何环或同一对顶点之间的多重边，且所有边都是无向的。对于某个固定的 l∈N，我们取 V=Gl0?Gl。这意味着我们将 G 的每个顶点与来自 Gl0 的一个 p-进整数对应起来。设 A=[AI,K]I,K∈Gl0 为 G 的邻接矩阵。注意，由于 G 没有环，AI,I=0，且对于 I,K∈Gl0，AI,K=AK,I。为方便起见，我们假设如果 I?Gl0 或 K?Gl0，则 AI,K=0。现在，我们将矩阵 (4.11) 的条目设为 JI 比较讨论：p-进 QCNNs 与现有 QNN 族 为了将目前的工作置于更广泛的量子机器学习（QML）背景中，我们将提出的 p-进 QCNNs 与当前文献中出现的六个代表性量子神经网络家族进行了比较。比较围绕八个我们认为在结构上具有决定性的标准组织起来：网络定义的数学域、神经元组织的拓扑结构、量子演化的类型（幺正或非幺正）、显式的存在性 数值模拟 在 [29] 中，作者展示了网络 (4.12) 的详细模拟，当 WI,K=0 且 ZI(t)=0 时。在这种情况下，网络对应于一个具有幺正演化的封闭量子系统。本节提出的数值模拟的目的是提供初步的画面，以理解当 WI,K ≠ 0 或 ZI(t) ≠ 0 时网络动态如何变化。我们在第 8 节中分别分析了这些模拟的计算成本及其与图大小的比例关系。我们强调 计算复杂度和可扩展性 我们讨论了经典模拟 p-进 QCNNs 的计算成本，确定了 p-进域的层次结构相对于朴素实现产生节省的地方，并评论了量子实现和未来训练的前景。状态空间维度。在层级 l 离散化后，网络状态是一个向量 [ΨI(t)]I∈Gl∈Cpl，其中 Gl=Zp/plZp 的基数为 N=pl。p-进树的每个额外层级将神经元数量乘以素数 p，最终讨论 生物神经网络量子类似物的构建在过去 30 年中得到了广泛研究。关于量子神经计算的最早想法由 S. Kak 和 R. Chrisley 于 1995 年独立发表 [49], [50]。此后，提出了多种此类网络的架构。在这里，我们引入了一类新的 QNNs，它们是 p-进 CNNs 的量子类似物。数学公式是严谨的，并在狄拉克 - 冯·诺依曼形式体系中构建。新的 p-进 未引用的参考文献 缺少引用 [55]。CRediT 作者贡献声明 W.A. Zú?iga-Galindo：写作 – 审阅与编辑，写作 – 初稿，方法论，调查，概念化。B.A. Zambrano-Luna：写作 – 审阅与编辑，可视化，软件。Chayapuntika Indoung：写作 – 审阅与编辑，验证，软件。利益冲突声明 作者声明以下财务利益/个人关系，可能被视为潜在的利益冲突：W. A. Zuniga-Galindo 报告获得了德克萨斯大学 Rio Grande Valley 布朗斯维尔分校的财政支持。如果有其他作者，他们声明没有已知的财务利益或个人关系可能会影响本文报告的工作。W.A. Zú?iga-Galindo|B.A. Zambrano-Luna|Chayapuntika Indoung 德克萨斯大学 Rio Grande Valley 分校，数学与统计科学学院，One West University Blvd, Edinburg, TX, 78539, 美国