量子极限学习机的理论与可解释性:基于泡利转移矩阵的方法
《Physical Review A》:Theory and interpretability of quantum extreme learning machines: A Pauli transfer matrix approach
【字体:
大
中
小
】
时间:2026年10月27日
来源:Physical Review A 3.0
编辑推荐:
量子储层计算机(QRCs)已成为量子机器学习中一种有前景的方法,因为它们利用量子系统的自然动力学进行数据处理,且训练简单。本文研究具有初始态编码和连续时间储层动力学的 $n$ 比特量子极限学习机(QELMs)。应用泡利转移矩阵(PTM)形式化方法揭示了编码所生成的特征及其通过
量子储层计算机(QRCs)已成为量子机器学习中一种有前景的方法,因为它们利用量子系统的自然动力学进行数据处理,且训练简单。本文研究具有初始态编码和连续时间储层动力学的 $n$ 比特量子极限学习机(QELMs)。应用泡利转移矩阵(PTM)形式化方法揭示了编码所生成的特征及其通过量子通道的线性变换,从而提供了一个非线性向量自回归模型作为 QELM 的可解释经典表示。我们表明,QELM 的非线性信息处理能力可以分解为编码表示给定目标函数的能力以及有效 PTM 之后相关泡利特征的可解码性。比较几何可解码性和统计可解码性,揭示了代数上隐藏但可通过数据相关性恢复的特征。我们将泡利特征的可解码性与测量算符在正则演化下的扩散(Krylov 增长)联系起来。聚焦于幺正通道,我们讨论了结构化的哈密顿量与特定可观测量配对时如何损害模型性能,这体现在读出和有效 PTM 的秩较低上。我们将这一效应追溯到哈密顿量对称性,并推导了对称性分辨可观测量族的渐近秩估计。我们的可解码性分析分离了编码、储层动力学和测量可观测量的贡献,从而提供了可解释的诊断工具,能够指导 QELM 的设计并减少对穷举超参数搜索的依赖。作为一个具体应用,我们考虑非线性动力学系统的预测,并表明训练好的 QELM 的读出在主要阶数上与底层流映射的表达式密切匹配。
I. 引言
量子储层计算机(QRCs)自提出以来 [1] 受到了广泛关注,在多个领域都有应用,如图像分类 [2–5]、时间序列预测 [1,6–10]、流体动力学 [11,12] 或量子实验的后处理 [13–16]。QRCs 的一个主要优势在于其适用于含噪声的中等规模量子硬件,这主要是因为训练过程仅限于经典读出层,从而使训练问题具有凸性,并避免了与变分量子算法相关的 barren plateau 问题 [17,18]。QRCs 通常对环境噪声具有鲁棒性,甚至可能从中受益 [19–22]。文献 [23–26] 分析了 QRCs 对输入的非线性处理,发现编码往往是提供非线性的主要来源。普适函数逼近性质已在文献 [6,27–31] 中讨论。值得注意的是,QRCs 与量子核方法 [32] 密切相关——这一事实可用于寻找最优测量算符 [33] 并借鉴经典领域的见解 [34–36]。关于 QRCs 的综合概述,请参阅文献 [37,38]。
一种没有相干演化内存的特殊 QRC 变体是量子极限学习机(QELM)[2,37–39]。其经典对应物"极限学习机"本质上是一个具有固定内部架构的前馈网络 [40],类似于随机特征模型 [41]。QELMs 能够完成各种机器学习任务,如图像分类和时间序列预测。典型的 QELM 与具有固定内部参数的常规量子神经网络有两个重要区别:第一,它不是基于门架构,而是采用物理量子系统的自然动力学(储层)。第二,它不是针对特定任务优化测量输出,而是通常收集多个非特定测量到一个大读出向量中,并将其输入经典回归或分类算法。因此,优化 QELMs 的主要任务在于调节储层的量子性质,以使信息处理最大化并能够适当地从测量中解码相关特征 [14,26,42–50]。识别可能的量子优势,例如与数据编码进入的指数大的希尔伯特空间相关的优势,是一个活跃的研究课题 [3,38,45,48,51,52]。然而,对于大量比特数出现的指数集中效应是一种概念上与 barren plateaus 相关的现象,可能会严重影响 QELM 性能 [53]。
本研究旨在建立一个可解释的框架,以支持 QELMs 的系统设计并减少对昂贵的基于训练的超参数调整的需求。为此,我们将在泡利转移矩阵(PTM)形式化的基础上,结合特征可解码性的概念,讨论时间复用 [1] 以及信息处理能力 [54,55]。这使我们能够系统地探讨模型表达力的哪些部分来自储层通道(如幺正变换),哪些来自编码。此外,我们的可解码性框架可以识别代数上隐藏但通过数据相关性仍可恢复的特征。我们分析了哈密顿量对称性对读出矩阵秩的作用,这是储层计算中表达力的一个关键度量。这些对称性在 Krylov 演化下分割算符空间,从而可以识别给定哈密顿量的合适可观测量族。由于混沌动力学系统具有系统辨识方面的有益特性 [56],我们将其用作基准。本形式化方法适用于编码与储层演化分离且与时间无关的 $n$ 比特 QELMs。我们的研究结论对于属于此类范畴的其他 QML 模型也具有启发意义。然而,具有动态输入注入 [14,57] 或耗散驱动储层 [21] 的模型不在本形式化方法的覆盖范围内。
II. 模型
我们简要介绍 QELMs 的形式化方法以及本工作中使用的具体实现 [1,37,38]。设 $\mathcal{L}$ 表示 $\mathcal{H}$ 上 $N$ 维希尔伯特空间上的 $N \times N$ 厄米矩阵的空间(实向量空间,维度为 $N^2$),其中 $N = 2^n$,$n$ 为比特数。给定经典输入 $\mathbf{x}$,QELM 由输出函数定义:
$$f(\mathbf{x}) = \mathbf{w}^\top \mathbf{y}(\mathbf{x}) \tag{2.1}$$
其中 $\mathbf{M} = \{M_a\}_{a=1}^m$ 是 $\mathcal{L}$ 中测量算符的一组,$\rho(\mathbf{x})$ 是在初始态 $\rho_0$ 上应用编码和其他量子通道后得到的量子系统的密度矩阵。可训练权重 $\mathbf{w} \in \mathbb{R}^m$ 通过最小化经验风险确定:
$$\mathcal{L}(\mathbf{w}) = \frac{1}{\kappa}\sum_{j=1}^{\kappa} \ell\left(y_j - f(\mathbf{x}_j)\right) + \lambda\|\mathbf{w}\|^2, \tag{2.2}$$
其中 $\ell$ 是损失函数,$\lambda$ 是正则化参数,$\{(\mathbf{x}_j, y_j)\}_{j=1}^{\kappa}$ 是 $\kappa$ 个训练数据点。典型的损失函数包括用于回归(包括时间序列预测)的最小平方损失 $\ell(z) = z^2$ 和用于分类的合页损失 $\ell(z) = \max(0, 1 - yz)$。在最小平方损失的情况下,最优权重由以下公式给出:
$$\mathbf{w} = \mathbf{Y}^\dagger \mathbf{s}, \tag{2.3}$$
其中 $\mathbf{s}$ 是样本向量,$\mathbf{Y}$ 是读出设计矩阵。
当在测量算符的完备基 $\mathbf{M}$ 上进行优化时,QELM 采取量子核模型的形式(附录 A 中有总结)。在本工作中,我们不使用该形式化方法,而是使用预选择的可观测量集,并且只优化相应的权重 $\mathbf{w}$。我们的符号总结在表 V 中。
A. 特征映射
我们考虑纯态,即 $\rho(\mathbf{x}) = |\psi(\mathbf{x})\rangle\langle\psi(\mathbf{x})|$,量子态由以下公式给出:
$$|\psi(\mathbf{x})\rangle = U_R(t) U_E(\mathbf{x}) |0\rangle^{\otimes n}. \tag{2.4}$$
这里,$U_E$ 是数据编码幺正变换,$U_R$ 是储层幺正变换,我们取初始态为 $|0\rangle^{\otimes n}$。幺正变换 $U_R$ 由储层哈密顿量 $H$ 下的时间演化定义。具体而言,我们考虑随机哈密顿量 $H_{\text{rand}}$ 以及横向场 Ising 模型(TFIM)的两个变体 $H_{\text{TFIM}}^{(1)}$ 和 $H_{\text{TFIM}}^{(2)}$:
$$H_{\text{TFIM}}^{(1)} = \sum_{i=1}^{n} J_i (\sigma_i^x \sigma_{i+1}^x + \sigma_i^y \sigma_{i+1}^y) + \sum_{i=1}^{n} h_i \sigma_i^z, \tag{2.5a}$$
$$H_{\text{TFIM}}^{(2)} = \sum_{i=1}^{n} J_i (\sigma_i^x \sigma_{i+1}^x - \sigma_i^y \sigma_{i+1}^y) + \sum_{i=1}^{n} h_i \sigma_i^z, \tag{2.5b}$$
其中耦合常数 $J_i$。在这里和以下各部分中,$\sigma_i^{\alpha}$ 表示作用于第 $i$ 个比特的单比特泡利算符,$\sigma^{\alpha}_i$ 是通常 $n$ 比特张量积的简写(恒等算符作用于其余比特)。方程 (2.5) 中的两个 TFIM 变体通过全局哈达玛变换 $H^{\otimes n}$ 相关联:
$$H_{\text{TFIM}}^{(2)} = (H^{\otimes n})^\dagger H_{\text{TFIM}}^{(1)} (H^{\otimes n}), \tag{2.6}$$
B. 编码方案
我们考虑时间无关的(并行)乘积态编码,即 $U_E(\mathbf{x}) = \bigotimes_{i=1}^n U_i(x_i)$,产生以下状态:
$$|\psi(\mathbf{x})\rangle = \bigotimes_{i=1}^n U_i(x_i) |0\rangle, \tag{2.7}$$
其中幺正变换 $U_i$ 作用于第 $i$ 个比特。在我们的数值实验中,我们采用了幅值编码和旋转编码方案 [58]。前者有两种变体,一种是将在布洛赫球上大半圆上编码数据:
$$U_i^{\text{amp,[0,1]}}(x_i) = R_z(\pi/2) R_x(2\pi x_i), \tag{2.8}$$
或者在整个大圆上编码:
$$U_i^{\text{amp,\mathbb{R}}} = R_z(\pi/2) R_x(2\pi x_i) R_z(-\pi), \tag{2.9}$$
旋转编码由以下幺正变换定义:
$$U_i^{\text{rot}}(x_i) = R_z(2\pi x_i) R_y(2\pi x_i), \tag{2.10}$$
其中 $\sigma^\alpha$ 是单比特泡利矩阵,$\alpha \in \{x, y, z\}$,$R_\alpha(\theta)$ 表示旋转门。为了避免无关的相位或平凡状态,我们仅使用 $R_z$ 算符,这产生单比特状态:
$$|\psi_i(x_i)\rangle = \cos(\pi x_i)|0\rangle + \sin(\pi x_i)e^{i2\pi x_i}|1\rangle. \tag{2.11}$$
III. QELM 的泡利转移形式化
QML 模型(包括 QELMs)通常从傅里叶角度进行分析,这对于基于哈密顿量的编码是自然的 [51–53]。我们采用 PTM 形式化方法 [59–63],这种方法可以更直接地识别具有初始态编码模型的相关特征,并且已被先前用于从状态空间角度研究 QRCs [29,37,46,49]。我们在下面重点讨论 QELM 的这一经典基于特征的表示,以分析其读出表达力和特征可解码性。
A. 泡利转移矩阵
在 PTM 形式化方法中,我们在 $n$ 比特泡利基上展开态和算符:
$$\{I, \sigma^\alpha_i\}_{\alpha \in \{x,y,z\}, i \in \{1,...,n\}}, \tag{3.1}$$
它由 $M = 4^n$ 个相互正交的泡利串 $P_m$ 组成,其中 $m \in \{1,...,M\}$,归一化为 $\text{tr}(P_m^\dagger P_{m'}) = M \delta_{mm'}$。每个态都可以展开为:
$$\rho = \sum_{m=1}^M f_m P_m / M, \tag{3.2}$$
由此产生泡利特征向量 $\mathbf{f}$,这是我们研究中基本依赖于输入的对象。在乘积态编码的情况下,它们有直观的表达方式(见第三节 B 节)。任何量子通道 $\mathcal{N}$ 都通过泡利转移矩阵线性作用于该向量:
$$\mathbf{f}' = \mathbf{T}_N \mathbf{f}, \tag{3.3}$$
其中 $\mathbf{T}_N$ 的矩阵元为 $[\mathbf{T}_N]_{mm'} = \frac{1}{M}\text{tr}(P_m \mathcal{N}(P_{m'}))$。
考虑方程 (2.1) 中的 QELM 以及测量泡利算符 $\mathbf{M}$ 的子集 $\mathcal{S} \subseteq \{1,...,M\}$。这种选择可以表示为一个矩阵 $\mathbf{P}$(单位矩阵的行子集),它从 $\mathbf{f}$ 中提取对应的行。读出向量 $\mathbf{y}$ 包含它们的期望值 $\langle P_a \rangle = \text{tr}(P_a \rho)$。将 $\rho$ 按照方程 (3.2) 展开并使用方程 (3.3),得到模型输出函数:
$$f(\mathbf{x}) = \mathbf{w}^\top \mathbf{P} \mathbf{T}_N \mathbf{f}_E(\mathbf{x}), \tag{3.4}$$
其中 $\mathbf{w}$ 是经典权重,$\mathbf{P}\mathbf{T}_N$ 是 $\mathbf{T}_N$ 限制在测量可观测量上的块。这种形式明确表明 $f$ 是仅由编码生成的特征 $\mathbf{f}_E$ 的线性函数,并通过储层通道 $\mathcal{N}$ 混合。
如果量子通道 $\mathcal{N}$ 是完全正且迹保持的(CPTP),则它可以表示为 Kraus 表示:
$$\mathcal{N}(\rho) = \sum_k K_k \rho K_k^\dagger, \tag{3.5}$$
其中 $\sum_k K_k^\dagger K_k = I$,$K_k$ 的个数取决于通道(例如,幺正通道的 $K_k = U$,参见附录 E 的进一步讨论)。使用该表示,我们可以写为:
$$[\mathbf{T}_N]_{mm'} = \frac{1}{M}\sum_k \text{tr}(P_m K_k P_{m'} K_k^\dagger) = \sum_k [\mathbf{T}_k]_{mm'}, \tag{3.6}$$
其中最后一个表达式引入了可观测量 $P_a$ 的广义正则表示:
$$\tilde{P}_a = \sum_{m'} \sum_k [\mathbf{T}_k]_{am'} P_{m'}. \tag{3.7}$$
具体而言,对于幺正通道,我们有 $K = U$($[\mathbf{T}_U]_{am'} = \text{tr}(P_a U P_{m'} U^\dagger)/M$),使得 $\mathbf{T}_N$ 成为一个正交矩阵 $\mathbf{U}_{PTM}$,其元素为:
$$[\mathbf{U}_{PTM}]_{am'} = \text{tr}(P_a U P_{m'} U^\dagger)/M, \tag{3.8}$$
其中 $U$ 是储层幺正变换。对于一般的 CPTP 映射,$\mathbf{T}_N$ 也可以引起特征向量的收缩和平移(参见附录 E 2)。
时间复用。在时间复用中 [1,64,65],不是在固定的演化时间 $t$ 和潜在的大量可观测量 $\mathbf{M}$ 上工作,而是选择一个大小为 $m_0$ 的小子集 $\mathcal{S}$ [参见方程 (3.4)] 并在多个时间 $t_1,...,t_L$ 上评估它们。然后将 $\mathbf{T}_N$ 的相应行堆叠成一个 $m = m_0 \times L$ 的能控性矩阵:
$$\mathbf{T}_N^{\text{eff}} = \begin{pmatrix} \mathbf{P}\mathbf{T}_{N,t_1} \\ \vdots \\ \mathbf{P}\mathbf{T}_{N,t_L} \end{pmatrix}. \tag{3.9}$$
我们简单地称之为有效 PTM,记为 $\mathbf{T}_N^{\text{eff}}$。在没有时间复用的情况下($L = 1$),当 $\mathcal{S} = \{1,...,M\}$ 时恢复完整的幺正 PTM $\mathbf{T}_N$。
B. 特征编码
对于乘积态编码,泡利特征向量 $\mathbf{f}$ 的结构可以显式给出。利用方程 (2.7) 和初始乘积态,储层幺正变换之前的编码态为:
$$|\psi_E(\mathbf{x})\rangle = \bigotimes_{i=1}^n |\psi_i(x_i)\rangle. \tag{3.10}$$
方便地引入单比特泡利特征:
$$\mathbf{f}_i(x_i) = (f_{i,1}, f_{i,2}, f_{i,3}, f_{i,4})^\top = \text{tr}(|\psi_i(x_i)\rangle\langle\psi_i(x_i)| \cdot \mathbf{P}_i)/2, \tag{3.11}$$
其中 $f_{i,4} = 1/2$(归一化),$f_{i,\alpha}$($\alpha = 1,2,3$)对应泡利算符 $I, \sigma^x, \sigma^y, \sigma^z$。$\mathbf{f}_i$ 的三个非平凡分量定义布洛赫向量,对于纯态其模为单位大小(参见附录 E 的进一步讨论)。由于态和泡利基都在比特间因式分解,$n$ 比特特征向量为:
$$\mathbf{f}_E(\mathbf{x}) = \bigotimes_{i=1}^n \mathbf{f}_i(x_i), \tag{3.12}$$
其分量为:
$$f_{i_1 \cdots i_n} = \prod_{j=1}^n f_{j, i_j}, \tag{3.13}$$
其中下标 $i_1,...,i_n$ 对应于方程 (3.2) 中索引 $m$ 的显式位表示。$i_j$ 遍历方程 (3.11) 中单比特特征的所有可能组合:对于每个比特,从四个因子 $\{f_{j,1}, f_{j,2}, f_{j,3}, f_{j,4}\}$ 中选择一个,产生总共最多 $4^n$ 个特征。由某些简单编码方案产生的读出特征总结在表 I 中。幺正通道混合特征的效果将在下一节讨论。
表 I. 对于幅值编码 (2.8) 或 (2.9) 以及使用 $R_z$ 门的旋转编码 (2.10),编码乘积态 $|\psi_E\rangle$ 的泡利基投影 $\langle P_a \rangle$。这里 $P_a$ 表示泡利算符($a \in \{1,...,M\}$),进入第 $i$ 个比特的经典数据为 $x_i$。为方便起见,我们包含了投影算符 $P_a$。可以观察到,可观测量 $\mathbf{M}$ 中的每个泡利因子 $P_{i,\alpha}$(第一列)产生相应的单比特特征 $f_{i,\alpha}$(第二至第四列)。例如,$X_i$ 行给出 $f_{i,2}$ 且 $Y_i$ 行给出 $f_{i,3}$。
| 特征 | 可观测量中的因子 $P_{i,\alpha}$ | 幅值在 [0,1] 上 | 幅值在 $\mathbb{R}$ 上 | 旋转 |
|---|---|---|---|---|
| $I$ | $f_{i,4}$ | $1/2$ | $1/2$ | $1/2$ |
| $X_i$ | $f_{i,2}$ | $\sin(2\pi x_i)$ | $\sin(2\pi x_i)\cos(2\pi x_i)$ | $\sin(4\pi x_i)/2$ |
| $Y_i$ | $f_{i,3}$ | $\sin(2\pi x_i)\cos(2\pi x_i)$ | $-\sin^2(2\pi x_i)$ | $-\sin(2\pi x_i)\cos(4\pi x_i)/2$ |
| $Z_i$ | $f_{i,1}$ | $\cos(2\pi x_i)$ | $-\cos(2\pi x_i)$ | $\cos(4\pi x_i)$ |
C. QELM 的经典表示
设 $N_E$ 为有效特征数(排除因编码而恒为零的特征),$m$ 为总测量数,例如 $m = m_0 \times L$。根据式(3.4),QELM有一个等价的经典表示,即一个PTM加权的非线性函数库, (3.14) 其中 是有效PTM(3.9)(包括任何行选择和时域复用),而 是读出端可用的泡利特征。如果 具有满列秩,那么它是左可逆的[66],因此回归器总能找到权重 来重构任何期望的元素 。由于通常使用任意目标 而不是 进行训练,实际权重[式(2.3)]包含从泡利特征空间到数据空间的投影: (3.15) 其中我们引入了特征设计和格拉姆矩阵 (3.16) 以及相应的读出设计和格拉姆矩阵 (3.17) 后者通常在QELM实现中计算,而 和 是理论对象。在接下来的小节中,我们将分析对编码和储层酉算子的要求,以提高可训练性并避免昂贵的超参数搜索。(3.15)中的最后一个等式(由“推移”恒等式得出)意味着对于完整的酉PTM [式(3.8)],权重只是没有PTM混合的权重的旋转版本: (3.18) 此外,由于 是正交的,它从预测器(3.14)中消失,这与核表示(A1)中没有储层酉算子一致。这样的QELM随后只是一个作用于完整 维特征库 的回归器。在时间序列处理的情境中(特别是当使用某些输入 来编码延迟状态时),这简化为“下一代”储层计算机(NG-RC)[67]或等价地,一个非线性向量自回归过程。当 仅具有满列秩时,可以解释为在混合特征集 上操作的回归器。表达能力的一个粗略度量是式(3.15)中读出格拉姆矩阵的秩,其可以根据以下公式进行限制: (3.19) 更确切地说, 。因此,只要采样特征矩阵在 的行空间上非退化,就有 。例如,如果 具有满行秩,并且一旦 和数据足够多样化,则此条件通常会满足。偶然的数据简并或数值病态,由于特征 通常不正交,可能会降低实际秩。因此,在数据丰富的通用情况下, (3.20) 对于随机哈密顿量, 通常与测量预算 成比例增长,然后趋于饱和(见下文图4)。相比之下,像TFIM这样的结构化哈密顿量不会完全搅乱,导致 。所达到的秩表明了测量策略的质量(见IV B节),从而表明了所得训练精度(另见下文图13)。
IV. 酉量子通道的PTM分析
对于可分离(乘积)量子通道,PTM分解为 单比特PTM 。局部酉算子的作用在附录E1中讨论。为了理解和优化具有一般非局域量子通道的QELM,我们必须分析完整的PTM[式(3.4)和(3.6)]。下面我们专注于酉情况。优化可以分解为几个子任务,这些子任务定义了具有显式特征映射的(量子)储层计算中的基本重构问题[14,26,47,49]: (1) 决定哪种类型的特征 最适合学习数据集。例如,非马尔可夫时间序列(包括标量谐波信号)需要延迟坐标[68,69],而马尔可夫动力系统已经可以用瞬时单项式特征[70]建模。虽然常用的编码支持通用函数逼近[6,27–31],但它们在逼近误差、泛化行为[51,71,72]或自回归展开中的鲁棒性方面可能不同。如文献[70]所示,当特征映射与流映射的低阶李系数匹配时,训练误差随时间分辨率降低得最显著。这意味着某些特征映射更适合学习源于物理模型的时间序列。 (2) 选择合适的测量可观测量 。理想情况下,海森堡演化的可观测量 与生成所需特征 的可观测量 有强重叠[见式(3.6)]。实现这一点的一种可能性是通过原始或对偶优化确定最优测量算子 ,然后可以进一步展开为一组旋转泡利- 算子[33]。另一种可能性是时域复用[1,64,65,73,74],下面将在PTM框架中进一步讨论(见IV A节)。 (3) 当可用的测量操作受限时,必须调整量子通道 和读出层,使得所需特征 变得可解码。严格的(几何)可解码性意味着,对于每个这样的 ,存在一个权重向量 使得 (见IV B节)。在实践中,统计意义上的可解码性(作为相关性)以及在一定误差容限内通常就足够了,因为典型训练任务所需的特征通常可以在有限域内从可用泡利特征近似得到(见IV C节)。我们将证明时域复用通过增加算子支持直接增强可解码性。
A. 克雷洛夫增长和泡利权重扩散
时域复用使回归器能够“逆转”由量子演化引起的信息搅乱。后者由算子在对合下的克雷洛夫增长[47,74,75]捕获,我们在此在我们的设置中总结它。具体而言,给定泡利可观测量 的酉海森堡演化[式(3.7)]满足 (4.1) 其中 表示 次重复应用李乌维尔算符 。因此,时间演化的可观测量生成(递增的)克雷洛夫子空间 (4.2) 虽然整数克雷洛夫阶 与连续时间 之间没有严格的一一对应关系,但 可以理解为嵌套对易子级数截断的深度。由于阶乘的抑制,对于局部哈密顿量,粗略估计是 。值得注意的是,对于式(2.5)中的TFIM模型,阿达玛等价(2.6)意味着 (4.3) 即,泡利- 可观测量在 下的演化等价于泡利- 可观测量在 下的演化,相差一个全局酉算子。在PTM方法中,克雷洛夫增长可以用泡利基中的算子扩散来表示[76]。因此,展开时间演化的可观测量 得到 (4.4) 其中我们利用迹的循环性从式(3.8)引入 。因此,对于非克利福德 ,初始权重完全局域在 上,随着 增加,它可以扩散到其他(更高和更低阶)泡利串上。一个方便的诊断量是泡利(汉明)权重 ,即 中非恒等因子的数量,及其系数加权平均 (4.5) 对于局部(包括不可积/混沌的)哈密顿量,利布-罗宾逊界[50,77–80]启发式地意味着初始局部算子只能在距离 内发展支撑,直到有限尺寸饱和: (4.6) 典型的后期值为 ,对应于系数 在泡利串上的均匀分布。这里的后期极限应理解为典型覆盖的意义,因为有限维酉演化通常是准周期的。由定义(3.7)和展开式(4.4),直接得出 ,因此对所有 有 。由于对于哈尔随机酉算子,非恒等泡利算子近似均匀分布在维度为 的无迹泡利子空间上,因此可以预期典型幅度 (4.7) 这是指数集中效应的起源,它使得对于大量子比特数 访问输入信息变得不可行[53,81]。可积模型(如这里使用的可积TFIM)由于稳定的准粒子模式,通常表现出更有结构的行为。一个极端情况是克利福德酉算子,其 是符号置换矩阵(无扩散)。相比之下,全希尔伯特空间上的哈尔随机酉算子可以产生快速离域[82–86]。泡利权重平均的演化如图1所示。如附录F1所示,哈密顿结构和可观测量的相互作用对海森堡演化以及由此产生的克雷洛夫跨度有显著影响。
图1. 泡利权重平均 [式(4.5)]的时间演化,对所有单比特泡利 取平均,在 量子比特的TFIM(2.5a)的 耦合参数空间中。
B. 泡利特征解码
遵循式(3.14),我们记读出端可用的泡利特征集为 ( ),它们通过有效PTM [式(3.9)]对输入特征 ( )进行线性变换而出现,可能包括时域复用。我们现在询问使回归器能够通过找到权重 来重构给定输入特征 的条件,使得 (4.8) 其中 是 的第 个基向量。该问题的最小二乘解在附录B中讨论,表明可以区分几何可解码性和统计可解码性:前者表示是否可以找到(4.8)的精确代数解;后者中,解还可以利用数据中的相关性。本节我们专注于几何可解码性,因为它仅由PTM结构决定,与数据无关。统计可解码性将在IV C和IV D节中讨论。如果 对应于完整的酉通道( ),则 是正交的,任何特征都可以通过以下方式几何解码 (4.9) 如果我们选择可观测量的子集,那么对于任意的 ,式(4.8)通常无法满足,因为特征在量子通道下会混合。因此我们引入泡利特征的几何可解码性得分(见附录B) (4.10) 及其关联的解码权重 (4.11) 其中 是摩尔-彭若斯伪逆。第 个特征的精确可解码性由 表示。值 意味着该特征只能重构到误差 以内。我们取 作为启发式可解码性阈值。得分 是纯几何的、与数据无关的概念。IV C节和附录C中制定的统计可解码性得分可以超过它(通过相关性),但也可以低于它(对于强各向异性特征分布)。可解码性得分和权重都保持一般PTM 的张量积结构:如果 ,则 和 。对于单个演化时间且在特征裁剪之前( ), 具有正交归一行,得到 ,表明特征 仅在 下该泡利的“扩散”落入测量子集 的程度上可解码[87]。具体而言,对于哈尔随机酉算子,典型可解码性随量子比特数 指数衰减, (4.12) 这由式(4.7)得出。噪声通道可以有可逆的PTM[见附录E2],然后不会严格减少可访问的特征子空间。如果它们是收缩的,则有效抑制高权重泡利特征[见式(E12)],但需要大权重范数 ,这会降低条件数。这样的映射在有限采样下不稳定,从而有效导致信息损失。时域复用下的算子扩散如图2所示,其中绘制了TFIM和随机酉情况下有效PTM 。相关的投影矩阵 如图3(a)和3(b)所示。当在复用方案中包含 时, 的前 行在对角线上为1(无扩散),导致权重1泡利扇区的完美可解码性。对于图3(c)中的哈密顿量和参数,在所选非零时刻未观察到完美可解码的特征。
图2. 通过有效PTM [式(3.9)]在时域复用方案中构建的算子扩散(4.4)的可视化,分别对应TFIM(a)和随机酉(b)。选定的可观测量集 是一个 量子比特系统的所有权重1泡利算子。随着演化时间增加(从上到下),这些初始算子对完整 维泡利基[式(4.4)]产生非零投影。在TFIM情况下,支撑基呈现稀疏模式,而对于随机酉则是稠密的。
图3. 不同酉类型和完整权重1泡利可观测量集的有效PTM[式(3.9)]的投影矩阵 。面板(a)和(b)直接对应于图2所示的 ,这些是通过时域复用构建的。面板(c)显示了基于 的投影矩阵(无时域复用)。虚线白线表示 的特征,而黑线表示泡利权重扇区边界。由于算子随时间 的扩散,(c)中的可解码性显著降低。
每个泡利扇区的平均可解码性 随复用步骤 的演化进一步如图4所示。由于我们现在从 开始,选定的低权重泡利已经扩散,初始平均可解码性较低[88]。结构化哈密顿量,如TFIM[式(2.5)],根据变体或使用的特定可观测量,可能对可达可解码性得分产生强烈影响。比较图4(c)和4(g),在哈密顿量 下演化的泡利- 与哈密顿量 相比仅产生弱得分[89]。
图4. 从有效PTM [式(4.10)]获得的特征可解码性得分 ,对每个泡利权重扇区取平均,作为 量子比特模型时域复用迭代长度 [式(3.9)]的函数。酉演化时间由 给出(即初始时间 )。
相应的秩和行数(代表测量预算($N_{\text{sh}}$))显示在顶部轴上(作为总算符空间维度 $d_H$ 的比例)。我们在图 (a)、(c) 和 (e) 中考虑了横场伊辛模型(TFIM)(2.5a),在图 (g) 中考虑了 TFIM (2.5b),在图 (b)、(d) 和 (f) 中考虑了随机哈密顿量。可观测量集合 $\mathcal{O}$ 要么仅包含泡利-$X$ 算符 [图 (a) 和 (b)],要么包含泡利-$X$ 和泡利-$Z$ 算符 [图 (c)、(d) 和 (g)],要么包含所有权重为1的泡利算符 [图 (e) 和 (f)]。这些差异是哈密顿量内在对称性的结果:具体而言,对于 TFIM,在时间演化下可观测量对应的马约拉纳荷守恒(见附录 F)。图 5 展示了按马约拉纳荷排序得到的 PTM 对称性分辨扇区结构,其中可观测量按照使对应的 $H$ 在马约拉纳算符下为二次型的荷约定进行排序。如图 5(a) 所示,泡利-$Z$ 观测量在 $H$ 下的时间演化不会占据具有奇数马约拉纳阶数的编码泡利扇区,这解释了图 4(g) 中较低的解码分数。相比之下,哈密顿量 $H$ 触及了所有非平凡的编码扇区,除了荷为 $q=0$ 的顶部扇区 [图 5(b)]。扩散模式仍然保持高度结构和振荡特征,导致解码分数轻微不饱和 [图 4(c)],相比之下随机哈密顿量 [图 4(d)] 则不遵守马约拉纳对称性。
**图 5.** 对于 $n=20$ 个量子比特、可观测量集合 $\mathcal{O}$ 和单个演化时间 $t_f=1$ 的马约拉纳荷排序有效 PTM $\mathcal{M}_{\text{eff}}$。列和行分别表示编码泡利和时间演化后测量的泡利观测量,按马约拉纳荷分组。各面板展示了在不同哈密顿量下的时间演化:(a) $H$ [公式 (2.5b)],(b) $H$ [公式 (2.5a)],(c) 随机 $H$。在 (a) 和 (b) 中,我们使用了使对应的 $H$ 为二次型的马约拉纳荷约定,揭示出稀疏分块结构,其中 $X$-型观测量被限制在其各自的马约拉纳荷扇区内。相比之下,随机 $H$(c)不守恒马约拉纳荷,因此占据了完整的泡利基 [为了可视化,这里我们使用了与 (b) 相同的马约拉纳荷约定]。
此外,基于约旦-温格(马约拉纳)形式体系的分析(见附录 F)表明,在 $H$ 作用下,从初始态 $\sigma_Z^{\otimes n}$ 生成的泡利串主要由具有 $n$ 个端点的 $X$ 串组成,共有 $2^n$ 个。相比之下,在 $H$ 作用下,演化后的 $\sigma_Z^{\otimes n}$ 扩散到指数级大的奇数阶马约拉纳扇区,产生克雷洛夫秩 $N_{\text{Krylov}} = 2^{n-1}$(直至多项式前因子)。表 II 总结了渐近秩 $N_{\text{Krylov}}$ 的推论,并在图 6(b) 中进行了数值验证。此外,图 6(a) 展示了 $\mathcal{M}_{\text{eff}}$ 在时间多路复用下的演化。这些发现可以更普遍地理解为哈密顿量对称性和特征空间简并的结果,详见附录 G。
**图 6.** 通过对可观测量集合 $\mathcal{O}$(单体和双体泡利 $X$)进行时间多路复用,在 TFIM 哈密顿量 [公式 (2.5)] 的幺正演化下获得的有效 PTM $\mathcal{M}_{\text{eff}}$ [公式 (3.9)] 的秩。(a) 对 TFIM (2.5a) 和 $\mathcal{O}=\{X\}$ 可观测量,时间多路复用步数 $K$ 对 $\mathcal{M}_{\text{eff}}$ 的演化。(b) 渐近 PTM 秩 $N_{\text{Krylov}}$ 的数值结果(实线曲线),与表 II 中的理论标度预测(虚线)进行比较。点线跟随算符空间维度 $d_H$,它是对精确理论结果 $N_{\text{Krylov}}$ 的上界。
**表 II.** 对于两种 TFIM 变体 [公式 (2.5)] 和不同可观测量族 $\mathcal{O}$,时间多路复用 PTM (3.9) 的渐近饱和秩 $N_{\text{Krylov}}$(见附录 F?2)。对于纯泡利 $X$-型观测量的时间多路复用,哈密顿量 $H$ 导致指数级低的表达力,反映为多项式量级的秩 $N_{\text{Krylov}}$。
| 哈密顿量 | 观测量 | 渐近饱和秩 |
|---|---|---|
| $H$ | $X$ | $O(n)$ |
| $H$ | $XZ$ | $O(n^2)$ |
| $H$ | 全部泡利 | $2^{n-1}$ |
| 随机 | $X$ | $O(n)$ |
| 随机 | $XZ$ | $O(n^2)$ |
| 随机 | 全部泡利 | $2^{n-1}$ |
随机哈密顿量通常会占据完整的泡利基。因此在时间多路复用下,它们始终导致更高的 $\mathcal{M}_{\text{eff}}$ 秩,以及在大 $K$ 时更均匀的泡利扇区解码能力。我们发现,使用泡利 $X$ 和 $Z$ 观测量与随机幺正进行时间多路复用,需要 $O(2^n)$ 次测量才能在所有泡利扇区中达到高解码分数,并达到饱和秩 $N_{\text{Krylov}} = 2^{n-1}$。然而,实际上这种指数级测量预算很少是必需的,因为相关特征可以用远少得多的测量通过统计方式解码(见下文图 8 和图 9)。
**总结.** 本文提出的解码框架将参考文献 [47,74] 中的克雷洛夫可观测性理论扩展到单个泡利特征级别的几何分辨。我们指出,参考文献 [47] 中讨论的克雷洛夫等级 $N_{\text{Krylov}}$ 对应于单个观测量的渐近秩,$N_{\text{Krylov}}$ [公式 (F11) 和 (G23)],而有效维数分数 $N_{\text{Krylov}}$ 可以被视为我们的多观测量 $N_{\text{Krylov}}$ 的标量代理。特征 $\hat{O}$ 的几何解码分数 $\mathcal{D}(\hat{O})$ [公式 (4.10)] 是所选测量观测量和编码后量子操作的数据无关性质。对于中等量子比特数 $n$,当执行完整测量($N_{\text{sh}} = 4^n$)于可逆量子通道,或者使用时间多路复用方案使 $\mathcal{M}_{\text{eff}}$ 达到完整列秩时,完整的泡利特征解码能力是有保证的,同样需要指数级测量预算 $N_{\text{sh}}$。实际上足够的解码能力已经可以通过适度的分数和多项式量级的测量预算实现,这在应用中通常是这样做的 [1,65]。结构化哈密顿量在 $n$ 较大的极限下可能是有利的,可以避免指数级集中问题 [53,81]。然而,它们可能对时间多路复用某些观测量时模型的表达力产生负面影响,反映为 PTM 秩随量子比特数 $n$ 呈多项式或降低的指数增长(见表 II 和图 6)。
### C. 输入数据的统计解码
上述内容我们关注的是数据无关的泡利特征 $\hat{O}$ 的解码能力,这些特征由编码生成,并在储层作用下线性变换。然而,它们本身是经典输入 $x$ 的非线性函数。例如,在使用振幅编码 (2.8) 时,单个泡利-$Z$ 生成仿射读出 $x_j$,单个泡利-$X$ 可以引入显著的非线性,因为 $X_j = \cos(\theta_j)$(参见表 I)。因此,理解读出中 $\hat{O}$ 的实际非线性非常重要。这是储备池计算中的经典问题,被研究为记忆容量 [90],或者更一般地称为信息处理能力 [54,55,64,91]。对于像 QELM 这样的模型(没有内部记忆),后一种概念通常称为非线性处理能力。
我们在第四节 D 中证明,经典非线性处理能力可以分解为特征表示部分和解码部分。前者描述编码的非线性容量(在本节讨论),后者考虑 PTM 对特征的传输(在第四节 B 讨论)。
#### 1. 读出处的非线性阶数
为了估计读出中 $\hat{O}$ 可用的非线性程度,通常计算读出特征 $\hat{O}$ [参见公式 (3.4)] 与某些非线性目标函数 $\chi$ 之间的经验相关性。在 $x$ 的典型分布下,原始单项式如 $x_1 x_2$ 高度相关,因此无法清晰识别该统计方法中的非线性阶数。遵循参考文献 [54,64],我们使用正交多项式 $p_k(x)$($k$ 阶)构建正交的 $k$ 阶目标为 $\chi = p_k(x)$,其中 $k=0,1,\ldots$。具体而言,对于振幅编码,我们使用(偏移的)勒让德多项式,它们在 $[0,1]$ 或 $[0,1]$ 上的均匀分布下正交归一;对于角度编码,我们使用埃尔米特多项式,它们在高斯分布 $\mathcal{N}(0,1)$ 下正交归一。这里输入使用 $x_j \in [0,1]$ 编码,而不是公式 (2.10) 中的约定。我们一般假设输入 $x$ 是独立的。
我们取决定系数 [54,55]
$$\mathcal{C}(k) = \frac{1}{\binom{n}{k}} \sum_{\alpha \in \binom{n}{k}} R^2[\hat{y}, \chi_\alpha] \tag{4.13}$$
对所有 $\binom{n}{k}$ 个 $k$ 阶正交多项式取平均,用以指示训练好的预测器 $\hat{y}$ 能否在 $n$ 维输入上生成 $k$ 阶非线性 [92]。$\mathcal{C}(k)$ 通过考虑统计相关性推广了几何分数 (4.10)(见附录 C 进一步讨论)。在目标为白化正交归一特征的特殊情况下,有 $\mathcal{C}(k) = \mathcal{D}(k)$ [参见公式 (C10)]。在使用完整泡利-$Z$-串库作为读出的振幅编码 (2.8) 下,可表示的 $k$ 阶目标数量为 $n$,给出平均分数
$$\mathcal{C}_{\text{ideal}}(k) = \frac{n}{\binom{n}{k}} \tag{4.14}$$
该分数随 $n$ 指数级衰减。容量计算使用未正则化最小二乘法拟合截距,$\alpha = 0$。
在图 7 中,我们首先展示从编码态中理想可达到的非线性容量 $\mathcal{C}(k)$,不考虑特征混合效应,即我们在 (3.14) 中取 $U = \mathbb{I}$,或者在限制可观测量子集时取 $U = \mathbb{I}$($\mathcal{O} \subset \mathcal{O}_{\text{full}}$)。如图 (a) 所示,泡利-$Z$ 读出(黑色带虚线曲线的符号)生成偶数阶多项式,行为类似于使用泡利-$X$ 观测量进行角度编码(带连线空心符号)。在图 7(b) 中,我们展示了使用完整泡利可观测量集获得的理想非线性容量分数 $\mathcal{C}(k)$。值得注意的是,非 $Z$ 泡利算符的存在显著增强了读出中的非线性,通过与对应于 $\mathcal{O} = \{Z\}$、$k = n$ 时 [公式 (4.14)] 的虚线曲线进行比较可以清楚地看出这一点。此外,角度编码和振幅编码表现出类似的行为。我们将 $\mathcal{C}(k)$ 随 $k$ 的衰减主要归因于乘积态编码只生成泡利特征 $\hat{O}$ 的无平方单项式,而我们针对(实际相关情况)所有可能的 $k$ 阶目标进行测试 [93]。
**图 7.** 振幅和旋转编码 [公式 (2.8) 和 (2.10)] 的理想非线性容量分数 $\mathcal{C}(k)$ [公式 (4.13)]。该分数指示 QELM $n$ 在没有特征混合 [即公式 (3.14) 中 $U = \mathbb{I}$] 的情况下生成输入 $\theta$($\theta$ 和 $x$)的 $k$ 阶多项式的能力。除非另有说明,图 (a) 中仅测量泡利-$Z$ 特征。测量所有泡利算符时非线性容量显著增强 (b)。图 (a) 中包含的带泡利-$X$ 读出的振幅编码分数也证明了这一点。粗虚线代表 $k=n$、振幅编码和 $n$ 个输入量子比特的理论分数 [公式 (4.14)],与数值结果完全吻合。$\bar{\mathcal{C}}$ 表示对所有 $k$ 的积分容量。
**图 8.** 非线性容量分数 $\mathcal{C}(k)$ [公式 (4.13)] 作为非线性阶数 $k$ 和时间多路复用迭代长度 $K$ [公式 (3.9)] 的函数。幺正演化时间由 $t_f = 1$ 给出。我们考虑图 4 中相同设置的 $n=20$ 量子比特模型。幺正基于 TFIM (2.5a) [图 (a) 和 (c)] 或随机哈密顿量 [图 (b) 和 (d)],而可观测量集合 $\mathcal{O}$ 要么仅包含泡利-$X$ [图 (a) 和 (b)],要么包含泡利-$X$ 和泡利-$Z$ [图 (c) 和 (d)]。
图 8 说明了基于 TFIM 或随机哈密顿量的 QELM 在泡利-$X$ 和泡利-$Z$ 观测量时间多路复用下的非线性容量分数 $\mathcal{C}(k)$。该分数遵循与数据无关泡利解码能力 $\mathcal{D}(k)$ 相似的规律(见在图 4),两者都显示出随非线性阶数 $k$ 和多路复用步数 $K$ 增加而延迟增长的态势。然而,$\mathcal{C}(k)$ 比 $\mathcal{D}(k)$ 更快饱和,因为所考虑的非线性目标函数 $\chi$ 已经可以从相对较少的泡利特征生成。$\mathcal{C}(k)$ 随 $k$ 的降低源于两个事实:(i) 此处使用的编码只能生成所有可能 $k$ 阶单项式中的一个小子集 [参见公式 (4.14) 和图 7]。因此,衡量时间多路复用生成非线性有效性的更清晰指标是分数 $\mathcal{C}(k)$ 归一化为在使用完整泡利可观测量集测量时获得的分数 $\mathcal{C}_{\text{ideal}}(k)$ 的结果(见在图 9)。(ii) 对于高度结构化的哈密顿量或不足的多路复用步数,高阶观测量可能缺失。因此,当测量限制在泡利-$X$ 观测量但需要高阶非线性时,具有更全局和随机结构的哈密顿量是有利的。
**图 9.** 相对非线性容量分数 $\mathcal{C}(k)/\mathcal{C}_{\text{ideal}}(k)$ [公式 (4.13)] 作为非线性阶数 $k$ 和时间多路复用迭代长度 $K$ [公式 (3.9)] 的函数。$\mathcal{C}_{\text{ideal}}(k)$ 是使用完整泡利可观测量集获得的非线性容量分数,我们选择 $\mathcal{C}(k) = 1/2$ 作为阈值,因为分数 $\mathcal{C}(k) < 1/2$ 不被认为有意义。我们使用与图 8 相同的设置。幺正基于 TFIM (2.5a) [图 (a) 和 (c)] 或随机哈密顿量 [图 (b) 和 (d)],而可观测量集合 $\mathcal{O}$ 要么仅包含泡利-$X$ [图 (a) 和 (b)],要么包含泡利-$X$ 和泡利-$Z$ [图 (c) 和 (d)]。
#### 2. 读出处的非线性单项式
$\hat{O}$ 中的原始单项式对于实际应用(如动态系统的自回归学习)通常是相关特征。设 $m$ 为 $\hat{O}$ 中每个变量至多为 $k$ 阶的单项式向量,大小为 $M = \binom{n+k-1}{k}$。泡利特征 $\hat{O}$ 在某个工作点 $\theta_0$(例如数据均值)附近小区域内的 $k$ 阶泰勒展开可以写为
$$\hat{O}_i(\theta) \approx \sum_{\alpha} W_{i\alpha} m_\alpha(\theta),$$
其中 $W$ 为系数矩阵。为了衡量 $\hat{O}$ 中的某个单项式能多么精确地从 $m$ 的线性组合中局部构建,我们定义几何解码分数
$$\mathcal{D}_{\text{mono}}(\alpha) = \text{tr}[P_\alpha] / \dim(\text{range}(\Pi_\alpha)) \tag{4.15}$$
该分数取决于工作点 $\theta_0$,因此不是像 $\mathcal{D}$ 那样的全局重建指标。分数值表明,由于投影矩阵 $\Pi_\alpha$ 的 $\alpha$ 行/列中的非对角项,构建只能在误差 $\epsilon$ 范围内实现。$\mathcal{D}_{\text{mono}}$ 对泰勒阶数 $k$ 的某种人为依赖(由于秩约束)可以通过考虑较大的 $n$ 和 $k$ 来缓解。实际上,在增加 $k$ 时,大部分 $\mathcal{D}_{\text{mono}}$ 值下降,但有少数保持稳定。
这其中包括直接来源于编码态张量积结构的单项式。对于振幅编码 (2.8)(包含所有字符串),这些都是直至 d 阶的所有无平方因子单项式(例如,对于 d=2:xy、xz、yz)。在图 10 中展示了 C(τ) 以及投影算子 Π(τ)(在对一系列展开点取平均后)的典型行为。虽然解码度通常随非线性阶数增加而衰减,但旋转编码倾向于对高阶单项式具有更强的表达力。这与 P(τ) 非对角项泄漏更少有关 [见图 10(c)],并有助于旋转编码通常表现出的稳健性能。
图 10. 对振幅编码 (2.8) 和旋转编码 (2.10)(D=6)构建输入 x 的单项式的能力。(a) 根据式 (4.15) 的解码度分数 C(τ)。[(b) 和 (c)] 投影矩阵 Π(τ),其中非零非对角元素对应于 C(τ),表明解码只能在一定精度范围内实现。底层的泰勒展开对每个 τ 展开至 m 阶,进一步增大 m 后变化甚微。分数和矩阵在均匀网格展开点处取平均,振幅编码取 τ∈{2,4,8,16,32,64}(远离奇异边界留有一定余量),旋转编码取 θ∈{π/4, π/2, 3π/4}。为便于阅读,(a) 中单项式标签显示不完整,在 (b) 和 (c) 中用列/行索引替代。
**D. 非线性处理能力的分解**
上述诊断方法探测了 QELM 信息处理能力中不同但相互关联的方面:目标 y 必须由编码生成的泡利特征 x 可构造的函数来近似(见第四节 C1 和 C2 节),而这些特征又必须从读出 u 中解码出来(第四节 B 节)。正如附录 C 所示,非线性处理能力沿着这条链分解 [见式 (C18)]:
$$\mathrm{CP}_{\mathrm{NL}} = \mathrm{EF} \times \mathrm{CF}$$
理想因子 EF 衡量目标中可由编码生成的泡利特征库表示的比例(第四节 C1 节),而 CF 衡量该最优特征空间表示中有多少通过有效 PTM 和所选测量传输。EF 和 CF 都考虑了特征中的统计相关性。对于与单一各向同性或白化特征坐标对齐的目标,信道因子退化为相应的几何分数,G(τ) 或 V(τ) [见式 (C10) 和 (C12)]。类似地,编码因子针对局部泰勒图的几何特化是单项式分数 C(τ) [见式 (4.15) 和 (C40)]。在 d 阶目标族上对 C(τ) 取平均给出 H(τ) [见式 (4.13)]。
信道传输 CF 可以进一步通过分离几何可见性和统计可恢复性来细化(见附录 C):
$$\mathrm{CF} = (1-\alpha)\mathrm{V} + \alpha\mathrm{G}_{\text{st}}$$
其中 α 量化目标有多少位于 PTM 的零空间,而 β 量化目标有多少可以从可访问特征的统计相关性中预测出来。因此,大的信道传输分数可以通过两种方式产生:任务相关的表示可能对 PTM 或读出具有几何可见性,对应于小的 α,或者它在几何上不可见但可以从相关的可访问特征中统计恢复,对应于大的 β。
由式 (4.16) 和细化后的信道恒等式,归一化目标方差可以分解为 [见式 (C34)]:
$$\mathrm{CP}_{\mathrm{NL}} = (1-\mathrm{EF}) + \mathrm{EF}(1-\mathrm{CF}) + \mathrm{EF}\cdot\mathrm{CF}$$
其中中间项等价于 H(τ)。分数 β 描述了通过从可访问坐标预测几何隐藏分量而获得的信道均方误差减少量,与仅使用直接可见分量的预测器相比。
解码度预算在图 11 中可视化,堆叠柱状图显示编码未能生成的部分、编码生成了但 PTM 或读出即使经过统计救援也未能传输的部分,以及最终可解码的部分(无论是统计还是几何方式)。一般来说,当目标本身无法仅通过编码表示时,储备不能增强解码度。如预期那样,如果储备阻碍了可表示特征的解码度,这种效果可以通过时间复用来缓解。值得注意的是,当使用泡利 σ_x 和 σ_y 可观测量测量时,移除储备酉算子时解码度可能增长或减小。此外,比较图 11(a) 和 11(b),图 4 中观察到的某些结构化哈密顿量下特征几何解码度的降低也反映在统计对应项中(另见图 17 中的单项式情形)。
图 11. 正交多项式族 P_d 的解码度分数 CP_NL。根据式 (4.18),目标的不可解码部分分解为编码不可表示的部分(1-EF,灰色)和储备未传输的部分("信道损失",EF(1-CF),橙色)。在可解码部分 EF·CF(绿色)上叠加了几何隐藏但统计救援特征的增益 β(经截断和缩放后)。读出通过以下方式构建:编码后直接测量所有泡利可观测量(a);编码后仅测量所选集合(b,此处 m=4 和 D=4);哈密顿量演化后测量所选集合(c);使用所考虑的哈密顿量进行时间复用 τ 步后测量所选集合(d)。我们考虑振幅或角度编码 [以 x=1 形式的式 (2.8) 和 (2.10)] 以及各种哈密顿量,如所示。
**E. 总结与讨论**
泡利特征的解码度可以理解为决定具有初始态编码和数据无关储备动力学的 QELM 表达力的基本概念。解码度分数 CP_NL 对应于 QELM 的(非线性)信息处理能力 [54],我们在此表明它分为两部分:(i) 编码部分 EF(几何代理:H(τ)),衡量编码生成的泡利特征字典是否可构建任务相关的单项式和正交多项式,以及 (ii) 信道部分 CF(具有几何代理 G(τ)),衡量有效 PTM 在任务相关特征方向上的可逆性,条件是编码分布。信道分数既收到纯代数可解码特征的贡献,也收到代数上不可见但通过统计相关性仍可解码的特征的贡献。不同的解码度概念总结在表 III 中。
表 III. 解码度诊断总结。编码因子 EF 衡量目标有多少由编码诱导的泡利特征库表示,而信道因子 CF 衡量该表示有多少由有效 PTM 和读出传输。细化分解 [见式 (4.18)] 将信道损失分离为零空间载荷 α [式 (C27)] 和统计救援比例 β [式 (C26)]。
| | 编码 | 信道 | 复合 |
|---|---|---|---|
| 几何,逐方向 | H(τ) | G(τ) | ? |
| 统计,逐任务 | EF | CF | CP_NL |
| 细化信道分解 | ? | 1-α | ? |
| 统计救援 | ? | β | ? |
非线性处理能力被发现与 Krylov 可观性非常紧密地跟踪 [47],这在本文框架中通过 PTM 诱导的基本泡利特征混合来解释。高的解码度分数与高秩有效 PTM P 相关联,这对于随机酉算子是可以实现的。强混合量子信道有助于 QELM 的表达力和非线性处理 [14,45,50],因此除集中效应 [53] 外,通常对训练性能有益。相比之下,具有内部记忆态的量子储备计算(QRCs)通常在随机矩阵行为刚刚开始占主导的点表现最佳("混沌边缘")(见参考文献 [42,94,95])。增加随机性的替代方案是设计任务对齐的储备结构和测量方案 [2,33,44,50,96]。因此,了解通过 PTM 框架的读出与编码生成特征之间的连接可以 informing 增强表达力的特征工程策略。
在继续之前,简要讨论特征映射的注入性 [49] 也是有用的,该性质确保不同的输入映射到不同的读出。φ [式 (3.14)] 局部注入的充分条件是满秩雅可比矩阵:
$$J_\phi = \frac{\partial \phi}{\partial x} \in \mathbb{R}^{n_{\mathrm{out}} \times d}$$
对于所考虑的产品态编码,很容易验证 φ 在相应的定义域(可能去除一个端点后)上是注入的。因此,φ 的局部注入性由 u 在切空间上是否注入决定,即
$$\frac{\partial \phi}{\partial u} \in \mathbb{R}^{n_{\mathrm{out}} \times n_{\mathrm{out}}}$$
在一般设置中,如果 n_out ≥ d,则该条件得到满足(在固定的 τ 下),这对于适当的测量方案和对角度足够的混合动力学是成立的。
**V. 动力系统的可解释学习**
**A. 使用 QELM 进行时序建模**
经典表示 (3.14) 使我们能够识别 QELM 在训练过程中学习的代理模型。具体而言,对于第二节 B 中考虑的产品态编码,函数库 F 由 n_d 个单项式组成,这些单项式由单泡利特征 x_i 构成(回忆一下,包含泡利 σ_y 分量的可观测量期望值为零,见表 I)。我们考虑标准的混沌动力系统学习预测问题,在其采样轨迹 x_k 上训练。连续和离散演化由以下给出:
$$\dot{x}(t) = f(x(t)), \quad x_{k+1} = x_k + h f(x_k)$$
其中 Φ_h 是流图(传播子),可以通过对向量场 f 进行泰勒-李级数展开来计算:
$$\Phi_h = \mathcal{T} \exp\left(h \sum_{j=0}^{\infty} \frac{h^j}{(j+1)!} \frac{d^j f}{dt^j}(x)\right)$$
混沌系统的不可积特性和分形吸引子使它们成为系统辨识的天然基准,系统辨识解决的问题是底层数据生成过程在多大程度上可以从数据中唯一地发现 [56,97]。
如果动力学是马尔可夫的,那么它仅可以基于瞬时特征映射的无记忆 NG-RC 或 QELM 来建模(示例见参考文献 [33])。相应地,我们将 QELM (3.14) 的训练问题表述为:
$$\min_W \frac{1}{N_{\mathrm{train}}} \sum_{k=0}^{N_{\mathrm{train}}-1} \| x_{k+1} - f_{\mathrm{QELM}}(x_k; W) \|^2$$
并寻求通过学习一个对流图 Φ_h 的近似来在数据集 D_train 上最小化最小二乘损失 (2.2)。(2.1) 到多输出的推广是直接的,涉及通过权重矩阵 W_o 为每个输出维度 o 训练一个单独的预测器 f_{o}。
我们使用 Lorenz-63 和 Halvorsen 模型作为基准(d=3 维)[98]:
$$\begin{aligned} \text{Lorenz-63:} \quad & \dot{x}_1 = \sigma(x_2 - x_1), \quad \dot{x}_2 = x_1(\rho - x_3) - x_2, \quad \dot{x}_3 = x_1 x_2 - \beta x_3 \\ \text{Halvorsen:} \quad & \dot{x}_1 = -\alpha x_1 - x_2^3 + x_2 x_3, \quad \dot{x}_2 = -\alpha x_2 - x_3^3 + x_1 x_3, \quad \dot{x}_3 = -\alpha x_3 - x_1^3 + x_1 x_2 \end{aligned}$$
参数为 σ=10, ρ=28, β=8/3 的 Lorenz-63,以及 α=3.15 的 Halvorsen。这种设置导致混沌行为,最大 Lyapunov 指数分别为 λ=0.906 和 0.218。式 (5.4) 中向量场的多项式形式建议使用 m=3 个量子位的振幅编码 (2.8),导致以下 27 项的库:
$$\{1, x_i^a y_i^b z_i^c : i=1,2,3; \; a,b,c \in \{0,1\}\}$$
我们还将考虑具有类似多项式结构的振幅编码方案 (2.9)。
为了将轨迹限制在区间 [-1,1] 或 [-π,π] 内(如编码所需),我们对状态施加变换 x → x/(1+|x|)(我们通常对所有坐标使用相同的参数)。这导致缩放的 Lorenz-63 模型:
$$\begin{aligned} \dot{x}_1 &= \sigma(x_2 - x_1)/(1+|x_1|), \\ \dot{x}_2 &= x_1(\rho - x_3)/(1+|x_1|)(1+|x_2|) - x_2/(1+|x_2|), \\ \dot{x}_3 &= x_1 x_2/(1+|x_1|)(1+|x_2|) - \beta x_3/(1+|x_3|) \end{aligned}$$
以及缩放的 Halvorsen 模型:
$$\begin{aligned} \dot{x}_1 &= -\alpha x_1/(1+|x_1|) - x_2^3/(1+|x_2|) + x_2 x_3/(1+|x_2|)(1+|x_3|), \\ \dot{x}_2 &= -\alpha x_2/(1+|x_2|) - x_3^3/(1+|x_3|) + x_1 x_3/(1+|x_1|)(1+|x_3|), \\ \dot{x}_3 &= -\alpha x_3/(1+|x_3|) - x_1^3/(1+|x_1|) + x_1 x_2/(1+|x_1|)(1+|x_2|) \end{aligned}$$
这种向量场级别的变换简化了学习到的系数与真实系数之间的比较。
**B. 数值结果**
我们在此使用完整的 m 个泡利可观测量测量算符集合。在此设置下,储备酉算子变得无关紧要 [见式 (3.18)]。我们使用五阶 Runge-Kutta 积分器生成轨迹,时间步长为 h=0.01。报告的训练误差和预测时域是对多个初始条件取平均的。训练 QELM 后,我们通过将学到的权重 W 代入式 (3.14) 获得经典代理模型 f_class。
均方根 (rms) 训练误差
$$\epsilon_{\mathrm{train}} = \sqrt{\frac{1}{N_{\mathrm{train}}} \sum_{k=0}^{N_{\mathrm{train}}-1} \| x_{k+1} - f_{\mathrm{class}}(x_k) \|^2}$$
衡量训练的预测器的一步精度。作为多步预测精度的度量,自主生成的轨迹与真实轨迹通过预测时域进行比较:
$$T_{\mathrm{forecast}} = \min\{t : \|x(t) - \tilde{x}(t)\| > \sqrt{d}(\mu + 3\sigma)\}$$
其中 μ 和 σ 分别是轨迹的均值和标准差。我们在多个起点 x_0 上对 T_forecast 取平均,并以 Lyapunov 时间 T_L 为单位表示。
各种设置下训练 QELM 的结果总结在表 IV 中。我们强调,我们的目的不是超越之前的基准,而是进行受控的可解释性实验。因此我们有意保持设置简单。通过进一步优化编码和读出的特征工程,可以显著改善训练误差和预测时域。图 12 展示了训练的 QELM 自主生成的预测与迭代的经典模型之间的一致性,以缩放的 Lorenz-63 模型为例。两者都保持在真实轨迹附近,直到时间 T_L 时,混沌系统的内在 Lyapunov 不稳定性导致发散,这由初始条件中的误差、离散化和代理模型中的附加项触发 [99]。
图 12. QELM 与其经典表示的对比:从 QELM [式 (2.1)](在缩放的 Lorenz-63 模型上训练)获得的预测与其迭代的经典(代理)表示 [式 (3.14)] 的预测完全匹配。两者最终都由于 Lyapunov 不稳定性而从真实轨迹发散。QELM 使用 m=3 个量子位的振幅编码 (2.8)。真实轨迹以分辨率 h=0.001 生成。时间以模型时间单位给出。对于式 (5.6) 中的缩放变换,我们使用参数 σ=10, ρ=28, β=8/3。
表 IV. 基准系统和文中讨论的(无酉算子)QELM 设置的训练 rms 误差 ε_train [式 (5.8)] 和预测时域 T_forecast [式 (5.9)]。我们通常使用 m=3 个输入量子位(无延迟态)和 h=0.01 的时间分辨率。T_forecast 以其标准差(非均值误差)给出,单位为 Lyapunov 时间 T_L。λ 表示岭正则化参数。"类型"列指示我们使用的是标准 [式 (5.4)] 还是缩放的动力系统。
在前一种情况下,我们将轨迹统一缩放到第三列中报告的区间。在后一种情况下,我们使用重新缩放因子(所有状态坐标相同)求解公式(5.6)和(5.7)中的动力系统。系统、类型、QELM设置:Lorenz-63标准放大器编码[0,0.3],公式(2.8),–;Lorenz-63重缩放放大器编码[0,1],公式(2.8),0.005;Halvorsen标准放大器编码[0.1,0.8],公式(2.8),–;Halvorsen标准+读出向量加平方项,–;Halvorsen重缩放放大器编码[0,1],公式(2.8),0.027;Halvorsen重缩放+读出向量加平方项,0.027;Halvorsen标准放大器编码,公式(2.9),–;Halvorsen重缩放放大器编码,公式(2.9),0.001。表V.本工作中使用的符号总结。已训练的量用帽子表示(例如)。符号、含义、定义位置:希尔伯特空间,第II节;上的厄米算符空间,第II节;量子比特数,第II节;希尔伯特空间维度,第II节;输入数据维度,第II节;训练样本数,公式(2.2);测量算符数,公式(2.1);时间复用步数,公式(3.9);总测量数(例如),公式(3.14);非零Pauli特征数,公式(3.14);输入数据,公式(2.1)和(3.14);目标值,公式(2.2);量子态的密度矩阵(特征映射),公式(2.1);测量算符,公式(2.1);-量子比特Pauli算符,公式(3.2);单站点Pauli矩阵,公式(3.11);蓄水池和编码酉算符,公式(2.4);Pauli转移矩阵(信道),公式(3.3);酉PTM,公式(3.8);有效PTM(时间复用),公式(3.9);选定的可观测量集,公式(3.4);对应于的选取矩阵,公式(3.4);Pauli特征向量,公式(3.2);读出特征向量,公式(3.14);读出权重,公式(3.14);正则化参数,公式(2.2);QELM输出函数,公式(2.1);Pauli权重,公式(4.5);几何信道可解码得分,公式(4.10);几何编码可解码得分,公式(4.15);信息处理能力,公式(4.13)和(4.16);恒等蓄水池的信息处理能力,公式(4.16);信道传输得分,公式(4.17);零空间载荷,公式(4.17);统计拯救得分,公式(4.17);动力系统重缩放参数,公式(5.6)和(5.7)。使用Halvorsen模型(5.7)重复实验时,我们获得略低的预测时程和均方训练误差。与Lorenz-63模型相比,这种性能下降的一个原因在于库(5.5)中缺少状态变量的平方项。这些平方项对于Halvorsen方程(5.7)至关重要,而Lorenz-63模型(5.6)仅依赖于状态变量的交叉项。事实上,通过为读出向量添加其平方项,Halvorsen模型的预测精度显著提高(见表IV)。或者,使用公式(2.9)中的振幅编码变体也能达到类似的性能,因为该编码已经包含了状态变量的平方项。在蓄水池计算领域,通过特征工程来增强预测性能众所周知[65,67,100]。本分析表明,在PTM框架内,这种优化可以系统地表述为一个反问题,其中真实模型的结构决定了编码中所需的项。在采用时间复用时,读出矩阵的秩[公式(3.17)]可以作为训练精度的指标,如图13所示。该秩的上界是非零Pauli特征数的数量,对于此处使用的编码(2.9),该值为。当条件受控且避免了指数集中效应[48,53,81]时,达到该秩使几乎所有Pauli特征对读出可用,从而可以提升性能。事实上,图13(b)中的QELM达到了与表IV中使用完整Pauli可观测量集获得的基本相同的训练误差和预测时程。相比之下,图13(a)表明,当读出仅使用少量有效可观测量时,性能仍然较差。在本设置中,这是由于使用了像TFIM[公式(2.5a)]这样的结构化哈密顿量,它将可观测量的分布扩展得不够有效地覆盖整个算符空间,因此[参见公式(3.20)和图4]。当使用特定TFIM变体[公式(2.5b)]配合型可观测量大小时,这种效应最为显著。数值实验证实了读出与PTM秩之间的密切关系(3.20)。图13.时间复用时QELM在Halvorsen模型(5.7)上的预测性能(预测时程以Lyapunov时间为单位,以及均方训练误差)。我们使用6个量子比特、单量子比特Pauli-Y可观测量和振幅编码(2.9),以及(a)TFIM哈密顿量[公式(2.5a)]或(b)随机哈密顿量。顶部横轴显示数值获得的读出矩阵秩相对于最大可达秩。读出中未添加额外特征。对于TFIM变体[公式(2.5b)],我们获得最大秩、均方误差和预测时程。C.可解释性当使用瞬态特征库在马尔可夫动力系统中训练NG-RC时,模型学习流图的近似[67,70,101–103]。然而,(5.5)形式的库由于与真实模型的结构不匹配,不能直接产生可解释的模型[104]。在本工作中的教师强制设置下,使模型可解释的一种方法是将特征映射用构成流图的维度库的函数表示,然后将其代入学习到的模型(3.14)中,这通过公式(5.3)给出了流图的近似,其中包含变换矩阵。确定矩阵有多种方法(如配置法),但此处我们对运行点(数据均值)进行泰勒展开。这在当前情况下是自然的,因为对于所考虑的多项式动力系统,我们可以取为直至阶的单项式集合,其数量为。回顾一下,低阶单项式可以从库中很好地构建(见第IV C 2节)。然而,由于的张量积结构[参见公式(3.12)]以及单量子比特特征向量的导数存在于二维空间中(Pauli-X消失),当较大时,通常不具有满列秩。其结果是,库中仅有个维度子空间可以通过编码特征访问,因此中的一些单项式不能独立识别。尽管如此,在本工作考虑的设置中,偏差仍然很小[105]。图14展示了使用振幅编码[公式(2.8)和(2.9)]在(重缩放的)Lorenz-63和Halvorsen模型上训练QELM后,由公式(5.11)得到的学习到的流图增量(读出中未进行特征工程)。与理论预期[公式(5.2)]的比较显示,尤其是低阶系数的吻合良好。虽然高阶系数的偏差可能较大,但它们对整体训练误差的影响仍然较小。图14.通过泰勒近似方法[公式(5.11)]获得的QELM学习到的流图示意图。QELM在(a)Lorenz-63模型(5.6)和(c)Halvorsen模型(5.7)上训练,分别使用振幅编码变体(2.8)和(2.9)。重缩放参数分别为(Lorenz-63)和(Halvorsen)。相应的真实流图增量[公式(5.1)],展开至状态变量的三阶,在(b)和(d)中展示以供比较(恒为零的项被省略)。如图15所示,在旋转编码[公式(2.10)]的情况下,QELM同样形成特征库的线性组合,使得其泰勒展开近似匹配真实流图[公式(5.2)]。与振幅编码相比,旋转编码产生了略更精确的流图近似和更低的训练误差。我们发现,将训练轨迹缩放到均值附近的区间时,可实现最低的训练误差。图15.通过泰勒近似方法[公式(5.11)]获得的QELM学习到的流图示意图。QELM使用旋转编码[公式(2.10)],在(a)Lorenz-63模型(5.6)和(c)Halvorsen模型(5.7)上训练。重缩放参数分别为(Lorenz-63)和(Halvorsen)。相应的真实流图增量[公式(5.1)],展开至状态变量的三阶,在(b)和(d)中展示以供比较。系数与图14不同,因为展开点不同。VI. 总结我们采用PTM形式体系来描述QELM(无记忆QRC)的训练,将其视为一个由量子信道混合的特征解码问题,并讨论了其对系统辨识和时间序列预测的意义。将状态和信道写在Pauli基(或任何其他正交算符基)中,使QELM成为一系列作用在代表编码状态Pauli特征向量上的实线性映射。因此,QELM采取了一种经典回归模型(或"下一代"RC[67])的形式,其基于随机特征,这些特征承载了QELM对编码输入的完整依赖关系,并决定了模型可能表达的非线性性。我们注意到,此前已有多个工作探索了QML模型的经典表示[50,106–109]。虽然基于PTM的QELM回归表示本质上是数据无关量子信道线性性质的已知结果[29,37,46,49],但我们的工作提供了关于初始态编码QELM的若干新见解。我们证明了QELM的非线性信息处理能力可以用两个因素来表达:(i) 目标在Pauli特征上如何被近似,以及(ii) 这些特征通过蓄水池的传输质量如何(见第IV D节)。值得注意的是,即使是被蓄水池信道阻碍的特征,也可以从与可见特征的统计相关性中重建。这为信息处理能力的不同贡献[54]以及超越通用逼近定理的训练误差[6,27–31]提供了更精细的视角。事实上,学习动力系统的流图受益于与向量场结构匹配的特征库[70]。对于此处使用的编码,流图中的项可以在受限域上从编码特征(它们具有傅里叶形式或其他形式,见第II B节)中近似。将这些见解应用于在确切的数据生成过程未知的情况下(黑箱系统辨识)构建降阶模型,是未来工作的一个有趣方向[97,110,111]。本工作强调哈密顿量结构作为QRC性能的指标(另见,例如,文献[44,50,51,96,112]):具体而言,对于时间复用,在受限测量方案下,更大的蓄水池随机性是有益的,而高度结构化的哈密顿量可能导致低表达力。我们从底层的哈密顿量对称性解释了这些发现,这些对称性对可达Krylov空间进行划分(见附录G),并对有效PTM进行了理论分析。作为一个具体应用,我们基于Majorana形式体系为横向场Ising链提供了渐近秩估计(见附录F)。以往多项研究指出,简单地增强QML模型的量子特性通常不会改善其在实际数据集上的性能[113–119]。本研究为这一发现提供了进一步视角:首先,如上所述,量子编码所生成特征的特定数学结构并不一定最适合逼近经典目标函数。例如,目标函数可能无法精确地从编码生成的特征的线性张成空间中表示,即使在任何量子信道变换之前也是如此(理想可解码得分为1)。这是QML中的经典可表示性问题[51,120–122]。其次,蓄水池酉算符混合了特征,而逆转这种潜在有害的影响需要复杂的测量方案(例如,高阶Pauli可观测量大、优化的预测量酉算符或时间复用方案)。这一见解通过比较单量子比特可观测量的Pauli权重平均值与其训练精度得到了支持:如图16所示,对于没有时间复用的最小QELM训练时间序列预测任务,大的Pauli权重平均值与高训练误差和短预测时程强相关。与文献[47,74]一致的是,对任务性能至关重要的不仅是量子态如何演化,而是在所选可观测量和时间复用下,Heisenberg-Krylov算符空间的哪一部分实际上是可以访问的。此处提出的可解码性框架允许将蓄水池的影响与编码的影响分离开来,从而分析它们对模型非线性处理能力的影响(见附录C)。图16.Heisenberg演化的测量可观测量的Pauli权重平均值(a)可以预测没有时间复用的QELM的训练误差(b)和预测时程(c)。我们使用TFIM哈密顿量[公式(2.5a),变耦合参数,固定],8个量子比特和振幅编码(2.8)。
图中(b)和(c)中的QELM基于Lorenz-63模型进行训练,在读出阶段采用1量子比特的泡利可观测量,并通过引入最高至2阶的单项式来增强对非线性项的敏感度。泡利权重均值与数据无关。泡利特征的 -维空间[123]类似于采用基于门的旋转编码的量子机器学习模型中的指数级频率分量[51,52,72]。这些特性以及源于希尔伯特空间指数级维度的类似性质预示着可能的量子优势,但需要特定的测量策略。此外,单纯增加量子比特数通常并不能提升QRC性能,因为病态性和指数集中效应可能变得显著[12,48,50,53]。在这种情形下,需要更精细的储备池设计策略来引导特征在量子层中的传播。最后,在转移矩阵定义中使用泡利基是由测量过程所支持的,但并非唯一的选择。因此,未来的工作可以探索其他正交算符集,并评估现有结论的普适性。