多模态离散扩散用于一维横场伊辛模型中的量子测量生成

《APS Open ScienceNEW》：Multimodal discrete diffusion for quantum measurement generation in the one-dimensional transverse-field Ising model

　　

基于扩散的大语言模型近年来作为一种有前景的非自回归生成模型吸引了大量关注。然而，它们应用于量子多体系统仍 largely 未被探索。我们引入了M-Diffushadow，一种面向量子多体系统的多模态扩散语言模型。在M-Diffushadow中，我们采用全注意力机制并结合迭代解码，这更好地与量子系统的物理特性相一致，从而实现对这类系统更忠实的建模。作为一种多模态方法，M-Diffushadow支持双向跨模态推断、从部分观测到的多模态记录中进行重建，以及无需先验测量结果的完全联合生成，这与测量访问受限或不完整的现实实验约束自然契合。我们在一维横场Ising模型（TFIM）上展示了该框架的有效性，所生成的数据在不同相中准确地再现了基态能量和关联函数。我们进一步在XXZ自旋链上提供了额外的数值示例，以支持M-Diffushadow在原始TFIM基准之外的适用性。M-Diffushadow显示出捕捉和分析量子多体系统中复杂量子现象的潜力。

I. 引言

量子多体系统在现代物理学中扮演着核心角色，为从高温超导到量子磁性和量子信息处理等一系列涌现现象提供了基础[1–4]。理解集体行为如何从微观量子相互作用中产生仍然是一个根本性挑战，特别是在强关联和纠缠占主导的机制中。量子工程的最新进展使通过可编程量子模拟器和近期量子设备获得大规模量子多体系统前所未有的实验访问成为可能[5,6]。然而，希尔伯特空间随系统尺寸呈指数增长，使得经典计算无法直接描述这些系统。因此，量子多体系统的实验研究必然依赖于通过测量过程间接获取信息，而非显式的波函数表示。在现有方法中，经典影子（CS）层析成像[7]已成为一种强大的框架，可通过随机测量高效估计物理可观测量。通过显著降低广泛可观测量的测量成本，经典影子使得对量子系统的可扩展表征成为可能，而这在其他情况下是无法实现的。然而，获取足够丰富的实验数据仍然资源密集，且经典影子方法通常是为估计特定可观测量而设计的，而非建模测量结果的全部分布[8]。更广泛地说，量子多体系统中的实验数据采取离散和随机测量记录的形式，是在特定测量协议下获得的。这类数据本质上是异质的：不同的测量模态探测同一底层量子态的互补方面，同时展现出不同的统计结构。这些特性对统一的数据驱动建模、不同实验条件下的量子测量数据复用和生成构成了根本性挑战。从更宏观的角度来看，这些挑战表明，核心困难不仅在于估计单个可观测量，更在于建模量子测量数据本身的底层分布。近年来，数据驱动方法在研究复杂物理系统方面引起了越来越多的兴趣，这得益于实验和数值数据的日益丰富[9–11]。与传统解析或基于模拟的方法不同，机器学习提供了一个灵活的框架，可直接从数据中提取统计结构，而无需对底层物理状态进行显式的低维参数化[12]。它在量子多体物理学中尤为强大，学习测量结果的完整概率分布不仅可实现状态重建，还可发现涌现模式和相变[13]。特别是，现代生成模型旨在学习高维数据的完整概率分布[14,15]，不仅支持预测，还能采样符合已学习分布的新数据实例。这一视角对量子多体实验尤为相关，因为可获取的信息自然以随机测量记录而非显式波函数的形式表达。这类测量数据是离散的、高维的且本质上是概率性的，与在自然语言和其他符号领域遇到的结构化序列密切相关[16]。因此，受语言模型启发的架构已成为建模量子测量数据的自然候选，将测量结果视为条件于实验设置的离散标记序列[17]。从这一观点来看，不同的测量模态对应于探测同一底层量子系统的不同但相关的关联数据通道。一个能够学习这些异质测量记录上联合分布和条件分布的生成模型，将为量子实验结果的表征和合成提供一个强大且数据高效的工具。在生成模型类别中，扩散语言模型作为一种有前景的范式近期引起了关注[18,19]，并为建模复杂的高维科学数据分布提供了一种特别自然的抽象。扩散模型不是直接一步生成数据，而是学习通过一系列随机精炼步骤将噪声转化为结构化样本，为概率生成提供了灵活且稳定的框架[20,21]。这一范式特别适合量子测量数据。测量记录本质上是离散的、随机的且条件于实验设置的，其统计结构可通过渐进的加噪和去噪过程自然捕捉。通过在离散状态空间直接操作，离散扩散模型实现了符号测量结果的原理性建模，同时保留了其概率解释。这些特性使得基于扩散的生成建模成为学习和合成不同测量模态下量子实验数据的合适基础。基于这些考虑，我们引入了M-Diffushadow，一种用于建模和生成量子测量数据的多模态离散扩散框架。我们的方法学习异质测量模态上的联合概率分布和条件概率分布，包括经典影子测量和最近邻自旋乘积结果，同时条件于实验参数。通过直接操作离散测量记录，M-Diffushadow提供了量子实验数据的统一生成描述，而不依赖显式的波函数表示。由于测量结果仅作为中间量，从中可推导或进一步处理多种物理性质，M-Diffushadow专注于生成这些结果，并将后续的任务特定操作交由下游物理分析处理。这一策略消除了为每个任务训练单独模型的需要；相反，一个模型支持多种应用，如估计基态能量和关联函数。至关重要的是，一旦训练完成，模型即可作为实际的数据代理，按需快速生成大量测量样本，消除了在实际量子硬件上进行耗时且资源密集测量的需要。此外，M-Diffushadow一旦在一组稀疏的h值上进行训练，即可为任意h值生成测量样本而无需额外实验。这使得M-Diffushadow成为一个实际的数据代理，显著加速了数据获取过程。在模型层面，M-Diffushadow建立在迭代去噪范式之上，其中量子测量记录从噪声输入逐步精炼为物理一致的样本。还采用了具有全注意力[22]的架构，通过允许双向信息流来捕捉量子比特间的非局域关联，并在共享表示空间内整合来自不同测量模态的信息。该设计旨在支持灵活的条件化和掩码操作，使模型能够在联合生成、跨模态推断和部分重建模式之间无缝切换。据我们所知，本工作代表了基于离散扩散的生成建模首次应用于量子多体测量数据的工作之一，也是首次明确在统一框架内解决多模态量子测量生成的工作。该设计专门针对实验环境中的实际挑战而定制，如受设备限制或成本约束而仅限于单一数据模态，以及因设备故障或部分测量而导致的数据不完整。为应对这些问题，M-Diffushadow支持跨模态条件生成、不完整观测下的部分测量重建，以及无需先验测量结果的联合多模态生成，为异质量子数据建模提供了一种多功能方法。我们在一维横场Ising模型（TFIM）上展示了M-Diffushadow的有效性，所生成数据在不同相中准确地再现了基态性质和关联函数。这些结果突显了多模态生成扩散建模作为量子多体表征和合成的数据高效工具的潜力。本文其余部分组织如下。第II A节介绍了本工作中涉及的物理背景和量子测量数据。第II B节简要介绍了与本工作相关的生成模型，特别强调离散扩散模型。在第III节中，我们首先详细描述M-Diffushadow的独特架构设计。这些结构特性正是赋予模型对量子测量建模高度适用性的原因，并为其后续的训练和生成过程奠定了基础。训练和生成的细节分别在第III B节和第III C节中给出，其中我们描述了模型如何从噪声测量数据中学习并产生物理一致的样本。在第IV节中，我们报告了M-Diffushadow不同生成模式的数值实验和结果，随后进行讨论。还纳入了XXZ模型的实验，以进一步评估M-Diffushadow在原始TFIM基准之外的适用性。

II. 预备知识

A. 物理设置和数据

我们首先简要总结本工作中贯穿使用的物理设置和符号。

我们主要考虑横场Ising模型，其中横场强度h作为全局控制参数。一维TFIM是凝聚态物理学中被广泛研究的范式性量子多体系统[1,23]。凭借其丰富的物理行为和概念简洁性，它提供了一个自然的设置来研究量子相变和关联自旋动力学。

我们考虑一个具有周期边界条件的N量子比特链，由以下哈密顿量描述：

（1）

其中和表示作用于第i个量子比特的Pauli算符，h是无量纲横场强度。

该模型捕捉了两种基本物理机制之间的竞争：最近邻相互作用有利于铁磁有序，而横场诱导量子涨落以抑制自旋对齐。这种竞争在临界点处引发了量子相变，将铁磁相（h < 1）和顺磁相（h > 1）分隔开来[24]。

我们主要考虑经典影子和最近邻自旋乘积（SPs），它们构成了我们的模型所研究的两种模态。第一种模态基于经典影子协议[7,25]，该协议已被证明可通过随机测量提供量子态的高效可扩展表示。对于每个实验发射，经典影子数据表示为三元组(h, B, r)，其中h表示哈密顿量的横场强度，B是随机采样的局部Pauli测量基序列，取值为X, Y, Z，r是相应的测量结果序列，取值为+1或-1。该模态捕捉条件于哈密顿量参数和所选测量基的局部测量信息。除了经典影子外，我们引入第二种模态，由最近邻自旋乘积测量组成。对于每个由i索引的最近邻对（其中i为相邻对索引），该模态记录施加于相邻自旋的测量基以及相应的自旋乘积结果。为符号方便，我们将配对测量基序列记为B^{SP}，类似于经典影子模态中的单站点基序列B，并将相应的自旋乘积结果记为r^{SP}。这类可观测量直接探测系统中的短程关联，且保持局域性和实验可及性。除了提供对相互作用驱动关联的敏感性[26,27]外，这种"本征"SP模态提供了结构上不同的视角，与经典影子的随机快照形成互补。M-Diffushadow旨在学习这种不同测量记录之间的跨模态关系。通过将每种模态视为抽象的标记序列，架构保持模态无关性，使其能够执行跨模态推断并从不完整的实验访问中重建完整的物理图像。该设计作为代表性概念验证，可自然扩展到其他测量组合或哈密顿量。

B. 生成建模

从量子多体系统获得的测量结果本质上是随机的，即使底层哈密顿量参数是固定的。因此，学习建模此类系统自然需要一个概率生成框架来捕捉测量数据的完整分布，而非对特定可观测量的确定性预测[9,12]。在本工作中，我们采用生成建模视角，旨在学习条件于哈密顿量参数和测量设置的可实验访问测量结果的联合分布。这种表述使模型能够表示量子测量的内在随机性，并生成反映底层量子态统计结构的一致样本。另一方面，我们设置中考虑的测量基和相应结果在离散有限集中取值。

这自然地在离散状态空间中产生了一种建模思路，从而能够对量子测量数据实现物理上忠实的表征。离散扩散模型为这类离散状态空间中的生成建模提供了自然框架，其中数据生成被表述为一个渐进去噪过程[21,28]。在这一范式中，测量结果首先通过随机加噪过程被部分破坏，而一个参数化模型则被训练以迭代重建原始数据，其条件是剩余的信息。在本工作中，我们采用这种离散扩散视角来建模多模态量子测量数据，其中经典影子测量和最近邻自旋乘积可观测量均被当作离散变量，并通过条件去噪联合生成。详细的模型架构和训练流程将在下一节中描述。

III. 方法

我们介绍了一种名为 M-Diffushadow 的多模态扩散模型，该模型基于经典影子层析术，聚焦于经典影子和最近邻自旋乘积。本节将对 M-Diffushadow 进行详细介绍，涵盖其架构特征（第 III A 节）、训练范式（第 III B 节）和生成范式（第 III C 节）。正是这些独特设计使其能够有效建模量子系统并对其物理性质进行预测。

A. M-Diffushadow 的架构

M-Diffushadow 建立在 Transformer 架构[22]的基础上。注意力机制是它与主流自回归模型架构的主要区别所在。结合精心设计的结构化多模态嵌入，这一注意力机制使 M-Diffushadow 更适合量子多体问题的测量。

M-Diffushadow 的一个定义性架构特征是其使用了全注意力[22]，这与 GPT[16]等主流自回归模型所使用的因果注意力形成对比。全注意力意味着序列中的每个标记都可以关注其之前和之后的所有标记。相比之下，因果注意力仅允许当前标记关注先前的标记，而无法看到后续的标记。选择全注意力而非因果注意力是由量子测量数据的物理结构所决定的。与自然语言不同，在自然语言中标记是按顺序生成的并存在因果顺序，量子测量结果则是联合分布的，没有内在的因果序列。全注意力使每个标记能够在没有方向性约束的情况下关注所有其他标记，为建模此类数据中固有的非局域关联提供了更自然的框架。相比之下，因果注意力施加了单向信息流，在同时量子测量的语境下可能引入缺乏明确物理依据的人为偏差。

嵌入模块也经过精心设计，以有效捕捉底层物理规律以及不同模态之间的关系。我们设计了一个结构化多模态嵌入层，将这些异构数据类型编码为离散符号序列，使其能够被扩散模型处理。这种统一表示为后续扩散去噪过程提供了一致的嵌入空间。

对于经典影子模态，我们为每种类型的数据设计了不同的嵌入模块。对于参数 $\gamma$，我们使用独立的线性映射组件，因为 $\gamma$ 是 0 到 1 之间的实值参数。这种线性映射避免了不必要的维度扩展，防止对 M-Diffushadow 造成混淆，同时也降低了整体复杂度。对于 $b_i$ 和 $m_i$，我们使用两个独立的嵌入层将它们分别映射。这是因为它们是不同类型的数据，各自携带不同的信息。在对 $b_i$ 和 $m_i$ 进行嵌入后，得到的嵌入 $\mathbf{e}_{b_i}$ 和 $\mathbf{e}_{m_i}$ 被拼接并输入到一个带有全注意力机制的专门设计的 Transformer 模块中。此外，还引入了位置编码和类型编码，以进一步区分不同类型信息并丰富输入表示。

对于最近邻自旋乘积模态，其信息必须被 M-Diffushadow 高效理解并与经典影子模态建立联系。在此背景下，我们引入了一个组合编码器来处理自旋乘积数据中的测量基对 $(b_i, b_{i+1})$。首先，对于 $b_i$ 和 $b_{i+1}$，我们使用与经典影子模态相同的嵌入组件，得到测量基嵌入 $\mathbf{e}_{b_i}$ 和 $\mathbf{e}_{b_{i+1}}$。接下来，我们设计了一个可训练的组合编码器来学习不同测量基组合的独特物理含义，如公式 (2) 所示：

$$\mathbf{e}_{(b_i, b_{i+1})} = \sigma(\mathbf{W}_{b_i} \mathbf{e}_{b_i} + \mathbf{W}_{b_{i+1}} \mathbf{e}_{b_{i+1}} + \mathbf{b}) \quad (2)$$

其中 $\mathbf{W}_{b_i}$、$\mathbf{W}_{b_{i+1}}$ 和 $\mathbf{b}$ 是可训练参数。这个组合编码器使我们能够在最近邻自旋乘积模态中保留测量基组合的特征表示，同时建立它们与经典影子模态之间的关系。对于测量结果 $m_{ij}$，我们应用与经典影子模态中 $m_i$ 相同的嵌入模块。最后，将两种模态的各种数值嵌入拼接成一个序列，输入到后续的 Transformer 模块中。此外，我们引入了位置编码和类型编码以进一步区分不同类型信息并丰富输入表示。值得注意的是，经典影子模态的测量基和相邻自旋乘积模态的测量基组合使用了相同的类型编码，强调它们共享相同的数据类型。

B. M-Diffushadow 的训练

如图 1(a) 所示，训练数据的输入序列由三部分组成，包括哈密顿量参数 $\gamma$、经典影子模态 $D^{\text{sh}}$ 和最近邻自旋乘积模态 $D^{\text{nn}}$。

**图 1.** M-Diffushadow 的训练和生成过程。(a) 模型被训练以预测被掩码位置的正确结果。(b) 生成过程从完全掩码的状态通过 $T$ 步迭代去掩码最终得到输出。

为了训练 M-Diffushadow，我们构建了一个训练数据集，该数据集包含从 TFI 模型在横场强度 $\gamma \in [0, 1]$ 的八个不同取值下的基态生成的两种模态的测量记录。所有跨越不同 $\gamma$ 值的训练样本被混合并共同用于训练 M-Diffushadow。这使得模型能够在单一统一框架内学习不同物理相中的不同物理状态。

为了确保模型从两种模态及其相互关系中高效学习知识，同时防止过拟合，我们设计了一种动态重排数据加载策略。成对多模态数据的动态重排迫使模型学习模态之间的内在关系，而不是记忆特定组合。具体来说，对于共享相同参数 $\gamma$ 的每个实例，经典影子模态序列和最近邻自旋乘积模态序列被随机配对形成输入序列：$x = [\gamma, D^{\text{sh}}_i, D^{\text{nn}}_j]$。在后续的训练轮次中，原始配对被打乱并随机重新组合以生成新的输入序列。通过连续训练轮次之间重排组合，保证每个特定的模态配对只出现一次，从而在最大化数据利用效率的同时防止模型记忆固定配对。在实践中，重排轮次数 $E$ 被当作一个超参数处理。这种动态重组策略迫使模型在潜在空间建立两种模态之间的语义对应关系。由于每次配对都是随机的，模型无法依赖任何特定的样本组合，而必须学习每种模态的内部特征与共享物理状态 $\gamma$ 之间的映射。

在构建原始训练数据之后，需要对其进行掩码以方便模型训练。在保留条件信息 $\gamma$、$b_i$ 和 $b_{i+1}$ 的同时，我们采用随机掩码过程来破坏两种模态的测量结果序列 $M^{\text{sh}}$ 和 $M^{\text{nn}}$。具体来说，对于批中经典影子模态的每个训练样本，我们采样一个独立的掩码概率 $t$，其中 $\epsilon$ 是一个确保最小掩码的小超参数。然后我们通过从伯努利分布中独立抽取每个 $z_i$ 来生成二值掩码序列 $Z^{\text{sh}}$：$z_i \sim \text{Bernoulli}(t)$，其中 $N$ 是量子比特数。经典影子模态带掩码的测量结果序列构建为

$$M^{\text{sh,mask}}_i = z_i \cdot M^{\text{sh}}_i \quad (3)$$

其中 $M^{\text{sh}}_i$ 是经典影子模态的原始测量结果。最近邻自旋乘积模态的测量结果序列 $M^{\text{nn}}$ 遵循与 $M^{\text{sh}}$ 相同的加噪过程。两种模态之间的唯一区别在于独立配置的超参数 $\epsilon_{\text{sh}}$ 和 $\epsilon_{\text{nn}}$，它们控制施加到每种模态的噪声程度。

训练的目标是给定 $\gamma$ 以及两种模态的其余测量结果，预测被掩码的测量结果。训练的损失函数如下所示[公式 (4)]：

$$\mathcal{L} = -\sum_{i \in \text{mask}} \log p_\theta(m_i | \gamma, b, M^{\text{mask}}) \quad (4)$$

在公式 (4) 中，$\mathbb{I}$ 表示指示函数，$M$ 表示未掩码的测量结果序列，$M^{\text{mask}}$ 表示带有随机掩码的测量结果序列，$\theta$ 表示正在训练的 Diffushadow 参数。为简化表示，令 $b$ 表示测量基，$m$ 表示测量结果，分别对应两种模态的测量基序列和测量结果序列。在此损失函数公式下，梯度更新仅基于被掩码的位置计算。

C. M-Diffushadow 的生成

如图 2 所示，M-Diffushadow 支持三种不同的生成模式。首先，M-Diffushadow 支持跨模态条件生成，即在一种模态作为条件生成另一种模态。具体来说，给定经典影子测量结果 $M^{\text{sh}}$ 或最近邻自旋乘积测量结果 $M^{\text{nn}}$，M-Diffushadow 推断并生成缺失的模态。这一能力与现实实验场景紧密契合，在这些场景中由于硬件限制或成本约束可能只能获取部分模态数据。通过启用跨模态推断，模型可以从可用数据中重建缺失的观测信息，为实验设计和数据分析提供一个灵活高效的工具。其次，M-Diffushadow 支持两种模态内的部分测量重建。在此设置中，两种模态的测量结果被随机掩码，模型以跨模态的剩余观测数据为条件生成缺失的条目。这对应于实验中的真实场景，即由于有限采样、噪声或数据损坏影响多个测量通道而导致测量记录不完整。通过利用模态内和跨模态的关联，模型在保持底层统计结构的同时重建不完整记录。第三，M-Diffushadow 实现了两种模态观测的同时生成。给定系统参数 $\gamma$ 和两种模态的测量基序列，模型联合生成经典影子测量结果 $M^{\text{sh}}$ 和最近邻自旋乘积测量结果 $M^{\text{nn}}$。这种多模态生成范式能够从同一物理系统中高效一致地合成异构实验数据，从而显著提高实验效率。

**图 2.** M-Diffushadow 的不同生成模式：(a) 跨模态推断（从最近邻自旋乘积到经典影子）；(b) 跨模态推断（从经典影子到最近邻自旋乘积）；(c) 联合生成；(d) 部分测量重建。

如图 1(b) 所示，M-Diffushadow 的生成过程从两种模态完全掩码的测量结果序列开始。给定哈密顿量参数 $\gamma$、分别为经典影子和最近邻自旋乘积随机采样的泡利测量基，以及掩码序列，M-Diffushadow 期望预测相应的测量结果。M-Diffushadow 通过迭代去噪生成预测，其中每步解除掩码的位置是动态确定的。相比之下，自回归模型从左到右逐个生成预测，这可能会引入虚假的因果假设。M-Diffushadow 不施加预设顺序。它承认所有测量结果都从同一量子态 $\rho$ 中同时产生，这与量子系统的基本性质相一致。

另一方面，我们为这种动态迭代解码过程设计了一种特定的解码策略。M-Diffushadow 在每个去噪步骤中对所有被掩码的位置预测概率。我们不是同时解除所有位置的掩码，而是采用自适应策略，选择性地揭示每次迭代中最有信心的预测。具体而言，在第 $t$ 步，M-Diffushadow 基于其预测置信度将位置 $S_t$ 处的掩码替换为最新预测结果，而剩余位置继续保持掩码状态。被解除掩码的位置 $S_t$ 连同之前所有已解除掩码的位置，然后被用作第 $t+1$ 步生成的信息参考。此过程在第 $t+1$ 步重复，直到测量结果序列中所有位置都已解除掩码。这种解码策略使模型能够先解决最确定的预测，利用这些高置信度结果作为上下文锚点来促进更具挑战性的预测，从而产生更稳健的生成轨迹。

IV. 结果与讨论

在本节中，我们在逐步减少观测信息的生成设置下系统评估 M-Diffushadow。据我们所知，目前尚无现有的生成模型解决本工作中研究的多模态量子测量生成任务。因此我们选择了 ShadowGPT[29]作为最相关的基线模型，该模型使用因果自回归架构生成经典影子测量序列。与 M-Diffushadow 相比，ShadowGPT 是单模态模型且不包含最近邻自旋乘积测量。具体来说，我们考虑第 III 节中介绍的三种场景。

III C：（1）跨模态条件生成，即提供一种测量模态以生成另一种模态；（2）部分测量重建，即遮蔽部分测量标记并对其进行重建；（3）联合生成，即无需条件化即可同时生成两种模态。我们利用生成的数据估算量子系统的物理性质，并将其与精确解进行比较。实验中包含了模型生成的测量数据所估算的三种物理性质：基态能量、序参量的关联函数以及无序参量的关联函数[29]。这表明，单一的生成模型可以作为多样化下游分析的通用数据源。A. 跨模态条件生成我们首先研究M-Diffushadow在跨模态条件生成场景中的性能，即提供一种测量模态并生成另一种模态。具体而言，我们考虑两个方向性任务：从阴影到自旋的生成和从自旋到阴影的生成。此设置对应于仅能获取单一类型测量数据的部分观测实验场景。对于经典阴影模态，使用经典阴影协议估算三种物理性质，包括基态能量以及上述定义的关联函数。对于近邻自旋积模态，则评估近邻关联函数。图3展示了在给定近邻自旋积测量条件（自旋到阴影生成）下，由M-Diffushadow生成的经典阴影数据所计算的物理性质。图中，实心蓝点代表M-Diffushadow的预测值，灰色实线表示精确解。在所采样参数的所有取值范围内，M-Diffushadow的预测值与精确值高度吻合，表明模型具有很高的准确性。特别是，横场伊辛模型相变点附近的区域内部相互作用复杂，预测困难。即使在这种条件下，M-Diffushadow仍对三种物理性质保持了较高的预测精度，展现了其有效性。这表明M-Diffushadow能够准确表征量子系统的经典阴影测量，并可靠地生成高质量的经典阴影数据以估算物理性质。图4展示了在给定经典阴影测量条件（阴影到自旋生成）下，由M-Diffushadow生成的自旋积数据所估算的近邻关联函数。与经典阴影模态相同，M-Diffushadow的预测值与精确值保持高度一致。图3. M-Diffushadow生成的经典阴影数据所计算的横场伊辛模型物理性质估算结果。（a）序参量的关联函数；（b）无序参量的关联函数；（c）基态能量。图4. M-Diffushadow生成的经典阴影数据所计算的横场伊辛模型近邻关联函数。值得注意的是，如图3和图4所示，模型在[0, 1]范围内均匀采样的41个参数值上进行了测试，这比训练期间使用的8个值更为密集。考虑到我们的模型仅在稀疏的参数集合上进行训练，结果表明M-Diffushadow即使在训练阶段未曾见过的参数值上也实现了高精度，展现了良好的泛化能力。这对于高效生成具有多样参数值的大量阴影数据具有重要意义。为进一步评估M-Diffushadow的跨模态保真度，我们检查了两种模态均可获取的观测量。具体而言，我们从CS生成模式生成的经典阴影数据中计算近邻关联函数，并从SP生成模式生成的自旋积数据中计算相应的可观测量。如表I所示，这些量的均方误差与在相反生成模式下获得的均方误差相当，证实M-Diffushadow忠实地捕获了底层量子态，并在两个跨模态方向上生成了高保真度的数据。表I. M-Diffushadow在不同生成模式下生成的数据所估算的物理可观测量的均方误差。联合生成指同时生成CS和近邻SP数据。CS生成和SP生成对应于跨模态推断，即在一种模态条件下生成另一种模态。破折号表示对应模态中无法获取的可观测量。B. 部分测量重建接下来，我们考察M-Diffushadow在部分测量重建场景中的性能，即遮蔽一部分测量条目并在剩余观测数据条件下进行生成。此设置对应于仅有不完整测量记录可用的部分观测实验场景。除上述观测量级别的评估外，我们进一步研究了M-Diffushadow在测量结果层面的直接重建精度。该实验与其他两项研究形成互补：跨模态和联合生成通过衍生的物理观测量进行间接评估，而此处我们直接评估所预测测量记录本身的正确性。我们聚焦于铁磁相区域，该区域基态沿特定方向表现出强极化。所有测量基底固定为特定方向，并随机遮蔽一部分测量条目。然后，模型需要在剩余观测条目条件下重建缺失的结果。由于铁磁基态具有强极化特性，经典阴影中被遮蔽的条目预期与未遮蔽条目取值相同，而近邻自旋积中被遮蔽的条目以高概率取值为1。为量化重建性能，我们引入标记级准确率，定义为被正确预测的被遮蔽条目比例。在图5中，我们展示了两种相态下的一个生成结果实例；深色箭头表示模型重建的原始缺失条目，浅色箭头对应于初始已知的输入。对于铁磁相，重建的自旋与已知的自旋一致，均指向同一方向；对于顺磁相，重建的自旋与观测到的自旋之间没有明显的关联，呈现随机取向。这一行为与两种相态的物理特性完全吻合。我们还研究了M-Diffushadow在铁磁相范围内不同遮蔽比下的标记级准确率。对于经典阴影，在整个铁磁相范围和所有遮蔽水平下，准确率几乎保持在100%，表明模型几乎能完美重建该模态中的缺失条目。对于近邻自旋积模态，在整个参数范围内，重建准确率也始终显著高于随机基线（50%）。具体而言，随着遮蔽比的增加，准确率逐渐下降，在遮蔽比为0.8时达到最低点，此时准确率为90%。在遮蔽比为0.8时平均准确率为98.78%，而其他遮蔽比下的平均准确率为99.6%。这些结果表明，M-Diffushadow有效地捕获了部分观测场景中测量数据的底层条件结构，在单个测量结果层面实现了高保真重建。图5. 部分测量重建的一个实例。深色箭头表示原始缺失且随后由模型预测的值。C. 联合生成最后，我们评估M-Diffushadow在不依赖任何先验测量结果的情况下同时生成两种模态测量数据的能力。与上述跨模态和部分重建设置不同，联合生成要求模型直接从学习到的联合分布中进行采样。对于经典阴影模态，我们使用经典阴影协议估算三种不同的物理性质。对于近邻自旋积模态，我们估算近邻关联函数进行评估。不同生成策略的均方误差总结于表I中。在所考虑的所有参数值下，联合生成对所有可观测量均产生了一致较低的估算误差。误差略高于跨模态条件设置下的误差，但与ShadowGPT相当甚至更优。仅少数指标略低于ShadowGPT。这些结果表明，M-Diffushadow能够同时为经典阴影和近邻自旋积模态生成高质量数据，从而实现对多个物理可观测量的准确估算。我们进一步验证了联合生成的多模态样本的内部一致性。虽然两种模态是同时生成的，但它们预期描述相同的底层量子态，因此对于两种模态均可获取的可观测量应给出兼容的估算值。为此，我们在每个联合样本中分别从经典阴影和自旋积模态独立计算近邻关联函数。在所有参数值下，两种估算值高度吻合，平均绝对偏差低于特定阈值。这证实M-Diffushadow在跨模态间产生了相互一致的测量记录，联合生成模式未引入两个数据通道之间的虚假不兼容性。D. XXZ模型的额外验证此外，M-Diffushadow不仅限于TFI模型，还可扩展到其他哈密顿量和模态组合。为验证这一点，我们在一维XXZ自旋链上进行了额外的数值实验。哈密顿量如下所示，其中为各向异性参数。与主实验中考虑的TFIM相比，XXZ模型提供了一种涉及多种局域关联通道的不同自旋链哈密顿量。在该实验中，我们使用与TFIM实验中相同的M-Diffushadow架构和训练策略，仅将横场参数替换为各向异性参数。经典阴影模态保持为随机单量子比特测量模态。对于另一种模态，我们使用由近邻Pauli积通道组成的局域关联模态。此设置使我们能够检验同一多模态扩散框架是否能适应不同的哈密顿量和不同的多通道局域关联测量设置。我们通过估算局域关联以及基态能量密度来评估所生成的XXZ测量数据的质量。这些观测量可以从生成的经典阴影数据和生成的局域关联数据中分别估算。因此，在联合生成模式下，我们分别从生成的经典阴影分支和生成的局域关联分支估算相同的一组物理量，从而提供两种生成模态之间的一致性检验。结果总结于表II中，涉及三个代表性各向异性参数，对应XXZ链不同性质的关联区域。在这些区域中，M-Diffushadow在跨模态生成和联合生成设置下，对局域关联和基态能量密度均始终实现了较小的估算误差。在负各向异性区域，模型准确地恢复了主导局域关联，所有关联的均方误差均低于特定阈值。在易平面区域附近，不同关联贡献不同的关联均方误差，模型仍保持较低的误差，最大的关联均方误差在特定数量级。在强正各向异性区域，估算误差仍然较小，部分关联误差降至特定数量级。能量密度误差在所有三个区域中均得到有效控制。这些结果表明，模型不仅在单一参数点表现良好，还能在不同XXZ关联区域生成具有物理意义的测量数据。表II. 不同生成模式和各向异性参数下，从生成的XXZ测量数据估算的物理可观测量的均方误差。报告的可观测量包括基态能量密度以及近邻局域关联。对于联合生成，"CS"和"PP"分别表示可观测量是从生成的经典阴影分支和生成的Pauli积局域关联分支估算的。E. M-Diffushadow的注意力机制注意力机制的选择是量子多体系统建模的关键设计考量。在本小节中，我们设计了实验来比较在处理测量数据时使用全注意力和因果注意力机制的效果。

此外，我们尝试通过注意力可视化粗略分析M-Diffushadow的内部信息流。为了直接检验注意力机制的选择是否影响模型处理量子测量关联的方式，我们在经典阴影模态上对因果注意力和全注意力进行了对照实验。我们构建了一个因果注意力变体，方法是将全注意力替换为因果注意力机制，同时保持所有其他组件不变，包括训练好的权重、嵌入层和解码策略。然后，我们将某个特定量子比特的测量结果固定为一个确定值，并观察剩余量子比特的预测结果如何随之变化，与固定前的原始预测进行比较。对于每个未固定的量子比特，我们计算固定前后预测概率分布之间的Kullback-Leibler（KL）散度。KL散度越大，表明该量子比特的预测分布因固定操作而发生了显著变化。实验结果如图6所示。在因果注意力下，固定某个量子比特的测量结果仅影响序列中出现在其后的量子比特，前置量子比特几乎不变。这直接源于因果掩码所施加的单向信息流。相比之下，在全注意力下，固定单个量子比特会同时影响两侧的预测结果，表现出双向信息流。这种对比与量子测量数据密切相关，因为测量结果是根据联合分布的，各量子比特之间不存在固有的因果顺序。因果注意力引入了所建模物理过程中不存在的人为顺序，而全注意力则自然地遵循了这种对称性。

图6 固定不同特定量子比特时剩余量子比特的KL散度。(a) 因果注意力下M-Diffushadow的结果。(b) 全注意力下M-Diffushadow的结果。

在Transformer架构中，每个注意力头计算一组注意力权重，以量化某一令牌位置（查询）的表示对其他令牌位置（键）的表示的依赖程度。这些注意力权重并非静态的模型参数，而是在每次前向传播中根据输入令牌动态计算的。虽然注意力权重并不直接对应物理可观测量，但它们提供了洞察模型如何针对不同的输入序列在内部组织关联的一个窗口。在本节中，我们分析已训练M-Diffushadow中的注意力权重，以研究内部信息流在不同物理相中是如何组织的。

图7和图8分别展示了铁磁相和顺磁相中代表性参数下若干注意力头的注意力图。具体而言，图中展示了第1层的第2个注意力头、第2层的第1个注意力头以及第3层的所有注意力头。在两个横向场取值下，我们均观察到算符令牌与其对应测量结果之间稳健的近对角线结构。具体而言，在第1层第2个注意力头的注意力图中，经典阴影的测量基与其测量结果之间呈现出近对角线结构。类似地，在第2层第1个注意力头的注意力图中，最近邻自旋乘积的测量基与其测量结果之间呈现出近对角线模式。这表明不同的注意力头分别捕获了每种模态的信息。这些对角线对齐反映了数据的底层生成结构，表明模型在两种相中一致地学习了局域算符-结果对应关系。除了算符与结果之间的对应关系外，我们还观察到不同类别测量结果之间的交互。特别是，第3层第4个注意力头的注意力图显示了将单点测量结果与成对乘积测量结果联系起来的可观权重。这种跨结果注意力的存在表明，模型并非独立处理这些物理量，而是构建了编码其相互约束关系的内部表示。此外，两个相之间也存在可辨识的定性差异。在顺磁相中，第3层的若干注意力头表现出更明显的对角线趋势和相对集中的注意力模式，而在铁磁相中，注意力分布则相对更为分散。这种对比可能与关联长度的差异有关：顺磁相中的短程关联促进了局域的算符-结果对应关系，而铁磁相中的长程关联则导致了更为分散的注意力分布。然而，这一观察仍属初步，需要进一步的系统分析。

图7 M-Diffushadow在指定条件下选定注意力头的注意力模式。(a)–(d) 分别为第3层的第1–4个注意力头；(e) 第2层的第1个注意力头；(f) 第1层的第2个注意力头。

图8 M-Diffushadow在指定条件下选定注意力头的注意力模式。(a)–(d) 分别为第3层的第1–4个注意力头；(e) 第2层的第1个注意力头；(f) 第1层的第2个注意力头。

上述观察到的结构化且具有相依赖性的模式提供了定性证据，表明M-Diffushadow以与量子多体系统底层关联特性一致的方式组织和重新分配信息。

**五、讨论与展望**

前面各节所展示的结果表明，M-Diffushadow不仅仅是一个用于测量插值的生成工具，更是一个能够捕捉量子系统底层物理关联的框架。在本节中，我们讨论研究结果的更广泛意义，并概述未来的研究方向。

一个特别有前景的方向是将M-Diffushadow应用于NISQ设备的读出误差缓解。扩散过程的非自回归特性天然允许迭代自我校正。与自回归模型不同——后者在前几步的错误会贯穿整个序列传播——M-Diffushadow在每次去噪步骤中都会重新评估整个构型。在实际应用中，被硬件位翻转噪声污染的测量记录可以被处理为一个初始噪声状态，由模型迭代优化。通过利用跨模态一致性，模型可以识别出不兼容的测量结果——即SP模态中的局域关联与CS模态中的全局信息相矛盾之处——并利用这些物理约束来修正可疑的令牌。这种迭代优化过程为将含噪硬件数据投影回物理一致流形提供了一条自然路径。

除了主TFIM实验中探索的具体配置之外，M-Diffushadow框架在设计上对底层哈密顿量和测量模态的选择都具有适应性。虽然最近邻自旋乘积模态天然适用于TFIM基准测试，但TFIM哈密顿量或这一特定的辅助模态并非架构的内在要求。XXZ链实验提供了这一灵活性的初步数值证据，表明同一框架可以应用于另一种自旋链哈密顿量，同时搭配由最近邻的不同多通道局域关联模态。对于其他哈密顿量，辅助模态可以根据目标系统的主导关联特征和实验可及的测量通道进行定制。例如，在里德伯原子阵列中，位点分辨的占据快照、密度-密度关联或 blockade 约束的局域构型为相互作用自旋模型提供了自然的测量通道。在Hubbard型光晶格系统中，自旋分辨或密度分辨的快照、双占据-空穴关联以及字符串或宇称可观测量也可以发挥类似的作用。该框架可以更加普遍地容纳更广泛的模态组合，如长程关联、多分量测量或高阶Pauli字符串，以适应特定的研究需求。由于这些测量可以表示为带有类型和位置编码的离散令牌序列，相同的多模态扩散框架可以推广到不同的物理平台上，而无需绑定于TFIM特定的最近邻自旋乘积选择。因此，一个值得未来探索的有前景的方向是将M-Diffushadow作为统一的集成平台，能够融合来自不同实验设置的碎片化记录，例如将量子气体显微镜的位点分辨快照与全局光谱数据相结合。

**六、结论**

我们提出了M-Diffushadow，一个用于量子系统建模和性质估计的多模态扩散大语言模型。为了捕捉量子系统中固有的复杂内部关联，我们的模型采用了全注意力机制。此外，我们设计了结构化的多模态嵌入，以有效处理多样化的输入模态。为了实现对量子系统特性和表示的高效学习，训练范式经过精心设计，整合了三个关键组件：动态重排数据加载策略、专用掩码添加机制和高效损失函数。M-Diffushadow的生成框架表现出卓越的灵活性，支持跨模态、部分重建和联合生成模式。其动态迭代非掩蔽策略尊重量子测量的同时性本质，确保高保真合成和物理一致的推理。

我们通过在TFI模型上的一系列实验评估了M-Diffushadow在不同生成模式下的表现。我们首先研究了M-Diffushadow的跨模态推理性能。实验结果证实，以单一观测模态为条件，我们的模型能够可靠地为缺失模态生成高质量估计。其次，我们评估了模型在部分测量重建方面的表现，铁磁相中的高精度表明了模型有效重建缺失数据的能力。最后，我们要求模型联合生成两种模态，同样获得了高度准确的结果。在XXZ模型上的附加实验提供了数值证据，支持M-Diffushadow超越TFI模型的泛化能力。

作为首个专为量子系统定制的多模态扩散语言模型，M-Diffushadow在量子多体系统建模和重建不完整测量数据方面展现了令人瞩目的能力。这些结果使其定位为一款强大的工具，对推进量子实验研究具有重要的潜力。