基于潜在风格的量子Wasserstein生成对抗网络用于药物设计
《Journal of Chemical Information and Modeling》:Latent Style-Based Quantum Wasserstein GAN for Drug Design
【字体:
大
中
小
】
时间:2026年10月16日
来源:Journal of Chemical Information and Modeling 6.4
编辑推荐:
打开图形查看器
摘要
新药研发是一个繁琐、耗时且昂贵的过程,平均成本估计高达约25亿美元。这一漫长过程中的第一步是新药的设计,而近年来在人工智能辅助下的从头药物设计(de novo drug design)蓬勃发展,并彻底改变了该领域。特别是,生成式人工智能在药物发现和开
打开图形查看器
摘要
新药研发是一个繁琐、耗时且昂贵的过程,平均成本估计高达约25亿美元。这一漫长过程中的第一步是新药的设计,而近年来在人工智能辅助下的从头药物设计(de novo drug design)蓬勃发展,并彻底改变了该领域。特别是,生成式人工智能在药物发现和开发方面取得了令人瞩目的成果,降低了成本和解决时间。然而,经典的生成模型,如生成对抗网络(GAN),可能难以训练,并且容易出现模式崩溃。量子计算可能成为克服其中一些问题的一条途径,提供具有远少可训练参数的紧凑模型,从而增强GAN的泛化能力。我们提出了一种新的潜在风格化量子Wasserstein GAN(QGAN)用于药物设计,该模型将分子结构映射到潜在空间的变分自编码器与混合量子GAN相结合。我们将我们的流程与工业相关的MOSES套件中的经典模型进行了基准测试。在每个旋转门处进行风格化噪声重新上传以及使用Wasserstein梯度惩罚来提高可训练性并减轻模式崩溃。我们在无噪声量子模拟器上进行了训练和大规模采样,使用多达15个量子比特的电路来验证我们的架构。我们在IBM Heron量子计算机的156量子比特上进行了仅推理演示,使用5量子比特设置,采样了2,500个新分子,以研究量子噪声的影响。我们的默认QGAN,使用110个可训练生成器参数,在整体性能上与具有统计学可比性,并在选定的药物相关指标上取得了统计学显著的提升,与包含约700,000个可训练生成器参数的MOSES经典潜在GAN基准以及具有匹配生成器容量的经典潜在GAN相比。
1. 引言
新药物研发是一个漫长、繁琐且昂贵的过程。通常需要15年,平均费用的保守估计约为13亿美元,(1?4) 最高可升至约25亿美元。(5, 6) 开发周期包括以下主要阶段:靶点发现、分子设计、临床前研究、临床试验,以及最终的监管批准以进入市场。在前两个阶段,存在两种识别可行药物候选物的关键策略:一是通过修改现有商业药物,例如进行虚拟筛选,或者通过识别已知分子结构与期望活性之间的新关系;二是生成全新的分子,也称为从头药物设计。在这两种方法中,都存在多个挑战,例如候选分子的安全性、效率,以及最终对药物候选物的制造能力。在此背景下,人工智能(AI)的出现彻底改变了药物设计方法,特别是生成式AI的进展,在过去十年中已被用于计算机辅助药物设计。(7?9) 生成对抗网络(GAN)(10) 是应用于药物设计的突出AI模型。(11, 12) GAN由两个神经网络组成:(1) 生成器,训练其从随机噪声输入分布中创建新的分子结构;(2) 判别器,训练其在生成器(虚假)输出与训练输入数据集中包含的(真实)分子结构之间进行分类。训练方案是一场对抗性博弈,生成器试图尽可能欺骗判别器,而判别器则试图区分真实数据和新生成的虚假数据,这反过来将帮助生成器表现更好。尽管GAN(以及更广泛地说,用于药物设计的AI模型)在过去十年中蓬勃发展,但当其规模非常大时,训练可能会计算昂贵,且相关的巨大参数空间需要仔细优化。(11) GAN可能会遭受对抗训练过程的不收敛、模式崩溃——当生成器仅生成训练集中所有分子多样性的一个子集时——或者陷入不鲁棒的训练模式,对模型超参数和模型权重的初始化极为敏感。
量子机器学习旨在提供新的途径来克服其中一些挑战。量子生成模型(13?17) 是依赖于量子力学规则的生成模型:从编码问题的量子态开始,在叠加和纠缠规则的作用下,它们通过量子测量构建最终的概率输出分布。利用谱分析,已证明量子神经网络探测的频率模式与其经典对应物不同,这一特征似乎与量子机器学习更高的表达力相关。(18?21) 因此,量子GAN(QGAN)(22?27) 为强大的生成神经网络提供了新的途径,并已应用于药物设计。(28?31) 在参考文献(30, 31)中,作者采用Wasserstein距离作为损失函数的核心(WGAN),(32) 相比早期用于药物发现的QGAN研究,取得了改进。(28, 29) 在参考文献(31)中,还补充了梯度惩罚(WGAN-GP)(33) 以提高可训练性。在参考文献(30, 31)中,量子架构是MolGAN架构的改进版本,(34) 这是计算机辅助药物设计中的标准,并且这两项研究将它们的量子模型应用于小分子数据集,即QM9数据集(35) 和PC9数据集。(36)
在本工作中,我们提出了两项改进:(1) 超越小分子生成,以及(2) 对先前用于计算机辅助药物设计的QGAN研究进行了几种架构修改的探索。首先,我们使用了MOSES数据集和基准套件,(37) 这是一个工业相关的数据集,包含SMILES分子(38),不限于小分子。此外,为了利用潜在的量子优势——包括采样效率和模型表达力——并解决模式崩溃的挑战,我们在量子计算流程中引入了潜在空间方法,遵循用于药物设计的经典GAN研究。(39) 训练数据集的输入SMILES分子被投影到一个抽象向量空间中,在此空间上进行训练,然后将输出解码回实用的物理空间。我们对先前量子研究的最后一项改进是将这种潜在空间方法与混合风格化量子GAN相结合,(40, 41) 该方法使用数据重新上传,其中生成器的输入噪声分布被插入到所有层中,而不仅仅是在神经网络的第一个初始层中。风格架构最初是在经典GAN的图像生成背景下引入的,(42) 使用WGAN-GP的潜在风格化QGAN已在图像生成中成功测试,(43) 但从未在药物设计中进行研究。还应该指出的是,当使用潜在风格化方法用于QGAN时,贫瘠高原——梯度消失使得在损失函数景观探索中训练指数级困难——问题不那么严重。(43) 此外,最近的一项研究表明,风格化QGAN在可训练参数数量上可能存在潜在的量子指数优势:(44) 与经典对应物相比,QGAN的可训练参数数量呈指数级减少,同时达到近似可比的结果,这一特征对于复杂的计算机辅助药物设计流程具有重要意义。仍然需要进一步的研究来验证这一观察结果,并检查这是否确实是量子流程的固有效果,还是经典基准未发挥到极限的伪影。
分子结构通过遵循SMILES方法进行编码。SMILES字符串被嵌入到实数向量中,这些向量被送入自编码器,将其投影到抽象的潜在向量空间中。判别器仍然是经典的,我们只使用参数化量子电路作为生成器。我们将新的量子药物设计架构与基于广泛使用的MOSES基准套件的经典潜在GAN方法进行了基准测试,并展示了我们提出的潜在风格化QGAN对于药物设计可以非常高效,其可训练参数远少于MOSES潜在生成器的标准配置。我们的流程使用RDKit(45) 检查从我们的流程中新生成的分子结构是否对应于有效的(生物)化学化合物,并计算相关指标。我们量子计算流程的训练在无噪声量子模拟器上进行,包括对30,000个新分子的采样以验证流程。我们还在ibm_kingston上进行了说明性的、仅推理的采样,该设备是一台156量子比特的IBM Heron量子计算机,使用在量子模拟器上训练的模型,对2,500个新的、可行的分子结构进行采样。尽管Li等人(28) 先前报告了在IBM硬件上对QM9图分子进行QGAN推理,但最近的基于WGAN的MolGAN扩展(30, 31) 仅在量子模拟器上评估设备噪声。据我们所知,我们在此工作中进行的仅推理采样是首次在工业相关的MOSES基准上进行量子执行,也是迄今为止发表的最大规模的分子QGAN硬件推理研究,生成了2,500个结构,而参考文献(28)为1,000个,并且是首次在IBM Heron级处理器上进行的。使用MOSES基准套件,我们还通过内部多样性、分子量、Log P或药物样性的定量估计等指标量化了输出的质量。我们提出的量子流程在真实世界数据集上进行了测试,不限于小分子,通过使用远少于MOSES基准套件中提出的标准经典AI流程的可训练参数,增强了计算机辅助药物设计的可解释性。我们流程的统计整体评分表明,它与经典AI流程具有竞争力,在一些我们调查的个别指标上甚至比经典GAN取得了统计学上显著的改进,即使我们设计了一个与我们提出的QGAN容量匹配的经典潜在GAN也是如此。
2. 材料与方法
2.1. 数据集构建
我们使用MOSES数据集(37) 作为主要分析数据集。该数据集基于ZINC Clean Leads集合(46) 构建,包含超过190万个对生物化学应用感兴趣的分子。我们进一步对该数据集进行了随机采样,获得了12,000个训练分子和4,087个验证分子。缩小原始MOSES数据集的原因有两个:(1) 我们使用缩减的训练集来研究低数据区域,即仅有有限数量的训练分子可用。这一设置具有很高的实际相关性,因为标记或整理过的化学数据往往稀缺且获取成本高昂,并且由于可训练参数较少的模型在数据有限时预期具有更好的泛化能力;(2) 在我们新量子架构的概念验证阶段,这有助于在短时间内验证概念。这种缩小并非旨在简化生成任务,而是定义一个低数据基准,在此基准中,量子生成器和经典生成器在相同流程下进行比较。
MOSES数据集是一个高维数据集,目前由于当前量子硬件资源的有限性,不实际直接用于量子计算机。因此,我们使用RDKit特征(45) 将SMILES字符串转换为高维分子描述符进行预处理,这些描述符将用于计算各种指标。然后将SMILES字符串送入自编码器(见下文),以将(高维的)分子字母表压缩为潜在表示(低维特征),其足够紧凑,可用于我们流程的量子部分。自编码器的解码器部分允许将生成的潜在特征映射回有效的SMILES分子。为了检查随机选择的最终训练和测试数据集样本以及生成样本的化学性质,我们使用了RDKit过滤器。(45) 我们的程序通过自编码器和RDKit验证平衡化学有效性,同时兼顾低维潜在特征编码所允许的量子可行性。在生成新分子时,除非另有说明,我们采样了30,000个分子,遵循MOSES基准套件使用的默认值。
2.2.
## 管线描述
我们数据集中所包含的分子结构使用 SMILES 字符串进行编码。(38) 药物设计中的经典生成方法采用了一种标准做法:使用预训练的自编码器将 SMILES 字符串投影到一个紧凑的潜在空间中,该空间对于生成模型而言比原始字符串更易于处理。需要注意的是,在使用自编码器之前的第一步,是利用 RDKit (45) 从 SMILES 字符串中提取化学特征,以获取相关指标。自编码器在降低维度的同时捕获关键的化学特征,使我们能够在可控的潜在表示中进行操作。遵循这一方法(同样也被 MOSES 基准测试套件采用),我们的管线从预训练的变分自编码器(VAE)开始,将药物样 SMILES 分子编码到潜在空间中。
为了生成新的分子,我们使用了生成对抗网络(GAN)。(10) GAN 由两个相互竞争的神经网络组成:一个生成器,从随机数输入分布中采样新的候选分子;一个判别器,作为二分类器训练,用于区分真实输入数据和生成器产生的样本。训练是一个对抗过程,即两个网络之间的二人极小极大博弈,理想情况下直到达到纳什均衡为止——此时生成器已经足够好,判别器再也无法区分真实输入数据和生成样本。
我们将 MOSES 基准测试套件中提供的经典 GAN 实现与我们提出的量子 GAN 架构进行比较。量子计算是一种不同的计算范式。与传统位(具有二值结果 0 或 1)不同,量子计算机使用量子比特(qubits),即受控二能级量子系统的量子态。根据量子力学定律,量子比特服从叠加和纠缠原理,这意味着它们存在于比传统比特复杂得多的空间中,且不限于二值输出,从而允许对生成建模应用的解空间进行更多样的探索。
此类量子算法的一类是参数化量子线路(PQC),(47) 其中量子比特受到量子操作(门)的作用,这些门由实数(旋转角度)参数化,并按顺序排列在线路中。最终量子态被测量,输出测量结果被收集以统计地产生最终结果。经典的训练过程允许优化这些旋转角度,它们是该 PQC 形成的量子网络中的可训练参数。
在我们的管线中,生成器将是一个量子网络,在理想的(无噪声)量子模拟器上进行训练,而判别器仍然是经典网络。生成器的输出是潜在向量,位于与 VAE 相同的潜在空间中。为了获得最终生成的分子,生成器输出被送回 VAE 的解码器部分。相同的预训练 VAE(包括编码器和解码器)用于经典和量子管线。这是比较中固定不变的组件,因此经典 GAN 和 QGAN 之间分子指标的的任何差异(包括第 2.3 节中定义的聚合 ?Z0? 分数),反映的都是生成器的经典与量子本质,而非 VAE 的差异。我们的结果应被理解为在一个基于 VAE 的分子生成管线中,对紧凑量子潜在空间生成器的特征描述。绝对指标值也继承了预训练解码器的贡献,我们通过单独的 VAE-only 基线(表 3 中的"Tuned VAE"列)和支持信息第 5 节的解码器研究对此进行了报告。
我们的分析包括以下步骤:
1. 训练 VAE 并优化 VAE 超参数。
2. 使用 VAE 的编码器部分将输入数据集转换为输入潜在向量,并使用这些输入潜在向量训练 GAN。
3. 优化潜在经典 GAN 中与判别器相关的超参数;经典生成器已经优化完毕,遵循 MOSES 基准测试套件。
4. 用量子生成器替换经典生成器,进行训练和优化。
5. 使用解码器和 RDKit 验证生成最终的分子样本;使用一组指标(见下文)比较经典和量子 GAN 的性能,并在真实量子硬件上进行推理。
图 1 展示了所提出的药物设计管线的紧凑表示。在与我们经典药物设计管线的基准比较中,用红色描绘的量子生成器被替换为一个遵循 MOSES 基准测试套件中潜在 GAN 结构的经典生成器。我们使用了 Torch v2.8.0 (48) 和 Pennylane v0.42.3 (49) 来实现管线,运行在具有 40GB 内存的 NVIDIA A100 GPU 上。
图 1. 量子增强的药物设计管线的示意图。该模型包括在 MOSES 数据集上使用 SMILES 输入的预训练 VAE(紫色),将原始分子嵌入到低维潜在空间,以及一个量子 GAN,包含量子生成器(红色)和经典判别器(蓝色)。VAE 从输入数据集中提取的特征用于训练 GAN。最终生成的 SMILES 分子通过使用预训练 VAE 解码器对量子生成器生成的特征进行逆变换来重建,最后使用 RDKit 进行验证。
### 2.2.1. VAE 和潜在维度
VAE 架构取自 MOSES 基准测试套件,使用默认参数设置,采用门控循环单元(GRU)作为构建块。编码器由一个双向 GRU(nl = 1)组成,隐藏维度 Dh = 256,后接两个线性输出层,将 GRU 的输出向量转换为潜在空间的向量。解码器由三层 GRU(nl = 3)组成,隐藏维度 Dh = 512,每层(除最后一层外)后接一个 dropout 层。MOSES 基准测试套件的默认 dropout 概率为零(因此实际上没有 dropout 层),但我们稍后将探索非零 dropout 概率的影响。
SMILES 字符串经过分词,使得字符串中的每个字符都与一个整数 ID 关联,该 ID 然后根据 SMILES 词汇表嵌入为一个向量(初始为独热向量,但嵌入也是 VAE 训练的一部分,以提高效率),该向量的维度对应于词汇表中字符的数量。因此,GRU 将输入作为序列数据 xt 处理,其中序列的每个元素都是一个表示嵌入的 token ID 的向量。变量 t 索引 SMILES 字符串中从左到右的字符位置,相当于时间索引。
在给定步骤 t 处,GRU 使用两个门来更新内部隐藏状态 ht:重置门 rt 和更新门 zt。隐藏状态 ht 由隐藏状态 ht?1 和新的候选隐藏状态 nt 计算得出,如公式 1 所示:
rt = σ(Wr·xt + Ur·ht?1 + br)
zt = σ(Wz·xt + Uz·ht?1 + bz)
nt = tanh(Wn·xt + bn + rt ⊙ (Un·ht?1 + bn,u))
ht = (1 ? zt) ⊙ nt + zt ⊙ ht?1 (1)
其中函数 σ 是控制门控机制的 sigmoid 函数,⊙ 代表哈达玛乘积(或逐元素乘积)。作为对符号的轻微滥用,tanh 和 σ 函数都意味着逐元素地应用于函数向量参数的每个元素上。矩阵 Wr/t/n 和 Ur/t/n 分别是重置门、更新门和候选隐藏状态的输入可训练权重和递归可训练权重。向量 br/z/n 和 bn,u 是每个门相关的可训练偏置。注意对于第一个字母(相当于 t = 0),ht?1 对应于 t = 0 时刻的初始隐藏状态。
对于双向 GRU,序列 (xt) 在正向和反向两个方向上进行处理,产生维度加倍的最终状态,h_biGRU = (h→, h←)。在每一步,输出是正向(从左到右处理 SMILES 字符串)和反向(从右到左处理 SMILES 字符串)的拼接。这对于 VAE 编码器非常重要,因为它捕获了 SMILES 字符串中过去和未来上下文的
管线描述
我们数据集中所包含的分子结构使用 SMILES 字符串进行编码。(38) 药物设计中经典生成方法的一种标准做法是使用预训练的自编码器将 SMILES 字符串投影到一个紧凑的潜在空间中,该潜在空间对于生成模型而言比原始字符串更易于处理。需要注意的是,在使用自编码器之前的第一步,是利用 RDKit (45) 从 SMILES 字符串中提取化学特征,以获取相关指标。自编码器在降低维度的同时捕获关键的化学特征,使我们能够在可控的潜在表示中进行操作。
遵循这一方法(同样也被 MOSES 基准测试套件采用),我们的管线从预训练的变分自编码器(VAE)开始,将药物样 SMILES 分子编码到潜在空间中。为了生成新的分子,我们使用了生成对抗网络(GAN)。(10) GAN 由两个相互竞争的神经网络组成:生成器,从随机数输入分布中采样新的候选分子;判别器,作为二分类器,训练用于区分真实输入数据和生成器产生的样本。训练是一个对抗过程,即两个网络之间的二人极小极大博弈,理想情况下直到达到纳什均衡为止——此时生成器已经足够好,判别器再也无法区分真实输入数据和生成样本。
我们将 MOSES 基准测试套件中提供的经典 GAN 实现与我们提出的量子 GAN 架构进行比较。量子计算是一种不同的计算范式。与传统比特(具有二值结果 0 或 1)不同,量子计算机使用量子比特(qubits),即受控二能级量子系统的量子态。根据量子力学定律,量子比特服从叠加和纠缠原理,这意味着它们存在于比传统比特复杂得多的空间中,且不限于二值输出,从而允许对生成建模应用的解空间进行更多样的探索。
此类量子算法的一类是参数化量子线路(PQC),(47) 其中量子比特受到量子操作(门)的作用,这些门由实数(旋转角度)参数化,并按顺序排列在线路中。最终量子态被测量,输出测量结果被收集以统计地产生最终结果。经典的训练过程允许优化这些旋转角度,它们是该 PQC 形成的量子网络中的可训练参数。
在我们的管线中,生成器将是一个量子网络,在理想的(无噪声)量子模拟器上进行训练,而判别器仍然是经典网络。生成器的输出是潜在向量,位于与 VAE 相同的潜在空间中。为了获得最终生成的分子,生成器输出被送回 VAE 的解码器部分。相同的预训练 VAE(包括编码器和解码器)用于经典和量子管线。这是比较中固定不变的组件,因此经典 GAN 和 QGAN 之间分子指标的的任何差异(包括第 2.3 节中定义的聚合 ?Z0? 分数),反映的都是生成器的经典与量子本质,而非 VAE 的差异。我们的结果应被理解为在一个基于 VAE 的分子生成管线中,对紧凑量子潜在空间生成器的特征描述。绝对指标值也继承了预训练解码器的贡献,我们通过单独的 VAE-only 基线(表 3 中的"Tuned VAE"列)和支持信息第 5 节的解码器研究对此进行了报告。
我们的分析包括以下步骤:
1. 训练 VAE 并优化 VAE 超参数。
2. 使用 VAE 的编码器部分将输入数据集转换为输入潜在向量,并使用这些输入潜在向量训练 GAN。
3. 优化潜在经典 GAN 中与判别器相关的超参数;经典生成器已经优化完毕,遵循 MOSES 基准测试套件。
4. 用量子生成器替换经典生成器,进行训练和优化。
5. 使用解码器和 RDKit 验证生成最终的分子样本;使用一组指标(见下文)比较经典和量子 GAN 的性能,并在真实量子硬件上进行推理。
图 1 展示了所提出的药物设计管线的紧凑表示。在与我们经典药物设计管线的基准比较中,用红色描绘的量子生成器被替换为一个遵循 MOSES 基准测试套件中潜在 GAN 结构的经典生成器。我们使用了 Torch v2.8.0 (48) 和 Pennylane v0.42.3 (49) 来实现管线,运行在具有 40GB 内存的 NVIDIA A100 GPU 上。
图 1. 量子增强的药物设计管线的示意图。该模型包括在 MOSES 数据集上使用 SMILES 输入的预训练 VAE(紫色),将原始分子嵌入到低维潜在空间,以及一个量子 GAN,包含量子生成器(红色)和经典判别器(蓝色)。VAE 从输入数据集中提取的特征用于训练 GAN。最终生成的 SMILES 分子通过使用预训练 VAE 解码器对量子生成器生成的特征进行逆变换来重建,最后使用 RDKit 进行验证。
2.2.1. VAE 和潜在维度
VAE 架构取自 MOSES 基准测试套件,使用默认参数设置,采用门控循环单元(GRU)作为构建块。编码器由一个双向 GRU(nl = 1)组成,隐藏维度 Dh = 256,后接两个线性输出层,将 GRU 的输出向量转换为潜在空间的向量。解码器由三层 GRU(nl = 3)组成,隐藏维度 Dh = 512,每层(除最后一层外)后接一个 dropout 层。MOSES 基准测试套件的默认 dropout 概率为零(因此实际上没有 dropout 层),但我们稍后将探索非零 dropout 概率的影响。
SMILES 字符串经过分词,使得字符串中的每个字符都与一个整数 ID 关联,该 ID 然后根据 SMILES 词汇表嵌入为一个向量(初始为独热向量,但嵌入也是 VAE 训练的一部分,以提高效率),该向量的维度对应于词汇表中字符的数量。因此,GRU 将输入作为序列数据 xt 处理,其中序列的每个元素都是一个表示嵌入的 token ID 的向量。变量 t 索引 SMILES 字符串中从左到右的字符位置,相当于时间索引。
在给定步骤 t 处,GRU 使用两个门来更新内部隐藏状态 ht:重置门 rt 和更新门 zt。隐藏状态 ht 由隐藏状态 ht?1 和新的候选隐藏状态 nt 计算得出,如公式 1 所示:
rt = σ(Wr·xt + Ur·ht?1 + br)
zt = σ(Wz·xt + Uz·ht?1 + bz)
nt = tanh(Wn·xt + bn + rt ⊙ (Un·ht?1 + bn,u))
ht = (1 ? zt) ⊙ nt + zt ⊙ ht?1 (1)
其中函数 σ 是控制门控机制的 sigmoid 函数,⊙ 代表哈达玛乘积(或逐元素乘积)。作为对符号的轻微滥用,tanh 和 σ 函数都意味着逐元素地应用于函数向量参数的每个元素上。矩阵 Wr/t/n 和 Ur/t/n 分别是重置门、更新门和候选隐藏状态的输入可训练权重和递归可训练权重。向量 br/z/n 和 bn,u 是每个门相关的可训练偏置。注意对于第一个字母(相当于 t = 0),ht?1 对应于 t = 0 时刻的初始隐藏状态。
对于双向 GRU,序列 (xt) 在正向和反向两个方向上进行处理,产生维度加倍的最终状态,h_biGRU = (h→, h←)。在每一步,输出是正向(从左到右处理 SMILES 字符串)和反向(从右到左处理 SMILES 字符串)的拼接。这对于 VAE 编码器非常重要,因为它捕获了 SMILES 字符串中过去和未来上下文的信息,从而实现对 SMILES 序列更丰富、更准确的编码。当 GRU 有多层时,第 l 层的输入是第 (l?1) 层的最终隐藏状态(输出),h^(l?1)t。当包含 dropout 层时,第 l 层的实际输入是 h^(l?1)t 的修改形式 δ^(l?1)t·h^(l?1)t,其中 δ^(l?1)t 是伯努利随机变量,以等于 dropout 的概率取值为零。
潜在空间的维度是管线的关键参数。对于经典 GAN 和量子 GAN,生成器的输出必须与潜在空间的维度匹配。对于量子生成器,量子线路中使用的量子比特数与潜在维度 Dl 之间存在线性对应关系:要么一对一,要么一对二,取决于如何收集量子网络的测量结果;参见后续章节。由于当前量子计算机的量子比特数仍然有限,且使用经典资源模拟量子态的代价呈指数增长,我们的默认设置使用潜在维度 10,即最多使用 10 个量子比特。我们研究了高达 30 的潜在维度,并通过使用经典资源在无噪声量子模拟器上进行训练来验证了我们的管线。我们还在超导量子比特硬件上进行了推理,使用的是配备 IBM Heron 芯片的 ibm_kingston 计算机,该芯片具有 156 个量子比特。
2.2.2. 经典与混合量子 GAN 架构
我们管线的核心是 GAN 架构。设生成器为 G,判别器为 D。GAN 的对抗极小极大博弈训练使用 Earth-Mover 距离(或 Wasserstein 距离)以及梯度惩罚(WGAN-GP),以确保高效缓解模式崩塌的影响。(33) WGAN-GP 的训练遵循:
min_G max_D L_WGAN(G,D) + λ·E_ξ^~p(ξ^)[(∥?_ξ^ D(ξ^)∥2?1)2] (2)
其中 ξ^ 是从均匀分布 p(ξ^) 中随机抽取的样本,位于从输入数据分布和生成器 G 的输出分布中抽取的点之间直线上。具体而言,插值样本构造为 ξ^ = ε·x + (1?ε)G(ξ),其中 x ~ pdata,G(ξ) 是生成样本,插值系数 ε 从均匀分布 U[0, 1] 中抽取。我们将输入数据分布记为 pdata,将噪声分布 p(ξ) 记为生成器 G 的输入。在本研究中,生成器的输入噪声 ξ 从标准高斯(正态)分布 N(0,1) 中抽取,均值为零,方差为单位;对于量子生成器,噪声变量 ξq 通过公式 4 直接设置参数化量子线路的旋转角度。函数 L_WGAN(G,D) 是原始 Wasserstein GAN 的
管线描述
我们数据集中所包含的分子结构使用 SMILES 字符串进行编码。(38) 药物设计中经典生成方法的一种标准做法是使用预训练的自编码器将 SMILES 字符串投影到一个紧凑的潜在空间中,该潜在空间对于生成模型而言比原始字符串更易于处理。需要注意的是,在使用自编码器之前的第一步,是利用 RDKit (45) 从 SMILES 字符串中提取化学特征,以获取相关指标。自编码器在降低维度的同时捕获关键的化学特征,使我们能够在可控的潜在表示中进行操作。
遵循这一方法(同样也被 MOSES 基准测试套件采用),我们的管线从预训练的变分自编码器(VAE)开始,将药物样 SMILES 分子编码到潜在空间中。为了生成新的分子,我们使用了生成对抗网络(GAN)。(10) GAN 由两个相互竞争的神经网络组成:生成器,从随机数输入分布中采样新的候选分子;判别器,作为二分类器,训练用于区分真实输入数据和生成器产生的样本。训练是一个对抗过程,即两个网络之间的二人极小极大博弈,理想情况下直到达到纳什均衡为止——此时生成器已经足够好,判别器再也无法区分真实输入数据和生成样本。
我们将 MOSES 基准测试套件中提供的经典 GAN 实现与我们提出的量子 GAN 架构进行比较。量子计算是一种不同的计算范式。与传统比特(具有二值结果 0 或 1)不同,量子计算机使用量子比特(qubits),即受控二能级量子系统的量子态。根据量子力学定律,量子比特服从叠加和纠缠原理,这意味着它们存在于比传统比特复杂得多的空间中,且不限于二值输出,从而允许对生成建模应用的解空间进行更多样的探索。
此类量子算法的一类是参数化量子线路(PQC),(47) 其中量子比特受到量子操作(门)的作用,这些门由实数(旋转角度)参数化,并按顺序排列在线路中。最终量子态被测量,输出测量结果被收集以统计地产生最终结果。经典的训练过程允许优化这些旋转角度,它们是该 PQC 形成的量子网络中的可训练参数。
在我们的管线中,生成器将是一个量子网络,在理想的(无噪声)量子模拟器上进行训练,而判别器仍然是经典网络。生成器的输出是潜在向量,位于与 VAE 相同的潜在空间中。为了获得最终生成的分子,生成器输出被送回 VAE 的解码器部分。相同的预训练 VAE(包括编码器和解码器)用于经典和量子管线。这是比较中固定不变的组件,因此经典 GAN 和 QGAN 之间分子指标的的任何差异(包括第 2.3 节中定义的聚合 ?Z0? 分数),反映的都是生成器的经典与量子本质,而非 VAE 的差异。我们的结果应被理解为在一个基于 VAE 的分子生成管线中,对紧凑量子潜在空间生成器的特征描述。绝对指标值也继承了预训练解码器的贡献,我们通过单独的 VAE-only 基线(表 3 中的"Tuned VAE"列)和支持信息第 5 节的解码器研究对此进行了报告。
我们的分析包括以下步骤:
1. 训练 VAE 并优化 VAE 超参数。
2. 使用 VAE 的编码器部分将输入数据集转换为输入潜在向量,并使用这些输入潜在向量训练 GAN。
3. 优化潜在经典 GAN 中与判别器相关的超参数;经典生成器已经优化完毕,遵循 MOSES 基准测试套件。
4. 用量子生成器替换经典生成器,进行训练和优化。
5. 使用解码器和 RDKit 验证生成最终的分子样本;使用一组指标(见下文)比较经典和量子 GAN 的性能,并在真实量子硬件上进行推理。
图 1 展示了所提出的药物设计管线的紧凑表示。在与我们经典药物设计管线的基准比较中,用红色描绘的量子生成器被替换为一个遵循 MOSES 基准测试套件中潜在 GAN 结构的经典生成器。我们使用了 Torch v2.8.0 (48) 和 Pennylane v0.42.3 (49) 来实现管线,运行在具有 40GB 内存的 NVIDIA A100 GPU 上。
图 1. 量子增强的药物设计管线的示意图。该模型包括在 MOSES 数据集上使用 SMILES 输入的预训练 VAE(紫色),将原始分子嵌入到低维潜在空间,以及一个量子 GAN,包含量子生成器(红色)和经典判别器(蓝色)。VAE 从输入数据集中提取的特征用于训练 GAN。最终生成的 SMILES 分子通过使用预训练 VAE 解码器对量子生成器生成的特征进行逆变换来重建,最后使用 RDKit 进行验证。
### 2.2.1. VAE 和潜在维度
VAE 架构取自 MOSES 基准测试套件,使用默认参数设置,采用门控循环单元(GRU)作为构建块。编码器由一个双向 GRU(nl = 1)组成,隐藏维度 Dh = 256,后接两个线性输出层,将 GRU 的输出向量转换为潜在空间的向量。解码器由三层 GRU(nl = 3)组成,隐藏维度 Dh = 512,每层(除最后一层外)后接一个 dropout 层。MOSES 基准测试套件的默认 dropout 概率为零(因此实际上没有 dropout 层),但我们稍后将探索非零 dropout 概率的影响。
SMILES 字符串经过分词,使得字符串中的每个字符都与一个整数 ID 关联,该 ID 然后根据 SMILES 词汇表嵌入为一个向量(初始为独热向量,但嵌入也是 VAE 训练的一部分,以提高效率),该向量的维度对应于词汇表中字符的数量。因此,GRU 将输入作为序列数据 xt 处理,其中序列的每个元素都是一个表示嵌入的 token ID 的向量。变量 t 索引 SMILES 字符串中从左到右的字符位置,相当于时间索引。
在给定步骤 t 处,GRU 使用两个门来更新内部隐藏状态 ht:重置门 rt 和更新门 zt。隐藏状态 ht 由隐藏状态 ht?1 和新的候选隐藏状态 nt 计算得出,如公式 1 所示:
rt = σ(Wr·xt + Ur·ht?1 + br)
zt = σ(Wz·xt + Uz·ht?1 + bz)
nt = tanh(Wn·xt + bn + rt ⊙ (Un·ht?1 + bn,u))
ht = (1 ? zt) ⊙ nt + zt ⊙ ht?1 (1)
其中函数 σ 是控制门控机制的 sigmoid 函数,⊙ 代表哈达玛乘积(或逐元素乘积)。作为对符号的轻微滥用,tanh 和 σ 函数都意味着逐元素地应用于函数向量参数的每个元素上。矩阵 Wr/t/n 和 Ur/t/n 分别是重置门、更新门和候选隐藏状态的输入可训练权重和递归可训练权重。向量 br/z/n 和 bn,u 是每个门相关的可训练偏置。注意对于第一个字母(相当于 t = 0),ht?1 对应于 t = 0 时刻的初始隐藏状态。
对于双向 GRU,序列 (xt) 在正向和反向两个方向上进行处理,产生维度加倍的最终状态,h_biGRU = (h→, h←)。在每一步,输出是正向(从左到右处理 SMILES 字符串)和反向(从右到左处理 SMILES 字符串)的拼接。这对于 VAE 编码器非常重要,因为它捕获了 SMILES 字符串中过去和未来上下文的信息,从而实现对 SMILES 序列更丰富、更准确的编码。当 GRU 有多层时,第 l 层的输入是第 (l?1) 层的最终隐藏状态(输出),h^(l?1)t。当包含 dropout 层时,第 l 层的实际输入是 h^(l?1)t 的修改形式 δ^(l?1)t·h^(l?1)t,其中 δ^(l?1)t 是伯努利随机变量,以等于 dropout 的概率取值为零。
潜在空间的维度是管线的关键参数。对于经典 GAN 和量子 GAN,生成器的输出必须与潜在空间的维度匹配。对于量子生成器,量子线路中使用的量子比特数与潜在维度 Dl 之间存在线性对应关系:要么一对一,要么一对二,取决于如何收集量子网络的测量结果;参见后续章节。由于当前量子计算机的量子比特数仍然有限,且使用经典资源模拟量子态的代价呈指数增长,我们的默认设置使用潜在维度 10,即最多使用 10 个量子比特。我们研究了高达 30 的潜在维度,并通过使用经典资源在无噪声量子模拟器上进行训练来验证了我们的管线。我们还在超导量子比特硬件上进行了推理,使用的是配备 IBM Heron 芯片的 ibm_kingston 计算机,该芯片具有 156 个量子比特。
### 2.2.2. 经典与混合量子 GAN 架构
我们管线的核心是 GAN 架构。设生成器为 G,判别器为 D。GAN 的对抗极小极大博弈训练使用 Earth-Mover 距离(或 Wasserstein 距离)以及梯度惩罚(WGAN-GP),以确保高效缓解模式崩塌的影响。(33) WGAN-GP 的训练遵循:
min_G max_D L_WGAN(G,D) + λ·E_ξ^~p(ξ^)[(∥?_ξ^ D(ξ^)∥2?1)2] (2)
其中 ξ^ 是从均匀分布 p(ξ^) 中随机抽取的样本,位于从输入数据分布和生成器 G 的输出分布中抽取的点之间直线上。具体而言,插值样本构造为 ξ^ = ε·x + (1?ε)G(ξ),其中 x ~ pdata,G(ξ) 是生成样本,插值系数 ε 从均匀分布 U[0, 1] 中抽取。我们将输入数据分布记为 pdata,将噪声分布 p(ξ) 记为生成器 G 的输入。在本研究中,生成器的输入噪声 ξ 从标准高斯(正态)分布 N(0,1) 中抽取,均值为零,方差为单位;对于量子生成器,噪声变量 ξq 通过公式 4 直接设置参数化量子线路的旋转角度。函数 L_WGAN(G,D) 是原始 Wasserstein GAN 的
管线描述
我们数据集中所包含的分子结构使用 SMILES 字符串进行编码。(38) 药物设计中经典生成方法的一种标准做法是使用预训练的自编码器将 SMILES 字符串投影到一个紧凑的潜在空间中,该潜在空间对于生成模型而言比原始字符串更易于处理。需要注意的是,在使用自编码器之前的第一步,是利用 RDKit (45) 从 SMILES 字符串中提取化学特征,以获取相关指标。自编码器在降低维度的同时捕获关键的化学特征,使我们能够在可控的潜在表示中进行操作。
遵循这一方法(同样也被 MOSES 基准测试套件采用),我们的管线从预训练的变分自编码器(VAE)开始,将药物样 SMILES 分子编码到潜在空间中。为了生成新的分子,我们使用了生成对抗网络(GAN)。(10) GAN 由两个相互竞争的神经网络组成:生成器,从随机数输入分布中采样新的候选分子;判别器,作为二分类器,训练用于区分真实输入数据和生成器产生的样本。训练是一个对抗过程,即两个网络之间的二人极小极大博弈,理想情况下直到达到纳什均衡为止——此时生成器已经足够好,判别器再也无法区分真实输入数据和生成样本。
我们将 MOSES 基准测试套件中提供的经典 GAN 实现与我们提出的量子 GAN 架构进行比较。量子计算是一种不同的计算范式。与传统比特(具有二值结果 0 或 1)不同,量子计算机使用量子比特(qubits),即受控二能级量子系统的量子态。根据量子力学定律,量子比特服从叠加和纠缠原理,这意味着它们存在于比传统比特复杂得多的空间中,且不限于二值输出,从而允许对生成建模应用的解空间进行更多样的探索。
此类量子算法的一类是参数化量子线路(PQC),(47) 其中量子比特受到量子操作(门)的作用,这些门由实数(旋转角度)参数化,并按顺序排列在线路中。最终量子态被测量,输出测量结果被收集以统计地产生最终结果。经典的训练过程允许优化这些旋转角度,它们是该 PQC 形成的量子网络中的可训练参数。
在我们的管线中,生成器将是一个量子网络,在理想的(无噪声)量子模拟器上进行训练,而判别器仍然是经典网络。生成器的输出是潜在向量,位于与 VAE 相同的潜在空间中。为了获得最终生成的分子,生成器输出被送回 VAE 的解码器部分。相同的预训练 VAE(包括编码器和解码器)用于经典和量子管线。这是比较中固定不变的组件,因此经典 GAN 和 QGAN 之间分子指标的的任何差异(包括第 2.3 节中定义的聚合 ?Z0? 分数),反映的都是生成器的经典与量子本质,而非 VAE 的差异。我们的结果应被理解为在一个基于 VAE 的分子生成管线中,对紧凑量子潜在空间生成器的特征描述。绝对指标值也继承了预训练解码器的贡献,我们通过单独的 VAE-only 基线(表 3 中的"Tuned VAE"列)和支持信息第 5 节的解码器研究对此进行了报告。
我们的分析包括以下步骤:
1. 训练 VAE 并优化 VAE 超参数。
2. 使用 VAE 的编码器部分将输入数据集转换为输入潜在向量,并使用这些输入潜在向量训练 GAN。
3. 优化潜在经典 GAN 中与判别器相关的超参数;经典生成器已经优化完毕,遵循 MOSES 基准测试套件。
4. 用量子生成器替换经典生成器,进行训练和优化。
5. 使用解码器和 RDKit 验证生成最终的分子样本;使用一组指标(见下文)比较经典和量子 GAN 的性能,并在真实量子硬件上进行推理。
图 1 展示了所提出的药物设计管线的紧凑表示。在与我们经典药物设计管线的基准比较中,用红色描绘的量子生成器被替换为一个遵循 MOSES 基准测试套件中潜在 GAN 结构的经典生成器。我们使用了 Torch v2.8.0 (48) 和 Pennylane v0.42.3 (49) 来实现管线,运行在具有 40GB 内存的 NVIDIA A100 GPU 上。
图 1. 量子增强的药物设计管线的示意图。该模型包括在 MOSES 数据集上使用 SMILES 输入的预训练 VAE(紫色),将原始分子嵌入到低维潜在空间,以及一个量子 GAN,包含量子生成器(红色)和经典判别器(蓝色)。VAE 从输入数据集中提取的特征用于训练 GAN。最终生成的 SMILES 分子通过使用预训练 VAE 解码器对量子生成器生成的特征进行逆变换来重建,最后使用 RDKit 进行验证。
### 2.2.1. VAE 和潜在维度
VAE 架构取自 MOSES 基准测试套件,使用默认参数设置,采用门控循环单元(GRU)作为构建块。编码器由一个双向 GRU(nl = 1)组成,隐藏维度 Dh = 256,后接两个线性输出层,将 GRU 的输出向量转换为潜在空间的向量。解码器由三层 GRU(nl = 3)组成,隐藏维度 Dh = 512,每层(除最后一层外)后接一个 dropout 层。MOSES 基准测试套件的默认 dropout 概率为零(因此实际上没有 dropout 层),但我们稍后将探索非零 dropout 概率的影响。
SMILES 字符串经过分词,使得字符串中的每个字符都与一个整数 ID 关联,该 ID 然后根据 SMILES 词汇表嵌入为一个向量(初始为独热向量,但嵌入也是 VAE 训练的一部分,以提高效率),该向量的维度对应于词汇表中字符的数量。因此,GRU 将输入作为序列数据 xt 处理,其中序列的每个元素都是一个表示嵌入的 token ID 的向量。变量 t 索引 SMILES 字符串中从左到右的字符位置,相当于时间索引。
在给定步骤 t 处,GRU 使用两个门来更新内部隐藏状态 ht:重置门 rt 和更新门 zt。隐藏状态 ht 由隐藏状态 ht?1 和新的候选隐藏状态 nt 计算得出,如公式 1 所示:
rt = σ(Wr·xt + Ur·ht?1 + br)
zt = σ(Wz·xt + Uz·ht?1 + bz)
nt = tanh(Wn·xt + bn + rt ⊙ (Un·ht?1 + bn,u))
ht = (1 ? zt) ⊙ nt + zt ⊙ ht?1 (1)
其中函数 σ 是控制门控机制的 sigmoid 函数,⊙ 代表哈达玛乘积(或逐元素乘积)。作为对符号的轻微滥用,tanh 和 σ 函数都意味着逐元素地应用于函数向量参数的每个元素上。矩阵 Wr/t/n 和 Ur/t/n 分别是重置门、更新门和候选隐藏状态的输入可训练权重和递归可训练权重。向量 br/z/n 和 bn,u 是每个门相关的可训练偏置。注意对于第一个字母(相当于 t = 0),ht?1 对应于 t = 0 时刻的初始隐藏状态。
对于双向 GRU,序列 (xt) 在正向和反向两个方向上进行处理,产生维度加倍的最终状态,h_biGRU = (h→, h←)。在每一步,输出是正向(从左到右处理 SMILES 字符串)和反向(从右到左处理 SMILES 字符串)的拼接。这对于 VAE 编码器非常重要,因为它捕获了 SMILES 字符串中过去和未来上下文的信息,从而实现对 SMILES 序列更丰富、更准确的编码。当 GRU 有多层时,第 l 层的输入是第 (l?1) 层的最终隐藏状态(输出),h^(l?1)t。当包含 dropout 层时,第 l 层的实际输入是 h^(l?1)t 的修改形式 δ^(l?1)t·h^(l?1)t,其中 δ^(l?1)t 是伯努利随机变量,以等于 dropout 的概率取值为零。
潜在空间的维度是管线的关键参数。对于经典 GAN 和量子 GAN,生成器的输出必须与潜在空间的维度匹配。对于量子生成器,量子线路中使用的量子比特数与潜在维度 Dl 之间存在线性对应关系:要么一对一,要么一对二,取决于如何收集量子网络的测量结果;参见后续章节。由于当前量子计算机的量子比特数仍然有限,且使用经典资源模拟量子态的代价呈指数增长,我们的默认设置使用潜在维度 10,即最多使用 10 个量子比特。我们研究了高达 30 的潜在维度,并通过使用经典资源在无噪声量子模拟器上进行训练来验证了我们的管线。我们还在超导量子比特硬件上进行了推理,使用的是配备 IBM Heron 芯片的 ibm_kingston 计算机,该芯片具有 156 个量子比特。
### 2.2.2. 经典与混合量子 GAN 架构
我们管线的核心是 GAN 架构。设生成器为 G,判别器为 D。GAN 的对抗极小极大博弈训练使用 Earth-Mover 距离(或 Wasserstein 距离)以及梯度惩罚(WGAN-GP),以确保高效缓解模式崩塌的影响。(33) WGAN-GP 的训练遵循:
min_G max_D L_WGAN(G,D) + λ·E_ξ^~p(ξ^)[(∥?_ξ^ D(ξ^)∥2?1)2] (2)
其中 ξ^ 是从均匀分布 p(ξ^) 中随机抽取的样本,位于从输入数据分布和生成器 G 的输出分布中抽取的点之间直线上。具体而言,插值样本构造为 ξ^ = ε·x + (1?ε)G(ξ),其中 x ~ pdata,G(ξ) 是生成样本,插值系数 ε 从均匀分布 U[0, 1] 中抽取。我们将输入数据分布记为 pdata,将噪声分布 p(ξ) 记为生成器 G 的输入。在本研究中,生成器的输入噪声 ξ 从标准高斯(正态)分布 N(0,1) 中抽取,均值为零,方差为单位;对于量子生成器,噪声变量 ξq 通过公式 4 直接设置参数化量子线路的旋转角度。函数 L_WGAN(G,D) 是原始 Wasserstein GAN 的
在以往高能物理领域或高质量图像生成的相关研究中,(40, 41, 43) 我们在量子生成器中采用了一种基于样式的架构。(42) (40) 该方法使用数据重新上传策略,即将生成器的输入随机噪声实现到量子电路中的所有门中,而不仅仅作用于每个量子比特上的第一个门。该方法已被证明能够赋予量子生成机制更多的灵活性和丰富性,适用于图像生成或高能物理应用,但此前从未在药物设计领域被尝试过。我们基准测试中的经典GAN架构紧密遵循MOSES基准套件(37)中的架构,该套件由文献(39)提出。我们采用MOSES套件中已有的潜在空间GAN架构作为经典参照:预训练的VAE、潜空间以及WGAN-GP训练目标均保持不变,仅将生成器替换为经典网络或量子电路。两种生成器之间可训练参数数量的巨大差异,因此并非任意的建模选择,而是源于我们的量子生成器与标准MOSES经典基线的对比。我们的研究还包含了一个与经典潜在GAN的对比实验,该经典GAN的生成器容量与量子生成器相匹配,结果表明在我们所采用的低数据量场景中,标准MOSES经典基线存在过度参数化的问题。尽管如此,我们将证明该匹配容量的经典GAN并未显著优于标准MOSES基线,且我们提出的QGAN架构既能与标准基线竞争,也能与匹配容量架构竞争,同时在部分与药物相关的评价指标上带来了显著提升。因此,除了将QGAN结果与匹配容量的经典GAN进行对比之外,我们还会量化在性能相当时标准MOSES基线的参数差距。
判别器(经典GAN和量子GAN结构相同)由三个线性(全连接)层组成,各层的维度依次为[512, 256, 1],每层之后均连接LeakyReLU激活函数(参数为0.2),最后一层除外。经典生成器由五个线性层组成,维度序列为[128, 256, 512, 1024, Dl],每层之后均连接LeakyReLU激活函数(参数为0.2),最后一层除外。此外,第二、第三和第四层使用了批归一化。我们将研究量子生成器量子电路的两种不同的变分形式(Ansatz),由可重复nl次的层构建而成,以增加模型的表现力。这种分层结构遵循变分量子算法中广泛使用的硬件高效Ansatz范式,包括变分量子本征求解器以及各项QGAN研究。(25, 47, 50, 51) 特别是,这些设计灵感来源于PennyLane等现代量子机器学习框架中可用的参数化电路模板。(49) 第一种架构对应于由单量子比特旋转和受控旋转组成的简单结构,并排列在重复的层中(图2);第二种架构引入了基本纠缠层(BEL)(图3),通过额外的纠缠操作增强量子比特之间的相关性。(52) 我们考虑具有五个数据量子比特的代表性电路。所有旋转门(包括受控旋转门)均由定义在[?π, π]域上的角度参数化,定义为:
θ_{q,l,k} = π·tanh(ξ_q·W_{q,l,k} + b_{q,l,k}) (4)
其中ξ_q为给定量子比特q的输入噪声向量元素,W_{q,l,k}为给定量子比特q、给定层l和给定角度标签k(对应第k个旋转门)的可训练参数张量中的元素。张量b包含偏置项b_{q,l,k}。权重张量W和偏置张量b均为实数,且形状相同:每对(旋转门、量子比特)携带一个独立的训练参数,由量子比特q、层l和层内门标签k联合索引。特别是,作用于每个量子比特上的每一个参数化旋转都有其独立的权重和偏置,因此偏置在不同门、不同层和不同量子比特之间不共享。对于BEL电路,每层包含五个参数化旋转外加每个量子比特一个最终旋转,因此可训练参数的数量为2 × (5·nl + 1) × nqb(因子2考虑了权重和偏置);例如,当nqb = 5且nl = 2时,得到110个可训练参数。使用非线性函数tanh()有助于避免训练阶段的过度旋转,从而进一步缓解(量子)模式崩塌。
图2:五个量子比特和一层的基本样式电路。
图3:五个量子比特和一层的样式基本纠缠层(BEL)电路。此外,在每个量子比特上有一组最终的单量子比特RY门,用于在最终测量操作之前将所有量子比特旋转到计算基。
我们通过执行泡利算符的量子测量并计算其期望值来构建量子电路的输出向量。我们可以使用单次读出或双重读出。在前一种情况下,对每个量子比特测量一个泡利算符(通常选择Z算符),因此具有nqb个量子比特的量子生成器产生维度为nqb的潜在向量。在后一种情况下,我们利用泡利X算符和泡利Z算符的线性无关性,使用相同的量子电路但对每个量子比特执行两次统计独立的测量。因此,具有nqb个量子比特的量子生成器输出维度为2nqb的潜在向量,代价是需要执行两倍的量子测量次数,以达到与单次读出相同的最终结果的量子精度。由于量子电路仿真的指数级成本,我们在分析中将其限制在最多15个量子比特并采用双重读出,对应最大潜在维度为30。我们采用潜在维度10作为默认设置,分别使用10个量子比特进行单次读出或5个量子比特进行双重读出,与在ibm_kingston上进行的量子推理设置一致。这一默认潜在维度的选择基于对经典潜在GAN的分析,其中潜在维度大于10并不会显著改变结果;另见补充信息表14。我们还将呈现潜在维度为30(15个量子比特,双重读出)的量子模拟器结果。
2.3. 评价指标
本分析中使用的评价指标定义取自MOSES基准套件,是药物设计领域的标准指标。以下列出各项指标:
区分度分数(ε_d):对生成的SMILES分子应用字符串去重后,计算其比例。
有效分子比例(ε_v):报告生成的SMILES字符串的有效性,使用RDKit分子结构解析器检查原子价和芳香环中键的一致性来定义。
唯一分子比例(ε_u):检查模型是否崩塌为仅产生少数几种典型分子。
新颖度:生成分子中不存在于训练集中的比例。低新颖度表明存在过拟合现象。
过滤器(Filters):生成分子中通过数据集构建期间所施加的过滤器的比例。尽管生成的分子通常是化学有效的,但可能包含在训练集中被去除的不期望片段。
内部多样性(IntDiv):评估生成分子集合内的化学多样性。该指标可检测到生成模型的常见失败模式——模式崩塌。在模式崩塌中,模型仅产生有限的样本集合,忽略了化学空间的部分区域。
分子量(Weight):分子中各原子量的总和。一般而言,由较轻的分子构建可行药物更容易。
Log P(辛醇-水分配系数):在辛醇/水两相系统中,化学物在辛醇相中的浓度与其在水相中浓度的比值。它是亲脂性的度量指标,定义为化合物在水和脂质/有机溶剂混合体系中差异性溶解的能力。使用MOSES工具时,通过RDKit Crippen估计器计算。(53) 根据Lipinski五法则,(54, 55) 口服药物的典型良好Log P值在0到5之间。我们构建了一个关联指标ε_Log P,即分子中Log P值在此范围内的比例。
合成可及性得分(SA):估计合成特定分子的难易程度的启发式评分(10为最困难,1为最容易)。
药物类性量化估计(QED):[0, 1]区间内的实数,估计某分子成为可行药物候选的概率。
前六个指标的值域约束在[0, 1]区间内,期望值越接近1越好。后四个指标以两种方式报告:或者作为测试数据集与生成数据集之间的沃瑟斯坦距离(记为W),遵循MOSES基准套件的做法;(37) 或者作为生成样本分布本身的均值。后一种选择消除了结果对测试数据集的依赖,也是我们分析中首选的报告方式。正如上述列表中所提到的,我们还引入了一个MOSES分析中未包含的新指标,即比例ε_Log P。由于MOSES分析不一定局限于(人类)药物发现,这一新指标有助于量化在我们量子计算辅助药物设计流程中获得的药物候选物有多少兼容于可行药物中常见的Log P值。重要的是避免化合物具有过高的亲脂性(可能导致在脂肪组织中的蓄积以及致命的毒性问题,或难以穿透体内某些屏障)或过低的亲脂性(化合物完全无法与靶标分子结合)。Log P的小负值是注射类药物的典型值,1.3到1.8之间的值是理想的口服候选物,约2的值是靶向中枢神经系统的理想候选物,例如。
上述指标已在以下三种不同场景中进行了应用:
VAE超参数优化:目标是确保将SMILES信息编码/解码至/自潜在维度的良好能力。因此我们旨在最大化内部多样性。此外,为抑制过度训练并改善泛化能力,我们旨在最小化W(Log P)、W(Weight)、W(SA)和W(QED)。
GAN超参数优化:目标是改善训练的稳定性。在本分析的范围内,仅改变了每个纪元(epoch)内生成器与判别器的训练频率比。
经典与量子GAN性能比较:目标是在与训练或测试样本无关的情况下比较性能,同时最大化生成真正新颖分子的可能性。因此,所有比例指标(ε_d、ε_v、ε_u、ε_Log P、新颖度、过滤器和内部多样性)均被最大化,QED分布的均值也被最大化,而SA和分子量分布的均值被最小化。
为了测试训练的鲁棒性(即模型对训练参数初始化的敏感性),每个模型使用不同的随机种子训练了五次,因此所报告的值是这五次运行的均值和标准差。为了在全球范围内评估量子GAN模型相对于经典GAN的性能,我们还使用了Z_0显著性作为最终指标,定义为:
Z_0 = Σ_m Z_0,m = Σ_m Δ_m / √((σ_m1)2 + (σ_m2)2) (5)
其中求和遍历上述场景比较中列出的所有相关指标(比例ε_d、ε_v、ε_u、ε_Log P;新颖度;过滤器;内部多样性;?QED?;?SA?;?Weight?),Δ为各自指标m的均值之差。公式(5)中的σ_m1和σ_m2分别指参照场景和研究场景下指标m的标准差。
构造 Δ 取决于度量 m 是要最大化还是最小化。在前一种情况下,例如对于效率类度量,Δm = μm2 ? μm1,其中 μm1 和 μm2 分别指参考场景和研究场景下度量 m 的均值。在后一种情况下,例如对于 SA(可合成性)或 Weight(分子量),μm1 和 μm2 对调,即 Δm = μm1 ? μm2。对于全局显著性,我们将取 Z0 的均值,即将各度量的结果除以所用度量数量。此计算中的真值参考基准点是经典的 GAN 结果。显著性的符号则指示量子 GAN 设计相对于经典 GAN 是改善还是退化。为引导读者理解,我们提醒:|?Z0?| < 1 表示经典和量子流水线在性能上大体相当(方差小于 1σ),而大于该值则表明存在显著的改善或退化。第 2.4.2 节以示例提供了更多细节。关于应用于输入分布的度量详见补充信息第 1 节。关于度量对生成样本数量的敏感性,详见补充信息第 3 节。
## 2.4 训练细节
### 2.4.1 VAE 的训练
VAE 按照 MOSES 基准测试套件中的流程进行训练。这意味着我们特别使用了批量大小为 64、梯度裁剪阈值为 50。我们使用了 Adam 优化器,名义学习率为 3 × 10??。对训练集和验证集损失函数的研究表明,Nep = 1,000 个 epoch 可产生最优结果。我们通过对表 1 中列出的参数进行小幅调整,对 VAE 进行了超参数调优。在名义配置中,学习率固定为 3 × 10??。我们同时探索了学习率调度方案,其中调优参数为余弦调度,从 10?3 开始,最终训练 epoch 结束时降至 10??。我们提供了这些参数的调优值,由此得到表 2 中呈现的度量对比。名义 VAE 与调优 VAE 的各度量分布比较见图 4。关于 VAE 训练结果的更多细节,见补充信息第 2 节。
**表 1. VAE 超参数设置:名义(MOSES 默认)与调优设置的比较**
| 度量 | 名义 VAE | 调优 VAE |
|---|---|---|
| 学习率 (lr) | 3 × 10?? | 调度 10?3 → 10?? |
| 编码器层数 (nl) | 1 | 1 |
| 编码器隐藏维度 (Dh) | 256 | 512 |
| 解码器层数 (nl) | 3 | 4 |
| 解码器隐藏维度 (Dh) | 512 | 512 |
| 解码器 dropout | 0 | 0.75 |
**图 4. 使用名义 VAE 解码器和调优 VAE 解码器时,由输入训练集和生成集推导出的度量分布。**
**表 2. 由训练集及名义 VAE 和调优 VAE 生成集推导出的度量**?
| 度量 | 训练集 | 名义 VAE | 调优 VAE |
|---|---|---|---|
| IntDiv | 0.898 | 0.896 | 0.896 |
| | 0.091 | 0.087 | 0.079 |
| | 0.268 | 0.275 | 0.251 |
| | 0.027 | 0.025 | 0.022 |
| | 42.8 | 43.9 | 41.8 |
| Nparams | 4,271,250 | 6,472,082 | |
? 内部多样性计算为对应样本的均值,而其余四个度量则是相应度量在目标样本与测试样本之间的平均 Wasserstein 距离。
总体而言,所有 VAE 训练运行的表现都非常出色且稳定:度量比较显示调优 VAE 有所改善,但幅度不大。我们还额外测试了 VAE 解码器的鲁棒性,以确保其能高效解码隐空间,因为最终生成分子正是通过这一方式获得的。这意味着我们必须确保解码器不会将隐空间坍缩回分子空间的一个小子集。我们对解码器进行了形状分析研究,结果显示解码器对隐向量分布的形状敏感,这证实了 VAE 并未坍缩到分子输入空间的某个人为子空间。更多细节见补充信息第 5 节。
### 2.4.2 隐空间 GAN
隐空间 QGAN 在无噪声的量子模拟器(态向量模拟)上训练,最终生成的分子通过 RDKit 进行过滤,以检验其化学有效性。我们还将基于 Heron 量子芯片的 IBM ibm_kingston 系统进行硬件实验采样,作为说明真实硬件对推理影响的仅推理演示,详见第 3.3 节。经典和量子隐空间 GAN 的训练均遵循公式 2 和公式 3 所述的损失函数,同样使用 Adam 优化器。对于经典 GAN,名义学习率为 2 × 10??,Adam 参数为 β1 = 0.5、β2 = 0.9。epoch 数设定为 Nep = 100,判别器与生成器的训练频率比从五(MOSES 基准测试套件默认值)调整为一(后文简称"调优 GAN")。名义和调优 GAN 在不同 epoch 的损失函数见图 5。
**图 5. 名义(左图)和调优(右图)GAN 的损失函数比较。每个模型使用五个不同的种子运行,阴影带表示 ±1σ 偏差。**
表 3 呈现了由各模型生成样本估计的度量。该表分为四个部分:
前六个度量可理解为效率类指标——基于分布本身估计的 0 到 1 之间的分布值,越接近 1 越好。第二部分以 W(X) 标注,展示了 MOSES 分析中定义的变量 X 在测试样本与生成样本之间的 Wasserstein 距离。第三部分展示了 |log P| < 5 的样本比例,以及可合成性评分(SA)、药物相似性定量估计(QED)和分子量分布的均值。第四部分则通过累加第一部分和第三部分中各度量的统计兼容性,呈现各场景的性能比较。
**表 3. VAE 和经典 GAN 的度量结果**?
| 度量 | 训练集 | 调优 VAE | 名义 GAN | 调优 GAN |
|---|---|---|---|---|
| ?d | 0.982 | 0.605 ± 0.017 | 0.510 ± 0.007 | 0.481 ± 0.030 |
| ?v | 1.000 | 0.868 ± 0.006 | 0.911 ± 0.006 | 0.917 ± 0.012 |
| ?u | 1.000 | 0.993 ± 0.001 | 0.986 ± 0.002 | 0.986 ± 0.003 |
| Novelty | 0.000 | 0.461 ± 0.026 | 0.501 ± 0.015 | 0.536 ± 0.015 |
| Filters | 0.734 | 0.728 ± 0.002 | 0.723 ± 0.003 | 0.721 ± 0.011 |
| IntDiv | 0.898 | 0.896 ± 0.000 | 0.902 ± 0.002 | 0.898 ± 0.004 |
| | 0.091 | 0.078 ± 0.004 | 0.291 ± 0.026 | 0.354 ± 0.037 |
| | 0.268 | 0.249 ± 0.004 | 0.375 ± 0.028 | 0.437 ± 0.080 |
| | 0.027 | 0.023 ± 0.001 | 0.039 ± 0.003 | 0.038 ± 0.005 |
| | 42.8 | 42.4 ± 1.0 | 93.0 ± 4.6 | 99.4 ± 10.6 |
| ?Log P | 0.883 | 0.886 ± 0.003 | 0.895 ± 0.002 | 0.898 ± 0.006 |
| ?SA? | 2.561 | 2.579 ± 0.004 | 2.454 ± 0.028 | 2.391 ± 0.080 |
| ?QED? | 0.596 | 0.604 ± 0.001 | 0.592 ± 0.006 | 0.599 ± 0.007 |
| ?Weight? | 261.5 | 260.5 ± 1.1 | 210.3 ± 4.6 | 203.9 ± 10.6 |
| ?Z0? | 参考 | +1.45 | +0.86 | |
? 所有 GAN 均使用调优 VAE 进行隐空间表示。与其余情况不同,名义 GAN 使用的是如正文所述的名义 GAN 超参数设置。所引用的标准偏差来自每个场景使用不同的可训练参数初始化种子运行五次的结果。
如第 2.3 节所述,在需要评估模型是否能产生具有期望属性的新型未知分子的情况下,最大化与测试样本的 Wasserstein 距离应是一个合理目标。然而这种做法存在一个微妙但重要的问题:如果模型产生的分子在度量分布上远离测试集但与训练集相似,它可能会错误地倾向于复制训练集。图 6 通过比较训练输入样本和测试输入样本与 VAE 解码器、名义 GAN 及调优 GAN 模型生成样本之间的差异,说明了这一点。在所有情况下,均使用了调优后的 VAE 超参数设置。在所有分布中,GAN 均表现出更强的生成远离训练集和测试集样本的能力,印证了文献中提出的观察结果。但同样可以看到,所有分布都倾向于接近训练集。如果存在一个相对于测试样本位于训练样本相反方向、但比训练样本更接近测试样本的模型,最大化 Wasserstein 距离仍然会倾向于复制训练数据集的模型,导致错误的结论。因此,我们决定仅使用七个分数(?d、?v、?u、Novelty、Internal diversity、Filters 和 ?Log P)以及 SA、QED 和 Weight 分布的均值来构建单一标量平均 ?Z0? 显著性作为场景比较的度量。
**图 6. 分析中所用模型的度量比较。对于 VAE,使用的是调优版本;对于 GAN,不仅使用了调优 VAE,GAN 本身也进行了调优。每个模型使用五个不同的种子运行,阴影带定义为 ±1σ 偏差。**
最后,表 3 中的 ?Z0? 显著性差异显示,两种 GAN 的表现均优于 VAE,这与我们从图中得出的直觉一致。
## 3 结果
在本节中,我们比较了经典 GAN 和量子 GAN 的性能。除了第 2.3 节讨论的度量外,我们还比较了量子模型的参数量与训练稳定性与经典对应模型的情况。如第 2.2.1 节所述,我们呈现的量子训练最大隐空间维度为 30,对应使用 15 个量子比特和双读出方式的量子电路。我们从第 3.1 节中隐空间维度为 10 的默认场景开始,在第 3.2 节中呈现隐空间维度高达 30 的不同量子场景之间的比较,并在第 3.3 节中呈现我们在 IBM 量子计算机 ibm_kingston 上的量子推理结果。
### 3.1 经典 GAN 与量子 GAN
我们研究的默认场景使用隐空间维度 10、调优 VAE 和经典 GAN 超参数。第 2.2.2 节中描述的两种量子电路在名义设置下进行比较,即五量子比特、两层、双读出。量子 GAN 训练 100 个 epoch。图 7 呈现了 BEL 量子生成器在名义(左图)和调优(右图)GAN 训练参数下训练集上的损失函数。与图 5 相比,显然损失函数具有更平滑的趋势和更少的波动。我们流程中的 QGAN 相比使用隐空间经典 GAN 的 MOSES 基线,导致了一条更为鲁棒的流水线。我们提醒注意,图 5 和图 7 比较的生成器容量差异极大(MOSES 经典生成器有超过 7 × 10? 个可训练参数,而 BEL QGAN 仅有 110 个)。更平滑的 QGAN 损失可能主要归因于量子架构更小的参数量,或者相反,归因于高容量 MOSES 经典生成器对数据的过拟合。补充信息第 8 节报告了一项辅助对照研究,测试这一解释,使用三种分别具有 682、346 和 110 个参数的经典生成器,三者使用与我们的名义场景相同的 VAE、判别器和超参数(epoch 数除外)进行训练。它们的损失轨迹并不比参考经典生成器更平滑。因此,更平滑的 BEL QGAN 损失不太可能仅由参数量导致,即使参数量完全匹配也是如此,我们将其报告为我们流水线的鲁棒性改善,但不一定声称具有普遍的量子优化优势。我们还将此受控扫描扩展到了另外两种具有 115 和 94 个可训练生成器参数的经典 GAN。它们的损失函数表现远好于其他经典 GAN,但仍不如 QGAN 训练曲线平滑。
**图 7. 使用 BEL 电路的量子 GAN 在名义(左图)和调优(右图)设置下的损失函数比较。**
每个模型使用五个不同的随机种子运行,阴影区域定义为±1σ偏差。图7 大图 下载至幻灯片 图7. 标称(左面板)和调优(右面板)BEL电路量子GAN的函数损耗对比。每个模型使用五个不同的随机种子运行,阴影区域定义为±1σ偏差。 关闭图7。 表4展示了标称电路设置下QGAN与经典GAN的指标对比,同时包括与BEL QGAN容量匹配的经典GAN,后者采用[10,Dl]单隐藏层生成器获得。所有报告的?Z0?值均以第一列的MOSES基线进行计算。值得一提的是,量子电路的结果与经典GAN在1个标准差范围内是兼容的。正如预期,简单电路的表现不如BEL电路。标称MOSES经典GAN的结果使用的可训练参数比BEL QGAN的结果多出了6400倍以上。我们注意到,本文各节及支持信息第8节中展示的较小规模经典GAN流水线并没有产生明显更好的结果。它们甚至略有退化,除了具有94个可训练参数的经典GAN外,它相较于MOSES标称经典潜变量GAN有一些微小的提升,而对于某些指标,例如?QED?,我们的QGAN流水线则优于本文所测试的所有经典基线。确实,相对于MOSES标准参考,匹配的[10,Dl]经典生成器(?Z0? = ?0.41)总体在统计上是兼容的,但未能提升?QED?(0.594 ± 0.001),而风格化BEL QGAN(?Z0? = ?0.26)达到了0.643 ± 0.001。我们还注意到,当比较标称MOSES基线与容量匹配的经典潜变量GAN时,在潜维度为10的情况下,标称基线存在过参数化。 表4. 两种量子GAN与一种匹配风格化BEL QGAN(单隐藏层结构[10,Dl])的经典潜变量GAN相对于MOSES基线经典GAN的性能对比a 指标 调优GAN 简单QGAN BEL QGAN 匹配经典GAN Nparams 705,162 20 110 110 ?d 0.481 ± 0.031 0.529 ± 0.003 0.523 ± 0.003 0.523 ± 0.001 ?v 0.917 ± 0.012 0.831 ± 0.002 0.875 ± 0.003 0.910 ± 0.001 ?u 0.986 ± 0.003 0.994 ± 0.000 0.993 ± 0.001 0.986 ± 0.001 新颖性 0.536 ± 0.015 0.572 ± 0.003 0.548 ± 0.003 0.495 ± 0.003 内部多样性 0.898 ± 0.004 0.882 ± 0.000 0.883 ± 0.000 0.902 ± 0.000 滤波器 0.721 ± 0.011 0.737 ± 0.003 0.719 ± 0.002 0.722 ± 0.003 ?Log P 0.898 ± 0.007 0.883 ± 0.001 0.896 ± 0.002 0.895 ± 0.002 ?SA? 2.391 ± 0.076 2.575 ± 0.007 2.448 ± 0.007 2.472 ± 0.005 ?QED? 0.599 ± 0.007 0.641 ± 0.001 0.643 ± 0.001 0.594 ± 0.001 ?Weight? 203.9 ± 10.6 294.8 ± 0.8 261.4 ± 0.8 215.2 ± 1.0 ?Z0? 参考值 – – 1.00 – 0.26 – 0.41 指标 调优GAN 简单QGAN BEL QGAN 匹配经典GAN Nparams 705,162 20 110 110 ?d 0.481 ± 0.031 0.529 ± 0.003 0.523 ± 0.003 0.523 ± 0.001 ?v 0.917 ± 0.012 0.831 ± 0.002 0.875 ± 0.003 0.910 ± 0.001 ?u 0.986 ± 0.003 0.994 ± 0.000 0.993 ± 0.001 0.986 ± 0.001 新颖性 0.536 ± 0.015 0.572 ± 0.003 0.548 ± 0.003 0.495 ± 0.003 内部多样性 0.898 ± 0.004 0.882 ± 0.000 0.883 ± 0.000 0.902 ± 0.000 滤波器 0.721 ± 0.011 0.737 ± 0.003 0.719 ± 0.002 0.722 ± 0.003 ?Log P 0.898 ± 0.007 0.883 ± 0.001 0.896 ± 0.002 0.895 ± 0.002 ?SA? 2.391 ± 0.076 2.575 ± 0.007 2.448 ± 0.007 2.472 ± 0.005 ?QED? 0.599 ± 0.007 0.641 ± 0.001 0.643 ± 0.001 0.594 ± 0.001 ?Weight? 203.9 ± 10.6 294.8 ± 0.8 261.4 ± 0.8 215.2 ± 1.0 ?Z0? 参考值 – – 1.00 – 0.26 – 0.41 a所有模型均使用调优后的VAE和GAN训练参数。量子电路使用五个量子比特、两层,并通过双重读出产生维度为10的潜向量。 大图 在此我们总结整个流水线在模型复杂度和运行时间方面的总体成本。可训练参数的数量,它直接反映了模型容量和优化成本,显示出最为显著的对比:预训练VAE使用了大约6.5 × 10^6个参数(表2),而标称MOSES基线的经典潜变量生成器使用705,162个参数,相比之下,我们的量子生成器仅使用20到620个可训练参数,具体取决于电路、层数和读出策略(表5)。在本研究使用的NVIDIA A100 40GB GPU上,一次性VAE训练(1000个轮次)大约需要52分钟(支持信息第2节),生成30,000个分子大约需要10分钟(支持信息第3节);两个潜变量GAN均训练100个轮次。我们并未报告经典与量子GAN之间的墙钟训练时间对比,因为量子生成器在经典态向量模拟器上训练,其成本随量子比特数量指数增长。这将模拟限制在最多15个量子比特,并促成了第2.2.2节中讨论的双重读出与单一读出之间的权衡。此类运行时间对比衡量的是在经典硬件上模拟量子计算机的成本,而非量子流水线本身的固有成本,这超出了本研究的范围。如第3.3节中仅在执行推断时所进行的那样,在量子硬件上原生执行生成器原则上可以避免这种指数级模拟成本,尽管在量子硬件上进行高效完整训练仍是一个开放的研究挑战。(57) 因此,探索此类硬件高效训练方案是未来工作中将流水线扩展到更宽潜空间的一个自然方向。独立于运行时间,QGAN较少的可训练参数本身已是模型的一个具体优势,相较于标称MOSES基线,它提高了可解释性并减轻了优化负担。当然,与匹配的经典GAN相比,这一论点并不适用。 表5. 经典GAN与使用不同设置QGAN之间不同场景的平均?Z0?对比a 简单QGAN BEL QGAN nl = 2 nl = 4 nl = 2 nl = 4 nl = 6 潜维度 (Nparams) GAN 读出 nqb (npar) (npar) (npar) (npar) (npar) 10 参考值 双重 5 – 1.00 – 1.01 – 0.26 – 0.27 (20) (40) (110) (210) (705,162) 单一 10 – 0.84 – 0.83 – 0.10 – 0.08 – 0.11 (40) (80) (220) (420) (620) 20 – 0.25 双重 10 – 0.28 – 0.32 (716,692) (40) (220) 30 – 0.26 双重 15 – 0.39 – 0.32 (728,222) (60) (330) 简单QGAN BEL QGAN nl = 2 nl = 4 nl = 2 nl = 4 nl = 6 潜维度 (Nparams) GAN 读出 nqb (npar) (npar) (npar) (npar) (npar) 10 参考值 双重 5 – 1.00 – 1.01 – 0.26 – 0.27 (20) (40) (110) (210) (705,162) 单一 10 – 0.84 – 0.83 – 0.10 – 0.08 – 0.11 (40) (80) (220) (420) (620) 20 – 0.25 双重 10 – 0.28 – 0.32 (716,692) (40) (220) 30 – 0.26 双重 15 – 0.39 – 0.32 (728,222) (60) (330) a第一列中的括号内数字为可训练参数数量,反映了模型容量(即复杂度)。 大图 图8展示了标称经典GAN与两个QGAN的指标分布对比。经典和量子GAN在各自的误差带之外展现出不同的形状。简单电路与BEL电路之间也存在差异。对于内部多样性和分子量的分布,经典GAN的分布倾向于偏向理想值——内部多样性为1,分子量为0。然而,QGAN显示出更高的分子成为可行药物的可能性(QED)。 图8 大图 下载至幻灯片 图8. 两种量子电路与标称MOSES经典GAN的指标对比。所有模型均使用调优后的VAE和GAN训练参数。量子电路使用五个量子比特、两层,并通过双重读出产生维度为10的潜向量。每个模型使用五个不同的随机种子运行,阴影区域定义为±1σ偏差。 图8 大图 下载至幻灯片 图8. 两种量子电路与标称MOSES经典GAN的指标对比。所有模型均使用调优后的VAE和GAN训练参数。量子电路使用五个量子比特、两层,并通过双重读出产生维度为10的潜向量。每个模型使用五个不同的随机种子运行,阴影区域定义为±1σ偏差。 关闭图8。 图9展示了训练集、测试集、经典GAN与量子GAN在VAE编码器坐标系下的10个潜向量的分布。QGAN使用BEL电路,标称设置为五个量子比特、两层和双重读出。在构建潜向量时,VAE编码器会添加一个随机噪声项,因此即使是具有固定输入的训练和测试样本,运行五次也会产生略微不同的分布,从而在这些场景下也产生误差带。除了第六和第七个向量外,其余向量在四种样本之间没有显示出差异。关于潜向量之间相关性的更多细节,请参见支持信息第6节。请注意,我们还在支持信息中展示了在解码前坐标系下对量子生成器读数的潜向量对比,将其重新缩放至[0,1],比较了模拟器、带噪声模拟器和量子硬件结果(仅在推断时);请参见支持信息图20。 图9 大图 下载至幻灯片 图9. 训练集、测试集、经典GAN和BEL QGAN样本的潜向量分布。 图9 大图 下载至幻灯片 图9. 训练集、测试集、经典GAN和BEL QGAN样本的潜向量分布。 关闭图9。 3.2. 场景对比 如前几节所述,可实现的最高潜维度为30,因为超过15个量子比特对于本分析所使用的硬件而言计算复杂度太高。考虑到这些限制,我们进行了各种场景的全面研究,结果展示在表5中。场景对比基于如第2.3节所述,针对各项指标聚合估算的Z0显著性。作为基线,我们选择了具有优化训练超参数的经典GAN,其VAE流水线的潜维度为10。所有场景均在1个标准差范围内,因此在统计上是兼容的:任何额外差异在统计上都是可忽略的。我们可以提出以下额外见解: 增加潜维度似乎并不会提高场景性能,即使对经典GAN也是如此。 对于简单电路,单一读出(更多量子比特)带来的改进小于BEL电路。这很可能与电路复杂度有关。 QGAN的层数似乎对结果没有影响。 对于双重读出和潜维度为20的情况,QGAN与经典GAN(相同潜维度)之间的差异似乎远小于潜维度为10的情况。 对于双重读出和潜维度为30的情况,QGAN与经典GAN(相同潜维度)之间的差异似乎远小于潜维度为10的情况,尽管其差异大于潜维度为20的情况。 BEL电路在潜维度为20和30(即10和15个量子比特)时似乎具有相同的性能。 在给定潜维度下,QGAN性能唯一一致的改进是从双重读出变为单一读出。我们在单一读出情况下将分析限制在潜维度为10,因为否则对于潜维度为20或30的单一读出,我们需要显著更强的算力,而我们所用数据集并未显示出明确的改进迹象。更多细节请参见支持信息第7节。 3.3. 在量子硬件上进行推断运行 为了验证QGAN使用真实量子硬件生成新分子的能力,我们在IBM提供的ibm_kingston量子系统上采样了2,500个分子,使用具有五个量子比特、两层和双重读出的QGAN模型,该模型在无损量子模拟器上训练。本实验仅为推断目的、用于说明:模型参数为从无损模拟器训练中获得,量子硬件仅用于从训练好的生成器中采样。其目的是测试在模拟器上训练的模型是否能在真实的带噪声中等规模量子硬件上执行,并仍能产生化学上可行的样本。端到端量子训练不属于本次运行的内容。我们在第4节中将其作为未来工作讨论了这一选择以及混合经典/量子训练方案。为了评估量子设备的性能并评价量子噪声的影响,我们还生成2,500个分子,分别从量子模拟器采样,以及2,500个来自经典GAN的经典生成器样本。相较于默认的30,000个分子,选择较小的样本量是出于成本考虑以及在量子设备上花费的时间。应该指出的是,这已经是一个足够大的样本量,可以得出有意义的结论;特别是它大于参考文献(28)中的1,000样本QM9硬件推断,据我们所知,在我们本文的推断之前,那是真实量子硬件上最大的分子推断实验。与使用态向量模拟的无损量子模拟(对量子态具有无限精度)不同,我们必须选择在量子计算机上执行的测量次数以收集期望值。我们使用1,000次shot进行实验,并在IBM Cloud上使用批量模式。当在真实量子硬件上运行时,我们设计的量子电路需要适配于实际设备拓扑以及该设备上可用的门集合:这就是编译步骤。对于我们在ibm_kingston设备上的计算,我们使用了默认的Qiskit运行时参数作为编译方法(optimization = 2)和弹性级别(resilience = 0,未应用任何错误缓解)。我们没有应用IBM Runtime的错误缓解协议,如带旋绕读出错误消除(TREX)或零噪声外推(ZNE)。这些方法需要以更高噪声水平执行额外的电路运算,因此会增加QPU时间和成本。(58) 由于本次推断运行旨在探测(原生)设备噪声对模拟器训练生成器的影响,而非最大化经过缓解的输出质量,应用这些方法将超出我们采样2,500个分子的会话预算,而对本说明并无明显益处。
同样值得注意的是,用于药物设计的混合量子生成管道在推理过程中,报告了在设备噪声下仍能保持化学相关指标:Anoshin等人发现,来自有噪声的IBM模拟器和理想模拟器的有效度、类药性和溶解度评分相当。(31) 这与变分量子化学应用(如变分量子本征求解器)不同,后者通常需要专门的误差缓解协议才能达到精确的基态能量。(58)
执行设置和作业元数据汇总于补充材料(表17和表18)中。转译后的电路深度、两量子比特门数量和物理量子比特布局取自作业记录(job.inputs)中存储的执行电路,表18中的设备级校准中位数取自执行日期(2025-10-04 UTC)ibm_kingston后端属性。我们还在补充材料表20中报告了在相同训练好的生成器上运行的匹配的FakeKingston有噪声模拟器运行,并在图20和表21中对VAE解码前的无噪声模拟、有噪声模拟和ibm_kingston硬件运行的隐向量分布进行了比较。这些分布与无噪声模拟的分布大致相似,与硬件推理的整体稳健性一致。表6呈现了经典GAN与具有BEL电路和标称设置(nqb = 5, nl = 2,双重读出)的QGAN之间的指标比较。尽管统计量有些有限,但与无噪声量子模拟器的结果相比,量子硬件上的推理运行给出了类似的结果。在当前噪声中等规模量子计算机上运行并不会显著降低我们管道的整体性能。事实上,七项报告的药物相关指标中有四项在硬件上略优于无噪声模拟器(详见下方详细的自助法分析),但需要注意的是,在此次比较中,我们没有使用五种不同的可训练参数初始化进行推理。我们预计,进行这五次不同的运行不会对本节得出的观察结果产生显著影响;然而,在量子计算机上运行五次实验将非常昂贵。为了对这次单次硬件运行附加定量不确定性,同时不重复实验,我们通过无参数自助法对生成的分子进行重采样,估算表6中指标的置信区间。对于三种运行(经典GAN、无噪声模拟器上的QGAN和ibm_kingston上的QGAN),我们从该运行的有效标准分子中以原始样本大小进行有放回重采样,抽取B = 10,000次自助法重采样,在每次重采样中重新计算所有指标,并报告均值及其95%置信区间(由自助分布的第2.5百分位和第97.5百分位给出)。这量化了每次运行的有限样本精度;它不包含来自不同参数初始化的运行间变异性,后者是本工作中模拟器场景所引用不确定性的来源。差异性、有效性和唯一性分数(?d, ?v, ?u)仅以点估计给出,因为已知有放回重采样会对这类不同计数统计量产生偏差(59, 60),并会人为地降低差异性和唯一性分数。为了与补充材料中的场景表进行比较,我们还计算了公式5中逐指标显著性Zm0,以无噪声模拟器为参考,硬件运行为研究场景,并使用两种运行的自助法标准误作为σm1和σm2(补充材料表19)。对于最大化指标(如?QED?),Zm0为负值表示在该自助精度下相对于模拟器有所退化;|Zm0| < 1表示统计上兼容。
**表6. 使用2,500个生成分子计算的经典GAN、无噪声模拟器上的Style QGAN和ibm_kingston上的Style QGAN推理的指标比较**
| 指标 | 经典GAN | QGAN(无噪声) | QGAN(ibm_kingston) |
|------|---------|---------------|---------------------|
| ?d | 0.689 | 0.892 | 0.891 |
| ?v | 0.947 | 0.934 | 0.904 |
| ?u | 0.990 | 1.000 | 0.999 |
| 新异性 | 0.310 [0.287, 0.333] | 0.338 [0.318, 0.358] | 0.341 [0.320, 0.362] |
| 内部多样性 | 0.915 [0.912, 0.918] | 0.881 [0.879, 0.883] | 0.882 [0.880, 0.884] |
| 过滤器 | 0.719 [0.698, 0.741] | 0.706 [0.687, 0.726] | 0.713 [0.693, 0.733] |
| ?Log P | 0.907 [0.893, 0.921] | 0.899 [0.886, 0.913] | 0.889 [0.875, 0.902] |
| ?SA? | 2.388 [2.343, 2.432] | 2.424 [2.395, 2.453] | 2.485 [2.455, 2.515] |
| ?QED? | 0.543 [0.537, 0.549] | 0.647 [0.641, 0.654] | 0.649 [0.642, 0.656] |
| ?Weight? | 156.2 [153.0, 159.4] | 264.9 [261.4, 268.3] | 273.6 [270.0, 277.2] |
a量子生成器使用nqb = 5、层数nl = 2和双重读出。除差异性、有效性和唯一性分数(?d, ?v, ?u,以点估计给出)外,方括号中的值给出了通过对生成分子进行无参数自助法重采样获得的95%置信区间(B = 10,000次重采样;第2.5至97.5百分位)。
七项报告指标中有四项满足Zm0 ≥ ?1,即在该自助精度下未显示显著退化:新异性(Z0 = +0.18)、内部多样性(+0.85)、过滤器(+0.49)和?QED?(+0.28)。特别是,硬件?QED? = 0.649在引用区间内与无噪声模拟器的值0.647匹配。三项指标相对于模拟器显示出了可分辨的偏移:?Log P(Z0 = ?1.04)、?SA?(Z0 = ?2.81)和?Weight?(Z0 = ?3.43)。如补充材料表20所示,匹配的FakeKingston有噪声模拟在0.642处于自助精度内复现了?QED?的无噪声值,硬件结果0.649与无噪声和有噪声模拟器的值均兼容。聚合?Z0? = ?0.78表明不存在由单一可观测量主导的广泛退化模式。总体而言,硬件噪声并未导致管道在平均SA和Weight之外的广泛退化,而这些仍然非常合理。将QGAN结果与具有相同生成样本数量的可比经典GAN管道进行比较,我们也观察到结果集之间的合理一致性。这一说法也得到图10的支持,该图展示了三个GAN场景的指标分布比较:经典GAN为紫色,无噪声QGAN模拟为红色,ibm_kingston上的QGAN运行为黑色。
**图10. 使用经典GAN、无噪声模拟器上的Style QGAN和ibm_kingston上的Style QGAN生成2,500个分子时Log P、SA和QED指标的分布。量子生成器使用nqb = 5、层数nl = 2和双重读出。**
为了说明,图11呈现了在ibm_kingston量子计算机上生成的一组分子子集。这些分子不存在于数据集(训练集和验证集)中,证明了QGAN在推理阶段在量子硬件上创建新分子的能力。
**图11. 在ibm_kingston上采样的2,500个生成分子的随机选择,通过了RDKit过滤器且相对于训练和测试数据集均为全新分子。紫色簇包含Log P值适用于注射药物的分子;粉色簇包含Log P值适合口服的分子;绿色簇包含所有其他Log P不在前述类别中但仍为可行药物候选物(|Log P| < 5)的分子。**
## 4. 讨论与展望
在本工作中,我们将MOSES框架改编为用于量子辅助药物设计的潜变量Style-Base Wasserstein GAN,其中生成器被量子网络取代。将分子编码在QGAN运行的潜空间中的潜在VAE已针对我们用于将提出的管道与MOSES基准套件中现有标准经典潜GAN管道进行基准测试的数据集进行了优化。我们还调优了经典GAN参数。与现有管道相比,我们提出了几项创新:(1) 我们首次将基于Style的方法改编到计算机辅助药物设计管道中,利用数据重新上传来增加表达力;(2) 我们还使用了一种新颖的非线性旋转角度表达式,应用于我们研究的两条不同量子电路的各种量子门中,以进一步防止量子模式坍缩;(3) 我们使用了MOSES数据集的一个子集,这是一个与机器学习辅助生物分子研究相关的工业级数据集。在GPU经典计算资源上训练经典和量子GAN后,我们使用各种与药物设计相关的标准指标进行了性能比较,如Log P、分子量、定量药物类性估算(QED)、新异性和唯一性。通过计算平均?Z0?评分,我们量化了QGAN的统计性能,并发现我们的管道在统计上具有兼容性和竞争力。对于某些指标,QGAN的使用相较于经典基线取得了统计学显著的提升。例子包括平均QED和管道生成的唯一分子比例。这些结论在比较具有匹配生成器容量的经典潜GAN时(94/110/115/346/682个参数),在相同的VAE、判别器和训练协议下同样成立。QGAN管道相较于MOSES经典GAN基线提供了显著提升:我们的默认QGAN最多有110个可训练参数,而MOSES经典GAN管道的标称值为705,162个可训练参数。这是一个神经网络容量的大幅减少,缩小了6,400倍。需要注意的是,在具有匹配容量的经典生成器情况下,结果没有发生巨大变化,这表明MOSES标称基线存在过参数化;然而,即使是匹配容量的架构,训练稳健性也不如QGAN,因此QGAN更加高效。与先前对用于药物设计的量子生成建模管道的研究相比,我们能够超越小分子领域获得有竞争力的结果。我们还要注意比较的范围:本工作提出了一种用于从头药物设计的新型潜Style-Base QGAN,并将其在经典和量子生成器嵌入于其他完全相同的基于GAN的潜管道中的受控比较中进行基准测试。我们不与扩散模型或流匹配模型进行比较(61, 62),后者通常使用3D或图分子表示,我们也未声称优于此类架构。MOSES GAN基线的使用是为了确保在经典和量子管道之间仅改变生成器。在构建QGAN管道架构时,两项架构选择从一开始就固定了:梯度惩罚Wasserstein目标(WGAN-GP)和在每个参数化层上对潜噪声的Style-Based重新上传。这遵循了先前对经典GAN(Wasserstein距离和梯度惩罚)和量子GAN架构(Style-Based重新上传)的研究。Wasserstein目标相较于原始的基于Kullback–Leibler/Jensen–Shannon散度的GAN损失,在训练稳定性和缓解模式坍缩方面的优势已在原始Wasserstein-GAN工作中得到证明(32),梯度惩罚项随后被证明相比权重裁剪方案能进一步提升训练。(33) 同样,Style-Based数据重新上传以增加量子生成器表达力的优势,已在引入Style-Based QGAN架构的工作中得到确立。(40) 对这两项组件进行专门的药物设计特定消融实验,以及tanh角度重缩放开关效应研究,将能进一步量化它们的单独贡献,也是未来工作的自然方向。
我们的结果也值得与最接近的先前用于药物设计的QGAN研究进行比较。(28, 30, 31)然而,直接进行数值比较并没有意义:这些工作使用的是小分子QM9(35)和PC9(36)数据集,并采用了基于图的MolGAN框架,其报告的指标(例如,归一化QED、可合成性以及重新缩放到[0, 1]范围的溶解度/Log P分数,唯一性则在数千个生成的图上进行评估)与本文使用的基于SMILES的MOSES指标定义不同。考虑到这一点,Kao等人(30)(QuMolGAN,一种仅包含数十个可训练参数的变分量子电路噪声生成器)在QM9上报告的可用性在约70%至80%的范围内,同时在低噪声维度下改进了类药性,但唯一性明显降低,混合量子变体的唯一性降至个位数到约20%的范围。Anoshin等人(31)(混合量子循环MolGAN)在PC9上报告了QED高达30%的改进,代表性的归一化分数如QED ≈ 0.62、SA ≈ 0.84和Log P ≈ 0.84,循环组件带来的增强唯一性,以及在IBM模拟器上的噪声鲁棒性。相比之下,我们在具有工业相关性的MOSES数据集上的潜在风格QGAN,对于BEL电路,达到了0.875的可用性、0.993的唯一性、0.548的新颖性和0.643的平均QED(表4)。与参考文献(30)中报告的混合模型唯一性退化相反,我们的流程保持了非常高的唯一性(≈0.99)。鉴于数据集、分子表示和指标定义方面的差异,这些陈述仅供参考。作为对结果的补充硬件检查,以评估在真实噪声量子硬件上运行时可能出现的任何性能退化,我们在ibm_kingston 156量子比特Heron设备上为BEL QGAN电路生成了2,500个样本。所得指标与无噪声量子模拟器的结果相当一致,表明该流程在此示例性审查水平上并未受到严重退化,并且相对于预期的量子噪声具有相当鲁棒性。与参考文献(31)中的噪声模拟器评估不同,我们的结果是直接在物理IBM Heron处理器上获得的。此外,我们的MOSES推理运行也是迄今为止报告的最大分子QGAN硬件执行规模,据我们所知,与参考文献(28)中1,000个样本的QM9硬件推理相比,我们生成了2,500个分子。我们并不声称在此单次推理会话之外进行详细的、逐门的硬件噪声表征,因为这需要重复的受控执行,超出了本文的范围。ibm_kingston的执行元数据和执行日期设备校准在支持信息中进行了总结(表17和表18)。除了上述提到的方向外,还有各种未来工作的方向。第一个直接的扩展需要在QGAN流程中加入条件约束。(25)这将限制分子的生成以符合特定标准,例如针对目标疾病或定义明确的毒性阈值。生成机制因此得到增强,允许(量子)生成器仅采样特定的目标分子。这可以被视为生成流程的一种微调。在当前设置中执行此操作的最简单方法是添加辅助量子比特,然后通过可训练的受控旋转将它们与测量量子比特纠缠在一起。第二个高度关注的方向是提高判别器与生成器之间极小极大博弈的效率。我们通过调整给定训练轮次中判别器和生成器步数之间的比例进行了几项初步研究,这可能带来更高的判别器-生成器训练频率比,这对于QGAN而言不同于经典GAN的调优选择。最后,一个非常令人兴奋的研究方向是探索混合训练方案,即在训练阶段同时使用经典资源(GPU)和量子资源。到目前为止,我们完全在运行于GPU上的量子态向量模拟器上执行训练。以混合模式进行训练,将部分轮次直接在量子硬件上进行训练,可以在模型本身中捕获量子噪声特征,进而有望增强在量子硬件上最终采样的质量。沿此方向,应探索更好的训练方法或更具硬件训练效率的电路(57),以便在量子硬件上高效完成整个训练,从而提升流程能力并允许训练具有数百个量子比特的更广泛量子网络,探索需要100或更高维度的潜在空间的高复杂度分子数据集。
数据可用性
本研究使用的底层数据集是MOSES基准数据集,可从其官方GitHub仓库公开获取:https://github.com/molecularsets/moses。本研究中所有图形背后的具体数据点可在Zenodo仓库10.5281/zenodo.19682669上公开获取。用于训练和推理流程的源代码可在以下GitHub仓库获取:https://github.com/Quantum-Drug-Discovery/DrugQGAN。