缓解混合量子神经网络在蛋白质分类任务中因测量引起的训练不稳定性

《Engineering Applications of Artificial Intelligence》：Mitigating measurement-induced training instability in hybrid quantum neural networks for protein classification

　　米尔顿·蒙达尔|苏肖万·钱达|穆罕默德·马赫迪·阿拉维赫|布里杰什·苏卡迪亚|多纳图斯·克拉赫|克林顿·贡萨尔维斯|安东尼奥斯·恩托尔克拉斯|西尔维奥·O·里佐利|阿里·H·沙伊布德国哥廷根大学医学中心神经与感觉生理学系，洪堡大街23号，37073哥廷根

摘要
混合量子神经网络分类器将量子测量算子的期望值作为逻辑值输出。对于标准的泡利测量，这些输出本质上被限制在[-1,1]区间内。当这样的有界逻辑值直接用于多类分类的softmax标准化逻辑值的交叉熵损失函数时，损失函数对逻辑值差异的敏感度较低。因此，参数梯度会被抑制，导致变分量子分类器中的优化过程不稳定。在本研究中，我们将这种效应视为由测量引起的逻辑值收缩，这是混合量子神经网络可训练性下降的一个未被充分研究的因素。为了解决这一限制，我们引入了一个可学习的缩放参数，称为量子测量温度，它在损失计算之前对量子测量输出进行重新缩放。与事后校准不同，量子测量温度在训练过程中起作用，能够补偿量子测量输出所受的物理限制。这种重新缩放增加了梯度的幅度和方差，从而提高了损失函数的敏感度。所提出的机制与架构无关，不会修改量子模型、电路深度或测量算子。在荧光显微镜图像和六类时尚图像分类基准测试上的实验表明，与未缩放的测量结果相比，量子测量温度能够持续提升逻辑值的分离度，增强梯度，使训练在随机初始化下更加稳定，并提高分类精度。这些结果表明，量子测量温度有助于实现混合量子神经网络在实际应用中的稳定可靠训练。

引言
混合量子神经网络将变分量子电路与经典优化相结合，主要用于分类任务的研究，但更多是作为可行性研究，而非强大的学习系统（Biamonte等人，2017年；Benedetti等人，2019年；Abbas等人，2021年）。尽管在电路设计、数据编码和优化策略方面取得了进展，但训练不稳定性仍然是将量子神经网络应用于实际任务的主要障碍。特别是，除了电路层面的问题外，混合量子神经网络还存在一个此前被忽视的瓶颈，即测量-损失接口处的问题，那里的有界量子测量输出被直接用作基于softmax的交叉熵损失函数中的逻辑值。

先前的研究已经表明，随机参数初始化、全局成本函数、高表达能力以及纠缠增长都可能导致梯度通过测度集中而消失，从而产生“贫瘠高原”现象（McClean等人，2018年），以及其他在优化量子模型时面临的挑战（Cerezo等人，2021年）。这些研究探讨了模型架构如何影响参数梯度（Donaire等人，2026年）。然而，这类研究隐含地假设为模型参数计算的梯度能够通过经典损失函数正确传递，而不产生失真（Cerezo等人，2021年；Hubregtsen等人，2021年）。虽然这一假设对于完全经典的模型来说是合理的，但对于混合量子分类器来说则不成立。

在量子模型中，预测结果来自量子测量算子的期望值，对于标准的泡利测量而言，这些期望值本质上被限制在[-1,1]区间内。尽管存在这一基本限制，混合量子神经网络通常仍采用与经典深度学习相同的基于softmax的概率分配和交叉熵损失函数，而在经典深度学习中，逻辑值是没有上限的，且可以在训练过程中动态调整大小（Goodfellow等人，2016年；Guo等人，2017年）。这就造成了有界量子测量输出与对逻辑值幅度极为敏感的损失函数之间的结构不匹配。与经典神经网络不同，经典神经网络中的逻辑值可以通过线性层自由调整大小，而混合量子神经网络的逻辑值则受到有界量子测量的结构性限制。

当量子测量输出被限制在狭窄的数值范围内时，相对于量子参数的梯度就会被抑制。这种故障模式与过去研究过的量子神经网络中电路层面的梯度崩溃机制有所不同，后者是由测量后的处理引起的（McClean等人，2018年；Holmes等人，2022年；Ortiz Marrero等人，2021年）。为了解决这一限制，我们引入了量子测量温度，这是一种在训练过程中应用于量子测量输出的可学习标量。与经典机器学习中用于校准的标准事后温度缩放不同，量子测量温度是在训练过程中与电路参数一起优化的。通过在softmax计算之前重新缩放期望值，量子测量温度能够恢复有效的逻辑值动态范围，将损失函数转移到梯度敏感度更高的区域。

本研究的主要贡献包括：
• 确定了混合量子分类器中由测量引起的逻辑值压缩机制，阐明了在有界量子测量情况下，多类分类中的类别分离性和梯度流动如何受到抑制。
• 引入了量子测量温度这一与架构无关的可学习温度缩放机制，无需修改量子电路即可稳定量子神经网络的训练。
• 从理论上分析了温度缩放如何影响可实现的置信度、损失敏感度、梯度幅度以及梯度方差。
• 通过显微镜图像分类和标准视觉基准测试进行了实验验证，证明了在不同架构配置下，该机制能够提高训练稳定性和分类性能。

相关工作与动机
变分量子算法和量子神经网络的可训练性主要取决于优化过程中的梯度强度。多项先前的研究表明，在各种条件下，参数化量子电路中的梯度幅度可能会呈指数级衰减（Heyraud等人，2023年；Grant等人，2019年）。这其中包括McClean等人（2018年）发现的“贫瘠高原”问题，该问题表明，对于那些具有高度表达能力或随机性的模型来说……

我们考虑了一种混合经典-量子神经网络，它结合了经典卷积特征提取和变分量子分类器。经典部分将输入图像映射到与量子输入维度相匹配的固定维度的特征向量。这些特征在变分量子电路中通过泡利旋转门被编码为数据。变分量子电路的测量输出被用作多类分类的逻辑值。整个模型是通过梯度训练的……

数学分析
变分量子分类器使用测量算子的输出zi(x,θ)=〈ψ(x,θ)|Oi|ψ(x,θ)〉作为逻辑值。由于标准泡利观测量的特征值在[-1,1]区间内，这些逻辑值本质上也被限制在这个范围内。在本节中，我们分析了有界逻辑值对梯度敏感度、损失动态、可训练性等方面的影响，并正式阐述了量子测量温度如何改变这些特性，从而增强梯度强度并改善训练效果。相关证明如下……

实验
在我们的实验中，我们使用了一种混合经典-量子神经网络架构，该架构包括两个经典卷积层、一个全连接层，以及一个具有可配置量子比特数和量子层的量子神经网络。图1(a)展示了该架构的典型结构图。在这个例子中，经典前端使用了四个卷积滤波器，而量子网络则由六个量子比特和四个量子层组成。

量子网络采用了……

结果
在本节中，我们按照以下顺序分析实验结果：(i) 观察逻辑值或测量输出的范围，(ii) 损失值的降低，(iii) 分类边界的改善，(iv) 克服训练崩溃问题并实现训练稳定性，(v) 参数梯度强度的提高，(vi) 不同量子神经网络架构和数据集上的影响。

结论
本研究识别并描述了混合量子神经网络分类器中由于量子测量输出的有界性而产生的结构性可训练性限制。我们发现，当直接使用期望值作为逻辑值时，混合量子神经网络可能在参数梯度强度较低的损失函数环境下运行，从而导致训练崩溃和不稳定。通过引入量子测量温度作为明确的接口，可以解决这一问题……

CRediT作者贡献声明
米尔顿·蒙达尔：写作——初稿撰写、可视化、验证、软件、资源、方法论、研究、形式分析、数据整理、概念构思。苏肖万·钱达：写作——审阅与编辑、可视化、验证、软件、方法论。穆罕默德·马赫迪·阿拉维赫：写作——审阅与编辑、可视化、验证、软件。布里杰什·苏卡迪亚：写作——审阅与编辑、可视化、验证、软件、形式分析。多纳图斯·克拉赫：形式分析、数据整理。

生成式AI使用声明
在准备本手稿的过程中，作者们使用了AI辅助语言工具来提升文本的可读性。所有的科学内容、解读和结论均由作者们独立完成，他们对手稿进行了审阅和编辑，并对其内容承担全部责任。

利益冲突声明
作者们声明有以下可能被视为潜在利益冲突的财务利益/个人关系：西尔维奥·O·里佐利表示与NanoTag Biotechnologies GmbH存在包括股权或股票在内的关系。其他作者则声明没有已知的可能影响本文所述工作的财务利益或个人关系。

致谢
本研究得到了“Chan Zuckerberg基金会（iNano）”以及“欧盟‘地平线2020’研究与创新计划下的欧洲研究委员会”的资助，项目编号为835102。该项目还获得了德国教育与研究部资助的DATIPilot - Sprint, Barcode, 03DPS1101项目资金。作者们衷心感谢资源分配委员会在Emmy/Grete超级计算机上提供的计算时间支持。