面向物理信息神经网络的自适应KDE配置采样：量子增强方法的可控评估

《Journal of Computational Science》：KDE-adaptive collocation sampling for Physics-Informed Neural Networks: A controlled evaluation of quantum augmentation

　　阿比谢克·夏尔马 | 迪奥布拉特·辛格
印度马哈拉施特拉邦浦那市麻省理工学院世界和平大学物理系

摘要
自适应配置采样对于物理信息神经网络（PINNs）的精度至关重要，但目前仍缺乏对其在经典及混合量子架构中的系统评估。我们提出一种基于核密度估计（KDE）的自适应采样策略，该策略能动态地将配置点集中在偏微分方程残差较大的区域，并在1维粘性Burgers方程和Allen–Cahn方程上，对四种PINN架构——普通PINN、ClassicalAug-4、ClassicalAug-8以及混合量子PINN（HQPINN）——进行了严格评估。基于KDE的采样在所有架构中均带来了显著且稳定的改进：每种架构与偏微分方程组合的Cohen’s d效应量均超过1.0，在八种子对比中的胜率介于87.5%至100%之间，而在八种子验证配置中的平均相对L2误差降低幅度为12%至17%。关键的是，量子增强与瓶颈匹配的经典增强方法在两种偏微分方程上的精度具有统计学上的可比性：在均匀采样下，HQPINN在两种方程上的表现略优（|Δ|≤0.009），而在基于KDE的采样下，ClassicalAug-4在两种方程上的表现略优于HQPINN（|Δ|≤0.008）；但这些差异均无统计学意义。得益于我们具备可控基线的并行门架构，这一严格的零结果为量子PINN研究领域提供了有意义的基准，同时也为识别可能出现量子优势的问题类型奠定了基础。此外，我们还首次在经典与量子架构上，将KDE与三种成熟的自适应方法（RIS、RAD、RAR）进行了八种子对比，发现虽然RAD和RAR在某些特定架构与偏微分方程组合下的平均L2误差更低（例如RAD在Burgers方程上的误差为0.225，而KDE为0.269；RAR在Allen–Cahn方程上的误差为0.741，而在普通PINN上的误差为0.872），但KDE的跨运行变异系数最低（为17.5%至28.9%，而基准方法的变异系数为22.8%至38.7%），且跨架构的改进最为稳定，因此是一种可靠的通用策略。对于刚性偏微分方程，施加严格边界条件可显著提升精度（在Allen–Cahn方程上，?L2值从0.83降至0.13）。所有结果均通过八种子随机试验，并采用Holm–Bonferroni校正后的假设检验进行验证。

引言
准确描述局部特征——如激波、相界面以及陡峭梯度——仍是计算物理学面临的核心挑战。传统上，解决这类现象所涉及的偏微分方程（PDEs）问题依赖于有限差分法和有限体积法等基于离散化的技术[1]、[2]，但这些方法在处理不规则几何结构、高维域以及局部特征时存在固有局限[3]、[4]、[5]。随着问题复杂度的增加，要获得能够精准捕捉这些尖锐过渡特征的稳定解，所需的计算成本也随之上升。

为应对这些挑战，物理信息神经网络（PINNs）作为一种无需网格的框架应运而生，它通过将物理定律嵌入神经网络中来求解偏微分方程，这一理念最初由Raissi等人提出[6]，并在后续研究中得到了广泛探讨[7]。与仅依赖标记数据不同，PINNs直接将控制方程纳入损失函数中，从而对采样配置点偏离物理约束的情况进行惩罚。这种基于物理原理的学习方式具有灵活性和通用性，但也存在自身的挑战。在实际应用中，PINNs往往难以快速收敛，尤其是在刚性或非线性较强的情况下，而且可能需要极为密集的采样才能解析出如陡峭梯度或不连续性之类的特征[8]。

这些困难反映了PINNs训练过程中的特定问题。Wang等人[8]指出，来自偏微分方程、初始条件以及边界条件损失项的竞争性梯度贡献，会形成复杂的优化环境，使得偏微分方程残差梯度占据主导地位，从而导致网络无法充分满足边界和初始条件约束。与此同时，神经网络存在的频谱偏差——即它们倾向于优先学习低频成分——也会导致激波和相界面等局部特征被系统性地低估[9]。这些问题表明，均匀配置采样与偏微分方程的误差分布之间存在根本性不匹配：残差较高的区域并未得到比那些已满足方程条件的区域更多的计算资源。

正是由于这些缺陷，人们开始关注自适应采样策略，这类策略旨在在训练过程中动态地选择配置点，将它们集中在偏微分方程残差较大的区域。尽管核密度估计（KDE）是一种用于从数据中估算概率密度的成熟非参数技术[10]，但它作为基于残差的PINNs自适应配置机制的应用——即通过迭代利用加权后的偏微分方程残差来重新估算KDE分布，从而指导配置点的重新分配——目前尚未得到系统研究。与RAD不同，RAD是在现有配置点之上构建离散的概率质量函数，然后在这些点附近采样新点，而KDE则通过高斯核平滑技术提供连续的密度估计。这使得可以在核函数支持范围内的新区域进行采样——即在高残差区域之间进行插值，而非直接落在这些区域上——从而起到隐式的空间正则化作用，有助于稳定不同训练轮次中的采样分布。不过，这种方差降低的代价是在某些偏微分方程与架构组合下会导致平均误差略有上升，我们将在第3节中对这种可靠性与精度之间的权衡进行量化分析。

在经典PINN研究中，已经提出了多种自适应策略，包括基于残差的自适应采样（RIS）[11]、基于残差的自适应分布（RAD）[12]以及基于残差的自适应精细化（RAR）[13]。这些基于残差的现代方法都是在早期自适应配置策略的基础上发展而来的。Wu等人[14]提出了最早的PINNs自适应配置方案之一，他们首先使用较粗的训练点网格，然后在后续训练阶段根据更多评估点处的偏微分方程残差值逐步添加新的训练点——这一思路直接影响了我们基于KDE的重新采样方法，只不过我们的方法用核平滑后的概率分布替代了基于阈值的选点标准。

除了自适应采样之外，战略性配置的重要性也在各种偏微分方程领域得到了体现。Goswami等人[15]表明，对于具有局部特征的问题，如裂纹传播，自适应策略尤其有效，这与我们观察到的KDE会将配置点集中到激波前沿和相界面附近的结论一致。Samaniego等人[16]则通过变分形式证明了神经网络求解偏微分方程的可行性，为后续所有PINN架构——包括此处研究的混合量子-经典模型——所依赖的基于物理的损失函数提供了概念基础。

最近，PINN框架在解决复杂波动动力学问题方面取得了显著进展。Deresse等人[17]、[18]、[19]、[20]、[21]、[22]将PINNs应用于具有不同非线性和维度特征的Sine–Gordon方程、Klein–Gordon方程以及电报方程，他们一致发现配置点分布对解决方案的精度有着重要影响——这一发现进一步推动了稳健自适应采样策略的发展。Toscano等人[23]则将自适应训练策略视为从经典PINNs到基于物理的Kolmogorov–Arnold网络（PIKANs）等更广泛物理信息架构体系中的重要研究方向。总体而言，这些研究表明，尽管PINNs在多种类型的偏微分方程问题上都表现出了良好效果，但其解决方案的精度和效率在很大程度上取决于配置点的分布，而我们基于KDE的自适应采样策略正是为了解决这一问题。不过，将自适应采样系统地整合到混合量子-经典架构中仍有待深入探索。

与这些发展同步，量子计算作为科学计算领域的变革性技术也日益受到重视[24]、[25]。尤其是混合量子-经典（HQC）模型——这类模型将可训练的量子电路嵌入到经典机器学习框架中——为充分利用近期的量子设备提供了一种实用途径[26]。HQPINNs的理论基础在于参数化量子电路所能访问的极大希尔伯特空间：n个量子比特可以构成2n维的状态空间，其函数表示能力可能比参数数量相当的经典网络更为强大。然而，这种潜力又受到了“贫瘠高原现象”的限制，即随着电路深度和量子比特数量的增加，梯度方差会呈指数级下降[27]，这引发了关于模型可训练性的根本性问题，也正是我们进行 controlled评估的出发点。其中一类特定的模型——混合量子PINNs（HQPINNs）——将这一理念应用于偏微分方程求解，通常是通过经典网络将输入数据编码为参数，输入到参数化量子电路（PQC）中，随后再通过额外的经典层对输出结果进行处理[28]、[29]。虽然从原理上看具有很大潜力，但由于参数位移优化带来的噪声较大，以及NISQ硬件上量子比特数量有限、相干时间短以及门操作不精确等问题，HQPINNs在训练稳定性方面面临诸多挑战[30]、[31]。

在HQPINN相关研究中，有一个关键但常被忽视的问题，即所观察到的性能提升究竟源于量子电路本身，还是源于增强路径所带来的额外表示能力——这个问题只有通过精心设计的消融实验才能得到解答。此前的研究，包括我们自己的研究，都缺乏与量子电路相匹配的经典基准模型，因此无法区分量子效应与单纯增加参数和非线性因素所带来的影响。同样，由于学习率设置不一致，自适应模型与非自适应模型之间的比较结果也容易产生混淆，进而使得性能提升的归因变得模糊不清。

为解决这些问题，我们做出了两项主要贡献。首先，我们提出了一种基于KDE的PINNs自适应采样策略，作为一种通用的、能够稳定方差的替代方案，用于取代现有的自适应方法。我们在两种基准偏微分方程上，对四种架构——普通PINN、ClassicalAug-4、ClassicalAug-8以及HQPINN——进行了严格评估。其次，我们开展了首个关于PINNs中量子优势的受控消融研究，通过引入与量子电路相匹配的经典基准模型，从而分离出量子电路本身的贡献与单纯增加表示能力所带来的影响。当将基于KDE的自适应采样应用于HQPINN架构时，我们将这种组合配置称为KAQPINN（核自适应量子PINN），其中的“核”指的是KDE机制中所使用的核函数。KAQPINN架构采用了带有可学习门控机制的并行增强结构：一个经典主网络负责生成基础解umain，而量子增强路径则由一个经典编码器、一个参数化量子电路以及一个经典读出模块组成，该路径负责生成修正信号uquantum，最终将两者结合为u=umain+g?uquantum，其中g是一个初始值为0.5的可学习门控参数。与以往HQPINN架构中常用的顺序处理流程相比，这种并行设计确保了主网络在不受量子增强影响的情况下仍保持完整的表示能力，而门控机制则负责控制量子修正的作用强度。

为严格区分量子电路的贡献，我们设计了两种经过精心设计的经典基准模型：第一种是瓶颈匹配的经典增强PINN（ClassicalAug-4），它用经典的线性读出方式替代了参数化量子电路，同时保持了相同的4维瓶颈结构及预处理流程，因此其增强参数数量为18个，而HQPINN的增强参数数量为30个；第二种则是完全没有增强路径的普通PINN，可作为真正的无增强基准模型。此外，我们还通过为每种模型配置在每种偏微分方程问题上使用相同的学习率调度方案（初始值为5×10?4，采用余弦退火策略），消除了所有可能造成混淆的因素，从而确保所观察到的差异完全源自架构设计和采样策略的不同。

我们在两个基准问题上对这些方法进行了测试：一是1维粘性Burgers方程[32]，这是一种典型的非线性偏微分方程，会产生类似激波的特征；二是Allen–Cahn方程，这是一种具有尖锐界面动态特性的刚性反应-扩散型偏微分方程。我们在这两种方程上，系统地比较了普通PINN、ClassicalAug-4、ClassicalAug-8（具有更强的经典增强功能）、采用均匀采样的HQPINN以及我们提出的KAQPINN的性能。此外，我们还将这些方法与三种成熟的自适应采样策略——RIS、RAD和RAR——进行了对比，以便更准确地评估基于KDE的采样方法的性能。由于KDE重采样需要在每次重采样步骤中拟合一个2D高斯核密度函数，因此其计算开销在各种架构和偏微分方程问题上的总训练时间中所占比例介于3%至9%之间（详细内容见第3节）。所有比较都在八种子随机试验的基础上进行，同时采用了配对统计检验以及Holm–Bonferroni校正方法来处理多重比较问题。

我们的研究得出了四个关键结论。首先，基于KDE的自适应采样在所有架构中均带来了显著且稳定的改进，其效应量远远超过了具有实际意义的标准阈值，而且在所有配对比较中的胜率均高于87%。其次，也是最为重要的一点，量子增强与瓶颈匹配的经典增强方法在精度上具有统计学上的不可区分性——这一受控的零结果为量子PINN研究领域提供了有价值的基准，同时也为识别可能出现量子优势的问题类型奠定了坚实基础。第三，虽然现有的自适应方法（RAD、RAR）在某些特定的偏微分方程与架构组合下能够实现更低的平均误差，但KDE却具有最低的跨运行变异系数，这为我们选择合适的算法提供了可靠性与精度之间的权衡依据。第四，对于刚性较强的Allen–Cahn方程，施加严格边界条件能够显著提升算法的精度。详细的定量分析结果详见第3节。

第2节中，我们将详细介绍所研究的偏微分方程以及我们所提出模型的架构结构。第3节则介绍了实验设计以及各项结果的对比分析。在第4节中，我们将探讨这些研究结果所具有的更广泛的意义。第五部分最后总结了本研究的主要贡献以及未来工作的潜在方向。

方法论
我们的研究核心是针对两个基准偏微分方程，对五种模型架构进行了评估。首先明确相关的偏微分方程，然后按照增强策略的顺序介绍这些模型架构：无增强（普通PINN）、传统增强基线（ClassicalAug-4和ClassicalAug-8）、量子增强（HQPINN），以及结合基于KDE的自适应采样的量子增强（KAQPINN）。

实验设置与结果
本部分介绍了用于评估KAQPINN配置的实验设置，并展示了对比结果。我们详细说明了实现细节、用于性能评估的指标以及所测试的不同模型配置。

讨论
通过控制性评估，我们得到了三个主要发现：（1）量子增强与经过瓶颈匹配的传统增强在精度上几乎没有差异，这说明影响增强性能的关键因素是瓶颈维度而非量子机制；（2）基于KDE的自适应采样虽然会牺牲平均精度，但能提升不同实验次间的可靠性，从而形成了此前未被揭示的可靠性与精度之间的权衡关系；（3）自适应采样在不同架构间具有通用性。

结论
本研究表明，在物理信息神经网络中，量子增强与经过瓶颈匹配的传统增强在精度上几乎相当，其性能提升的主要驱动因素是瓶颈维度而非量子机制。同时，研究还明确了不同自适应采样策略之间的可靠性与精度权衡关系，为实际应用中的方法选择提供了指导。通过开发并系统地评估这些策略，推动了相关技术的发展。

作者贡献说明
Abhishek Sharma：撰写初稿、可视化处理、软件使用、资源准备、方法论设计、正式分析、数据整理、概念构建。Deobrat Singh：审稿与编辑、验证工作、项目监督、项目管理、研究实施。

利益冲突声明
作者声明不存在任何可能影响本文研究成果的已知财务利益或个人关系。

致谢
作者感谢在研究过程中使用AI辅助工具——GLM 5.1和Gemini 3.1 Pro——来协助代码实现。同时也要感谢Ishan Swamy在手稿格式调整和写作方面提供的帮助。所有的科学方法论、实验设计、分析及解读工作均由作者独立完成。