基于核学习的KSD-MMD传输方法用于微分同胚测度匹配

《Communications in Nonlinear Science and Numerical Simulation》：KSD-MMD Transport with Kernel Learning for Diffeomorphic Measure Matching

　　摘要：微分同胚传输映射——即那些能够将简单参考分布映射到复杂目标上的光滑、可逆变换——是生成建模、密度估计以及计算解剖学中的核心工具。当传输过程在再生核希尔伯特空间中通过速度场来参数化时，核函数的选择至关重要，它决定了粒子之间的相互作用以及质量在域内的流动方式。然而，现有的大多数方法都是预先固定核函数，这限制了它们适应目标分布几何结构的能力。尽管同时学习核函数与传输过程是理想的，但我们发现了单目标设置中的根本性问题。我们证明了仅最小化最大均值差异就会导致一个简单的崩溃现象，即无论传输质量如何，核函数都会消失。相反，我们发现无约束地最小化核斯坦因差异会导致“核函数操纵”现象，即斯坦因几何结构会为了最小化损失而调整，却无法改善传输效果。为了解决这两种问题，我们引入了一种混合框架，该框架通过固定的最大均值差异项来引导学习过程，同时允许核斯坦因差异核函数进行适应。固定的最大均值差异项起到映射的作用，确保全局一致性，并直接惩罚样本不匹配问题；而自适应的核斯坦因差异项则起到指南针的作用，通过整合目标密度的得分信息来提供具有几何意义的局部梯度。我们将核函数参数化为各向同性、各向异性和周期性核函数的稀疏混合体，并通过Runge–Kutta常微分方程求解器进行反向传播，从而端到端优化所有参数。我们为该框架建立了理论保障——包括所诱导流的适定性、混合差异的统计一致性、小样本浓度以及基于梯度的优化向稳定点的收敛性——并将退化分析视为核心理论贡献。在高斯混合分布和环形目标上，通过与外部基准方法（如斯坦因变分梯度下降、最大均值差异梯度流以及单核传输方法）进行比较，使用与核函数无关的指标并在多个种子数据上测试，基于最大均值差异的方法能够生成精确的传输映射。在多模态目标上，学习核函数对于固定混合模型而言效果一般，但在具有旋转对称性的环形目标上，该方法能通过提升角度核函数的重要性而发挥积极作用。至关重要的是，即使从故意设定错误的核函数开始，基于最大均值差异的学习目标也能在所有目标上恢复出良好的多尺度核函数及精确的传输效果，而固定核函数则无法做到这一点——这正是核函数学习起决定性作用的场景；在更高维度下，核斯坦因差异项还能进一步提升这种恢复效果。与理论预测一致，无约束的核斯坦因差异驱动的核函数学习在多模态目标上 full训练过程中可能会出现发散现象，这一现象从实证上印证了所谓的“操纵”行为，同时也表明正是固定的最大均值差异项而非单纯的核函数参数化，才是保持目标意义的关键。