密度和生成模型线性响应的散度-核方法

《Physica C: Superconductivity and its Applications》：Divergence-kernel method for linear responses of densities and generative models

　　

研究人员推导了随机动力系统（random dynamical systems）线性响应的散度-核公式（divergence-kernel formula）。具体而言，路径表达式是针对边际或平稳密度的参数导数，而非平均可观测值。该公式适用于任意时间范围上的乘性和参数化噪声。它还给出了一个计算密度级线性响应的蒙特卡洛（Monte Carlo）算法。随后，研究人员利用该密度级线性响应公式开发了一个新的生成模型框架DK-SDE（DK-SDE）。在该框架中，模型是一个参数化的随机微分方程（SDE），通过直接最小化经验数据分布与SDE边际密度之间的KL散度（Kullback-Leibler divergence）来训练。通过允许漂移和扩散中均包含参数，DK-SDE涵盖了更广泛的SDE模型类别，同时散度-核梯度公式仅使用前向过程并大幅降低内存成本。研究人员在一个20维洛伦兹（Lorenz）系统上展示了该新模型。

随机动力系统的线性响应（即系统平稳或边际密度对参数的导数）是许多应用领域的核心问题。然而，现有方法如路径扰动法（path-perturbation method）、核微分法（kernel-differentiation method，即似然比法）和纯散度法（divergence method）均存在显著局限：路径扰动法在混沌系统中轨迹导数易爆炸，且仅适用于平均可观测量而非密度本身；核微分法无法处理扩散系数依赖于参数（包括乘性噪声）的情况，且连续时间下对扩散系数扰动不产生有限似然比；纯散度法则在高维压缩系统中计算昂贵。因此，亟需一种路径级、适用于参数化乘性噪声、且计算复杂度不随时间指数增长的密度响应公式。同时，在生成模型领域，训练参数化随机微分方程（SDE）使其边际分布匹配数据分布通常需要计算密度对参数的梯度，但现有方法或需借助辅助概率路径（如扩散模型）或引入额外可观测量，限制了模型类别。为此，Angxiu Ni提出了散度-核方法（divergence-kernel method），用于计算随机动力系统的密度级线性响应，并基于此开发了DK-SDE生成模型框架。该论文发表在《Physica C: Superconductivity and its Applications》上。

研究人员为开展研究使用了以下几项关键技术方法：1）散度-核公式（divergence-kernel formula）的推导，综合散度法与核微分法，通过后向自适应稳定参数α（backward-adapted stabilizing parameter α）控制两种表示的过渡，避免协向量过程（covector process）指数增长。2）协向量过程前向传播（forward covector process）以计算条件得分（score），进而代入单步散度公式实现多步密度响应的路径表达式。3）对于连续时间SDE，将离散时间结果通过伊藤（Ito）积分取形式极限，得到包含漂移变动δF^γ和扩散变动δσ^γ项的连续时间公式。4）蒙特卡洛（Monte Carlo）算法：沿样本路径计算路径量，并通过终端状态条件期望（利用最近邻平均近似）得到密度导数。5）DK-SDE框架：结合KL散度（Kullback-Leibler divergence）损失与散度-核梯度，采用梯度下降更新参数，无需反向传播或辅助路径。在20维Lorenz 96系统验证中使用了多组超参数（学习率η、最近邻数N_neighbor、样本数L）进行收敛性测试。

研究结果保留了论文中的各个小标题，简要说明如下：

**4.1 One-dimensional process with multiplicative noise（一维乘性噪声过程）**：通过散度-核公式（Formula 1）计算一维SDE的密度线性响应δlog h_T和得分?log h_T，结果与经验分布趋势一致。

**4.2 40-dimensional Lorenz 96 system with multiplicative noise（40维乘性噪声Lorenz 96系统）**：利用遍历公式（Formula 6）计算平稳可观测量平均值的线性响应，结果与真实值吻合。

**5.3 A 1D problem with 2 parameters（二维参数一维问题）**：DK-SDE框架成功恢复两个真实参数，直方图显示样本分布向数据分布接近，参数误差从[5, 1]降至[-0.05, 0.09]。

**5.4 A 5D problem with 6 parameters（六参数五维问题）**：优化过程中参数误差逐步下降，最小误差出现在第48步，参数误差从[-5, -6, -7, -8, -9, -2]降至[-0.33, 0.40, -0.26, -0.20, -0.24, -0.36]。

**5.5 A 20D problem with 21 parameters（二十一参数二十维问题）**：系统测试了超参数η、N_neighbor、L对收敛的影响，结果表明较小学习率收敛更慢但最终误差更小；N_neighbor=1引入振荡但获得最佳结果；增大样本量L改善结果。在GPU上1000次更新耗时约201秒，样本分布向数据分布靠拢（图6）。

通过以上数值实验，论文验证了散度-核公式计算密度响应的正确性以及DK-SDE框架训练生成模型的可行性。

在总结讨论部分，论文指出：散度-核方法相比路径-核方法（path-kernel method）具有优势，它直接计算密度导数而非平均可观测量，仅涉及前向过程，内存成本低，且计算代价与参数数和可观测量数几乎无关。但每步计算复杂度略高于路径-核方法。DK-SDE框架允许更广泛的SDE模型类别（漂移和扩散均可训练），与基于分数的扩散模型相比，DK-SDE直接优化KL散度，无需预设辅助概率路径，便于融入结构先验知识。虽然目前测试规模有限，但该方法本质不受限制，未来可通过神经网络参数化实现更大规模应用。研究结论可翻译为：散度-核方法为随机动力系统的密度级线性响应提供了一种有效的路径表达式和蒙特卡洛算法，并成功将其扩展至生成模型，为训练含参数漂移和扩散的一般SDE模型提供了新范式，在多种数值示例中均验证了方法的正确性和实用性。