自适应变分推断：超越贝特方法、树加权及无凸自由能方法

《IEEE Transactions on Pattern Analysis and Machine Intelligence》：Adaptive Variational Inference: Beyond Bethe, Tree-Reweighted, and Convex Free Energies

　　

摘要：

在概率图模型中，变分推断旨在近似计算边际分布和配分函数等基本量。常用的方法包括贝特近似、树加权法以及其他类型的凸自由能方法。这些近似方法效率较高，但在模型复杂且具有高度交互性时可能会失效。在本研究中，我们分析了两类可推广上述方法的近似方式：一类是通过改变模型的状态能量来实现，另一类则是通过选择不同的熵近似方式。我们探讨了每种近似方法的优点与局限性，确定了其参数适用的条件，并提出了ADAPT-c和ADAPT-ζ，用于自动为给定的成对二元图模型检测最优参数设置。实验结果表明，这两种方法在近似计算边际分布和配分函数方面具有较好的效果。