校准贝叶斯推断

《British Journal of Mathematical and Statistical Psychology》：Calibrating Bayesian inference

　　

贝叶斯统计学因其直观的不确定性量化和便捷的信息更新规则而在心理学研究中日益流行。然而，在许多应用中，先验分布仅仅作为促进计算的工具被引入，而非真实主观信念的表述。因此，依赖标准贝叶斯论证来支持推断程序在概念上缺乏根基。本文建议将数据和参数的重复抽样下的有限样本表现作为“务实贝叶斯”（pragmatic Bayes）的替代论证依据。我们展示了通常基于后验推断的一个关键弱点：当分析者选择的先验分布与真实参数生成过程不匹配时，贝叶斯推断在长期重复中可能产生误导。鉴于真实过程在实践中鲜为人知，我们提出一种更安全的替代方案：校准贝叶斯可信区域以实现频率学有效性（frequentist validity）。这一标准更强，且无论底层参数生成机制如何，都能保证贝叶斯推断的有效性。为解决实际中的校准问题，我们提出一种新颖的随机逼近算法。我们进行了蒙特卡洛实验并报告结果，观察到未校准的贝叶斯推断在某些参数生成场景下可能过于宽松，而我们的校准方案始终维持有效性。我们还通过一个涉及位置尺度回归的真实数据示例展示了所提出的校准程序。

### 论文解读

#### 研究背景与问题

贝叶斯统计方法在心理学研究中的应用日益广泛，其优势在于能够提供直观的不确定性量化（如后验概率区间）以及便捷的信息更新机制。然而，在实际应用中，许多研究者使用贝叶斯方法时，往往将先验分布视为一种计算工具或默认设定，而非真实主观信念的精确表述。这种“务实贝叶斯”（pragmatic Bayes）实践导致了理论上的矛盾：标准贝叶斯推断的合理性建立在先验正确指定的假设之上，而现实中该假设常常无法满足。具体而言，当分析者选择的先验分布与真实参数生成过程不匹配时，后验推断在长期重复抽样中可能产生系统性偏差，即出现“虚假置信”（false confidence）现象。例如，Balch等人（2019）提出的虚假置信定理（False Confidence Theorem, FCT）表明，在真实参数为固定值（点质量先验）的经典频率学情形下，任何非退化先验都可能导致某些错误假设被频繁赋予高后验概率。鉴于研究者通常无法获知真实参数生成机制，我们需要一个更强的有效性保证——频率学有效性（frequentist validity），即无论参数生成先验为何，推断程序在长期重复抽样中都能控制错误率。本文旨在提出一种系统性的校准方法，使贝叶斯推断满足频率学有效性，从而在“务实”使用贝叶斯方法时提供可靠的统计保证。

#### 研究内容与结论

研究人员首先从统计决策理论和推断模型（inferential models, IMs）出发，明确了贝叶斯有效性（Bayesian validity）与频率学有效性之间的理论关系。他们证明，频率学有效性（即后验可能性对真实参数的赋值在长期重复中不超过α的概率≤α）自动蕴含对所有参数生成先验的贝叶斯有效性，而标准贝叶斯推断仅在先验正确指定时才满足贝叶斯有效性。基于此，他们提出了一种校准程序，通过调整后验可能性轮廓（posterior possibility contour）来确保频率学有效性。该校准问题被转化为一个约束优化问题，利用同时扰动随机逼近（simultaneous-perturbation stochastic approximation, SPSA）和黎曼流形优化技术求解。研究人员通过两个蒙特卡洛实验（分别针对高斯位置尺度回归和高斯线性因子分析模型）评估了所提方法的性能，并与标准贝叶斯推断（基于卡方近似和马尔可夫链蒙特卡洛MCMC采样）进行了对比。实验结果表明，在多种参数生成场景和先验设定下，未校准的贝叶斯推断可能产生过于宽松（liberal）的结果，尤其在小样本和高维情形下；而所提出的校准方法能够在几乎所有模拟条件中维持有效性。此外，他们还利用一个真实数据集（Ginzberg数据）进行了实证分析，展示了校准前后推断结论的显著差异。该研究发表在《British Journal of Mathematical and Statistical Psychology》上。

#### 关键技术方法

研究人员采用了以下主要技术方法：
1. **后验可能性轮廓**：基于嵌套可信区域（如Wald统计量生成的椭圆区域、后验密度比统计量生成的最高后验密度区域）构造后验可能性函数，用于量化参数假设的置信度。
2. **同时扰动随机逼近（SPSA）**：用于近似目标函数（即p值函数）的梯度，克服了精确梯度难以解析计算的问题，尤其适用于高维参数空间。
3. **黎曼流形优化**：将优化问题约束在由测试统计量水平集定义的微分流形上，利用黎曼梯度上升算法进行迭代求解，并通过投影和回缩操作保证迭代点始终位于流形上。
4. **蒙特卡洛模拟**：用于评估校准前后推断的有效性，通过经验分布函数（EDF）与对角线比较，判断推断是否保守（有效）或宽松（无效）。

#### 研究结果

**1. 理论结果**
通过数学推导，研究人员证明了标准后验推断在正确先验下满足强贝叶斯有效性（5），但先验错误指定时该性质失效（7）。同时，频率学有效性（8）蕴含对所有参数生成先验的强贝叶斯有效性（10），因此校准后验可能性轮廓是确保长期可靠性的充分条件。

**2. 蒙特卡洛实验：高斯位置尺度回归**
- **场景1（随机参数）**：当参数从非退化先验生成时，MCMC近似通常可接受，但卡方近似在多数统计量下明显宽松；校准方法始终保持有效。
- **场景2（固定参数）**：未校准推断（尤其卡方近似）在整体Wald统计量和边际Wald统计量上表现出宽松性；弱信息先验略优于强信息先验，但校准方法仍为最优。
- **场景3（正确先验）**：当强信息先验与生成机制一致时，MCMC近似有效，但卡方近似在整体Wald统计量上仍失败；校准方法保持有效。
此外，当设计变量数增加至10时，未校准推断的宽松性更加严重，而校准方法几乎在所有条件下均维持有效性。

**3. 蒙特卡洛实验：高斯线性因子分析**
- 在该模型中，卡方近似和MCMC推断在多数条件下表现良好，但MCMC在因子载荷和整体推断上可能过于保守（尤其弱先验时）。
- 校准方法在全部模拟条件下均使得真实参数的可能性值近似均匀分布（即EDF接近对角线），既纠正了卡方近似的宽松性，也提高了MCMC保守时的效率。

**4. 实证示例**
基于Ginzberg数据集（82名抑郁患者，预测变量为宿命论），研究人员拟合了四阶多项式位置尺度回归模型。结果显示：卡方近似给出强证据支持线性趋势（β?）和四阶趋势（β?），并强证据支持对数尺度函数的线性、二次和三次趋势；MCMC推断仅弱支持四阶位置趋势和中等支持对数尺度三次趋势；校准推断进一步将线性趋势的支持降至中等。这表明未校准贝叶斯推断可能导致过度拟合，而校准后结论更保守，支持简单线性同方差模型。

#### 讨论与结论

研究人员强调，贝叶斯先验在实践中很少被视为真实参数生成机制，而更多是正则化工具。因此，长期重复样本下的性能评估至关重要。他们提出的校准方法基于Fisherian决策规则（拒绝低可能性假设），在控制第一类错误的同时可能增加第二类错误，需要权衡。局限性包括：仅测试了两种模型族；MAP估计对参数化不敏感；当使用参数扩张时校准定义不清；对似然错误指定缺乏稳健性；计算成本较高；且假设p值函数可微，不适用于离散数据。未来工作可扩展至更广泛模型、探索部分指定似然、替代梯度估计方法及离散数据场景。总之，本文为“务实贝叶斯”提供了一种实用的校准框架，确保推断的频率学有效性，从而为心理学研究中的贝叶斯应用提供了更可靠的统计保障。