《Econometric Theory》:JACKKNIFE EMPIRICAL LIKELIHOOD FOR INFINITE-ORDER U-STATISTICS
编辑推荐:
无限阶U统计量(Infinite-order U-statistics)在现代统计学中扮演着至关重要的角色。然而,由于其阶数kn依赖于样本量n,对其变异性进行量化极具挑战性,因为固定阶理论无法直接适用。本文提出了一种刀切经验似然(Jackknife Empir
无限阶U统计量(Infinite-order U-statistics)在现代统计学中扮演着至关重要的角色。然而,由于其阶数kn依赖于样本量n,对其变异性进行量化极具挑战性,因为固定阶理论无法直接适用。本文提出了一种刀切经验似然(Jackknife Empirical Likelihood, JEL)框架,可用于构建无限阶U统计量的置信区间。研究人员建立了JEL比率统计量极限卡方分布的充分条件,并引入了一种高效的分割采样实现方法以用于实际应用。为评估所提方法的性能,研究人员分别在基于子采样的集成方法和最大值检验背景下开展了模拟研究,并将其与四种竞争方法进行了比较。模拟研究在各场景下均取得了令人满意的结果。最后,研究人员使用美国林务局(United States Forest Service)木材拍卖数据集展示了该方法在预测拍卖最高出价中的实际应用。
论文解读:无限阶U统计量的刀切经验似然推断
一、研究背景与问题
经验似然(Empirical Likelihood, EL)方法由Owen于1988年首次提出,旨在解决均值置信区间(Confidence Interval, CI)构建问题,随后被广泛拓展至置信区域构建、线性模型、分位数估计、平均剩余寿命估计以及受试者工作特征曲线(Receiver Operating Characteristic curve, ROC)等众多统计应用领域。在EL方法的诸多变体中,刀切经验似然(Jackknife Empirical Likelihood, JEL)由Jing等人在2009年提出,通过将刀切伪值(Jackknife pseudo-values)引入经验对数似然比的构建,有效克服了非线性约束下的计算挑战,并在固定阶单样本或双样本U统计量背景下展现了良好性能。
无限阶U统计量(Infinite-order U-statistics)在现代统计学中具有广泛的应用背景,涵盖市场营销、金融计量以及计量经济学等领域,其典型应用包括基于子采样的集成方法(Subsampling-based ensemble methods)、交叉验证以及子采样分布等。与固定阶U统计量不同,无限阶U统计量的核函数阶数kn依赖于样本量n,并随n趋于无穷而增长,因此固定阶U统计量的现有理论结果与证明方法无法直接推广。尽管已有研究(如DiCiccio和Romano、Peng等以及Mayala等)建立了无限阶U统计量的中心极限定理(Central Limit Theorem, CLT),但在该背景下估计方差仍面临巨大挑战,尤其当kn相对于n并非低阶时,现有方法的数值表现并不理想。因此,亟需一种无需显式方差估计、计算高效且能保持数据驱动置信区域形状的推断框架。
二、研究内容与主要结论
针对上述问题,研究人员将JEL方法拓展至无限阶U统计量的置信区间构建。该框架的核心优势在于绕过了对插入式方差估计量(Plug-in variance estimator)的需求,这对于方差估计计算密集或解析上不可行的无限阶U统计量尤为有利,同时保留了置信区域的数据驱动形状,适应无限阶核可能呈现的非对称渐近行为。
研究人员建立了JEL在无限阶U统计量背景下基本理论的充分条件,包括非退化条件、阶数kn/n2→0、Hájek投影各阶方差上界条件、余项界条件以及矩条件等。在满足这些条件及无限阶U统计量渐近正态性的前提下,研究人员证明了JEL比率统计量-2logR(θkn)具有极限χ2?分布(定理1),从而为置信区间构建提供了理论基础。此外,研究人员还提出了一种基于分割采样的高效计算策略,用于在不增加额外计算成本的情况下计算基于不完全无限阶U统计量的刀切伪值。模拟研究结果表明,所提方法在子采样集成方法和最大值检验背景下均优于四种竞争方法,且对kn相对于n的阶数具有较好的稳健性。最后,研究人员使用美国林务局(USFS)木材拍卖数据集展示了该方法在预测拍卖最高出价中的实际应用价值。
三、主要技术方法
研究人员采用的核心技术方法包括:第一,刀切经验似然方法,通过构造刀切伪值V?n,i = nUn - (n-1)Un-1(-i),将无限阶U统计量的推断问题转化为对伪值均值的经验似然推断;第二,Hájek投影分解技术,用于刻画无限阶U统计量的渐近方差结构;第三,分割采样实现策略,用于高效计算不完全无限阶U统计量的刀切伪值;第四,拉格朗日乘子法,用于求解经验似然比统计量。模拟研究基于子采样集成方法(包括subbagging和子随机森林算法)以及最大值检验场景,数据来源为模拟生成数据及美国林务局木材拍卖真实数据集。
四、研究结果
2.1 一般框架:研究人员在一般框架下定义了无限阶U统计量Un及其对应的刀切伪值,证明了伪值的均值为Un,期望为θkn,并通过拉格朗日乘子法导出了经验似然比统计量的显式表达式。
定理1:在假设A1-A5和条件B1-B2下,若ζ1,kn有限,则-2logR(θkn)依分布收敛于χ2?分布。该定理为无限阶U统计量的JEL置信区间构建奠定了理论基础。
3 集成方法的置信区间构建:研究人员在子采样集成方法背景下评估了所提方法的有效性,利用subbagging和子随机森林算法(结合线性模型和多元自适应回归样条(Multivariate Adaptive Regression Spline, MARS)模型),模拟结果显示所提方法在覆盖率、区间长度等方面均优于四种竞争方法。
4 木材拍卖案例研究:研究人员使用美国林务局木材拍卖真实数据集,预测拍卖最高出价(以美元计),展示了所提方法在实际应用中的可行性和良好性能。
附录C 最大值检验:研究人员在最大值检验场景下显式验证了定理1的充分条件,确认了所提方法的理论适用性。
五、讨论与结论
研究人员在讨论部分指出,所建立的JEL框架在无限阶U统计量背景下具有三方面主要贡献:第一,开发了一种计算高效的无限阶U统计量置信区间构建通用方法;第二,将现有U统计量文献的边界推进至无限阶情形,建立了JEL在该背景下的理论框架;第三,在多个有趣场景中展示了所提方法的应用价值,均取得了令人满意的结果。研究结论表明,所提出的JEL方法为无限阶U统计量的不确定性量化提供了一种稳健且计算高效的推断工具,在集成学习、交叉验证等现代统计应用场景中具有广阔的应用前景。