弱相依数据下基于核的独立性与均值独立性检验

《Journal of Multivariate Analysis》：Kernel-based independence and mean independence tests for weakly dependent data

　　

研究人员提供了一个基于希尔伯特-施密特独立性准则（HSIC）的独立性与均值独立性检验的统一框架，将先前文献中的若干结果推广至一般拓扑空间。研究还给出了当观测样本对应于某个平稳且遍历的随机过程在近邻相依（NED）假设下的部分样本路径时，检验统计量渐近行为的完整理论分析。特别地，研究探讨了在固定假设和局部假设下检验统计量的一致性与极限分布。检验的有限样本性能通过一个涉及函数型数据的简洁模拟研究加以说明。

论文解读文章

一、研究背景与问题

统计检验领域在过去二十年间取得了显著进展，这与距离法和核方法在统计推断中的兴起密切相关。其中，由Gretton等人（2007）提出的希尔伯特-施密特独立性准则（Hilbert-Schmidt Independence Criterion，HSIC）已成为检验两个随机变量X和Y之间统计独立性的最重要检验族之一，因其在核函数选择恰当时能够刻画独立性这一性质，且在计算上可高效实现。然而，HSIC最初是针对独立同分布（i.i.d.）样本提出的。尽管已有研究将其扩展至绝对正则随机过程样本路径（Chwialkowski和Gretton，2014）以及欧几里得空间中的τ-相依情形（Chwialkowski等，2014），但现有扩展所依赖的混合条件（mixing conditions）在诸多简单自回归模型中可能不成立（Andrews，1984），这构成了重要的理论局限。

与此同时，距离相关与距离协方差（DCOV）方法（Székely等，2007）作为衡量欧几里得值随机变量间缺乏独立性的工具被提出，并衍生出基于i.i.d.样本的广泛独立性检验族。距离法与核法密切相关（Sejdinovic等，2013），两者均可被改造用于检验Y对X的均值独立性，即检验E[Y|X]=E[Y]几乎必然成立。Shao和Zhang（2014）引入了鞅差散度（Martingale Difference Divergence，MDD）作为i.i.d.欧几里得设定下检验均值独立性原假设的距离协方差类比，随后被扩展至希尔伯特空间（Lee等，2020）和欧几里得时间序列（Lee和Shao，2017）。对应的基于核的均值独立性检验由Lai等人（2021）针对希尔伯特空间取值的i.i.d.样本提出。然而，据研究人员所知，针对相依样本的核方法均值独立性检验的适配仍然缺失，这构成了本研究的直接动机。

二、研究内容与结论

本研究利用核方法下独立性与均值独立性刻画的理论邻近性，在第2节中建立了一个用于独立性和均值独立性检验的统一框架。该框架的核心洞察在于：核条件均值依赖度量（KCMD）本质上就是Y上取线性核的HSIC，这一认识使得两种检验可以在同一理论体系下处理。研究人员将KCMD从原有的希尔伯特空间取值设定扩展至更一般的拓扑空间，并通过命题3证明了在Y为任意希尔伯特空间、X为任意可定义Borel概率测度的非空拓扑空间时，HSIC(X,Y;c_X,〈?,·〉_Y)=0等价于E[Y|X]=E[Y]几乎必然成立。此外，研究还探讨了Y取值于Banach空间的情形，指出当存在从Y到某希尔伯特空间的连续线性嵌入时，上述结论仍可成立。

在第3节中，研究人员对检验统计量——即HSIC的经验估计量HSIC_n(X,Y)——的渐近行为进行了详细分析。假设观测到离散指标平稳遍历随机过程{(X_i,Y_i)}_{i∈Z}的部分样本路径，其中X和Y取值于Polish空间（如函数型数据或方向数据）。在近邻相依（Near Epoch Dependence，NED）假设下推导分布结果，这一相依框架比前述文献中采用的混合条件更具一般性。定理1证明，在严格平稳、遍历以及核函数满足有限矩条件下，HSIC_n(X,Y)几乎必然收敛至HSIC(X,Y)。研究人员还基于Dehling等人（2015）关于相依数据在希尔伯特空间中的中心极限定理，推导了检验统计量的极限分布。此外，研究提出了一种一致的野生自助法（wild bootstrap）方案用于在实践中校准检验，该方案基于一个新的关于希尔伯特空间中近邻相依数据样本均值的野生自助法一致性定理。

三、关键技术与方法

本研究主要采用了以下关键技术方法：其一，基于再生核希尔伯特空间（RKHS）的核方法框架，利用特征核（characteristic kernel）刻画分布相等性，从而建立HSIC与KCMD的统一理论；其二，近邻相依（NED）假设体系，包括L^p-NED和概率意义下的P-NED，取代了传统文献中更强的混合条件；其三，希尔伯特空间中的中心极限定理（Dehling等，2015）用于推导检验统计量的极限分布；其四，野生自助法（wild bootstrap）重采样方案用于检验的有限样本校准；其五，模拟研究用于评估检验的有限样本性能，涉及函数型数据。

四、研究结果

第2节：独立性与均值独立性的核度量。 本节建立了统一的理论框架。定义1给出了HSIC的严格定义，即特征映射的交叉协方差算子在张量积希尔伯特空间中的平方范数。命题2证明，当c_X和c_Y均为特征核且相关Pettis积分存在时，HSIC(X,Y)=0当且仅当X和Y独立，该结果适用于任意非空拓扑空间。命题3将均值独立性刻画扩展至Y为任意希尔伯特空间的情形，证明HSIC(X,Y;c_X,〈?,·〉_Y)=0等价于E[Y|X]=E[Y]几乎必然成立。

第3节：基于核的独立性与均值独立性检验。 本节给出了检验统计量HSIC_n(X,Y)的定义及其渐近性质。定理1在严格平稳、遍历和有限矩条件下证明了HSIC_n(X,Y)的几乎必然一致性。在P-NED假设下，研究人员利用希尔伯特空间中的中心极限定理推导了检验统计量的渐近分布。研究还提出了一致的野生自助法方案，并建立了相应的自助法一致性定理。

第4节：模拟研究。 通过涉及函数型数据的模拟研究评估了检验的有限样本性能，结果表明所提出的检验在有限样本下具有良好的表现。

五、讨论与结论

研究在相依数据框架下为独立性和均值独立性检验提供了统一的理论基础，其相依假设（NED）比以往文献中采用的混合条件更为宽泛，能够涵盖混合条件可能失效的简单自回归模型等情形。这一理论进展填补了核方法均值独立性检验在相依样本情形下的空白。研究的实际应用展示于补充材料中。总体而言，该研究为弱相依数据下的核方法独立性检验提供了完整的理论支撑，并为实践者提供了一致的自助法校准方案，具有重要的理论意义和应用价值。