基于累积有序尖峰-平板先验的联合潜空间模型自适应维度选择方法

《Psychometrika》:A Cumulative Ordered Spike-and-Slab Prior for Adaptive Dimension Selection in Joint Latent Space Models

【字体: 大 中 小 】 时间:2026年09月22日 来源:Psychometrika 2.9

编辑推荐:

  网络模型在心理测量学中对于分析关系数据日益重要,这类数据往往伴随高维节点属性。联合潜空间模型(Joint Latent Space Model, JLSM)通过假设共享的底层潜变量表征,为整合这些数据源提供了优雅的框架;然而,一个持续存在的方法论挑战是确定潜空

  
网络模型在心理测量学中对于分析关系数据日益重要,这类数据往往伴随高维节点属性。联合潜空间模型(Joint Latent Space Model, JLSM)通过假设共享的底层潜变量表征,为整合这些数据源提供了优雅的框架;然而,一个持续存在的方法论挑战是确定潜空间的维度,因为现有方法通常需要预先指定维度或依赖计算密集的事后程序。本工作的关键创新在于提出一种累积有序尖峰-平板先验(cumulative ordered spike-and-slab prior, COSS),并将其纳入贝叶斯联合潜空间建模框架中。该先验使得潜维度能够与所有模型参数同时被自动推断。研究人员开发了一种高效的马尔可夫链蒙特卡洛(Markov chain Monte Carlo, MCMC)算法用于后验计算。在理论上,研究人员证明了后验分布集中于真实潜维度,且参数估计以自适应于未知维度的近最优速率达到Hellinger一致性。通过大量模拟研究和三项真实数据应用,研究人员证明了该方法在维度恢复和参数估计方面的优越性能。本工作为心理测量网络模型中的自适应维度选择提供了一种有原则、计算高效且具有理论基础的解决方案。

论文解读

一、研究背景与问题

网络分析已成为心理测量学中理解心理现象背后关系结构的重要工具(Borsboom等,2021;Epskamp等,2017,2018;Jeon等,2021)。该领域的快速发展催生了大量定量方法,从序数数据的贝叶斯图模型(Marsman等,2025)到项目反应数据的专用潜空间方法(Jeon等,2021;Jin和Jeon,2019)。该领域的一个前沿方向是将网络结构与节点自身丰富且通常高维的属性进行整合(Leskovec和McAuley,2012;McCallum等,2000;Zhang等,2022)。个体属性与网络位置之间存在交互作用:属性影响网络位置,而网络关系也可能塑造个体行为,这种混杂关系构成了建模挑战(Fratiglioni等,2000;McPherson等,2001;Shalizi和Thomas,2011;VanderWeele,2011)。因此,将两类数据源联合建模对于稳健且全面地理解潜在构念至关重要(Wang,2022;Wang等,2023;Zhang等,2016,2022)。
潜空间模型(Latent Space Model, LSM)为此提供了强大且可解释的工具(Hoff等,2002)。LSM将节点表示为低维几何空间中的点,节点间距离越近则连接概率越高。该框架自然延伸至联合潜空间模型(Joint Latent Space Model, JLSM),其中共享潜空间同时生成网络连边和节点属性(Gollini和Murphy,2016;Salter-Townshend和McCormick,2017;Wang,2022;Wang等,2023)。通过统一这些数据源,JLSM能够跨数据源借用统计强度,从而比单独分析任一数据源获得更稳健和准确的结构估计。
然而,LSM面临一个根本且持续的挑战:潜空间维度的选择。维度选择不仅是技术性问题,更对统计有效性和实质性解释具有重要影响。维度不足的模型可能遗漏关键结构特征(欠拟合),而维度过多的模型则容易捕捉虚假噪声(过拟合)并产生难以解释的潜因子。标准做法是拟合一系列具有不同预设维度的模型,然后使用交叉验证或信息准则(如AIC和BIC)等事后准则选择"最佳"模型(Chen和Lei,2018;Hoff,2007;Wang,2022;Wang等,2023;Zhang等,2022)。这些方法不仅计算代价高昂,而且在概念上也不令人满意,因为它们将维度选择这一关键任务与主要推断过程分离。此外,网络数据中数据点之间的依赖关系违反了标准交叉验证的假设,信息准则所需的有效参数数量可能不明确,且边际对数似然在LSM背景下难以计算(Li等,2020;Spiegelhalter等,2002;Vaida和Blanchard,2005)。

二、研究内容与主要贡献

针对上述挑战,本研究提出了一种累积有序尖峰-平板(Cumulative Ordered Spike-and-Slab, COSS)先验,在贝叶斯JLSM框架内实现潜维度的自动推断。该先验引入随机排序并逐步惩罚额外维度,使多余维度在估计过程中自然消退。研究的主要贡献包括四个方面:(1)将COSS先验引入完全贝叶斯JLSM,建立了一个无需多次模型拟合即可整合参数估计和潜维度选择的连贯推断框架;(2)开发了高效的适应性MCMC算法,包括可逆跳跃(reversible-jump)机制以在采样过程中扩展或收缩潜维度;(3)提供了理论保证:后验潜维度随样本量增长集中于真实维度,模型参数以自适应于未知维度的近最优Hellinger收缩速率收敛;(4)通过大量模拟和三项真实数据应用证明该方法在维度恢复、参数估计精度和计算效率方面优于现有方法。

三、关键方法

研究采用的主要技术方法包括:其一,联合潜空间模型(JLSM)框架,网络部分采用内积形式logit模型,属性部分采用指数族广义潜因子模型,两类数据通过共享潜变量Z条件独立地生成;其二,累积有序尖峰-平板(COSS)先验,通过非齐次累积收缩过程构造随机递增的尖峰概率序列,利用stick-breaking过程实现维度间的随机排序,使后续维度的方差参数被逐步压缩至零;其三,适应性马尔可夫链蒙特卡洛(MCMC)算法,包含可逆跳跃机制以动态调整潜维度,实现参数与维度的联合后验推断;其四,后验一致性理论分析,证明潜维度估计的集中性和参数估计的Hellinger收缩速率。模拟数据采用不同维度、不同属性类型的多种设定生成。

四、研究结果

网络模型设定。 研究采用内积形式(inner product formulation)构建网络模型,logit(Pii') = αi + αi' + zi?zi',其中αi捕获节点度异质性,内积项zi?zi'捕获同质性并促进传递性。
节点属性模型设定。 研究采用指数族广义潜因子模型框架,自然参数ΘijY = γj + βj?zi。该框架涵盖线性因子模型(连续属性)和多维项目反应理论(MIRT)模型(二元属性)作为特例。
COSS先验的构造。 研究构建了非齐次尖峰-平板累积收缩过程,通过stick-breaking构造随机递增的尖峰概率序列πh,其中第一个断裂由超参数κ控制,后续断裂由a控制,实现了维度间方差参数的随机排序。
随机排序性质。 研究证明了COSS先验满足随机排序性质(Proposition 1),即后续维度被压缩至尖峰分布的概率随机递增,为维度自动选择提供了先验基础。
MCMC算法。 研究开发了高效的适应性MCMC采样器,通过可逆跳跃机制在采样过程中动态扩展或收缩潜维度,实现所有参数和维度在单次后验计算中的联合估计。
理论性质。 研究证明了后验分布集中于真实潜维度,参数估计以自适应于未知维度的近最优速率达到Hellinger一致性。
模拟研究。 通过广泛模拟研究评估了方法的经验性能,结果显示该方法在维度恢复和参数估计方面均优于现有方法。
真实数据应用。 通过三项真实数据应用验证了方法的实用性和优越性能。

五、讨论与结论

本工作提出的COSS先验为联合潜空间模型中的自适应维度选择提供了有原则、计算高效且具有理论基础的解决方案。与现有方法相比,该方法无需预先指定维度或进行计算密集的事后模型比较,而是通过单次后验计算同时完成参数估计和维度推断。该方法能够容纳指数族内的混合数据类型,克服了现有方法仅适用于二元属性的局限性。理论分析保证了后验维度估计的一致性和参数估计的近最优收缩速率。模拟和真实数据应用均证实了该方法在维度恢复和参数估计方面的优越性能。本工作为心理测量网络模型中的维度选择问题提供了一种新颖且实用的解决途径。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号