《Computational Statistics & Data Analysis》:An integrated method for clustering and association network inference
编辑推荐:
高维高斯图模型(Gaussian graphical models, GGM)提供了严谨的框架来描述变量之间的统计依赖网络,例如基因组调控研究中的基因或生态学中的物种。惩罚方法,包括标准的Graphical-Lasso,是推断这些模型参数的常用方法。随着模型中
高维高斯图模型(Gaussian graphical models, GGM)提供了严谨的框架来描述变量之间的统计依赖网络,例如基因组调控研究中的基因或生态学中的物种。惩罚方法,包括标准的Graphical-Lasso,是推断这些模型参数的常用方法。随着模型中变量数量的增加,网络推断和解释变得更加复杂。研究人员讨论了Normal-Block模型,该模型对变量进行聚类,并在聚类层面考虑网络。这既为网络增加了结构,又减少了涉及的参数数量,从而简化了底层网络的推断和解释。该方法基于Graphical-Lasso,对网络边缘施加惩罚,以限制检测到虚假依赖关系。研究人员还提出了该模型的零膨胀版本,以考虑现实世界数据的特性。对于推断过程,研究人员介绍了两种方法:一种基于现有方法的两步法,以及一种更严谨的原创方法,该方法使用惩罚变分期望最大化(Expectation-Maximization, EM)方法同时推断变量的聚类和聚类之间的关联网络。该模型的R实现,即名为normalblockr的包,可在GitHub上获取。研究人员展示了模型在聚类和网络推断方面的结果,使用了模拟数据和多种类型的真实数据(蛋白质组学和网页上单词出现数据)。
**论文解读:《聚类与关联网络推断的集成方法》**
**研究背景**
在统计学中,关联网络(association network)用于描述变量间的依赖结构,节点表示变量,边表示依赖关系。这类网络广泛应用于心理学、基因组学、生态学等领域。高斯图模型(Gaussian graphical model, GGM)是表示此类网络的严谨框架,其参数通过精度矩阵(precision matrix)给出,该矩阵是协方差矩阵的逆,其非零元素对应条件依赖关系。然而,随着变量数量增加,网络推断变得复杂且计算成本高昂。现有方法,如图形套索(Graphical-Lasso)通过?
1惩罚实现稀疏网络,但缺乏对网络结构的先验假设,且在大规模高维数据中,推断和解释难度显著上升。此外,网络推断通常仅依赖变量级网络,忽略了变量间可能的聚类结构,导致参数冗余和解释困难。为克服这些局限,研究者提出了Normal-Block模型,通过引入变量聚类结构,将网络定义在聚类层面,从而降低维度、简化推断并增强可解释性。
**研究方法**
本研究开发了Normal-Block模型,该模型是高斯图模型,假设变量属于潜在聚类,聚类间存在关联网络。研究人员采用两种推断策略:一是基于两步法,结合Graphical-Lasso和随机块模型(Stochastic Block Model, SBM)或k-means聚类;二是原创的集成方法,利用惩罚变分期望最大化(Variational Expectation-Maximization, VEM)算法同时推断变量聚类和聚类间网络。此外,为处理零膨胀数据,扩展了零膨胀版本。模型的可识别性在温和条件下得以证明。所有方法在R包normalblockr中实现,并在模拟数据(含不同网络结构如Erd?s-Rényi、优先连接、社区结构)和真实数据(乳腺癌蛋白质组学数据、大学网页单词频率数据)上进行验证。
**研究结果**
* **Identifiability(可识别性)**:通过理论证明,Normal-Block模型在聚类已知或未知时,在满足一定条件下(如X矩阵满秩、每个聚类至少包含两个元素等)均可识别,为参数估计提供了理论基础。
* **Inference strategy(推断策略)**:
* 两步法基于Graphical-Lasso和聚类方法,简单直观,但无法分离聚类方差和个体方差,且缺乏严格似然优化。
* 集成方法采用变分EM,通过优化证据下界(ELBO)同时更新聚类和网络参数,并在M-step中结合Graphical-Lasso施加?
1惩罚以得到稀疏网络。
* **Simulation study(模拟研究)**:
* 聚类恢复:集成方法和两步法在多数配置下(n=50,200,500;p=100,500;q=3,5,10,15)均能准确恢复聚类(调整兰德指数ARI接近1)。当n=20或q=15时,聚类任务难度增加,但集成方法仍优于两步法。
* 网络推断:通过受试者工作特征曲线下面积(AUC)衡量,网络结构恢复效果良好,但随着q增加(网络维度增大)或网络结构为Erd?s-Rényi时,略困难。
* 参数估计:集成方法在估计个体方差矩阵D和回归系数B上均方根误差(RMSE)更低,数据拟合效果更好。
* 零膨胀数据:集成方法在零膨胀水平较高时,聚类恢复(ARI)和网络推断(AUC)略有下降,但总体优于两步法。
* 计算效率:两步法(基于方差聚类)因SBM计算成本最高,集成方法所需迭代次数随n增大而减少,但随q增大而增加。
* **Illustrations(实例应用)**:
* 乳腺癌蛋白质组学数据:集成方法在346个肿瘤样本、163个蛋白质上识别出24个聚类,富集分析显示部分聚类(如PI3K-Akt与黏着斑通路)在生物学上相关,验证了聚类与网络结构的合理性。
* 大学网页单词数据:在504个网页、100个高频单词上,集成方法识别出15个聚类,如“office”“phone”“email”等行政类单词聚类,“conference”“workshop”“paper”等学术交流类聚类,网络显示不同聚类间存在正/负关联,符合语义逻辑。
**讨论与结论**
研究讨论指出,Normal-Block模型通过引入变量聚类结构,降低了网络维度,简化了推断和解释,弥补了Graphical-Lasso等无结构方法的不足。模型可识别性已获证明,模拟和实例均显示聚类和网络推断效果良好,但零膨胀较高时性能下降,且ELBO的全局凹性尚无理论保证。未来可扩展至个体依赖或协变量依赖的零膨胀形式,也可加入更多网络结构先验(如禁止或促进特定边),或设计时间动态扩展。研究结论总结:Normal-Block模型为高斯图模型,集成变量聚类,在聚类层面构建网络,有效降低了网络维度并增强结构;通过变分EM实现同时推断,并在模拟和真实数据上验证了其聚类和网络推断能力。