双层次广义线性模型的扩展：方差组分间相关性的量化研究

这篇研究创新性地扩展了双层次广义线性模型(DHGLM)，通过贝叶斯方法实现了对随机效应方差与残差方差相关性的直接估计。文章系统比较了传统非层次模型(non-HGLM)、单层次模型(HGLM)与新型DHGLM在方差组分相关性估计中的表现，证实DHGLM能有效解决小样本条件下估计偏差问题，为生态学、进化生物学等领域的变异模式研究提供了更精确的统计工具。

　　

1 引言

在生态与进化研究中，量化遗传和环境因素对表型变异的贡献是核心问题。传统混合模型（HGLM）虽能分解方差组分，但假设方差组分在同质群体中恒定。随着研究发现方差组分存在群体间异质性，如牲畜群体间遗传方差差异和行为个体间残差方差变异，亟需发展能直接建模方差分布的方法。

双层次广义线性模型(DHGLM)通过引入方差组分的对数正态分布，成为研究异质性方差的理想工具。然而现有多向DHGLM假设残差方差与随机效应方差独立，无法估计其相关性——这在基因表达分析等场景中尤为关键，如判断高遗传变异的性状是否伴随高环境变异。

2 方法

2.1 带协方差结构的DHGLM

模型分为均值模型和离散模型双层结构：

• •

  均值模型：y_ijk = μ + t_i + u_ij + e_ijk，其中u_ij和e_ijk分别服从N(0,V_u(i))和N(0,V_e(i))

• •

  离散模型：创新性地假设log(V_u(i))和log(V_e(i))服从多元正态分布，通过协方差矩阵C量化两者的对数尺度相关性，并推导出算术尺度的转换公式

2.2 传统方法的理论偏差

通过平衡设计下的解析推导揭示：

• •

  非HGLM会高估V_u方差1/n·V_Ve

• •

  HGLM虽能无偏估计均值方差，但方差组分的协方差被低估2/[n(N-c)]·(μ_Ve²+V_Ve)

• •

  相关性估计的偏差方向取决于真实值，当真实相关性为负时甚至可能出现符号错误

2.3 模拟验证

基于Gianola等（1992）的羔羊体重数据参数，设置：

• •

  1000个群体（如基因或性状），每组4亚群5观测值

• •

  真实算术尺度相关性ρ=0.467

  结果证实DHGLM在覆盖率（94.6%接近95%）、偏差（<1%）和精度上全面优于传统方法，尤其在估计相关性时均方误差降低达50%

3 结果与讨论

3.1 模型优势场景

DHGLM在群体数量大、组内样本少时优势显著，如：

• •

  基因表达分析：Landry等（2007）仅用5品系4重复估计基因间突变方差相关性

• •

  行为生态学：Westneat等（2013）研究27只雌鸟摄食行为残差异质性

3.2 应用建议

• •

  先验选择：离散层方差推荐广义逆高斯(GIG)先验，避免算术尺度矩不存在问题

• •

  实验设计：优先保证群体数量（N_g≥128），亚群数(c)与组内样本数(n)保持均衡（如c=n=5）

• •

  扩展方向：可引入亚群随机效应处理残差方差的层次异质性，或通过均值-方差耦合解释尺度效应

4 展望

该模型为研究变异模式的进化机制（如基因调控网络导致的方差共变）提供了新范式，未来可结合因子分析建模方差组分的依赖结构，进一步揭示生物复杂性的统计本质。