《Multivariate Behavioral Research》:Testing Group Differences in Nonlinear Growth Curve Modeling with Penalized Spline
编辑推荐:
摘要翻译:社会与行为科学中的纵向数据分析通常假设变化随时间呈线性,但人类行为复杂且常呈现非线性模式。回归样条是机器学习中用于建模非线性轨迹的常用方法。传统机器学习以预测为首要目标,而社会与行为科学研究者则关注组间差异的显著性检验与解释。本研究比较了六种用于评估
摘要翻译:社会与行为科学中的纵向数据分析通常假设变化随时间呈线性,但人类行为复杂且常呈现非线性模式。回归样条是机器学习中用于建模非线性轨迹的常用方法。传统机器学习以预测为首要目标,而社会与行为科学研究者则关注组间差异的显著性检验与解释。本研究比较了六种用于评估多时间点组平均轨迹组间差异的样条模型:频率派截断幂基模型、频率派分段基模型、频率派B样条基模型、贝叶斯截断幂基模型、贝叶斯分段基模型以及贝叶斯B样条基模型。通过模拟研究发现,对于未删失数据,频率派模型表现出稳定且稳健的性能。然而,当数据存在删失(如地板效应和天花板效应)时,这些模型的统计推断可能出现问题,如覆盖率(coverage rates)和第一类错误率(Type I error rates)偏离名义水平。针对后一种情况,研究人员建议:若计算时间允许,可使用具有非结构化第二层协方差矩阵的频率派模型;或使用具有非结构化第二层协方差矩阵的贝叶斯B样条模型。
论文解读:惩罚样条非线性增长曲线模型中组间差异检验的方法比较与实证评估
一、研究背景与问题提出
在纵向数据分析中,社会与行为科学研究者常假设变化是线性的,但人类行为受复杂因素交互影响,变化轨迹往往呈现非线性特征。例如,焦虑水平可能因触发事件而骤升,随后随应对策略或支持系统介入而逐渐下降;吸烟戒断等行为改变可能呈S形曲线;情绪与工作满意度还可能表现出周期性波动。为应对非线性变化,研究者有时依赖全局多项式或周期函数等参数化假设,但在真实函数形式未知的情况下,理论驱动的建模方式可能失之偏颇。机器学习中的样条方法提供了一种数据驱动的灵活建模途径,通过局部基函数的线性组合逼近真实轨迹。然而,传统机器学习很少关注统计推断,而社会与行为科学的核心问题常涉及多组群体间的差异检验,尤其是在少数预先定义的理论或实践意义时间点上比较组间差异。尽管Suk等人曾将惩罚样条用于组间差异检验,但仅限于频率派截断幂基,且截断幂基存在多重共线性问题;同时贝叶斯与频率派估计在惩罚机制的具体实现上往往差异显著。为此,本研究系统比较了三种基函数(截断幂基、分段基、B样条基)在频率派与贝叶斯框架下的六种惩罚样条模型,评估其在指定时间点检验组间差异的表现。
二、研究设计与核心方法
研究通过两个模拟研究评估六种模型。模拟研究一采用正弦函数生成非单调周期变化数据,模拟研究二采用带地板、天花板及随机结点的增长模型生成单调非线性且含删失的数据。模拟中变化四个因素:时间点数(5、9、17)、个体数(100、300、500)、组间差异(0或0.5)以及缺失数据比例(0或0.4)。频率派模型使用限制性最大似然估计(restricted maximum likelihood, REML)和估计最佳线性无偏预测(estimated best linear unbiased predictors, EBLUPs),频率派第二层随机效应采用块对角协方差结构;贝叶斯模型使用马尔可夫链蒙特卡洛(Markov chain Monte Carlo, MCMC)抽样,第二层随机效应采用非结构化协方差矩阵。研究比较了各模型的相对偏差、覆盖率(coverage rates)和第一类错误率。此外,研究还使用了来自青少年日常日记研究的真实数据示例(94名青少年,其中68.1%为顺性别,31.9%为性别少数群体)来演示所开发的R函数。
三、主要研究结果
模拟研究一(正弦函数):在未删失数据下,三种频率派模型的覆盖率均处于可接受范围(91%–98%);贝叶斯截断幂基模型覆盖率可高达100%,贝叶斯分段基模型在后期时间点也易出现覆盖率膨胀;当n=100时,贝叶斯方法相对偏差可超过10%且缺失数据加剧偏差,频率派模型在同等条件下的偏差较小;当n≥300时,所有方法偏差均可忽略。
模拟研究二(地板与天花板效应):在删失数据下,频率派模型使用块对角第二层协方差结构时,即使估计无偏,覆盖率也可能过低(约0.83)或过高(至1)。为探究更灵活协方差结构的改进作用,研究额外拟合了三种使用非结构化第二层协方差矩阵的频率派模型(仅t=5时可行),结果其覆盖率在所有条件下均接近名义水平0.95。贝叶斯截断幂基模型仍倾向产生过高的覆盖率,贝叶斯B样条模型总体优于贝叶斯分段模型。当n≥300时,除贝叶斯截断幂基外,各方法偏差可忽略。
真实数据示例:频率派三种基函数模型结果高度一致,在Day 1、3、5、21无显著组间差异,其余时间点性别少数青少年压力均值显著高于顺性别青少年。贝叶斯B样条模型在Day 7、19也无显著差异,除个别时间点外总体结论与频率派方法一致。
四、结论与讨论
研究得到以下主要结论:第一,六种模型的表现在很大程度上取决于第二层协方差矩阵的设定。截断幂基的数值不稳定性并非单独由基函数引起,而是当它与块对角协方差结构结合且结点密集时才会触发收敛问题;使用非结构化第二层协方差矩阵能显著改善收敛和覆盖率。第二,在频率派框架下,非结构化协方差矩阵因维度增加导致计算代价过高(单个数据集可达12小时),实际中只能使用块对角结构;贝叶斯框架则可在合理时间内估计非结构化协方差矩阵。第三,偏差方面,频率派三种基函数模型在两种模拟中表现相似;贝叶斯模型在时间点数或个体数较少时偏差更大,尤其在删失数据下。第四,覆盖率方面,非删失数据下频率派方法表现良好;删失数据下频率派块对角结构可能产生过高或过低的覆盖率,而频率派非结构化协方差矩阵和贝叶斯B样条模型均能接近名义水平。整体而言,对于非删失数据,推荐使用具有块对角第二层协方差矩阵的频率派截断幂基、分段基或B样条模型;对于存在地板和天花板效应的删失数据,若计算时间允许,推荐频率派模型配合非结构化第二层协方差矩阵,或直接使用具有非结构化第二层协方差矩阵的贝叶斯B样条模型。
研究者还指出,贝叶斯与频率派方法差异可能源于两方面:频率派使用块对角结构而贝叶斯使用非结构化协方差矩阵;即使模型设定相同,两种框架施加的有效惩罚也不同。贝叶斯方法倾向估计出更大的个体间异质性,当真实方差成分接近零时产生边界问题。研究尝试了替代先验(如σμ2=σe2/λμ,λμ~Uniform(0,100)),但未能获得满意改进,未来仍需进一步探索。