张量部分线性加性分位数回归

《Journal of Multivariate Analysis》：Tensor partially linear additive quantile regression

　　

摘要

分位数回归已成为高维数据稳健建模中不可或缺的工具，传统上主要针对向量型协变量和标量型响应变量。然而，近年来在癌症研究、数字营销和环境监测等领域中张量结构数据的日益增多，暴露了传统方法的局限性。本文提出了一种面向张量结构数据的张量部分线性加法分位数回归模型。该模型通过使用非参数加法函数捕捉向量型协变量的非线性效应，并利用张量内积结构表示张量型协变量的线性效应，将向量型协变量和张量型协变量整合到统一的框架中。我们开发了一种估计程序，该方法结合B样条逼近与CANDECOMP/PARAFAC（CP）分解，并采用非凸惩罚以鼓励稀疏性，从而选择张量型协变量中的活跃区域。估计量通过交替方向乘子法（ADMM）算法计算。我们建立了所提估计量的收敛速率和预言机性质。大量的仿真实验证实了其优越的有限样本表现，而在整合基因组分析中的应用进一步展示了其在实践中的价值。

引言

分位数回归由Koenker和Bassett, Jr.（1978）率先提出，已成为一种稳健且被广泛采用的技术，用于建模给定协变量下响应变量的条件分布。其受欢迎程度源于其能够提供响应变量条件分布的全面分析、建模复杂的异质关系、适应不同分位数下的不同稀疏水平以及具有对重尾分布的稳健性（Koenker等人，2017）。分位数回归模型的通用性使其成为金融风险管理（Bayer, 2018）、生态环境科学（Opoku和Aluko, 2021）和医学诊断（Hong等人, 2019）等各学科中的强大工具。然而，在实际场景中协变量与响应变量之间的关系往往呈现非线性特征，这需要发展能够进行非线性建模的非参数或半参数分位数回归模型。例如，单指标分位数回归（Wu等人, 2010）、加法分位数回归（Horowitz和Lee, 2005）以及广义加法分位数回归（Yee, 2004）。尽管现有研究已广泛探索了分位数回归的统计特性和实际应用，但大多数研究集中在向量型协变量上，对于张量结构数据仍存在空白。

传统回归方法通常假设协变量为向量型，响应变量为标量型。然而，随着张量数据在现代统计分析中的日益普遍，包括癌症研究（Chang等人, 2021）、网络分析（Hoff, 2015）和时空数据分析（Liang等人, 2023）等应用，张量回归已成为一种突出的方法，其中协变量或响应变量以张量形式表示。Zhou等人（2013）提出了一种张量回归模型，该模型采用了低秩分解，提供了渐近性质，并引入了区域选择的概念以识别张量型协变量中对响应变量有影响的活跃区域，类似于传统向量型回归中的变量选择。然而，张量回归中区域选择的统计性质仍未得到充分探索。

张量分位数回归模型的探索仍处于早期阶段。Lu等人（2020）率先引入了分位数张量回归模型，在lasso惩罚下提出了其渐近正态性和非渐近估计误差界。随后，Ke等人（2023）引入了适用于纵向数据的张量回归模型，并提供了其渐近性质。Liu等人（2024）开发了一种基于张量训练分解的新型张量分位数回归模型，并进一步建立了其一致性、渐近正态性和非渐近误差界。Lu等人（2024）研究了凸正则化惩罚下的分位数张量回归模型，分析了估计量的风险界。这些工作关注参数化张量回归模型，但对非参数张量分位数回归的探索仍处于萌芽阶段。最近，仅有（Lu, 2022）提出了张量加法分位数回归模型并采用了group lasso来诱导稀疏性，但未考虑区域选择和选择一致性等关键问题。

在新兴的利用张量结构数据进行整合基因组分析的应用中（Fang, 2019, Chang等人, 2021, Chen等人, 2025），张量型协变量通常包含来自多种组学的数千个基因测量值，而向量型协变量则包含临床或环境变量的测量值，如年龄和性别。在第5节的整合基因组分析示例中，个体的吸烟史可能表现出非线性效应，可以用非参数方法建模。这促使我们提出张量部分线性加法分位数回归（TAQR）模型来分析该整合基因组数据集。该模型在统一框架中整合了向量型协变量和张量型协变量，其中向量型协变量的非线性效应通过非参数加法函数捕捉，而张量型协变量的线性效应通过张量内积结构表示。我们采用B样条逼近处理非参数部分，并对张量型协变量施加CP分解以降低维度，提出了计算高效且统计一致的估计程序。此外，我们采用非凸惩罚来实现稀疏性，从而选择张量型协变量中的活跃区域。另外，我们设计了一种高效的基于ADMM的算法来求解所提估计量。理论上，我们建立了所提估计量的渐近性质，包括收敛速率和预言机性质，从而确保了所提估计量的选择一致性。

本文其余部分安排如下。在第2节中，我们介绍一些符号和预备知识，提出所提TAQR模型和估计量，建立估计量的渐近性质，构建置信区间，并提供一种高效的求解估计量的算法。在第3节中，我们进行数值模拟以评估有限样本表现。在第4节中，我们通过基因组数据集的案例研究来说明该方法。最后，第5节提供结论性评论并概述未来潜在的研究方向。

第2节 符号与预备知识

张量是矩阵的多维推广，为表示高维数据提供了自然框架。在本文中，我们遵循Kolda和Bader（2009）以及Liu等人（2021）所建立的张量符号和约定。

我们采用以下符号：张量用粗体欧拉花体字母表示，如??、??；矩阵用粗体大写字母表示，如??、??；向量用粗体小写字母表示，如??、??。一个??阶张量??∈?^??1×?×????具有??个模态。

第3节 模拟方案

在本节中，我们进行数值模拟以评估所提TAQR的有限样本表现。具体而言，我们重点关注TAQR在估计性能、区域选择性能、预测性能、置信区间性能和计算时间性能方面的能力。我们从以下模型生成模拟数据：
???? = ??1?(??1) + ??2?(??2) + ??3?(??3) + ???, ????? + ???，
其中??1?(??1) = 2?(3???1 ? 1.5)2，??2?(??2) = sin?(2??????2)，??3?(??3) = cos?(2??????3)，且??1, ??2, ??3 ~ ???(0, 1)。我们考虑了三种真实的……

第4节 整合基因组研究的应用

复杂疾病，包括癌症，通常涉及跨越多个基因组的遗传异常。多样组学数据的快速积累使得基于张量的整合基因组分析受到广泛关注（Fang, 2019, Chang等人, 2021, Chen等人, 2025）。在本节中，我们通过肺鳞状细胞癌（LUSC）的整合基因组研究来评估所提TAQR方法的实用性。LUSC是非小细胞肺癌的主要组织学亚型之一，……

第5节 结论与未来工作

我们提出了一种新型的张量回归模型TAQR，用于建模给定向量型和张量型协变量时标量型响应的条件分位数。基于B样条逼近和CP分解，我们开发了一种包含非凸惩罚的估计量，并提供了基于ADMM的相应求解算法。在高维设置下，我们建立了所提估计量的渐近性质。大量的……

致谢

我们感谢编辑、副编辑和审稿人。本工作部分由北京自然科学基金"函数层级分位数回归建模的理论、方法与应用"（编号：1242005）、中央高校基本科研业务费，以及中国人民大学科研基金"复杂数据的稳健统计推断"（编号：25XNN015）；教育部人文社科研究一般项目……

Liu Shuo | Jiang Jiancheng | Hou Jian | Wang Zhihao | Tian Maozai