离散采样函数型数据的稳健惩罚样条M估计：有限样本存在性与渐近最优性

《Journal of Multivariate Analysis》：Penalized spline M-estimators for discretely sampled functional data: Existence and asymptotics

　　

位置估计是函数型数据分析（functional data analysis, FDA）的核心问题。本文研究在一大类凸损失函数（convex loss functions）下，面向离散采样函数型数据的位置惩罚样条估计量（penalized spline estimators of location）。该框架将既往针对非稳健估计量的结果推广并拓展至广泛的惩罚M估计（penalized M-estimation）框架。分析建立在两个通用非渐近理论工具（non-asymptotic theoretical tools）之上：（i）在极小设计条件下惩罚样条估计量的非渐近存在性结果（non-asymptotic existence result）；（ii）一个同时刻画随机变异与逼近误差的局部化引理（localization lemma）。在温和假设下，研究人员建立最优收敛率（optimal convergence rates），并识别小节点机制与大节点机制（small and large knot regimes），以及非参数回归（nonparametric regression）中惩罚样条理论已知的临界断点（critical breakpoint）。研究结果表明，即使数据为离散采样，参数率（parametric rates）仍可达到；数值实验（numerical experiments）显示，所提估计量在稳健性上匹配或超过竞争估计量，同时在计算上更具吸引力。

研究背景：函数型数据分析（functional data analysis, FDA）处理具有潜在函数结构的高维对象。设X₁,…,X_n为独立同分布L₂([0,1])过程，核心问题是基于含噪离散观测Y_ij=X_i(T_ij)+ζ_i(T_ij)估计均值函数μ₀(t)=E[X(t)]。若完全无噪观测，样本均值以参数率n^?1/2收敛；但实际中设计点可能稀疏或缺失，且样本均值直接纳入测量误差，因此完全观测估计量常不可行。已有平滑样条、核局部线性和惩罚样条估计依赖平方或局部平方损失，对离群值极敏感，单个Y_ij即可严重扭曲估计。稳健FDA研究较少；已唯一理论研究的稳健位置估计为Kalogridis和Van Aelst的平滑样条稳健损失法，可保持最优率，但维度随不同T_ij数增长，计算代价大且一般损失无闭式解、迭代慢。为此，研究人员研究低秩惩罚样条M估计（M-estimators），以稳健损失获得稳健性，并使基函数数量独立于网格规模。研究人员提出一族下秩惩罚样条M估计量，目标为在样条空间中最小化经验损失加粗糙度惩罚，推导收敛率，证明渐近最优，推广Xiao平方损失结果；还给出易检验的有限样本存在条件，兼具稳健性与计算效率，并提供基于函数分析的理论工具。

关键技术方法：构建B样条基下的惩罚M估计，损失ρ凸且绝对连续，导数ψ=ρ′；在惩罚加权内积下将样条空间视为再生核希尔伯特空间（reproducing kernel Hilbert space, RKHS）。采用非渐近存在性命题、局部化引理和经验过程论证；用惩罚迭代重加权最小二乘（iteratively reweighted least-squares, IRLS）计算，广义交叉验证（generalized cross-validation, GCV）选λ；数值实验生成截断Karhunen–Loéve展开曲线，取n=100、m_i∈[25,40]、50个等距评估点，比较PenLS、PenHuber、PenLAD、SmLAD和LocalHuber。样本来源为模拟数据，无外部队列。

研究结果：
2 稳健惩罚样条估计量：定义样条空间S_K^p([0,1])和O样条惩罚；Proposition 1在ρ连续、非减、随|x|无界、K+p≤N及K+p个不同设计点满足B_j,p(T_sj)>0时，证明最小化存在且可测，覆盖λ∈[0,∞)，条件极小。
3 渐近理论：
3.1 预备知识：在(A1)下目标凸；例|·|、平方、Huber；以惩罚加权内积构造RKHS；Lemma 1给出核表达；Lemma 2建立非渐近概率界，连接μ?_n与样条逼近s_μ0，推出OP(C_n^1/2+K^?j)。
3.2 主要结果：在A2–A7（节点准均匀、误差过程iid、抽样点密度有界且独立、ψ局部Lipschitz、均方Lipschitz、Fisher一致性）及K、λ条件下，Theorem 1给出L₂风险OP(n^?1+(nm)^?1min(λ^?1/(2r),K)+K^?2j+min(λ,λ²K^2r))。大节点K≥λ^?1/(2r)风险含(nmλ^1/(2r))^?1，小节点含(nm)^?1K和λ²K^2r；临界断点K≈λ^?1/(2r)。适当选取可达最优率，甚至参数率n^?1，即使离散采样。
4 实际实现：设计矩阵B和惩罚矩阵P；IRLS；K=min(#{distinct T_ij},35)；GCV选λ；GCV最小化子的理论性质在FDA中未知。
5 估计性能与计算时间：模拟比较表明，轻尾噪声df≥5时PenLS略优但差异小，PenHuber可匹配或超过；重尾或Cauchy时稳健估计明显更好，PenLS不可靠；LocalHuber多场景与PenHuber相当但计算更慢且偶有收敛问题；PenLAD对μ₁与SmLAD相近，对μ₂优于SmLAD；SmLAD因基函数多、矩阵大而计算显著更慢，说明超过饱和点增加基函数不改善精度甚至损害数值稳定性。

讨论与结论：本文为下秩惩罚样条稳健位置估计提供理论与实用依据；温和假设下理论最优，数据稠密但不必完全观测时可达参数率；实践中稳健性匹配或超过现有方法且大幅降低计算负担，适用于稀疏或稠密函数数据。结论部分可译为：本文为一类具有灵活节点和惩罚的下秩惩罚样条估计量提供了理论与实用动机；在温和假设下，这些估计量理论最优，且当数据密集但不必完全观测时达到参数率；实践中，所提估计量匹配或超过现有方法的稳健性，同时相对其主要竞争方法显著降低计算负担，因而适合多种函数型数据集。该工作也开启未来研究方向，尤其是离散采样函数型数据的主成分分析；由于估计问题可写成与文中的惩罚目标类似的形式，研究人员预计所发展方法与洞见可自然推广，并计划在后续工作中推进。