适用于变系数模型的自适应鲁棒估计方法

《Computational Statistics & Data Analysis》：Adaptive Robust Estimation for Varying Coefficient Models

　　### 摘要

本文开发了一种针对变系数模型的自适应鲁棒估计框架，该框架采用指数平方损失函数，能够有效抵抗极端观测值和重尾误差分布的影响。与传统方法不同，该方法不依赖统一的平滑参数，而是根据系数特征选择自适应的带宽，从而实现局部最优的平滑效果并提高统计效率。通过结合局部核加权估计方法和迭代加权最小二乘算法，我们得到了一种鲁棒的估计量，它在标准规则条件下既能有效限制异常值的影响，又能保持高效率。理论结果验证了该估计量的一致性和渐近正态性，并提出了一种数据驱动的程序来选择与指数平方损失相关的调整参数，以确保其在实际应用中的高效性能。自适应带宽机制还能根据系数函数的异质性平滑特性进行调整，实现良好的偏差-方差权衡。基于波士顿住房数据和真实世界自行车共享使用数据集的蒙特卡洛模拟与实证分析表明，与现有竞争方法相比，该框架在鲁棒性、估计精度和预测性能方面均有显著提升。

### 1. 引言

变系数模型（VCMs）作为一种强大而灵活的统计建模工具，因其能够捕捉协变量与响应变量之间的动态关系而受到重视。与传统假设回归系数恒定的参数模型不同，VCMs允许系数函数根据索引变量平滑变化，从而适应基础数据结构中的局部波动。这种灵活性使得VCMs在经济学、金融学、流行病学和环境科学等众多应用中尤为重要，因为在这些领域中，回归关系往往表现出时间、空间或亚群体的异质性（Fan和Zhang，1999；Fan和Zhang，2008；Park等人，2015）。例如，在流行病学中，环境污染物对健康结果的影响可能因不同人口群体而异，这就需要一种能够捕捉这种结构变化的建模方法。VCM的一般形式表示为：

$$
Y = \sum_{j=1}^{p} \alpha_j(U_i)X_j + \epsilon
$$

其中$Y$是响应变量，$X_j$代表协变量，$U_i$是控制回归系数平滑变化的索引变量，$\{\alpha_j(U_i)\}_{j=1}^{p}$是未知的平滑系数函数，用于捕捉协变量对响应变量的不同影响。误差项$\epsilon$假设与协变量独立，并通常遵循均值为零的分布。在协变量中加入常数项可以自然地引入截距函数，使基线响应水平随$U_i$动态变化。

VCM的估计主要依赖于均值回归方法，通过基于核的局部平滑技术来最小化平方误差损失（参见Cai等人，2000a；Fan和Zhang，1999；Hastie和Tibshirani，1993；Huang等人，2004；Wu等人，1998；Zhang和Lee，2000等）。同时，也有大量文献将变系数建模扩展到经典均值回归框架之外，特别是在指数族分布下通过最大似然估计系数函数，或针对时间序列数据采用基于似然的公式（参见Hu等人，2023；Ke等人，2016；Lei等人，2016；Xue，2024；Zhou等人，2024；Dunker等人，2025）。尽管这些方法有所进展，但由于计算上的便捷性，基于最小二乘的VCMs仍被广泛使用；然而，它们对异常值敏感，在非正态或重尾误差情况下效率较低。为了解决鲁棒性问题，提出了分位数回归和Huber回归等替代估计方法（参见Andriyana等人，2014；Honda，2004；Kim，2007；Kong等人，2025；Lin等人，2025；Zhou等人，2023等）。然而，分位数回归在计算上可能要求较高，并且当误差分布对称时效率可能较低。Huber估计通过最小化一种混合损失函数实现鲁棒性——对于小残差它表现得像均方误差损失，但对于大残差则转换为均绝对误差损失——但这会在正态分布数据中牺牲效率。

鉴于这些挑战，本文提出了一种基于Wang等人（2013）引入的指数平方损失函数的VCM鲁棒估计框架。指数平方损失函数定义为$L_{\gamma}(t) = 1 - e^{(-t^2/\gamma)}$，其中$\gamma$是一个鲁棒性调整参数，用于控制极端残差的权重下降程度（见图1右侧）。与传统最小二乘估计不同，后者对所有残差赋予相同权重，指数平方损失函数本质上抑制了极端值的影响，特别适用于处理异常值和污染数据。在具有重尾误差分布或污染观测值的情境中，这种鲁棒性尤为宝贵。此外，与Huber损失或分位数回归等标准鲁棒方法不同，后者通常需要在效率和鲁棒性之间进行权衡，指数平方损失函数在广泛的误差分布范围内同时实现鲁棒性和高效率。具体而言，它能动态适应不同的误差结构，在标准高斯假设下减少重尾误差的影响并保持统计效率。其平滑且可微分的特点便于计算优化，确保迭代估计过程的稳定收敛。与均值绝对误差损失或分位数回归中使用的检查损失等非平滑损失函数不同，指数平方损失的平滑结构允许使用迭代加权最小二乘和其他基于梯度的优化算法进行高效数值实现。由于这些优势，指数平方损失函数在统计文献中受到了广泛关注，用于构建多种应用中的鲁棒估计量（参见Cai等人，2022；Liu等人，2013；Lv等人，2015；Song等人，2021；Wang和Lin，2016；Wang等人，2023）。这些研究强调了其在处理复杂数据和减轻异常值影响方面的多功能性。

### 2. 自适应鲁棒估计

本节介绍了所提出的VCM自适应鲁棒估计框架，该框架结合了指数平方损失函数，以抵抗极端值和重尾误差的影响，同时保持统计效率。与依赖最小二乘估计并强制对所有系数函数使用统一带宽的传统方法不同，我们的方法引入了一种灵活的自适应估计策略，为每个系数函数动态选择不同的带宽，以适应平滑度的变化并优化偏差-方差权衡。这种自适应带宽选择机制根据每个系数函数的局部平滑特性调整平滑参数，确保平滑系数函数以更高的效率被估计，而变化较大的组分则保留局部适应性，防止过度平滑。我们在温和的规则条件下证明了所提估计量的一致性和渐近正态性。为了降低计算复杂性，我们提出了一种数据驱动的程序来选择指数平方损失中的鲁棒性调整参数和自适应带宽。通过结合迭代加权最小二乘算法，我们的方法即使在存在重尾误差分布或污染数据的情况下也能确保稳定且计算高效的收敛。为了评估所提方法的实证性能，我们进行了多种误差结构下的蒙特卡洛模拟，证明了其鲁棒性和相对于其他估计技术的优越估计精度。此外，我们将该方法应用于波士顿住房数据和真实世界自行车共享使用数据集，以证明其实际效用。

本文的其余部分结构如下：第2节介绍方法论框架，详细阐述模型构建、指数平方损失函数和开发的估计程序；第3节建立所提估计量的理论属性，包括其一致性和渐近分布，并讨论调整参数和自适应带宽的选择；第4节通过蒙特卡洛模拟和对波士顿住房数据集及自行车共享使用数据集的应用来评估方法的实证性能；第5节总结本文。所有技术证明附在附录中。

### 2. 自适应鲁棒估计

本节介绍了所提出的VCM自适应鲁棒估计框架，该框架结合了指数平方损失函数以减轻极端值和重尾误差分布的影响。为了解决系数函数的异质平滑问题，我们开发了一种灵活的自适应估计策略，动态调整每个函数的平滑程度，确保偏差和方差之间的最佳平衡。估计过程采用局部核加权近似，并通过迭代加权最小二乘算法进一步优化计算稳定性和效率。

#### 2.1. 鲁棒模型框架

设$\{(Y_i, U_i, X_{i1}, \cdots, X_{ip}\}_{i=1}^n$是从(1.1)中独立同分布抽取的样本。相应的样本表示为：

$$
Y_i = \sum_{j=1}^p \alpha_j(U_i)X_{ij} + \epsilon_i
$$

其中系数函数$\{\alpha_j(U_i)\}_{j=1}^p$可能具有不同的平滑程度。为了在保持估计效率的同时提高鲁棒性，我们采用了指数平方损失函数（Wang等人，2013），该函数能有效减轻极端观测值的影响。指数平方损失函数的定义为：

$$
L_{\gamma}(Y_i, U_i, X_i) = 1 - e^{-\frac{(Y_i - \sum_{j=1}^p \alpha_j(U_i)X_{ij})^2}{2\gamma^2}
$$

其中$\gamma$是一个鲁棒性调整参数，用于控制大残差的权重下降程度（见图2左侧）。与传统的均方误差损失函数不同，后者对所有残差赋予相同权重，因此容易受到极端值的影响，而指数平方损失函数自然地抑制了大残差的影响，从而提高鲁棒性。具体来说，尽管均方误差损失对大残差进行二次惩罚，但指数平方损失会逐渐减小其影响，确保极端观测值不会不成比例地扭曲参数估计。此外，鲁棒估计器的一个重要特性是它们的影响函数，该函数衡量估计器对数据中小扰动的敏感性。损失函数的影响函数与其一阶导数成正比，反映了估计器受异常值影响的程度。在最小二乘均值回归的情况下，影响函数与残差线性相关，这意味着极端值对估计器有不受限制的影响。相比之下，指数平方损失函数的影响函数由其一阶导数 Lγ(1)(t)=2tγ2exp(?t2/2γ2) 给出，该函数对大残差进行指数级衰减（图2-右侧图）。这一性质确保了极端值对估计器的影响逐渐减小，使得所提出的方法特别能够抵抗异常值和重尾误差分布的影响，同时在标准误差结构下保持统计效率。

注释2.1 指数平方损失 Lγ(u)=exp(?u2/γ) 引导出一个完全下降的影响函数，该函数迅速抑制了大残差的贡献。因此，它比有界影响损失（如Huber损失或Tukey双平方损失）提供了更强的抗极端污染能力。当误差分布是对称但重尾的，或者当少量观测值可能被严重污染时，这种损失特别有利，因为其影响是指数级而非多项式级减少的。调整参数 γ 决定了开始衰减的残差大小；较小的值提供更大的鲁棒性，而较大的值在轻尾误差下提高效率。与依赖固定鲁棒化常数的传统M估计器不同，γ 是以数据自适应的方式选择的。第3节确立了最优选择可以最小化估计器的渐近方差，并且仅取决于误差项的条件分布，从而确保数值稳定性并减少对样本大小的敏感性。尽管可以采用其他下降M估计器（例如Hampel或双平方类型权重），但它们的调整参数不允许方差最小化选择规则，并且在有限样本中通常更敏感，这使得指数平方损失在当前情境下特别适合。

下载：下载高分辨率图像（262KB）
下载：下载全尺寸图像

图2. 指数平方损失函数和影响函数

由于系数函数 {αj(U)}j=1p 是未知的，我们使用局部线性近似在给定点 U0 附近对其进行近似。具体来说，对于偏离 U0 较小的情况，我们使用一阶泰勒级数近似 αj(U)≈αj(U)+αj'(U)(U?U0)=aj+bj(U?U0)，其中 aj 代表 U0 处 αj(U) 的局部估计值，bj 捕捉 αj(U) 的局部变化率。将这个展开式代入VCM后，我们得到局部近似模型（2.3）Yi≈∑j=1p(aj+bj(Ui?U0))Xij+εi。这种转换将平滑系数函数 {αj(U)}j=1p 的估计简化为局部参数 aj 和 bj 的估计。为了估计 aj 和 bj，我们最小化核加权指数平方损失函数（2.4）Q({aj,bj}j=1p)=1/n∑i=1n[1?exp(?(Yi?∑j=1p(aj+bj(Ui?U0))Xij)2/2γ2)]Kh(Ui?U0)，其中 Kh(Ui?U0)=1/hK(Ui?U0h) 是一个核函数，它对靠近 U0 的观测值赋予更高的权重，h 是控制平滑程度的带宽。得到的估计量分别表示为 a?j=α?j(U0) 和 b?j=α?j'(U0)。通过积分指数平方损失函数，这种表示有效地减轻了极端残差的影响，提高了鲁棒性，同时保持了效率。

（由于公式中的指数项，（2.4）的优化问题是非线性的，直接最小化很有挑战性。为了高效获得局部系数 α?j(U) 和 α?j'(U)，采用了迭代加权最小二乘（IRLS）算法。在每次迭代中，观测值被赋予取决于其残差大小的权重，以便极端观测值对估计的影响逐渐减小，而中心观测值保持其全部贡献。这使得算法在数值上稳定且计算效率很高，因为每次更新都简化为求解复杂度为 O(np2) 的加权最小二乘系统。由于权重更新可以用封闭形式表示，该算法避免了通常与非线性优化相关的计算负担。完整的过程见算法1。）

与传统的鲁棒方法（如Huber回归或分位数回归）相比，基于指数平方损失的IRLS框架具有几个优势。Huber损失引入了针对小值和大值的不同制度的分段形式，需要特定情况的更新，并可能在数值优化中产生不连续性。分位数回归虽然具有鲁棒性，但涉及非平滑优化，通常计算量较大。相比之下，指数平方损失保持了统一的平滑函数形式，确保了权重的连续变化、平滑的目标梯度以及改进的数值稳定性。所得算法结合了加权最小二的计算简单性和下降M估计器的鲁棒性属性。）

注释2.2 算法1中的权重函数 ωi 来自指数平方损失 Lγ(r)=1?exp(?r2/2γ2) 的得分函数，其导数为 ψγ(r)=Lγ'(r)=rγ2exp(?r2/2γ2)。这导致了IRLS权重 ωi∝exp(?ri2/2γ2)，使得中心观测值几乎保持全部权重，而大残差被指数级衰减。这种选择在理论上有两个关键动机：（i）下降性：随着 |r| → ∞，影响函数 ψγ(r) 趋于零，从而完全抑制了极端异常值，提供了比Huber损失（其对大残差的影响不为零）更强的尾部鲁棒性；（ii）局部效率：对于小残差，ψγ(r) ≈ r，与最小二乘的影响函数相匹配，确保在轻尾或高斯误差下的高效率。因此，得到的权重 ωi 产生了平滑且连续的影响过渡，避免了硬阈值并促进了稳定的IRLS更新。其他鲁棒加权方案（如Huber权重、Tukey双平方权重或逻辑权重）也有其局限性，即Huber权重不是下降的；双平方权重需要不连续的截断，可能会破坏尾部行为；逻辑权重对极端污染的衰减较弱。相比之下，指数平方权重是连续的、可微分的、没有硬截断，并由单一调整参数 γ 控制，使其特别适合本文中开发的自适应估计框架。）

下载：下载高分辨率图像（175KB）
下载：下载全尺寸图像

算法1. 使用指数平方损失的迭代加权最小二乘

为了建立算法1的收敛性质，我们施加以下规则条件：
A1 核函数 K(·) 是对称的、非负的，并满足 ∫K(u)du=1。
A2 局部设计矩阵 XTWX 是非奇异的，其最小特征值有界且不接近零。
A3 由算法1生成的权重矩阵序列 W(r) 满足 W(r) → W* 随着 r → ∞，其中 W* 是收敛时的稳态权重矩阵。
A4 映射 g(θ)=(XTW(θ)X)?1XTW(θ)Y 在真实参数 θ* 的邻域内是局部Lipschitz连续的。
A5 初始估计 θ(0) 通过局部线性最小二乘获得，满足 ∥θ(0)?θ*∥<δ0 对于某个足够小的常数 δ0> 0。

这些条件确保了加权最小二乘更新的适定性和迭代的稳定性。条件A1对核函数的无偏局部近似提出了标准要求（Cai等人，2000a；Fan和Zhang，1999）。条件A2防止局部设计矩阵的奇异性，保证了局部线性系数的可识别性。条件A3确保权重更新稳定，这对于建立算法的单调性和收敛性至关重要（Rousseeuw和Croux，1993）。条件A4控制映射 g(θ) 的规则性，允许使用牛顿型收敛论证。条件A5要求初始估计量位于真实参数的吸引域内，这是迭代加权优化程序的标准假设（Wang等人，2013）。在条件A1-A5下，算法的收敛性质在以下定理中得到了总结。

定理2.1 设 {θ(r)}=(a1(r),b1(r),?,ap(r),bp(r))T 表示由建议的算法1生成的参数估计序列。在规则条件A1-A5下，建议的算法：（i）单调减少目标函数Q(θ)；（ii）收敛到唯一的全局最小化器 θ*，即 limr→∞θ(r)=θ*；（iii）至少表现出超线性收敛，即 ∥θ(r+1)?θ*∥≤C∥θ(r)?θ*∥1+δ 对于某个常数 C 和小 δ > 0。

定理2.1 确立了建议算法的收敛性质，保证了计算稳定性和效率。第一个结果保证了目标函数的单调递减，防止了优化过程中的振荡或发散。第二个结果确认了全局收敛到唯一最小化器 θ*，鉴于指数平方损失函数在不同 γ 值下的潜在非凸性，这一点至关重要。重要的是，权重矩阵 W(r) 在稳定极限下稳定，加强了估计过程的一致性。值得注意的是，超线性收敛速率意味着估计误差以加速的速度减少，显著减少了达到高精度解所需的迭代次数。这种快速收敛，加上权重函数的自适应性质，确保了算法的计算效率，同时有效地减轻了极端残差的影响。

2.2. 自适应估计

上述估计框架假设所有系数函数 {αj(U)}j=1p 都使用相同的带宽 h。然而，这种假设是有限制的，因为系数函数可能表现出不同的平滑度，导致估计效率低下。具体来说，沿着 U 平滑变化的系数函数受益于较大的带宽以减少方差，而具有尖锐局部波动的函数需要较小的带宽来准确捕捉细微变化。对所有系数函数应用统一的带宽可能导致快速变化的组件过度平滑，而对平滑函数则欠平滑，最终导致估计精度不高。为了克服这一限制，我们提出了一种灵活的自适应估计策略，根据每个系数的局部平滑性质动态分配不同的带宽。这种自适应鲁棒估计框架有效地平衡了每个函数的偏差-方差权衡，提高了估计精度，同时保持了对抗异常值和重尾误差分布的鲁棒性。

自适应估计框架的核心思想是使用加权展开在局部近似 αj(U)，同时保持其整体全局结构。为此，我们引入了一个加权展开，确保局部估计和全局估计之间的平滑过渡。具体来说，我们将 αj(U) 表达为（2.5）αj(U)=K(U?U0hj)αj(U)+[1?K(U?U0hj)]αj(U)，其中 hj 表示与第 j 个系数函数相关的带宽。这种分解确保了估计在局部保持自适应性，同时利用了全局信息。在实际实现中，当 U 接近 U0 时，我们使用局部线性近似 αj(U)，得到（2.6）αj(U)≈K(U?U0hj)[aj+bj(U?U0)]+[1?K(U?U0hj)]αj(U)。这种表达方式使每个系数函数能够适应其固有的平滑水平，从而优化了偏差-方差权衡。特别是当 U 在 U0 的局部邻域内时，近似简化为线性函数，确保了高效估计。相反，当 U 在邻域外时，估计依赖于原始函数 αj(U)，结合了整个数据集的信息。通过有效地结合局部适应性和全局估计，这种方法确保所有可用观测值都对 αj(U0) 的估计有所贡献，同时保持了模型的灵活性。将此展开式代入原始模型后，我们得到以下变换表示（2.7）Y?i=∑j=1pK(Ui?U0hj)[aj+bj(Ui?U0)]Xij+εi，其中调整后的响应变量定义为（2.8）Y?i=Yi?∑j=1p[1?K(Ui?U0hj)]αj(Ui)Xij。这种转换有效地将响应变量居中，同时保持了原始模型结构，从而允许估计过程适应系数函数之间的异质平滑程度。为了高效估计模型参数，我们最小化从指数平方损失函数导出的加权全局目标函数（2.9）?({aj,bj}j=1p)=1/n∑i=1nLγ(Y?i?∑j=1pK(Ui?U0hj)[aj+bj(Ui?U0)]Xij)，其中得到的估计量分别表示为 a^j=α^j(U) 和 b^j=α^j'(U)。调整参数 γ 和自适应带宽 {hj}j=1p 在平衡鲁棒性和估计效率方面起着关键作用。第3节概述了这些参数的系统数据驱动选择过程。然后使用建议的迭代加权最小二乘算法实现估计过程，该算法确保了稳定和计算效率的收敛。

在本节中，我们建立了通过最大化基于指数平方损失函数的目标函数 ?({aj,bj}j=1p) 获得的估计器的收敛速率和渐近性质。为了描述损失函数的二阶性质，我们定义了期望曲率度量 E(U0,γ)=E(?2/?ε2Lγ(ε)∣U=U0) 和 X(U0,γ)=E((?/?εLγ(ε))2∣U=U0)。此外，我们引入了系数函数向量及其二阶导数，表示为 α(U0)=(α1(U0),?,αp(U0))T 和 α'(2)(U0)=(α1'(2)(U0),?,αp'(2)(U0))T。为了量化协变量之间的依赖结构，我们定义了预测器乘积矩阵的条件期望 ejk(U0)=E(XjXk∣U=U0)。不失一般性，我们引入了权重积分 wmjk=∫?11K(t) K(hjhkt)tmdt 对于 k,j=1,?,p，它捕捉了不同带宽下核权重之间的相互作用。使用这些定义，我们构建了结构化权重矩阵（3.1）U(m)=[wm11e1?(U0)wm??e??(U0)?wm?pe?p(U0)wm?1e??(U0)(h?h?)m+1wm??e?2(U0)(h?h?)m+1?wm?pe?p(U0)(h?h?)m+1????wmp1ep?(U0)(hph?)m+1wmp?ep?(U0)(hph?)m+1?wmppepp(U0)(hph?)m+1]。这个矩阵考虑了系数函数之间的差异带宽效应，确保了估计过程在局部保持自适应的同时结合了全局信息。为了确保所提出估计器的理论有效性，我们施加了带宽层次结构，满足 h1 ≤ h? ≤ ??? ≤ hp，允许根据系数函数的局部平滑性质进行差异平滑。我们接下来介绍了以下规律性条件，这些条件对于建立所提出估计量的渐近性质是必要的。

C1：索引变量U具有有界的支持集，其密度函数f(·)是正的并且可二次连续微分。

C2：变系数函数αj(·)，j=1,?,p，至少可二次连续微分。

C3：核函数K(t)是对称的，并且具有紧凑的支持集[?1,1]。

C4：函数ejk(U0)在U0的邻域内具有有界的二阶导数，并且满足ejk(2)(U0)≠0。

C5：损失函数的曲率项E(U0,γ)和X(U0,γ)在U=U0处连续，并且满足E(U0,γ)<∞。

C6：指数损失函数的矩满足E(?Lγ(ε)?ε∣U=U0)=0、E((?2Lγ(ε)?ε2)2∣U=U0)<∞，并且E(?3Lγ(ε)?ε3∣U=U0)在U=U0处连续。

C7：带宽以可比较的速度增长，即对于所有的j,k=1,…,p，有hj=O(hk)和hk=O(hj)。随着n→∞，对于所有的j，hj→0，并且nh1→∞和nh13→∞。

条件C1保证了索引变量U的行为良好，其密度函数平滑，防止边界效应扭曲局部核估计；参见Cai等人（2000b）。条件C2要求系数函数可二次连续微分，确保我们在基于核的估计中使用的局部线性近似能够充分捕捉底层函数的平滑性质，同时控制偏差项；参见Fan和Zhang（1999）。条件C3强制核函数具有对称性和紧凑的支持集，这是非参数估计中的标准要求，以确保无偏和局部平滑。条件C4确保协变量的条件二阶矩是良好定义的，并且表现出平滑变化，防止估计过程中的奇异性问题，并保证局部信息矩阵的可逆性；参见Kim（2007）。条件C5调节指数平方损失函数的二阶行为，确保对重尾分布的鲁棒性和有利的渐近效率性质；参见Wang等人（2013）。条件C6建立了损失函数矩的平滑性，便于推导渐近分布。对于具有非平滑损失函数的M-估计量，也施加了类似的矩条件；参见Rousseeuw和Croux（1993）。条件C7确保带宽以可比较的速度增长，即在所有的j,k=1,…,p之间有hj=O(hk)和hk=O(hj）。随着n→∞，对于所有的j，hj→0，并且nh1→∞和nh13→∞。

在这些规律性条件下，我们可以建立以下渐近结果。

定理3.1：在规律性条件C1-C7和带宽排序h1≤h2≤???≤hp下，以接近于1的概率，存在一致的最大化器α^(U0)和α^(1)(U0)，使得∥α^(U0)?α(U0)∥=Op((nh1)?1/2+h12)和∥α^(1)(U0)?α(1)(U0)∥=Op((nh13)?1/2+h1)，其中∥·∥表示Rp上的欧几里得范数，即对于向量v=(v1,?,vp)T，∥v∥=(∑j=1pvj2)1/2。

定理3.1建立了所提出估计量及其一阶导数的一致性。Op((nh1)?1/2+h12)的收敛速度由两部分组成：方差项(nh1)?1/2，反映了估计量的随机变异性；以及偏差项h12，它源于局部线性近似。所提出的估计量达到了最优的非参数收敛速度，这意味着在其自适应带宽选择上是极小极大最优的。带宽排序h1≤h2≤???≤hp在控制估计精度方面起着关键作用，确保具有不同平滑度的系数函数能够以适当的灵活性被估计。这种排序允许估计过程自适应地为更平滑的系数函数分配更大的带宽，从而减少估计方差，并为表现出更大局部波动的函数分配更小的带宽，防止过度平滑并保持局部适应性。

定理3.2：在规律性条件C1-C7和带宽排序h1≤h2≤???≤hp下，估计量α^(U0)及其一阶导数α^(1)(U0)满足以下渐近分布：
nh1(α^(U0)?α(U0)?1/2h12)→dN(0,X(U0,γ)E2(U0)f(U0)U(0)?1，
nh3(α^(1)(U0)?α(1)(U0)?1/2h1)U(1)?1U(2)α(2)(U0))→dN(0,X(U0,γ)E2(U0)f(U0)U(1)?1。

定理3.2的第一个结果表明，估计量α^(U0)遵循正态分布，其方差由比率X(U0,γ)/E2(U0)f(U0)决定，这个比率受到权重矩阵U(0)的调节。这种特征突出了指数平方损失函数在确定渐近方差中的作用，确保了鲁棒性同时保持了效率。第二个结果将这种渐近正态性质扩展到一阶导数α^(1)(U0)，其主导偏差为h1阶，其随机波动为Op((nh?3)?1/2)；h?2阶的偏差将需要更高阶的局部多项式拟合或额外的核矩限制，而这在这里没有施加。这种较慢的收敛速度反映了估计导数的内在难度，因为条件C2要求更高阶的平滑性限制才能实现可靠的估计。权重矩阵U(m)在渐近方差表达式中明确出现，表明带宽的异质性在确定估计量的统计效率中起着直接作用。权重矩阵考虑了不同系数函数之间平滑参数的变化，使估计量能够在局部适应性和全局估计精度之间取得平衡。

注释3.1：当对于所有的j,k=1,?,p，hj=hk=h时，上述渐近结果适用于估计量a?j=α?j(U)和b?j=α?j(1)(U)（在2.4中）。在这种情况下，所有系数函数的带宽是均匀的，将结构化的权重矩阵U(m)简化为所有平滑参数都相同的标准形式。这种设置对应于非自适应估计框架，其中每个系数函数都被平滑到相同的程度。

基于上述渐近结果，我们现在讨论调整参数和带宽的选择，这对于优化所提出的估计过程至关重要。指数平方损失函数中的调整参数γ在实现效率中起着关键作用。其选择直接影响估计过程中的权重函数，从而影响估计量的渐近方差。最优的γ选择可以在保持对异常值的鲁棒性的同时最小化估计方差，最终提高统计精度。为了确定最优的γ，我们寻求最小化估计量α^(U0)的渐近方差。根据定理3.2，渐近方差取决于比率X(U,γ)E?2(U,γ)。因此，最优的调整参数通过γopt=argminγ>0X(U,γ)E?2(U,γ)获得。这种公式表明，最优的γ仅依赖于给定U的误差项ε的条件分布，而不是样本量n。由于最优调整参数γopt是通过误差分布的条件矩隐式定义的，因此在实践中需要估计这些量。X(U0,γ)和E(U0,γ)的经验估计器的构造如下：
(3.2)E^(γ)=1/n∑i=1nLγ(2)(ε^i)和X^(γ)=1/n∑i=1n(Lγ(1)(ε^i))2，
其中残差ε^i计算为ε^i=Yi?∑j=1pα^j(Ui)Xij。使用这些经验估计，通过解决(3.3)γ^opt=argminγX^(γ)E^?2(γ)来确定最优调整参数。

为了选择最优的带宽，我们首先选择主要带宽h1。最优带宽h1最小化了渐近均方误差（AMSE），它平衡了估计量的偏差和方差组成部分。让tr(·)表示迹运算符。然后AMSE由下式给出：
(3.4)AMSE(h1)=∥1/2h?2U(0)?1U(2)α(2)(U0)∥2+1/nh1X(U0,γ)E2(U0,γ)f(U0)tr[(U(0))?1]。
关于h1最小化这个表达式可以得到渐近最优带宽：
(3.5)h?,opt=[X(U0,γ)tr[(U(0))?1]nE2(U0)f(U0)∥U(0)?1U(2)α(2)(U0)∥2]1/5。
这个表达式表明，最优带宽取决于系数函数αj(2)(U)的二阶导数，反映了函数的平滑度（Imbens和Kalyanaraman, 2012）。具体来说，关系h?,opt∝(αj(2)(U0))?1/5表明，平滑度较小的系数函数需要更大的带宽来减少方差。相反，表现出更大局部变异性的系数函数需要更小的带宽来保持局部适应性并避免过度平滑。为了量化每个系数函数αj(U)的平滑度，我们引入了平滑度度量Sj={∫?1(αj(2)(u))2du}?1。这个度量作为平滑度指数，其中较大的值表示函数更平滑，较小的值表示系数函数波动更大。平滑度度量有助于跨不同系数函数自适应地选择带宽。具体来说，对于j=2,?,p，我们定义带宽缩放关系为：
(3.6)h?=(SjS?)1/5h?=(∫?1(α?(2)(u))2du∫?1(αj(2)(u))2du)1/5h?。
这种比例调整确保了平滑度较大的系数函数获得更大的带宽，从而减少估计方差，而变化较大的函数被分配较小的带宽以防止过度平滑。

注释3.2：结构化的权重矩阵U(m)以及AMSE的偏差和方差组成部分，是一组所有带宽{hj}j=1p的函数。因此，除非对于所有的j,k，带宽比率hj/hk保持固定，否则仅相对于h1最小化AMSE在理论上是不可行的。然而，在我们的框架中，(3.6)中指定的带宽缩放关系确保了所有带宽都相对于h1成比例变化，从而保持了所有索引对的比率hj/hk。这种比例约束在更广泛的带宽空间内定义了一个一维参数子空间。在这个子空间内，核交互项wmjk=∫K(t)K(hjhkt)tmdt相对于h1保持不变，因此结构化的权重矩阵U(m)保持固定，直到由h1确定的全局缩放。因此，AMSE成为单个参数h1的解析可处理函数，允许在受限带宽范围内进行可解释的最小化。

在实践中，直接估计αj(2)(U)在计算上是具有挑战性的。相反，我们使用基于局部变化的自适应有限差分方法来近似它（Wang和Lin, 2015）。设qj(U)是一个初始估计器，作为αj(U)的代理，让U(1), ???, U(n)表示索引变量的有序值。我们使用中心化的有限差分估计器来近似二阶导数：
(3.7)α^j,k(2)(U(i))=2(qj(U(i+k))?qj(U(i))U(i+k)?U(i)?qj(U(i))?qj(U(i?k))U(i)?U(i?k))/(U(i+k)?2U(i)+U(i?k))，
其中k是一个控制估计窗口的正整数，满足1≤k≤n/2。这个估计器捕捉了局部曲率变化，同时保持了计算效率。一旦获得了局部二阶导数，我们使用经验比率来估计带宽缩放因子sj=(SjS?)1/5：
(3.8)sjk=[∑i=k+1n?k(α^1,k(2)(U(i)))2(U(i+1)?U(i?1))∑i=k+1n?k(α^j,k(2)(U(i)))2(U(i+1)?U(i?1))]1/5，
其中我们使用离散数据点的求和来近似积分∫?1(αj(2)(u))2du，即∫?1(αj(2)(u))2du ≈∑i=k+1n?k(α^1,k(2)(U(i)))2(U(i+1)?U(i?1))。最终的平滑度调整后的带宽缩放因子得到为sj≈max?≤k≤n/2sjk。这种方法通过结合多个候选值并选择最稳健的估计来确保带宽选择的稳定性。通过使用平滑度调整后的带宽，所提出的自适应稳健估计方法依赖于一个主要的带宽参数h1，使其在计算上高效，同时有效地适应了系数函数之间的异质平滑度。

注释3.3：施加上限k≤n/2是为了防止边界效应，通过保证有足够的邻近点用于对称差分，从而在数据范围的边缘最小化偏差。这个约束还保持了二阶导数估计的局部性，允许准确检测曲率变化而不引入过度平滑。允许k任意大将减少有效的内部估计数量，导致方差增加和可靠性损失。此外，限制k可以防止过度的计算负担，同时在鲁棒性和效率之间保持平衡。因此，选择k≤n/2提供了最佳的折中，既保持了统计准确性，又确保了自适应估计框架中的计算效率。

注释3.4：为了推导(3.7)，我们使用泰勒级数展开在Ui+k和Ui?k点近似函数qj(U)。定义δ为连续观测值之间的间距，即δ=Ui+1?Ui。然后，在Ui+k和Ui?k处展开qj(U)得到：
qj(Ui+k)=qj(Ui)+kδqj(1)(Ui)+(kδ)22qj(2)(Ui)+(kδ)36qj(3)(Ui)+O(δ?)，
qj(Ui?k)=qj(Ui)?kδqj(1)(Ui)+(kδ)22qj(2)(Ui)?(kδ)36qj(3)(Ui)+O(δ?)，
其中qj(c)(Ui)表示在Ui处评估的qj(U)的c阶导数。为了获得二阶导数的有限差分近似，我们计算前向和后向差分商：
qj(Ui+k)?qj(Ui)Ui+k?Ui=qj(Ui+k)?qj(Ui)kδ=qj(1)(Ui)+kδ2qj(2)(Ui)+O(δ2)，
qj(Ui)?qj(Ui?k)Ui?Ui?k=qj(Ui)?qj(Ui?k)kδ=qj(1)(Ui)?kδ2qj(2)(Ui)+O(δ2)。
注意(qj(Ui+k)?2Ui+Ui?k)=2kδ。通过从前向差分中减去后向差分，我们可以得到二阶导数的有限差分近似，直接得到(3.7)。

为了确定最优带宽h1，我们使用基于交叉验证（CV）的数据驱动选择标准，该标准旨在近似估计量的预期预测损失。给定指数平方损失函数，CV标准定义为：
(3.9)CV(h1)=1/n∑i=1nLγ(Yi?∑j=1pα^j(?i)(Ui)Xij)，
其中α^j(?i)(Ui)表示通过从估计过程中排除第i个观测值获得的留一法估计器。这个标准通过选择最小化预测误差的带宽来有效平衡模型复杂性和估计精度。为了实际实施，我们构建了一个候选带宽网格H={h?(1),h?(2),?,h?(M)}，其中值是根据理论渐近速率h?∝n?1/5选择的，这是从AMSE分析中得出的。然后选择最优带宽为h^1,opt=argminh?(m)∈HCV(h1(m)), m=1,?,M。因此我们有以下定理，证明了CV选择程序的有效性。

定理3.3：在规律性条件C1-C7下，CV带宽估计量h^1,opt满足渐近收敛速率h^1,opt?h1,opt=Op(n?3/10)。
定理3.3建立了CV带宽估计量的渐近收敛速率，确保了其在选择h1时的一致性和最优性。Op(n?3/10)的收敛速率来自于平衡方差组分Op((nh1)?1/2)和偏差组分Op(h12)，导致最优带宽缩放h1∝n?1/5。这个结果保证CV带宽在渐近上等同于理论最优，从而保持了估计量的效率。与最小二乘均值回归不同，后者由于对极端值的敏感性，CV标准可能不稳定。指数平方损失函数通过降低大残差的权重来减轻这种不稳定性，确保选择过程的平滑进行。此外，由于带宽选择误差的阶数低于主要收敛速率Op((nh1)?1/2+h12)，α^(U0)的渐近正态性不受影响，这证实了在估计的带宽下统计推断的有效性。这突显了CV程序在自适应带宽选择中的可靠性，同时保持了计算效率和鲁棒性。

4. 数值示例
在本节中，我们通过蒙特卡洛模拟和实证数据分析来评估所提出估计器的性能。为了提供全面的比较，我们将我们的方法与不同的替代估计技术进行基准测试，包括使用指数平方损失函数的局部核基估计（表示为Expon，对应于（2.4）、自适应Huber估计（A-Huber）、自适应中位数估计（A-Median）、自适应均值估计（A-Mean）、Huber估计、中位数估计和均值估计。对于所有方法，我们使用高斯核函数K(·)进行平滑处理。

4.1. 蒙特卡洛模拟
为了评估所提出估计方法的有限样本性能，我们基于以下数据生成过程（DGP）进行了一系列蒙特卡洛实验。
DGP 1 我们从模型（4.1）生成数据：Yi=α1(Ui)Xi1+α2(Ui)Xi2+εi=sin(2πUi)Xi1+sin(6πUi)Xi2+εi，其中系数函数sin(2πUi)和sin(6πUi)表现出不同的平滑程度，捕捉到不同系数具有不同局部结构的情景（图1）。协变量(Xi1, Xi2)T来自均值为零、方差为单位1且相关系数为0.5的双变量正态分布。误差项εi来自四种不同的分布，以评估估计器在多种误差结构下的鲁棒性：(i) 标准正态分布N(0,1)，作为基线情景；(ii) 自由度为3的学生t分布t(3)，捕捉具有增加峰度的重尾误差，引入中等程度的异常值；(iii) 标准拉普拉斯分布Lp(0, 1)，其特征是比正态分布更尖锐的峰部和更重的尾部，模拟了偏离中心趋势的更极端情况；(iv) 两个正态分布的混合0.9N(0,1)+0.1N(0,102)，其中10%的数据来自N(0,102)，产生了大量极端异常值。我们考虑样本量n∈{200, 400, 600, 1000}，每种情景重复500次以确保可靠的性能评估。系数函数估计器α^j(·)的准确性使用均值积分平方误差（MISE）进行量化，定义为（4.2）MISE(α^j)=1/500∑s=1/500[1/n∑i=1/n(α^js(Ui)?αj(Ui))^2]，j=1,2，其中α^js(Ui)表示从第st次重复中获得的估计器。
表1中呈现的结果展示了所提出估计器在不同误差分布和样本量下的性能。在标准正态分布（N(0,1)）下，所提出的估计器的表现与自适应均值估计器相当，两者都实现了最低的MISE。这一结果与理论预期一致，因为基于最小二乘的方法在高斯假设下是统计上最优的。然而，随着误差分布偏离正态性，所提出估计器的优势变得越来越明显。基于最小二乘的方法由于对极端值的敏感性而经历了估计误差的显著增加，而所提出的方法保持鲁棒性，在所有重尾和受污染的误差设置下都保持了显著较低的MISE值。这些结果中的另一个重要观察是，自适应估计方法优于其非自适应对应方法。在所有误差分布和样本量下，自适应方法一致地获得了较低的MISE，突显了根据函数平滑度局部调整带宽的好处。这种适应性在实现最佳偏差-方差权衡中起着关键作用，特别是在系数函数表现出不同平滑程度的情况下。在鲁棒估计技术中，所提出的自适应鲁棒估计器始终优于自适应Huber和自适应中位数估计器。这一优势来源于指数平方损失函数，它提供了一种更有效的加权机制，以减轻极端残差的影响，相比之下Huber的损失或基于中位数的方法。相比之下，非自适应鲁棒估计器虽然提供了一定程度的鲁棒性，但由于依赖于固定带宽而表现出效率低下。这些方法未能考虑系数函数平滑度的异质性，导致估计性能不佳。正如预期的那样，随着样本量从n=200增加到n=1000，所有估计方法都有所改善。然而，改进的速度因方法而异。所提出的估计器在估计误差上的减少最为显著，表明其能够有效利用更大的样本量来提高统计效率。

表1. 模拟结果—DGP 1
样本量 200 400 600 1000
α1(·) α2(·) α1(·) α2(·) N(0,1) 对比结果
0.0549 0.0370 0.0264 0.0216 0.0949 0.0731 0.0518 0.0325 0.0643
0.0643 10.0518 0.0470 0.0309 0.1097 0.0909 0.0705 0.0627 0.0582
0.0582 0.0383 0.0298 0.0220 0.0994 0.0775 0.0545 0.0403
0.0692 0.0538 0.0515 0.0422 0.1221 0.0935 0.0748 0.0713
0.0590 0.0443 0.0320 0.0245 0.1074 0.0810 0.0641 0.0467 0.0703
0.0703 10.0570 0.0561 10.0468 0.1278 0.1092 0.0801 0.0760 0.0760
0.0477 0.0365 0.0240 0.0157 0.0900 0.0567 0.0475 0.0301
0.0603 20.0464 0.0424 20.0269 0.1085 10.0847 0.0694 0.0590
t(3) 对比结果
0.0608 0.0515 20.0461 0.0370 0.1188 0.0793 0.0631 0.0534 8
0.0731 60.0695 20.0636 20.0585 30.1389 0.1057 60.0900 0.0786
0.0654 40.0561 70.0501 70.0404 8 0.1239 50.0959 0.0746 60.0666
0.0834 70.0765 30.0714 10.0619 20.1432 10.1257 70.0945 20.0842 5
0.0757 70.0679 80.0597 90.0422 50.0962 70.0767 30.0701
0.0917 60.0802 20.0758 10.0656 30.1534 10.1361 90.1107 10.0947 2
0.0805 10.0708 70.0619 70.0484 30.1285 10.0972 20.0821 30.0737 4
0.1055 30.0906 60.0805 10.0673 40.1602 40.1371 50.1207 30.1012
Lp(0, 1) 对比结果
0.0707 90.0625 20.0401 80.0300 40.1292 40.0997 30.0860 20.0566 2
0.0864 20.0764 90.0642 80.0512 90.1717 10.1550 90.1367 10.1006 3
0.0722 50.0677 50.0422 30.0335 20.1504 50.1314 20.1088 6
0.0923 20.0837 20.0746 80.0671 70.1871 60.1682 90.1461 70.1072 6

图3中的箱形图展示了估计器α^j(·)在不同误差分布和样本量下的MISE分布。它显示，所提出的自适应鲁棒估计器一致地实现了较低的MISE，并且与替代估计方法相比表现出更少的变异性，特别是在t(3)和拉普拉斯分布等重尾误差下。随着样本量的增加，所有方法都由于采样变异性的减少而显示出估计精度的提高。然而，所提出的估计器显示出最快的误差减少速率，突显了其在利用更大样本量以提高统计效率方面的效率。这一发现与渐近理论一致，证实了自适应估计框架的优越效率。此外，该图强调了自适应带宽选择的好处，因为在所有情景下，自适应估计器在MISE方面始终优于其非自适应对应方法。这一结果进一步强化了局部平滑调整的重要性，它允许估计器有效适应系数函数的不同平滑程度。

下载：下载高分辨率图像（409KB）
下载：下载全尺寸图像

图4显示了不同估计方法在不同误差分布下获得的估计系数函数。由于空间限制和观察到的模式相似性，我们仅报告样本量n=600和n=1000的结果。该图表明，随着样本量的增加，所有方法都产生了更准确的系数函数估计。这与渐近理论一致，即更大的样本量导致估计方差减小和精度提高。然而，在重尾误差分布下，传统估计器与真实函数的偏差明显，特别是在波动较大的区域。相比之下，所提出的自适应鲁棒估计器在所有设置下都与真实函数紧密吻合，证实了其优越的鲁棒性和适应性。使用指数平方损失函数确保了极端残差的权重降低，防止了估计精度的失真。值得注意的是，自适应方法始终优于其非自适应对应方法，特别是在捕捉α2(U)=sin(6πUi)Xi2的变异性方面，后者表现出更高的频率波动。这突显了自适应带宽选择的重要性，因为固定带宽方法难以有效平衡偏差和方差。

下载：下载高分辨率图像（1MB）
下载：下载全尺寸图像

图4. 不同系数函数的拟合曲线—DGP 1

DGP 2 我们考虑了第二个设计，其中系数函数表现出非线性但平滑的结构形状，与DGP 1中的振荡模式有很大不同。具体而言，数据来自（4.3）Yi=α1(Ui)Xi1+α2(Ui)Xi2+εi=11+exp(?6(Ui?0.5))Xi1+arctan(3(Ui?0.5))Xi2+εi，其中α1(·)是一个逻辑Sigmoid函数，α2(·)是一个反正切变换。这两个函数生成了具有不同曲率特性的非线性单调关系，为DGP 1提供了一个补充设置，超越了周期性变化，代表了在实证应用中常见的更广泛的平滑模式。所有其他实验设置，包括协变量分布、样本量和误差结构，都与DGP 1中的相同。

表2中报告的MISE结果显示，所提出的估计器在DGP 2的非线性系数结构下继续表现出优越的性能。Sigmoid和反正切函数在域上生成了平滑但不均匀的曲率，创建了逐渐和急剧的结构变化区域。尽管复杂性增加，指数平方损失仍然保持了强大的鲁棒性和高效率，在每种非正态误差分布和样本量下产生了最低的MISE。自适应版本的Huber、中位数和均值估计器也优于它们的非自适应对应方法，这突显了在系数函数显示异质曲率时局部调整平滑度的重要性。相比之下，固定带宽估计器倾向于在快速过渡区域过度平滑或在平坦区域引入过多的变异性，导致估计误差增加。在这些性能差距在重尾或受污染的误差分布下变得更加明显，所提出的方法通过同时降低异常观测值和自动适应局部平滑度的变化而保持了显著的优势。

表2. 模拟结果—DGP 2
样本量 200 400 600 1000
α1(·) α2(·) α1(·) α2(·) N(0,1) 对比结果
0.0312 10.0214 30.0159 10.0098 30.0427 10.0295 30.0207 30.0124 7
0.0418 30.0326 10.0252 70.0184 60.0513 70.0408 20.0326 70.0245 3
A-Huber 0.0333 90.0248 10.0187 30.0129 40.0456 30.0328 40.0243 50.0171 2
Huber 0.0492 70.0397 10.0341 90.0268 30.0624 30.0523 70.0447 20.0361 8
A-Median 0.0387 20.0291 70.0226 30.0164 10.0512 80.0396 20.0318 30.0254 8
Median 0.0578 60.0492 30.0413 40.0324 90.0716 30.0621 70.0547 3
A-Mean 0.0305 70.0209 10.0143 20.0087 10.0389 10.0271 60.0191 3
Mean 0.0411 50.0308 40.0234 70.0158 10.0506 30.0393 90.0307 10.0221

图5和图6中的图形证据进一步证实了这些发现。箱形图显示，所提出的估计器在重复实验中实现了更低的中位数MISE和显著减少的变异性，反映了在准确性 and 稳定性方面的显著改进。对于n=600和n=1000的拟合系数曲线显示，所提出的方法在整个域内紧密跟踪了真实函数形式，包括接近中点的快速变化区域。相比之下，几种竞争估计器要么过度平滑，要么出现不规则的局部波动，这表明它们在适应曲率变化方面的能力有限。这些模式证实了所提出的程序在系数函数非线性时的可靠性，并且在所有误差设置下继续保持强大的鲁棒性。

下载：下载高分辨率图像（452KB）
下载：下载全尺寸图像

图5. IMSE的箱形图—DGP 2

下载：下载高分辨率图像（866KB）
下载：下载全尺寸图像

图6. 不同系数的拟合曲线—DGP 2

4.2. 实证应用
所提出估计器的实证相关性通过两个代表不同建模环境的真实数据应用进一步评估。第一个应用重新审视了广泛分析的波士顿住房数据集，该数据集表现出显著的社会经济和环境异质性具体来说，从原始数据中抽取了500个带有放回的自助样本（B=500 bootstrap samples）；对于每个样本，重新估计相应的系数函数α^j*(b)(U)。然后使用自助复制之间的经验标准差（(4.5)se^{α^j(U)}=(1B?1∑b=1B[α^j*(b)(U)?αˉj*(U)]2)1/2)来构建逐点置信带α^j(U)±1.96se^{α^j(U)}。这种基于自助法的程序能够自然地适应模型复杂性，为每个系数估计提供可靠的不确定性度量。图7显示了所有竞争方法的估计系数函数及其置信带。估计的系数函数显示出不同程度的平滑性，有些在U范围内逐渐变化，而其他一些则表现出更尖锐的曲率或局部波动。这些结构差异强调了使用自适应带宽程序的重要性，而不是对所有系数强制执行相同的平滑程度。估计结果还揭示了房价与几个社会经济变量之间存在明显的非线性关联。例如，与LSTAT相关的系数在中低收入社区急剧下降，然后在最弱势地区趋于稳定，表明社会经济贫困的增加带来的边际效应正在减弱。RM的系数函数表明了对住房价值的强烈且持续的正向贡献，反映了较大房屋的经济溢价。在所有协变量中，所提出的自适应稳健估计器提供了相对较窄的自助置信带，表明了其平滑性和稳定性。这些特性反映了在异常观测值方面的改进的地方效率和降低的敏感性。非自适应估计器倾向于过度平滑有意义的结构变化区域或引入过多的变异性，这从较宽的置信带中可以看出。经验证据表明，将自适应平滑与指数平方损失结合使用可以在不同的系数模型中显著提高估计精度和不确定性量化。

为了评估不同方法的拟合准确性，我们计算了每种方法的平均绝对误差（MAE）。表4中的结果表明，所提出的估计器始终实现最低的MAE，显示出其以高精度捕捉潜在功能关系的卓越能力。特别是，自适应稳健方法在其非自适应对应方法上显示出显著的改进，突出了允许特定系数平滑的优势。这种自适应策略确保了具有不同复杂性的系数函数使用适当的带宽进行估计，有效地平衡了偏差和方差的权衡。为了评估估计方法的预测性能，我们将数据集随机划分为476个观测值的训练集用于估计系数函数，以及30个观测值的测试集用于样本外评估。这个过程重复500次。预测的平均绝对误差（MAEP）计算为MAEP=500?1∑s=1500[ntest?1∑i|Y^pre,i(s)?Yi(s)|]，其中Y^pre,i(s)表示在sth复制中基于训练数据预测的Yi(s)的值。如表4所示，所提出的估计器始终实现最低的MAEP，优于所有其他估计方法。这一结果强调了所提出的自适应稳健估计框架在捕捉复杂功能关系、减轻异常值影响以及提高估计精度和预测可靠性方面的有效性。非自适应方法系统地显示出更高的MAEP值，这可以归因于它们无法适应局部平滑变化。这些发现加强了自适应稳健估计的实际优势，特别是在变量之间的关系是非线性和异质性的现实世界应用中。

表4. 波士顿住房数据集的拟合和预测性能。

为了进一步评估所提出估计框架的实际优势，我们将所提出的模型应用于华盛顿特区Capital Bikeshare系统2011-2012年度的每日使用记录的自行车共享需求数据集。该数据集包含了影响短期城市交通模式的各种气象和日历相关变量。我们的目标是检查每日租赁需求如何对关键环境条件和节假日效应作出反应，允许系数在不同温度水平上平滑变化。主要响应变量是每日租赁数量的对数log(cnt+1)，这有助于减轻右偏度和稳定方差。感兴趣的协变量包括温度（归一化温度）、湿度（hum）、风速（windspeed）和节假日（holiday），所有这些变量在估计之前都进行了标准化。表5报告了这些变量的描述性统计特征。租赁数量显示出很大的变异性，每天从22到8714不等，反映了季节性和气象波动的影响。温度在样本中变化很大，而假日指标显示假日观测的比例相对较小。这些特征表明需要灵活的建模工具来适应不同环境条件下用户行为的异质性。

为了便于实施，索引变量被定义为归一化温度U=temp，缩放到区间[0,1]。温度是一个合适的选择，因为它是室外活动和自行车租赁行为的主要决定因素之一。探索性分析进一步揭示了温度与其他环境协变量之间的强非线性相互作用，表明U非常适合揭示异质的行为反应。变系数模型被指定为（4.6）Yi=αtemp(Ui)Xi1+αhum(Ui)Xi2+αwind(Ui)Xi3+αholiday(Ui)Xi4+εi，其中四个温度依赖的系数函数描述了气象条件和日历效应如何影响自行车租赁需求。图8展示了所有竞争估计器的估计系数函数及其逐点自助置信带。所提方法产生的功能估计清楚地显示了自行车租赁需求与关键气象变量之间的非线性关系。温度系数在中等温度水平上急剧增加，反映了随着条件变得舒适，骑自行车活动的迅速增长，然后在极端温度下逐渐趋于平稳，这与温度过高或过低时边际收益的减少一致。湿度与租赁数量的主要负相关，随着温度的升高，这种效应变得更加不利，反映了在温暖潮湿条件下户外舒适度的降低。风速显示出异质的影响，微风的影响相对较小，而强风则导致使用量显著下降。节假日的系数在不同温度水平上有明显的差异，表明假日引起的行为变化与天气条件相互作用，影响了租赁模式。估计的系数函数也显示出异质的平滑性，有些随着温度逐渐演变，而其他一些则表现出局部曲率或更明显的结构变化。所提出的自适应稳健估计器有效地适应了这些差异。它的轨迹保持平滑 yet 灵活，既捕捉到与温度相关的广泛趋势，也捕捉到数据支持的更微妙的局部特征。相关的自助置信带相对较窄，表明了稳定性的提高和对异常观测值的敏感度降低。竞争的非自适应估计器要么过度平滑结构变化区域，掩盖了重要的行为模式，要么表现出过度的变异性，这从明显较宽的置信带中可以看出。这些对比突出了在模拟现实世界活动中复杂、温度依赖模式时的自适应平滑估计的实际好处。

为了评估估计精度，计算了每个估计器的拟合模型的MAE。通过将数据集重复划分为684个训练观测值和46个测试观测值来评估预测性能。这个随机分割过程进行了500次，并记录了每次复制的MAEP。表6总结了得到的MAE和MAEP值。与波士顿住房应用和模拟研究的结果一致，所提出的估计器在拟合和预测方面都实现了最小的误差。自适应估计器在所有指标上均优于其非自适应版本，强调了在系数函数中适应异质平滑性的重要性。相比之下，非自适应方法显示出更高的MAEP值，反映了在存在非线性、温度依赖行为模式时偏差和方差之间平衡的有效性较差。这些结果加强了自适应稳健估计在实际应用中的实际优势，特别是在变量之间的关系是非线性和异质的情况下。

总结性评论：
本文介绍了一种基于指数平方损失的VCMs的稳健和自适应估计框架。所提出的方法特别适用于条件误差分布是对称或近似对称但可能表现出重尾或污染的情况，以及系数函数显示出异质局部平滑性的情况。在这种情况下，指数损失的递减影响提供了比Huber型损失更强的保护，同时在与大致保持对称性时保持了比基于分位数的方法更高的效率。我们方法的一个关键创新是自适应带宽选择策略，它允许对特定系数进行平滑处理，而不是对所有系数强制应用统一的带宽，从而适应局部曲率的差异并实现了更好的偏差-方差权衡。理论分析在温和的规则性条件下建立了估计器的一致性和渐近正态性，并表明可以通过最小化一个明确的渐近方差标准来选择调整参数γ。这种数据驱动的规则将γ与条件误差分布相关联，而不是与样本大小相关联，并在实现中提供了数值上稳定且实际不敏感的选择。蒙特卡洛模拟证实，所提出的程序在重尾和污染误差下优于现有的竞争方法，基于波士顿住房和自行车共享数据集的实证分析表明，该方法在估计精度和预测性能上都取得了改进。尽管本文侧重于变系数回归模型中的自适应稳健估计，但仍有几个潜在的扩展方向供未来的研究探索。一个可能的方向是在高维环境中探索指数平方损失函数的应用，其中可以结合变量选择技术（如惩罚回归方法）以进一步提高模型的可解释性和稀疏性控制。此外，将该框架扩展到具有依赖数据结构的时间变化系数模型（如在金融和经济应用中遇到的模型）也将是有价值的。在这种情况下，考虑时间依赖性、自相关性和系数函数及误差结构中的非平稳动态至关重要。另一个有前景的途径是通过集成加速技术（如随机梯度方法或分布式优化）来开发针对大规模数据集的计算效率高的算法。我们将所有这些有趣的研究留给未来的调查。