高斯变换建模与分布回归函数的估计

《ECONOMETRICA》：Gaussian Transforms Modeling and the Estimation of Distributional Regression Functions

性别工资差距的分布回归分析：基于高斯变换的灵活建模与优化估计

　　本研究提出了一种灵活的高斯表示方法，用于条件累积分布函数（CDF）的建模和估计，并提供了一个凹似然准则，以选择最优的表示形式。这一框架能够确保模型在有限样本和一般性误设条件下保持单调性，从而在估计过程中避免了传统方法可能带来的问题。通过这种表示方式，我们构建了一个统一的框架，用于对条件密度、累积分布和分位数函数进行灵活的极大似然估计，并且能够在参数率下实现高效的估计。这种方法在处理条件分布时，提供了比其他非参数方法如核回归更优的有限样本表现，并在实证分析中展现了其在性别工资差距研究中的实际价值。

### 灵活建模与似然估计

在传统的统计分析中，条件密度函数（PDF）和累积分布函数（CDF）的建模往往面临两大挑战。首先，灵活的模型可能包含不符合PDF或CDF定义性质的元素，例如非正的密度值或不满足单调性的累积分布函数。这会导致模型在有限样本中出现不符合实际分布特征的情况，进而影响估计的准确性。其次，极大似然（ML）方法在构建灵活模型时常常面临非凹或无界似然函数的问题，这使得传统的ML方法难以直接应用，因此研究者开发了多种替代方法。此外，非参数方法如核回归虽然能够提供灵活的估计，但其计算复杂度随变量维度增加而迅速上升，导致“维度灾难”问题，限制了其在实际中的应用。

为了解决这些问题，本文提出了一种新的建模思路，即通过高斯变换（GT）对条件CDF进行建模。具体而言，我们利用高斯分位数函数将条件CDF的定义域扩展至整个实数域，从而构造出一种线性但灵活的表示形式。这种表示方式使得条件PDF和CDF能够被表达为已知函数的函数，从而避免了直接建模可能带来的复杂性。此外，通过引入凹似然函数，我们能够在不牺牲灵活性的前提下，确保模型在估计过程中满足单调性约束，并选择最优的模型以逼近真实数据分布。

### 凹似然与模型选择

本文的核心贡献之一是提出了一个基于信息论的凹似然准则，用于在给定的高斯表示模型中选择全局单调的模型。在一般性误设的情况下，这一准则能够确保所选模型是Kullback–Leibler信息准则（KLIC）最优的条件PDF和CDF近似。这意味着在有限样本和实际数据分布不完全匹配模型的情况下，我们仍然能够找到一个接近真实分布的最优模型。这种模型不仅满足PDF和CDF的基本性质，如正性、单调性和单位区间内的范围，而且能够有效应对高维数据带来的挑战。

在这一框架下，我们定义了一个目标函数，其形式为：

$$
\text{Objective Function} = \int \log\left( \frac{1}{\sqrt{2\pi}} \exp\left( -\frac{1}{2} \right) \right) \, dF_Y(y|X)
$$

这一目标函数引入了一个自然的对数屏障函数，确保在优化过程中，模型不会出现非单调的累积分布函数或非正的密度函数。通过这一方式，我们能够将条件CDF的估计转化为一个具有良好收敛性质的优化问题。在理论分析中，我们证明了这一目标函数在满足一定条件的情况下是严格凹的，因此存在唯一的全局最优解。这一性质不仅为模型选择提供了理论依据，也为估计和推断奠定了基础。

### 估计与推断的理论基础

在估计方面，本文构建了一个基于样本的GT回归估计器，并通过假设条件（如独立同分布、参数矩阵的非奇异性和正定性）推导了其渐近性质。我们证明了在满足这些假设的情况下，GT回归估计器具有参数率下的渐近正态性，并且其渐近方差协方差矩阵可以通过样本数据进行估计。此外，我们还考虑了在高维数据下的模型选择问题，提出了一种基于贝叶斯信息准则（BIC）的估计方法，用于选择最优的模型参数。

对于条件PDF和CDF的估计，我们发现基于GT的模型能够有效避免传统方法中的非单调性问题，并且在有限样本中表现出优于其他方法的性能。我们还引入了一种双重形式的估计方法，将原问题转化为一个凸优化问题，从而简化了计算过程。这种双重形式不仅提高了计算效率，还为模型的稳定性提供了保障。此外，我们还验证了这一方法在实际数据中的适用性，例如在性别工资差距的分析中，通过估计条件PDF和CDF，能够直观地展示不同性别在工资分布上的差异。

### 与现有方法的比较

与传统的分布回归方法相比，本文的方法在估计条件CDF时具有更高的灵活性和计算效率。分布回归方法通常将条件CDF视为一个点估计问题，而本文的GT回归方法则能够在整个定义域上进行全局估计，从而避免了点估计可能带来的偏差。此外，本文的方法在处理分位数函数（CQF）时也表现出优势，能够避免分位数曲线交叉的问题，同时保持模型的单调性。

与支持向量机（SVM）方法相比，本文的方法通过直接建模GT而不是限制模型系数为非负值，避免了对潜在更准确的模型进行不必要的排除。此外，本文的方法在经济理论中更容易施加形状约束，例如非增的CDF或非减的PDF，这些约束能够通过GT的参数直接体现，而无需对模型结构进行复杂的调整。

在处理高维数据时，本文的方法相比非参数方法如核回归具有显著优势。核回归在高维情况下容易出现维度灾难，而本文的GT回归方法通过引入线性约束和凹似然函数，能够有效缓解这一问题。此外，本文的方法在处理非线性和非分离的条件分布时表现出更强的适应性，能够在不牺牲模型灵活性的前提下，实现高效的估计。

### 实证应用：性别工资差距分析

为了验证本文方法的实际效果，我们将其应用于美国的性别工资差距分析。数据来源于2019年的美国社区调查（ACS），包含了工资、工作时间、教育水平、性别、种族、年龄、行业和职业等变量。我们选取了41个行业-职业对，这些对的教育水平支持在不同性别之间保持一致，以便进行整体工资分布的比较。

对于每个行业-职业对，我们估计了条件PDF和CDF，并通过分位数函数（CQF）分析了性别之间的工资差距。结果显示，女性的条件PDF在低工资区间较高，而男性的条件PDF在高工资区间较高。此外，男性的条件CDF在统计意义上优于女性的CDF，表明在整体工资分布上，男性处于更有利的位置。这些结果通过Wald检验得到了进一步验证，证明了性别工资差距在多个分位点上均具有统计显著性。

图1展示了女性和男性在不同教育水平下的条件PDF和CDF估计结果，其中女性的PDF在低工资区间较高，而男性的PDF在高工资区间较高。图2展示了分位数函数的估计结果，其中男性在高分位点的分位数显著高于女性，表明在高工资区间，男性的工资分布更为集中。此外，图3展示了性别工资差距在不同分位点上的变化趋势，发现差距在中位数及以上分位点上具有显著的非线性特征，表明工资差距并非在所有区间内保持恒定。

### 方法的扩展与适用性

本文的方法不仅适用于连续变量，也适用于混合离散-连续分布和多变量情况。对于离散变量，我们通过引入离散分布的条件CDF和分位数函数，构建了相应的估计框架。此外，对于多变量情况，我们提出了一个递归的GT回归模型，其中每个变量的条件CDF独立且联合服从高斯分布。这一模型能够有效处理多个输出变量之间的复杂关系，同时保持估计的灵活性和计算效率。

在处理离散变量时，我们假设变量的分布为离散的，且条件CDF在定义域上是右连续的。这使得我们能够通过高斯变换构建一个具有单调性的模型，从而避免非单调的分布问题。此外，对于混合分布，我们提出了一个统一的框架，使得连续和离散部分能够被同时建模，而无需分别处理。

### 未来研究方向

尽管本文的方法在多个方面展现了优势，但仍有一些重要的扩展方向值得进一步研究。例如，如何在存在样本选择偏差或内生性的情况下改进模型的估计和推断，是一个值得探讨的问题。此外，如何将本文的方法应用于更复杂的经济模型，如非线性需求函数或生产函数，也是未来研究的一个重要方向。

总的来说，本文提出了一种新的分布回归方法，能够有效处理条件分布的建模和估计问题，并在实际应用中展现出良好的性能。通过高斯变换和凹似然函数的结合，我们构建了一个灵活且高效的估计框架，能够在有限样本和一般性误设条件下保持模型的单调性和正性。这一方法不仅适用于性别工资差距的分析，还具有广泛的适用性，能够用于其他经济和统计问题的研究。