重新思考因果效应推断中的协变量选择:近端混杂因素的首要性
《ACM Transactions on Knowledge Discovery from Data》:Rethinking Covariate Selection for Causal Effect Inference: The Primacy of Proximal Confounders
【字体:
大
中
小
】
时间:2026年09月06日
来源:ACM Transactions on Knowledge Discovery from Data 6.9
编辑推荐:
**摘要**
从观测数据中可靠地推断因果效应是科学探究和数据驱动决策的基石,然而其有效性经常被不当的协变量选择所削弱。标准的调整方法通常基于一个脆弱的假设,即所有观测到的协变量都是有益的混杂因素,这一前提在高维设置中很少成立。不加批判地纳入非混杂变量可能会引入显著的估计偏差
**摘要**
从观测数据中可靠地推断因果效应是科学探究和数据驱动决策的基石,然而其有效性经常被不当的协变量选择所削弱。标准的调整方法通常基于一个脆弱的假设,即所有观测到的协变量都是有益的混杂因素,这一前提在高维设置中很少成立。不加批判地纳入非混杂变量可能会引入显著的估计偏差,导致错误的科学结论和无效的政策。为了应对这一基础性问题,我们首先提出了代理调整框架,这是一个统一的分析视角,用于系统诊断不同类别的非混杂协变量所引入的偏差。该框架使得能够严格地推导出纳入工具变量、碰撞变量或中介变量等变量所导致的危害。在此诊断基础之上,我们进一步提出了一种基于图的新型准则,证明近端混杂因素集——定义为d分离处理与所有其他混杂因素的最小混杂因素集合——构成了因果效应推断的最小且理论上最优的调整集。在合成数据和真实世界基准数据集上的大量实验验证了我们的理论主张,表明对近端混杂因素集进行调整与常规策略相比,能持续产生更准确的因果估计。总之,这些贡献为协变量选择提供了严谨且实用的指导,为更稳健和自动化的因果推断铺平了道路。
**AI摘要**
要查看此AI生成的摘要,您必须拥有高级访问权限。了解更多 登录
**AI生成摘要(实验性)**
此摘要使用自动化工具生成,未经本文作者撰写或审阅。提供此摘要旨在支持发现、帮助读者评估相关性,并帮助来自相邻研究领域的读者理解本文工作。其目的是补充作者提供的摘要,后者仍然是论文的主要摘要。全文仍是权威版本的记录。点击此处了解更多信息。点击此处评论此摘要的准确性、清晰度和实用性。这样做将有助于改进和未来的重新生成版本。要查看此AI生成的通俗语言摘要,您必须拥有高级访问权限。
**1 引言**
从观测数据中可靠地推断因果效应是跨科学和工业领域的核心目标[1, 11, 19]。与相关性不同,因果关系揭示了变量之间的基本生成关系[18]。尽管随机对照试验(RCTs)是确立因果关系的黄金标准[30],但其在成本和伦理方面的实际局限性,使得从观测数据进行因果推断的严谨框架成为必要[7, 21, 27]。在这一领域的首要挑战是混杂偏差,它源于处理的非随机分配[18]。
大量方法已被开发以应对混杂偏差,涵盖分层[10, 14, 16]、匹配[3, 4, 20, 43]、重加权[2, 23, 26, 33]和表示学习[9, 19, 35]。然而,这些方法的有效性往往依赖于一个关键的、且经常被违反的前提:混杂协变量假设,即假设所有可用协变量仅由真正的混杂因素组成[22]。在现代高维设置中,这一假设很少成立,对推断构成了双重威胁。首先,简单纳入非混杂变量,如工具变量、中介变量或碰撞变量,可能会反直觉地放大偏差[8, 42]。其次,即使调整集中仅包含真正的混杂因素,其中因果关系的存在也带来了进一步的、更微妙的挑战:简单地对整个集合进行调整可能不是减少偏差的最佳策略。
虽然一些先前的研究已经认识到这一问题并尝试区分协变量角色[34, 41],但这些努力仍是不完整的。已提出数据驱动的方法来区分混杂因素与其他处理前变量,如工具变量和调整变量[12, 22, 44],实验验证了纳入工具变量的危害[29]。为了系统地导航协变量选择,基于图的方法已被广泛开发以识别最小且统计上最优的调整集,旨在减少有限样本方差并避免过度调整[13, 39]。并行研究正式分类了"好的和坏的控制变量",严格证明了条件于某些非混杂变量(如工具变量或碰撞变量)如何可能放大残余偏差或诱导虚假关联[5, 31]。此外,除了观测变量的选择之外,还必须区分本文提出的概念与近端因果推断(PCI)框架[6]。一条重要的研究线——利用代理变量解决未测量混杂问题的因果推断——已经出现以利用观测到的代理变量处理未测量的混杂[28, 40]。历史上,该领域内的负控制主要用于检测残余偏差[25, 38]。然而,最近的发展已经正式化了双重稳健PCI,利用代理变量正式识别和消除由未测量混杂和选择机制引起的偏差[24]。虽然这些基于代理的方法有效地解决了内生性和潜在因素问题,但本研究解决了一个根本不同的挑战:为从完全观测的高维复杂协变量拓扑中抽象和选择最优调整集提供统一的分析视角。同时,一个分析所有类型非混杂协变量引入的不同偏差的系统理论框架仍然缺乏,特别是处理后的变量如中介变量和碰撞变量。当这些变量存在时产生的复杂相互作用可能会损害现有方法的有效性[30],留下我们理解中的关键空白。
为了应对这些挑战,本文开发了一个全面的理论和实证框架,用于因果推断中原则性的协变量选择。我们的贡献有三方面。首先,我们引入了代理调整(AP)框架,抽象了各种调整方法的共享机制。这使我们能够推导出不同类别的非混杂协变量如何系统性扰动因果估计的一般理论。其次,在此基础上,我们数学推导并量化了不同类别的非混杂协变量引入的估计偏差,并提出了基于近端混杂因素集的原则,这是一种新型基于图的策略,用于混杂因素存在因果关系时的最优调整。最后,我们使用合成数据和真实世界基准数据对我们的整个理论框架进行了广泛的实证验证,证明其有效性和实际优越性。
**2 因果调整的实用指南**
**2.1 问题设定**
我们的研究从标准的观测数据集设置开始,$D=\{X_i, t_i, y_i\}_{i=1}^N$,包含$N$个独立同分布的单位。对于每个单位$i$,$X_i \in \mathbb{R}^d$ 是一个$d$维协变量向量,$t_i \in \{0,1\}$ 是一个二元处理变量,$y_i \in \mathbb{R}$ 是观测结果。在潜在结果框架内,我们令$y_i(1)$和$y_i(0)$分别表示单位$i$在处理和控制条件下的潜在结果。主要科学目标是估计平均处理效应(ATE),定义为$ATE = E[y(1) - y(0)]$。在观测研究中,直接比较处理组和控制组通常存在偏差,这是由于混杂因素导致协变量$X$同时影响处理分配和结果。应对此问题的常规方法是调整这些协变量。然而,这种做法通常依赖于一个关键的、但经常被违反的隐含前提,即混杂协变量假设:即整个协变量集$X$仅由混杂因素($C$)组成。如图1(a)所示,现实中的协变量集通常是功能不同的复杂混合变量,不仅包括混杂因素($C$),还包括工具变量($I$)、中介变量($M$)、碰撞变量($Z$)、调整变量($A$)、处理影响的变量($TI$)和结果影响的变量($YI$),即$X = \{C, I, M, Z, A, TI, YI\}$。这些非混杂变量的未经审视的存在对因果推断的有效性构成了显著且常被忽视的风险。
**图1** 协变量调整的双面板示意图。左面板展示了一个包含处理、结果、一个混杂因素和几种类型的非混杂协变量的因果图。右面板说明了代理调整框架,其中混杂信息通过一个代理表示,该代理的分布在处理组和控制组之间达到平衡。
(a) 协变量中混杂(橙色)和非混杂(绿色)变量的复杂因果图。(b) 去混杂的统一框架:通过代理$P$调整混杂因素$C$的分布平衡。红色和蓝色点分别代表来自处理组($t=1$)和控制组($t=0$)的单位。颜色强度(深色与浅色)说明了分布重叠和匹配质量的程度:较深的区域表示较高的浓度和跨两组代理变量分布的更紧密匹配,反映调整后的最优平衡。
为了在导航这一协变量复杂性的同时从观测数据中正式识别ATE,我们依赖于三个标准的基础假设[18]。稳定单位处理值假设确保潜在结果定义良好。正定性(即重叠性)确保在处理单位和控制单位之间的比较在所有协变量层次上具有足够的基础。关键在于无混杂假设(或可忽略性假设),它假设协变量集$X$足以消除所有混杂偏差,即$(y(1), y(0)) \perp t \mid X$。在这些条件下,混杂偏差在理论上被消除,使得ATE可以通过后门调整公式从观测数据分布中识别:$ATE = E_X[E[y|t=1, X] - E[y|t=0, X]]$。本文所关注的核心挑战是,这一识别的有效性关键取决于调整集$X$的适当组成。
**2.2 混杂调整的统一框架**
因果推断领域充斥着各种旨在减轻混杂偏差的方法,从匹配和重加权到表示学习。这种方法论的异质性使得对协变量误指定下行为的系统分析变得复杂。为了建立此类分析的基础,我们首先寻求揭示这些看似不同的方法背后的共同原则。
混杂调整的理论理想由Pearl的后门准则阐明[30, 32],它要求对完整的混杂协变量集$C$进行直接且精确的条件。然而,在许多实际应用中,$C$是高维的且包含连续变量,使得精确条件在计算上不可行或由于数据稀疏而统计上效率低下。面对这一挑战,现有方法隐式地收敛于一种务实且强大的替代方案:不直接调整复杂的变量集$C$,而是调整其低维代理。这种共享策略用后门调整的理论精确性换取了计算上可行的近似解决方案。
我们将这种收敛策略形式化为一个统一框架,称为AP,如图1(b)所示。该框架通过两阶段过程运作。首先,它将包含在高维集合$C$中的混杂信息投影到一个低维代理变量$P = f(C)$上。该代理旨在捕获与处理分配相关的基本信息。其次,它通过在处理组之间实施代理$P$的分布平衡来实现混杂控制。该框架以多种形式体现,详见表1。例如,在倾向性评分匹配[4]和重加权(IPW)[33]中,$P$实例化为条件概率$P(t=1|C)$,其中匹配算法使具有相似$P$值的处理和控制单位对齐,重加权分配逆概率权重以模拟一个$t \perp C$的伪总体。在表示学习模型如CFR[37]中,$P$是一个通过深度神经网络学习的多维连续嵌入,通过在参数优化期间最小化处理组之间的差异度量(例如,最大均值差异或Wasserstein距离)来实施平衡。这种统一视角使得当非混杂变量被错误地包含在代理函数$f(\cdot)$的输入$C$中时,估计偏差如何受影响的一般化分析成为可能。
**表1** 各种去混杂方法关于统一原则的实例化
| 方法 | 代理实例化 | 调整方法 |
|------|------------|----------|
| 分层 | 倾向性评分 | 分层加权平均 |
| 匹配 | 倾向/预后评分 | 1-1/1-N匹配 |
| RCF | 叶评分 | 叶加权平均 |
| IPW | 倾向性评分 | 重加权 |
| CBPS | 分布特性 | 重加权 |
| CFR | 表示网络 | 网络参数学习 |
**2.3 通过AP减少偏差的理论分析**
为了研究非混杂协变量对因果推断的机制,我们首先阐述AP框架(图1(b))在消除混杂偏差方面的理论分析。在观测数据集$D$的上下文中,我们使用ATE作为群体水平因果效应的代表性指标。未调整的$\hat{ATE}_D$表示在方程(1)中
方程(1):
$$\hat{ATE}_D = \frac{1}{N_t} \sum_{i: t_i=1} y_i - \frac{1}{N_c} \sum_{i: t_i=0} y_i = \bar{y}_t - \bar{y}_c \quad (1)$$
假设一个将结果变量与处理变量和混杂因素联系起来的结构方程,表示为$E[y_i(t)|C_i=c] = \gamma + \tau \cdot t + \beta \cdot c$,我们可以确定真正的ATE值为$\tau$($ATE_T = \tau$)。此外,未调整的$\hat{ATE}_D$的估计偏差在方程(2)中描述为$\Delta_D$:
方程(2):
$$\Delta_D = E[\hat{ATE}_D - ATE_T] = E[\bar{y}_t] - E[\bar{y}_c] - E[ATE_T] = (\gamma + \tau + \beta \cdot \bar{C}_t) - (\gamma + \beta \cdot \bar{C}_c) - \tau = \beta \cdot (\bar{C}_t - \bar{C}_c) \quad (2)$$
随后,使用AP在调整代理变量$P$后的估计ATE($\hat{ATE}_{AP}$)表示在方程(3)中:
方程(3):
$$\hat{ATE}_{AP} = \sum_{j=1}^{J} q^{(j)} [\bar{y}_t^{(j)} - \bar{y}_c^{(j)}] \quad (3)$$
其中$j \in \{1, 2, \cdots, J\}$ 表示数据集$D$的第$j$个子块(或层)。
这些J个子块是通过调整和划分代理变量P得到的(例如,通过倾向得分分层、匹配卡尺或表示空间中的局部聚类)。y_t(j) 和 y_c(j) 分别表示第j个子块中处理组和控制组样本的结局变量经验均值。第j个子块中样本占总体的比例记为 q(j) = N(j)/N,它作为权重因子用于计算分层特异性因果效应的期望均值。类似地,ATE^AP 的估计偏差 ΔAP 如公式(4)所示:
$$\Delta_{AP} = E[\hat{ATE}^{AP} - ATE_T] = (\gamma + \tau + \beta \cdot \sum_{j=1}^{J} q(j) \bar{C}_t^{(j)}) - (\gamma + \beta \cdot \sum_{j=1}^{J} q(j) \bar{C}_c^{(j)}) - \tau = \beta \cdot \sum_{j=1}^{J} q(j) [\bar{C}_t^{(j)} - \bar{C}_c^{(j)}]$$
在理想情况下,应用AP调整后,D的每个子块中处理组和控制组之间协变量的方差为零(即 $\bar{C}_t^{(j)} - \bar{C}_c^{(j)} = 0$),从而使ΔAP降为零。因此,显而易见,AP将直接从D估计的初始估计偏差 $\Delta_D = \beta \cdot (\bar{C}_t - \bar{C}_c)$ 降低为公式(4)中的ΔAP。
需要明确的是,上述采用的线性设定仅作为说明性分析模型,用于透明地展开偏差减少的代数机制。该基本原理在一般非线性或非参数结构方程下同样成立。假设结局生成过程遵循任意非线性映射:$E[y_i(t) | C_i = c] = \gamma + \tau \cdot t + h(c)$,其中 $h(\cdot)$ 为一般非线性函数。则未调整的估计偏差为 $\Delta_D = E[h(C_t)] - E[h(C_c)]$。在AP框架下,调整后的偏差表示为 $\Delta_{AP}^{nl} = \sum_{j=1}^{J} q(j) [E[h(C_t) | j] - E[h(C_c) | j]]$。在代理变量成功平衡潜在混杂因子的理想情况下,每个子块j内C的条件分布在处理组间变得相同,即 $p(C_t | j) = p(C_c | j)$。因此,任意函数 $h(\cdot)$ 的期望值严格相等:$E[h(C_t) | j] = E[h(C_c) | j]$,这使得估计偏差ΔAP^nl降为零。这得出了与线性情形相同的结论。线性假设仅仅是将偏差分解为标量均值差,使得后续偏差放大分析的代数运算可行,同时不牺牲理论的一般性。
## 2.4 通过非混杂协变量放大偏差的机制
在我们统一框架的基础上,我们现在从理论上剖析如何错误地纳入非混杂协变量(U)会扰动处理效应的估计。如公式(4)所确立的,基线估计偏差(ΔAP)与调整后真实混杂因子C的不平衡成正比。当U被纳入协变量集合时,代理变量变为由一般映射 $P = f(C, U)$ 生成的函数。由此产生的偏差(ΔAPU)与在这种受扰动调整方案下C的不平衡成正比(公式(5)):
$$\Delta_{APU} = E[\hat{ATE}^{APU} - ATE_T] = \beta \cdot \sum_{j=1}^{J} q(j) [\bar{C}_t^{U(j)} - \bar{C}_c^{U(j)}]$$
该偏差放大的核心机制在于,U的纳入如何改变代理变量与混杂因子之间的关系。AP的目标是创建使得P的分布在处理组间平衡的分层或加权样本。当P仅为C的函数时,平衡P可以有效地平衡C。然而,当 $P = f(C, U)$ 时,对于定义分层的代理变量的任何给定值 $P^{(j)}$,该关系不再是C的简单约束。相反,它定义了(C, U)空间中由方程 $f(c, u) = P^{(j)}$ 描述的约束流形。在该流形上,混杂因子C的值隐式地依赖于非混杂因子U的值,这种关系可表示为 $C_j = g(P^{(j)}, U)$。由于U是非混杂因子,其分布关于处理t不被保证是平衡的。U的这种不平衡随后通过诱导的函数依赖关系转移到C上。因此,即使对代理变量P实现了完美平衡,底层混杂因子C在分层内也会变得不平衡,如图2所示。
图2说明了U对AP的ATE估计偏差的扰动。假设 $P^{(j)}$ 相对于处理变量t具有平衡分布,则 $C^{U(j)}$ 的潜在值包括 $C^{U(j)}|u_i$、$C^{U(j)}|u_0$ 和 $C^{U(j)}|u_k$。其中,$C^{U(j)}|u_0$ 代表平衡状态,对应于没有U时的 $C^{(j)}$。
这种底层混杂因子中被诱导的不平衡是偏差放大的根源。它直接导致了公式(6)中表达的不等式,其中在任何给定分层j内的混杂因子差异现在大于或等于不包含U时的差异:
$$|\bar{C}_t^{U(j)} - \bar{C}_c^{U(j)}| \geq |\bar{C}_t^{(j)} - \bar{C}_c^{(j)}|$$
由于总估计偏差是这些分层水平不平衡的加权和,因此总偏差的幅度也随之增加,或者在最好情况下保持不变。这证明了 $|\Delta_{APU}| \geq |\Delta_{AP}|$,为协变量选择这一关键任务提供了理论基础,并为确定该偏差放大不发生的具体条件奠定了基础。
## 2.5 非混杂协变量的中性条件
我们在2.4节的分析建立了将非混杂协变量U纳入调整集合通常会引入偏差的事实。此外,对于变量选择的实际任务,确定这种纳入是无害的精确理论条件至关重要。我们在引理1中形式化了这个条件。
**引理1.** 非混杂协变量集U在调整过程中的纳入对于混杂调整是中性的(即 $\Delta_{APU} = \Delta_{AP}$),条件为U在给定真实混杂因子集C下与处理t条件独立。形式上,该条件表述为公式(7):
$$U \perp t \mid C$$
**证明:** 该引理的证明是统一的,建立在AP原则的理论基础之上,其规范目标是处理相关的混杂映射 $P(t | C)$。根据条件独立的定义,条件 $(U \perp t \mid C)$ 直接意味着 $P(t | C, U) = P(t | C)$。这意味着t与C之间的单射函数对U的纳入是不变的;在已知C的情况下,U中的信息对于预测处理分配是冗余的。因此,任何旨在估计或平衡代理变量P的调整方法,无论是否包含U,都将产生相同的调整效果。优化目标根本未改变,使得U的纳入在理论上中性。 □
该引理为变量选择提供了清晰的标准,使我们能够界定协变量在因果推断中的不同角色。考察图1中的因果图,调整变量(A)满足该中性条件,因为它与t之间没有因果路径,因此在给定空集(从而在给定C)的条件下与t条件独立。因此,对于混杂调整任务而言,其纳入是中性的,该任务的目标是平衡协变量与处理t之间的关系。然而,对于反事实预测任务而言,其角色截然不同,该任务的目标是准确建模结局y。由于A是结局的直接原因($A \rightarrow y$),将其纳入结局预测模型可以减少残差方差,并导致对潜在结局更精确的估计,从而改善个体水平的效应估计。
这种区分产生了一个原则性的、层次化的因果分析程序。首先,对于混杂调整任务,集合应限于真实混杂因子以避免不必要的偏差。其次,对于后续的个体水平效应估计任务,预测模型应纳入混杂因子和任何已识别的调整变量,以最大化预测精度。
## 2.6 通过近端混杂因子集实现最优调整
虽然2.5节建立了将真实混杂因子与其他协变量类型分离的必要性,但当混杂因子集本身表现出非平凡的因果结构时,一个更为微妙的挑战出现了。天真地对整个已识别混杂因子集(C)进行调整,不仅统计效率低下,而且可能产生有害影响。在有限样本情况下,对因果距离处理变量较远的变量进行条件化,可以引入不必要的共线性并增大效应估计的方差。这促使了一个关键目标:识别一个最小充分调整集 $C^* \subseteq C$,在确保无偏性的同时最大化统计精度。
为了形式化这个目标,我们将方法建立在有向无环图(DAG)理论之上。设因果系统由DAG $G = (V, E)$ 表示,其中V是顶点(变量)的集合,E是有向边的集合。设 $t \in V$ 为处理变量,$y \in V$ 为结局变量,$C \subset V$ 为t和y的所有共同原因(混杂因子)的集合。如命题1所述,我们提出基于图形拓扑来选择最优调整集的原则性标准。
**定义1(近端混杂因子集):** 近端混杂因子集,记为 $C_P$,是总混杂因子集C的一个最小子集,它在集合 $C \setminus C_P$ 中将处理t与所有其他混杂因子进行d-分离。形式上,$C_P \subseteq C$ 是近端混杂因子集的条件是,它是满足公式(8)中条件的最小集合:
$$\forall C_i \in C \setminus C_P, \quad (C_i \perp T \mid C_P)_G$$
其中 $(\cdot \perp \cdot \mid \cdot)_G$ 表示图G中的d-分离。
该定义提供了混杂因子选择的非参数标准。它识别了在拓扑上最"接近"处理的混杂因子子集,使得所有较远的混杂因子与处理条件独立。我们断言,该集合对于混杂控制既充分又最优。因此,我们将远端混杂因子的精确概念定义为任何属于补集 $C \setminus C_P$ 的真实混杂变量 $C_i$。这些变量被近端集 $C_P$ 在结构上屏蔽于处理分配机制之外,从而满足公式(8)所示的条件独立条件。
**命题1:** 近端混杂因子集 $C_P$ 构成一个有效且最优的调整集,用于无偏估计t对y的总因果效应。
**证明:** 证明分为两部分:通过后门准则建立有效性,通过最小性证明最优性。
**有效性(充分性):** 根据Pearl的后门准则,调整集有效的条件是其阻断了t和y之间所有非因果(后门)路径。后门路径是指任何连接t和y且具有箭头指向t的路径。这样的路径必然包含一个混杂因子 $C \in C$。考虑任意后门路径 $\pi$。
- **情况1:** 路径 $\pi$ 的形式为 $t \leftarrow \cdots \leftarrow C_j \rightarrow \cdots \rightarrow y$,其中 $C_j \in C_P$。对 $C_P$ 进行条件化直接在链节点 $C_j$ 处阻断了该路径。
- **情况2:** 路径 $\pi$ 涉及混杂因子 $C_k \in C \setminus C_P$。路径 $\pi$ 中从 $C_k$ 到t的子路径,根据定义1,被 $C_P$ 进行了d-分离。因此,对 $C_P$ 进行条件化必然阻断该子路径及整个后门路径 $\pi$。
由于对 $C_P$ 进行条件化阻断了所有可能的后门路径,它构成了无偏效应估计的有效调整集。
**最优性(最小性):** 我们通过反证法证明。假设存在一个有效调整集 $C' \subset C_P$。由于 $C'$ 是 $C_P$ 的真子集,而 $C_P$ 被定义为将t与 $C \setminus C_P$ 进行d-分离的最小集合,因此 $C'$ 不能满足该d-分离性质。因此,必然存在至少一个混杂因子 $C_k \in C \setminus C_P$,使得 $(C_k \not\perp t \mid C')_G$。这意味着在给定 $C'$ 的条件下,从 $C_k$ 到t存在一条开放路径。由于 $C_k$ 是混杂因子,它是y的祖先,通过一条不经过t的路径。因此,从 $C_k$ 到t的这条开放路径构成了t到y的一条未阻断的后门路径。这与 $C'$ 是有效调整集的假设相矛盾。因此,$C_P$ 的任何真子集都不充分,从而确立了 $C_P$ 为最小充分调整集。 □
值得注意的是,所选协变量集是有效近端混杂因子集的理论保证,本质上依赖于因果图形模型的基本假设。具体来说,假设因果Markov条件和忠实性假设成立,从指定因果图G中推导出的d-分离关系将映射到底层数据分布中的条件独立性,从而在数学上保证了 $C_P$ 的有效性和最优性。
**说明性案例:** 考虑图3中描绘的因果结构。t和y的所有共同原因变量的集合是总混杂因子集 $C = \{C_1, C_2, \ldots, C_7\}$。
一种朴素的调整策略会对所有这些变量进行条件化处理。然而,应用我们的原则可以得出一个更为简约且稳健的调整集。
图3。一个包含远端混杂因子(C_1)–(C_4)、近端混杂因子(C_5)–(C_7)、处理(t)、结果(y)以及变量(X_1)–(X_3)的有向无环图。近端混杂因子位于最靠近处理的位置,对(C_5)–(C_7)进行条件化可以阻断处理与结果之间的后门路径。
一个具有复杂混杂结构的示例性有向无环图。所有混杂因子的集合为 C={C1,C2,C3,C4,C5,C6,C7}。近端混杂因子集合被确定为 CP={C5,C6,C7}。对 CP 进行条件化足以阻断从 t 到 y 的所有后门路径。
近端混杂因子集合为 CP={C5,C6,C7}。之所以识别出该集合,是因为它是 C 中能够阻断所有从远端混杂因子({C1,C2,C3,C4})到处理 t 的路径的最小子集。因此,对 CP 进行条件化足以控制来自整个集合{C1,C2,…,C7}的混杂。对完整集合 C 进行调整会增加模型维度并加大有限样本误差的易感性,却并未带来任何额外的偏差缩减。本例展示了近端混杂因子集合标准在推导理论上可靠且统计上高效的调整策略方面的实用价值。
为便于实际实施与可复现性,我们将所提出的近端混杂因子集合原则形式化为一个端到端的算法流程,如算法1所述。该算法将图选择标准与下游估计方法无缝衔接。
3 实验
为验证第2节中发展的理论原则,我们开展了一系列全面的实验。实证验证围绕两个核心目标展开。首先,我们旨在系统性地量化协变量误指定所引入的偏差,特别是错误地将各种非混杂变量纳入调整集所带来的偏差。其次,我们寻求实证验证所提出的近端混杂因子集合原则,展示其在合成与真实场景下相较朴素调整策略的优越性。
3.1 实验设置
为确保清晰并避免冗余,本节整合了后续所有实验共用的方法框架。我们概述合成与真实数据集的数据生成协议,定义用于评估模型性能的指标,并详述一系列竞争因果推断模型及其实现。
3.1.1 数据集
我们的验证依赖于三个不同数据集,旨在探究理论主张的不同方面。
任务1的合成数据(SD-T1):评估协变量误指定。为精确控制不同协变量类型的存在情况,我们首先基于图1所示的复杂因果图生成一个合成数据集。该数据集包含20,000个样本,并含有处理 t、结果 y 以及协变量集 X={I,C,A,M,Z,TI,YI},其中每个成分均有明确定义。外生变量 I、C、A 取自正态分布,即 I,C,A~N(0,1)。
二值处理 t 由伯努利分布生成,其概率由混杂因子 C 和工具变量 I 决定,如公式(9)所示:
Pt=0.4?σ(C?WCt)+0.5?σ(I?WIt)+0.1?σ(?t),(9)
其中 σ(?) 为sigmoid函数。所有其他内生变量 V={M,Z,TI,YI,y} 均依据各自的父变量 PaV 依序生成,如公式(10)所示:
V=∑PaVσ(PaV?W)+0.1??V。(10)
所有权重参数 W 取自均匀分布 U[2,5],噪声项 ? 服从标准正态分布 N(0,1)。
任务2的合成数据(SD-T2):验证近端混杂因子集合。为检验近端混杂因子集合原则,我们设计了基于图3因果图的第二个合成数据集,其中包含错综复杂的相互关联混杂因子网络。这允许在针对完整混杂因子集进行调整与针对我们所提出的最优子集进行调整之间进行受控比较。除因果图结构不同外,变量的生成方式与数据集 SD-T1 保持一致。
真实世界基准数据集(RW-T2)。这是一个新引入的专有数据集,来自某领先消费金融公司基于大语言模型的真实世界电话营销活动中采集的数据。由于严格的金融隐私法规,我们提供相对统计指标来刻画数据分布。例如,近端混杂因子"loanVol"与结果"dropRate"之间的皮尔逊相关系数为0.35,而工具变量"callsMo"与处理"tone"之间的互信息表现出很高的显著性水平(归一化互信息=0.42)。这些指标凸显了数据中存在的复杂非线性依赖关系。该数据集尤其适合我们的验证目的,因为它包含两个不同组成部分:(1)一个50,000样本的观察性数据集,采集于业务驱动的推荐策略下,用于因果发现以及应用不同的调整策略;(2)一个20,000样本的随机对照试验数据集,为真实ATE提供了可靠的、无模型的估计,作为我们的真值基准。该数据集的关键变量描述见表2。
表2. RW-T2数据集中关键变量的描述
变量 | 描述 | 角色
dropRate | 10秒内的通话流失率 | 结果
tone | 通话中说话人的语调 | 处理
loanVol | 用户的累计贷款金额 | 近端混杂因子
limit | 用户当前信用额度 | 近端混杂因子
age | 用户年龄 | 近端混杂因子
sinceApp | 距离用户上次申请信贷的天数 | 近端混杂因子
dpd | 用户最大逾期天数 | 远端混杂因子
drawCnt | 现金提取请求次数(180天内) | 远端混杂因子
drawAmt | 现金提取请求金额(180天内) | 远端混杂因子
logins | 最近30天的登录次数 | 远端混杂因子
region | 用户所在地理区域代码 | 工具变量/预测变量
occup | 用户职业代码 | 工具变量/预测变量
gender | 用户性别 | 工具变量/预测变量
callsMo | 上个月接通的通话次数 | 工具变量/预测变量
highInc | 用户是否高收入 | 工具变量/预测变量
处理变量("tone")是一个二值音色变量,代表使用两种不同声音(男声和女声)。关键在于,营销脚本的逻辑和内容在两个处理组中完全相同,从而确保我们的分析能够隔离出唯一归因于音色变化的因果效应。结果变量("dropRate",即10秒内流失率)通过对原始通话时长(秒)施加变换"dropRate = sigmoid(dura ? 10)"得出。该函数将通话时长平滑映射为提前断线的概率。
该数据集因果图(图4)的构建结合了数据驱动方法与领域专业知识,以确保其结构严谨性。关键在于,该构建过程展示了我们所提出的框架如何能够应用于底层因果图最初未知的真实场景。框架无需假定先验的全知信息,而是作为下游模块与实证图发现环节有效衔接运行。初始阶段,我们采用一组经典因果发现算法来学习结果变量("dropRate")的祖先图。具体而言,我们利用基于函数的广义协方差测量(GCM)算法[36],识别与结果在因果上相关的候选变量集合。随后,我们应用加性噪声模型算法[15],确定这些变量间的因果方向。在此基础上,我们组织了来自消费金融公司的资深业务分析师与数据科学家参加的结构化研讨会。研讨会上展示了算法生成的初步图结构,并引导专家组审视每一条关键因果路径。任何存在争议的连接边均通过深入讨论和投票加以解决。最后,音色推荐算法中已知的程序逻辑——该逻辑支配着处理"tone"的分配——被整合入图中。这种"算法-专家"混合流程确保了最终图结构不仅与数据一致,还与深层业务逻辑相符,最终在全体参与专家中达成了一致共识。
图4。真实世界音色推荐数据集的因果图。客户历史、信用、人口统计和通话相关变量通过有向箭头连接至处理变量"tone"与结果变量"dropRate",展示了实证研究中使用的因果结构。
真实世界音色推荐数据的因果图。该图展示了客户属性、通话变量、处理("tone")与结果("dropRate")之间的关系。
3.1.2 评估指标
我们在群体层面与个体层面评估所有模型的性能。
群体层面效应。群体层面的模型性能通过ATE的绝对误差 ?ATE 进行评估,如公式(11)所示:
ρATE=|ATET?ATE^|。(11)
个体层面效应。对于需要反事实预测的任务,我们评估个体处理效应(ITE)估计的准确性。我们采用异质效应估计精度(?PEHE)[14],定义为估计ITE与真实ITE之间的均方根误差,如公式(12)所示:
?PEHE=√(1/N∑i=1N((yi(1)?yi(0))?(y^i(1)?y^i(0)))^2)。(12)
3.1.3 竞争方法及其实现
我们评估了一系列基于潜在结果框架的代表性因果推断模型的性能。这些模型包括基于倾向得分的分层法(PSS)[10]、基于倾向得分的匹配法(PSM)[4]、RCF [43]、IPW [33]、CBPS 与 npCBPS [17]、表示空间法 TARNet,以及 CFR 模型[37]。
对于倾向得分类方法(PSS、PSM 和 IPW),倾向得分使用 R 中"glm"函数进行的逻辑回归估计。对于 CBPS 和 npCBPS,权重使用"CBPS" R 包获得。RCF、TARNet 和 CFR 的实现基于各自作者提供的 Python 源代码。对于不直接估计 ITE 的模型(除 TARNet 和 CFR 之外的所有模型),反事实结果通过在调整或重加权后的数据上训练的非线性梯度提升模型进行预测,如 R 包"gbm"中的实现。此外,为便于实际实施,合成数据的源代码已在匿名仓库公开:https://anonymous.4open.science/r/ComplexCovariateAna
3.2 研究1:协变量误指定之害
3.2.1 实验设计
目标。本研究的主要目标是实证量化当非混杂协变量被错误纳入调整集时引入的偏差。我们旨在验证关于各类协变量对因果效应估计准确度影响的理论主张。
设置。使用明确标注协变量成分的数据集 SD-T1,我们构建了一系列调整集。基线集仅包含真正的混杂因子{C}。然后我们创建一系列形如{C,U}的受污染集合,其中 U 依次替换为集合{I,A,M,Z,TI,YI}中的单个非混杂变量。随后,将第3.1.3节所述的每个竞争性因果推断方法应用于每个调整集以估计处理效应。性能通过 ?ATE 和 ?PEHE 指标衡量。为确保公平比较并优化每个模型的性能,我们采用贝叶斯优化系统地搜索并确定每个因果推断方法的最优超参数配置。该优化程序在单独的验证集上进行,目标是最小化预测误差,从而保证超参数选择的公平性与有效性。
3.2.2 结果与分析
表3(?ATE)和表4(?PEHE)中呈现的实证结果为我们的理论框架提供了验证。关键发现如下所示。
表3. {C,U} 指标:?ATE
(各行数据按 {C}、{C,I}、{C,A}、{C,YI}、{C,M}、{C,TI}、{C,Z} 与模型 PSS、PSM、RCF、IPW、CBPS、npCBPS、TARNet、CFR 交叉列出)
各 CIMsP 在合成数据集下不同 {C,U} 组合中的 ?ATE 估计。粗体蓝色标记每个模型下表现最优的协变量组合,粗体红色则相反。
表4. {C,U} 指标:?PEHE
(各行数据按 {C}、{C,I}、{C,A}、{C,YI}、{C,M}、{C,TI}、{C,Z} 与模型 PSS、PSM、RCF、IPW、CBPS、npCBPS、TARNet、CFR 交叉列出)
各 CIMsP 在合成数据集下不同 {C,U} 组合中的 ?PEHE 估计。粗体蓝色标记每个模型下表现最优的协变量组合,粗体红色则相反。
观察1(纳入碰撞点会引入严重偏差)。在所有模型和两个评估指标下,将碰撞点变量 Z 纳入调整集{C,Z}始终产生最显著的估计误差。该实证结果与既有的因果理论相吻合。如公式(13)所推导,对碰撞点进行条件化会在处理 t 与结果 y 之间打开一条虚假的非因果路径,引入其他非混杂协变量并不具备的新偏差来源(τ′(j)):
E[yi(t)|Ci=c]=γ+(τ+τ′(j))?t+β?c。(13)
基于公式(13),估计偏差从 ΔAPU 转变为公式(14)所示的 ΔAPZ:
ΔFAPZ=β?∑j=1J q(j)[CˉtZ(j)?CˉcZ(j)+τ′(j)]。(14)
这确认了将碰撞点作为混杂因子对待在因果推断中具有独特的危害性。
观察2(调整变量的双重作用)。调整变量 A 表现出显著的双重效应。在群体层面(表3),{C,A} 集在大多数模型中的表现与基线{C}集几乎相同,证实纳入 A 不会为 ATE 估计引入混杂偏差。然而,在个体层面(表4),{C,A} 集在所有模型中均产生最低的 ?PEHE 误差。
这验证了其理论角色:作为结果 y 的直接原因,它不会开启后门路径,但将其纳入结果模型可以减少残差方差,从而增强反事实预测和个体处理效应估计的精度。
观察3(其他非混杂变量的负面影响)。纳入工具变量、中介变量以及其他变量会持续降低估计精度,相较于正确指定的基线 {C}。尽管这些变量引入的偏差不如碰撞变量严重,但表3和表4的结果展示了清晰且一致的性能下降。这一发现支持了核心论点,即最优指定的调整集应严格剔除非混杂协变量,以避免引入不必要的估计偏差和方差。
3.3 研究2:近端混杂变量集原则的验证
3.3.1 实验设计
目标。本研究旨在实证验证第2.6节中的核心理论主张:对近端混杂变量集进行调整不仅充分而且最优,能够比对整个混杂变量集进行调整产生更准确的因果效应估计。
设置。我们比较三种不同的调整策略以评估其偏差减少性能:
(1)无调整(AN):无混杂控制的基线估计,代表处理与结果之间的朴素关联。
(2)完全调整(AT):对已识别的整个混杂变量集 C 进行条件化的传统方法。
(3)近端调整(AP):我们提出的策略,仅对定义1中定义的近端混杂变量集进行调整。
为确保结果的稳健性和实际相关性,本比较评估在合成数据集(含相互关联的混杂变量)和真实世界基准数据集上进行。我们使用两种广泛采用的方法——逆概率加权和倾向得分匹配——进行调整实施。
3.3.2 合成数据结果
合成数据的结果为我们的假设提供了初步支持。如表5所示,未调整估计值显示51.32%的大相对误差。虽然完全调整策略大幅降低了该误差,但近端调整策略表现显著更好,逆概率加权(9.39%)和倾向得分匹配(7.22%)均实现了最低误差。这一结果表明,在完美指定模型且已知真实因果图的情况下,我们原则推荐的更简约调整集能产生更准确的平均处理效应估计。
表5
设置 方法 数据集: 数据集: 估计真值 估计值 绝对误差 相对误差(%) 估计真值 估计值 绝对误差 相对误差(%)
无调整 – 0.7174 1.0855 0.3682 51.32 0.0411 0.0813 0.0402 97.81
完全调整 逆概率加权 0.8186 0.1013 14.11 0.0719 0.0308 74.94
完全调整 倾向得分匹配 0.5636 0.1537 21.43 0.0678 0.0267 64.96
近端调整 逆概率加权 0.7847 0.0673 9.39 0.0613 0.0202 49.15
近端调整 倾向得分匹配 0.6656 0.0518 7.22 0.0525 0.0114 27.74
数据集上不同去混杂策略的平均处理效应估计性能
加粗值表示两种比较方法中每个指标的更优结果。
3.3.3 真实数据结果
为验证我们原则的实际效用,我们在真实世界基准数据集上复制了比较实验,使用来自重叠随机对照试验的平均处理效应作为真值。基于图4中构建的因果图,我们为竞争策略指定了调整集。完全调整策略纳入了八个已识别的完整混杂变量集:{age, sinceApp, dpd, drawCnt, loanVol, logins, drawAmt, limit}。相比之下,近端调整策略仅纳入了处理变量的四个直接父变量,即构成此图中近端混杂变量集的变量:{loanVol, limit, age, sinceApp}。
表5中呈现的结果表明,近端调整原则的优越性可有效推广到复杂的真实世界应用中。未调整估计值偏差较大,相对误差为97.81%。虽然传统完全调整策略改进了估计值,但近端调整策略证明效果显著更优。使用倾向得分匹配时,它将相对误差降至仅27.74%,使观察估计值显著更接近真值平均处理效应。这一显著差异表明,虽然纳入更多远处的混杂变量在理论上是阻塞后门路径的有效方法,但这种"过度调整"可能引入显著的小样本方差,最终降低估计精度。我们原则性的最小调整策略成功避免了这一陷阱。因此,这一结果强调了近端混杂变量集原则在真实世界决策场景中提供更可靠因果洞察的实践价值。
4 结论
本文面对了观察性因果推断中的一个根本挑战:混杂调整中协变量的原则性选择。我们首先针对普遍存在但危险的假设——所有可用协变量均为混杂变量——进行应对。为超越这一假设,我们首先开发了调整策略的统一理论框架,该框架概念化了多样化调整方法背后的共同机制。这一框架作为分析基础,我们在此之上构建了核心理论贡献。它使得能够严格、普遍地证明错误纳入非混杂协变量如何系统性地放大估计偏差。
基于对"应排除什么"的理解,我们解决了当混杂变量因果相互关联时"最优纳入什么"的更细微问题。我们引入了一种新颖的基于图的原则,证明近端混杂变量集——定义为使处理变量与其他所有混杂变量d-分离的最小混杂变量集——构成最优调整集。这一针对性策略超越了针对所有已知混杂变量进行调整的朴素启发式方法,提供了更有效且统计效率更高的方法。我们的实证验证,利用复杂的合成数据和以真值随机对照试验为基准的真实世界研究,证实了这一原则的实践优越性,显示其持续产生更准确且偏差更小的平均处理效应估计。
总之,这些发现为因果实践提供了层次化的原则性指南。从业者应首先严格区分真正的混杂变量和调整变量与其他协变量类型。随后,对于混杂调整步骤,他们应识别并仅对近端混杂变量集进行条件化。展望未来,这些原则为新一代自动化因果推断算法奠定了理论基础。未来工作应聚焦于将这些选择标准与因果发现方法整合,开发能够在复杂协变量环境中导航的稳健端到端系统,以更可靠地提供因果洞察。最后,尽管本研究在无混杂假设下进行,近端混杂变量集对内生性(未观测混杂)的稳健性结构上取决于未观测变量的拓扑角色。具体而言,如果未观测混杂变量仅作为远处混杂变量作用,对观测到的近端集进行条件化在理论上仍足以筛选掉其虚假路径,从而保持因果估计的有效性。反之,如果未观测变量本身作为近端混杂变量作用,则观测到的协变量从根本上不足以完全消除混杂偏差。将我们的近端拓扑判据与基于代理的方法整合以解决未观测的近端混杂,构成了未来研究的关键方向。
致谢
作者感谢马上消费金融股份有限公司提供数据和计算硬件支持。