重新审视因果效应推断中的协变量选择:近端混杂因素的首要地位

《ACM Transactions on Knowledge Discovery from Data》:Rethinking Covariate Selection for Causal Effect Inference: The Primacy of Proximal Confounders

【字体: 大 中 小 】 时间:2026年09月13日 来源:ACM Transactions on Knowledge Discovery from Data 6.9

编辑推荐:

   摘要 从观测数据中可靠地推断因果效应是科学探究和数据驱动决策的基石,然而其有效性常常受到协变量选择不当的损害。标准的调整方法往往基于这样一个脆弱的假设:所有观测到的协变量都有利于处理混杂因素,而在高维场景中,这一前提很少成立。不加批判地纳入非混杂变量可能会引入显著的估计偏差,

  

摘要
从观测数据中可靠地推断因果效应是科学探究和数据驱动决策的基石,然而其有效性常常受到协变量选择不当的损害。标准的调整方法往往基于这样一个脆弱的假设:所有观测到的协变量都有利于处理混杂因素,而在高维场景中,这一前提很少成立。不加批判地纳入非混杂变量可能会引入显著的估计偏差,导致错误的科学结论和无效的政策。为了应对这一基础性问题,我们首先提出了代理调整框架,这是一种统一的分析视角,用于系统诊断不同类型非混杂协变量所引入的偏差。该框架能够对包含工具变量、对撞变量或中介变量等变量所造成的危害进行严格的理论推导。在此基础上,我们进一步提出了一种基于图论的准则,证明邻近混杂因素集——定义为能将处理与所有其他混杂因素d分离的最小混杂因素集——构成了因果效应推断的最小且理论上最优的调整集。在合成数据和真实世界基准数据集上的大量实验验证了我们的理论主张,表明基于邻近混杂因素集进行调整能够持续得出比传统策略更准确的因果估计。这些贡献共同提供了一份严格且实用的协变量选择指南,为更加稳健和自动化的因果推断铺平了道路。

AI摘要

AI生成摘要(实验性)
本摘要由自动化工具生成,未经本文作者撰写或审核。它旨在支持文献发现、帮助读者评估相关性,并协助来自相邻研究领域的读者理解本文工作。它意在补充作者提供的摘要,后者仍为论文的主要概述。全文仍为权威版本。点击此处了解更多信息。点击此处评论该摘要的准确性、清晰度和实用性。这样做将有助于改进并生成未来版本。若要查看该AI生成的通俗摘要,您需要拥有Premium访问权限。

1 引言
从观测数据中可靠地推断因果效应是科学和工业领域的核心目标[1, 11, 19]。与相关性不同,因果性揭示了变量之间根本的生成关系[18]。虽然随机对照试验(RCTs)是确立因果关系的金标准[30],但其在成本和伦理上的实际局限性使得从观测数据进行严格因果推断的框架显得尤为必要[7, 21, 27]。这一工作中的主要挑战是混杂偏差,它源于处理分配的非随机性[18]。

为了解决混杂偏差,已开发出大量方法,涵盖分层[10, 14, 16]、匹配[3, 4, 20, 43]、重新加权[2, 23, 26, 33]和表示学习[9, 19, 35]。然而,这些方法的有效性往往建立在一个关键且常被违反的前提上:混杂协变量假设,即假设所有可用协变量集合仅由真正的混杂因素组成[22]。在现代高维环境中,这一假设很少成立,对推断构成双重威胁。首先,简单地纳入非混杂变量,如工具、中介或对撞,可能会反过来放大偏差[8, 42]。其次,即使调整集中仅包含真正的混杂因素,它们之间存在的因果关联也会带来另一个更微妙的挑战:简单地针对整个集合进行调整可能并不是减少偏差的最优策略。

尽管一些先前的工作已经承认这一问题并尝试区分协变量的角色[34, 41],但这些努力仍然不全面。已提出数据驱动的方法来区分混杂因素与其他处理前变量,如工具和调整变量[12, 22, 44],并通过实验验证了纳入工具的危害[29]。为了系统地处理协变量选择问题,图形方法已被广泛开发,以识别最小且统计上最优的调整集,旨在降低有限样本方差并避免过度调整[13, 39]。并行研究正式分类了“好的和坏的控制变量”,严格证明了如何通过对某些非混杂变量(如工具或对撞)进行条件化来放大残余偏差或引入虚假关联[5, 31]。此外,除了选择观测变量之外,还必须区分本文提出的概念与Proxy因果推断(PCI)框架[6]。一条名为使用代理进行因果推断的重要研究路线已经出现,旨在通过利用观测到的代理变量来处理未测量的混杂[28, 40]。历史上,该领域中的负控制主要被用于检测残余偏差[25, 38]。然而,最新进展正式化了双重稳健的PCI,它利用代理变量来正式识别并消除未测量混杂和选择机制引起的偏差[24]。虽然这些基于代理的方法有效地处理了内生性和潜在因素,但本研究解决的是一个根本不同的挑战:为从高维、完全观测到的复杂协变量拓扑中抽象和选择最优调整集提供统一的分析视角。同时,一个系统性的理论框架仍缺乏,以分析所有类型非混杂协变量(特别是诸如中介和对撞这样的处理后变量)引入的不同偏差。当这些变量存在时,由此产生的复杂相互作用可能会损害现有方法的有效性[30],在我们的理解中留下了一个关键空白。

为了应对这些挑战,本文开发了一个全面的理论和实证框架,用于因果推断中的原则性协变量选择。我们的贡献有三方面。首先,我们引入了通过代理调整(AP)框架,抽象出各种调整方法的共同机制。这使我们能够推导出不同类型非混杂协变量如何系统性地扰动因果估计的一般化理论。其次,基于此分析,我们数学推导并量化了不同类型非混杂协变量引入的估计偏差,并提出基于邻近混杂因素集的原则,这是一种新颖的基于图的策略,用于在混杂因素存在因果关联时的最优调整。最后,我们使用合成数据和真实世界基准数据,对整个理论框架进行了广泛的实证验证,展示了其有效性和实践优越性。

2 因果调整实用指南
2.1 问题设定
我们的研究从标准观测数据集设置开始,D={Xi, ti, yi}i=1N,由N个独立同分布单元组成。对于每个单元i,Xi∈Rd是一个包含d个协变量的向
量,ti∈{0,1}是一个二元处理,yi∈R是观测结果。在潜在结果框架内,我们令yi(1)和yi(0)分别表示单元i在处理和控制下的潜在结果。主要科学目标是估计平均处理效应(ATE),定义为ATE=E[y(1)?y(0)]。在观测研究中,由于混杂因素,直接比较处理组和控制组通常是有偏的,其中协变量X同时影响处理分配和结果。传统的解决方法是针对这些协变量进行调整。然而,这种做法通常依赖于一个关键的、但常被违反的隐含前提,即混杂协变量假设:整个协变量集X仅由混杂因素(C)组成。如图1(a)所示,现实世界的协变量集通常是功能不同的变量的复杂混合体,不仅包括混杂因素(C),还包括工具(I)、中介(M)、对撞(Z)、调整变量(A)、处理影响变量(TI)和结果影响变量(YI),即X={C,I,M,Z,A,TI,YI}。这些非混杂变量的未经审视的存在对因果推断的有效性构成了显著且常被忽视的风险。

图1. 协变量调整的双面板示意图。左面板展示了一个包含处理、结果、混杂因素和多种非混杂协变量的因果图。右面板说明了通过代理调整框架,混杂信息通过一个在处理组和控制组之间分布平衡的代理来表示。

(a) 包含混杂(橙色)和非混杂(绿色)协变量的复杂因果图。(b)去混杂的统一框架:通过代理P调整混杂因素C的分布平衡。红色和蓝色点分别代表处理组(t=1)和控制组(t=0)的单元。颜色强度(深色与浅色)说明了分布重叠和匹配质量程度:深色区域表明两个组之间代理变量分布的集中度更高、匹配更紧密,反映调整后的最佳平衡。

为了应对这种协变量复杂性,同时从观测数据中正式识别ATE,我们依赖于三个标准的基础假设[18]。稳定单元处理值假设确保潜在结果定义良好。正性或重叠性确保在所有协变量分层中,处理单元和控制单元之间存在充分的比较基础。关键的是,无混杂性或可忽略性假设认为协变量集X足以消除所有混杂偏差,即(y(1),y(0))⊥t∣X。在这些条件下,混杂偏差在理论上被消除,可以通过后门调整公式从观测数据分布中识别ATE:ATE=EX[E[y|t=1,X]?E[y|t=0,X]]。本文解决的核心挑战是,这种识别的有效性关键取决于调整集X的正确组成。

2.2 混杂调整的统一框架
因果推断领域充斥着各种旨在减轻混杂偏差的方法,从匹配和重新加权到表示学习。这种方法的异质性使得系统分析它们在协变量错误规范下的行为变得复杂。为了建立此类分析的基础,我们首先寻求揭示这些看似不同的方法背后的共同原则。

混杂调整的理论理想由Pearl的后门准则[30, 32]阐明,它要求对全部混杂协变量集C进行直接且精确的条件化。然而,在许多实际应用中,C是高维的且包含连续变量,这使得精确条件化在计算上不可行或因数据稀疏而在统计上效率低下。面对这一挑战,现有方法已隐式地趋向于一种实用且强大的替代方案:不是直接针对复杂变量集C进行调整,而是针对它的低维代理进行调整。这种共同策略涉及用后门调整的理论精确性换取一个计算上可行且近似可行的解决方案。

我们将这种趋同策略形式化为一个统一框架,称为AP,如图1(b)所示。该框架通过两阶段过程运作。首先,它将高维集C中包含的混杂信息投影到低维代理变量P=f(C)上。该代理被设计用于捕获与处理分配相关的必要信息。其次,它通过在处理组之间执行代理P的分布平衡来实现混杂控制。该框架以多种形式呈现,详见表1。例如,在倾向性得分匹配[4]和重新加权(IPW)[33]中,P实例化为条件概率P(t=1|C),其中匹配算法将具有相似P值的处理和控制单元对齐,而重新加权则分配逆概率权重以模拟一个t⊥C的伪总体。在像CFR[37]这样的表示学习模型中,P是通过深度神经网络学习到的多维连续嵌入,并在参数优化过程中通过最小化处理组之间的差异度量(例如最大均值差异或Wasserstein距离)来强制平衡。这种统一视角使得对当非混杂变量被错误包含在代理函数f(?)的输入C中时,估计偏差如何受到影响进行一般化分析成为可能。

表1. 各种去混杂方法关于统一原则的实例化
方法 | 代理的实例化 | 调整方法
分层 | 倾向性得分 | 分层加权平均
匹配 | 倾向性/预后得分 | 1?1/1?N匹配
RCF | 叶得分 | 叶加权平均
IPW | 倾向性得分 | 重新加权
CBPS | 分布性质 | 重新加权
CFR | 表示网络 | 网络参数学习

2.3 通过AP减少偏差的理论分析
为了研究非混杂协变量对因果推断的机制,我们首先阐述AP框架(图1(b))在消除混杂偏差方面的理论分析。在观测数据集D的背景下,我们使用ATE作为群体层面因果效应的代表指标。未调整的ATE^D在公式(1)中用符号表示
公式(1)公式(1)公式(1)公式(1):ATE^D=(1/Nt)Σ_{i:ti=1} yi ? (1/Nc)Σ_{i:ti=0} yi = ytˉ ? ycˉ。(1)
假设有一个将结果变量与处理变量和混杂因素联系起来的结构方程,表示为E[yi(t)|Ci=c]=γ+τ?t+β?c,我们可以确定真实的ATE值为τ(ATET=τ)。此外,未调整的ATE^D的估计偏差在公式(2)中用符号ΔD描述
公式(2)公式(2)公式(2)公式(2):ΔD=E[ATE^D?ATET]=E[ytˉ]?E[ycˉ]?E[ATET]=(γ+τ+β?Ctˉ)?(γ+β?Ccˉ)?τ=β?(Ctˉ?Ccˉ)。(2)
随后,使用AP(ATE^AP)估计的ATE,在针对代理变量P调整后,在公式(3)中表示
公式(3)公式(3)公式(3)公式(3):ATE^AP=Σ_{j=1}^{J} q(j)[ytˉ(j)?ycˉ(j)],(3)
其中j∈{1,2,?,J}代表数据集D的第j个子块(或分层)。

这些J个子块通过对代理变量P进行调整和划分获得(例如,通过倾向性得分分层、匹配卡尺或表示空间中的局部聚类)。$y_{\text{t}}^{(j)}$ 和 $y_{\text{c}}^{(j)}$ 分别表示第$j$个子块中处理组和控制组样本的结局变量的经验均值。第$j$个子块中样本相对于总体的比例记为 $q(j)=N(j)/N$,作为权重因子用于计算各分层因果效应的期望平均值。类似地,$\text{ATE}^{AP}$ 的估计偏差 $\Delta AP$ 在公式(4)中展示如下:

$$\Delta AP = E[\text{ATE}^{AP} - \text{ATE}_T] = \left(\gamma + \tau + \beta \cdot \sum_{j=1}^{J} q(j) \bar{C}_t^{(j)}\right) - \left(\gamma + \beta \cdot \sum_{j=1}^{J} q(j) \bar{C}_c^{(j)}\right) - \tau = \beta \cdot \sum_{j=1}^{J} q(j) \left[\bar{C}_t^{(j)} - \bar{C}_c^{(j)}\right]. \tag{4}$$

在理想情形下,应用AP调整后,D中每个子块内处理组和控制组的混杂因子之间不存在方差差异(即 $\bar{C}_t^{(j)} - \bar{C}_c^{(j)} = 0$),从而使 $\Delta AP$ 降低为零。因此,可以明显看出AP将直接从D估计的初始估计偏差 $\Delta D = \beta \cdot (\bar{C}_t - \bar{C}_c)$ 降低为公式(4)中的 $\Delta AP$。

需要明确的是,上述采用的线性设定作为一个说明性分析模型,用于透明地展开偏差减少的代数机制。其基本原理在一般非线性或非参数结构方程下同样成立。假设结局生成过程遵循任意非线性映射:$E[y_i(t) | C_i = c] = \gamma + \tau \cdot t + h(c)$,其中 $h(\cdot)$ 为一般非线性函数。未调整的估计偏差则为 $\Delta D = E[h(C_t)] - E[h(C_c)]$。在AP框架下,调整后的偏差表示为 $\Delta AP_{nl} = \sum_{j=1}^{J} q(j) \left[E[h(C_t) | j] - E[h(C_c) | j]\right]$。在理想情形下,代理变量成功平衡了潜在混杂因子,使得每个子块$j$内$C$的条件分布在处理组间相同,即 $p(C_t | j) = p(C_c | j)$。因此,任意函数 $h(\cdot)$ 的期望值严格相等:$E[h(C_t) | j] = E[h(C_c) | j]$,这将估计偏差 $\Delta AP_{nl}$ 降为零。这与线性情形的结论一致。线性假设使我们能够将偏差分解为均值的标量差,从而在不牺牲理论一般性的前提下,使后续偏差放大的代数分析变得可行。

**2.4 通过非混杂协变量进行偏差放大的机制**

在我们统一框架的基础上,我们现在从理论上剖析错误纳入非混杂协变量($U$)如何扰乱处理效应的估计。如公式(4)所确立的,基线估计偏差($\Delta AP$)与调整后真实混杂因子$C$的不平衡成正比。当$U$被纳入协变量集合时,代理变量成为由一般映射 $P = f(C, U)$ 生成的函数。由此产生的偏差($\Delta AP_U$)则与这种受扰动的调整方案下$C$的不平衡成正比(公式(5)):

$$\Delta AP_U = E[\text{ATE}^{AP_U} - \text{ATE}_T] = \beta \cdot \sum_{j=1}^{J} q(j) \left[\bar{C}_t^U(j) - \bar{C}_c^U(j)\right]. \tag{5}$$

这一偏差放大机制的核心在于$U$的纳入如何改变代理变量与混杂因子之间的关系。AP的目标是创建分层或加权样本,使得$P$的分布在处理组间达到平衡。当$P$仅为$C$的函数时,平衡$P$即有效平衡了$C$。然而,当 $P = f(C, U)$ 时,对于定义分层的任意代理值 $P(j)$,其关系不再是$C$上的简单约束,而是在 $(C, U)$ 空间中由方程 $f(c, u) = P(j)$ 所描述的约束流形。在这一流形上,混杂因子$C$的值隐式地依赖于非混杂因子$U$的值,我们可以将这种关系表示为 $C_j = g(P(j), U)$。由于$U$是非混杂因子,其分布相对于处理$t$不保证是平衡的。$U$的这种不平衡通过诱导的功能依赖性传递到$C$上。因此,即使对代理变量$P$实现了完美平衡,潜在混杂因子$C$在分层内也会变得不平衡,如图2所示。

**图2。** 两个堆叠直方图比较了处理组和控制组中混杂因子($C$)的分布。标记的位置表明,在纳入非混杂变量($U$)后,相同的平衡代理分层可能对应于$C$的不同值,而只有中央标记位置代表平衡状态。

$U$对AP中ATE估计偏差所产生的扰动的一个典型示例。考虑关于处理变量$t$平衡的分布 $P(j)$。$C_U(j | U)$ 的潜在值包括 $C_U(j | u_i)$、$C_U(j | u_0)$ 和 $C_U(j | u_k)$。其中,$C_U(j | u_0)$ 代表平衡状态,对应于不存在$U$时的 $C(j)$。

这种潜在混杂因子中被诱导的不平衡是偏差放大的根源。它直接导致公式(6)中表达的不等式,其中任何给定分层$j$内的混杂因子差异现在大于或等于未纳入$U$时的差异:

$$\left|\bar{C}_t^U(j) - \bar{C}_c^U(j)\right| \geq \left|\bar{C}_t(j) - \bar{C}_c(j)\right|. \tag{6}$$

由于总估计偏差是这些分层级不平衡的加权和,因此总偏差的幅度也随之增加,或在最佳情况下保持不变。这证明了 $|\Delta AP_U| \geq |\Delta AP|$,为协变量选择这一关键任务提供了理论基础,并为识别偏差放大不发生时的精确条件奠定了基础。

**2.5 非混杂协变量的中性条件**

我们在第2.4节的分析已确立,将非混杂协变量$U$纳入调整集合通常会引入偏差。此外,对于变量选择的实际任务而言,至关重要的是确定这种纳入无害的精确理论条件。我们在引理1中对此条件进行了形式化。

**引理1。** 如果$U$在给定真实混杂因子集合$C$的条件下与处理$t$条件独立,则非混杂协变量集合$U$纳入调整过程对混杂调整是中性不变的(即 $\Delta AP_U = \Delta AP$)。正式地,此条件表述为公式(7):

$$(U \perp t \mid C). \tag{7}$$

**证明。** 本引理的统一证明基于AP原则的理论基础,其典型目标是与处理相关的混杂映射 $P(t | C)$。根据条件独立的定义,条件 $(U \perp t \mid C)$ 直接意味着 $P(t | C, U) = P(t | C)$。这意味着$t$和$C$之间的单射函数对$U$的纳入是不变的;一旦已知$C$,$U$中的信息对于预测处理分配就是冗余的。因此,任何旨在估计或平衡代理变量$P$的调整方法,无论是否纳入$U$,都将产生相同的调整效果。优化目标从根本上未改变,使得$U$的纳入在理论上是中性的。$\square$

本引理为变量选择提供了明确的标准,使我们能够划分协变量在因果推断中的不同角色。检查图1中的因果图,调整变量($A$)满足此中性条件,因为它没有通向$t$的因果路径,因此在给定空集(从而给定$C$)的条件下与$t$条件独立。因此,对于以平衡协变量相对于处理$t$为目标的混杂调整任务而言,其纳入是中性的。然而,对于反事实预测任务而言,其角色则截然不同,该任务的目标是准确建模结局$y$。由于$A$是结局的直接原因($A \to y$),将其纳入结局预测模型可以减少残差方差并导致更精确的潜在结局估计,从而提高个体层面的效应估计。

这种区分产生了一个有原则的分层因果分析程序。首先,对于混杂调整任务,集合应限制在真实混杂因子以避免不必要的偏差。其次,对于后续估计个体层面效应的任务,预测模型应同时纳入混杂因子和任何已识别的调整变量以最大化预测精度。

**2.6 通过近端混杂因子集进行最优调整**

虽然第2.5节确立了将真实混杂因子与其他协变量类型隔离的必要,但当混杂因子集合本身呈现非平凡因果结构时,一个更微妙的挑战便浮现出来。天真地对所有已识别的混杂因子集合($C$)进行调整不仅统计效率低下,而且可能是有害的。在有限样本情境下,对与处理变量因果距离较远的变量进行条件化可能引入不必要的共线性并膨胀效应估计的方差。这激发了一个关键目标:识别一个最小充分调整集 $C^* \subseteq C$,在确保无偏性的同时最大化统计精度。

为了形式化这一目标,我们将方法基于有向无环图(DAG)理论。设因果系统由DAG $G = (V, E)$ 表示,其中$V$为顶点(变量)集合,$E$为有向边集合。设 $t \in V$ 为处理变量,$y \in V$ 为结局,$C \subset V$ 为$t$和$y$的所有共同原因集合(混杂因子)。如命题1所述,我们提出一个基于图拓扑来选择最优调整集的有原则标准。

**定义1(近端混杂因子集)。** 近端混杂因子集,记为$C_P$,是总混杂因子集$C$的一个最小子集,使得其在DAG中d-分离处理$t$与集合 $C \setminus C_P$ 中的所有其他混杂因子。正式地,$C_P \subseteq C$ 是近端混杂因子集,如果它是最小满足公式(8)条件的集合:

$$\forall C_i \in C \setminus C_P, \quad (C_i \perp T \mid C_P)_G, \tag{8}$$

其中 $(\cdot \perp \cdot \mid \cdot)_G$ 表示在图$G$中的d-分离。

该定义为混杂因子选择提供了非参数标准。它识别了在拓扑上"最接近"处理变量的混杂因子子集,使得所有更远的混杂因子与处理条件独立。我们认为该集合对于混杂控制既是充分又是最优的。因此,我们将远端混杂因子精确定义为属于补集 $C \setminus C_P$ 的任何真实混杂变量$C_i$。这些变量在结构上被近端集合$C_P$从处理分配机制中屏蔽,从而满足公式(8)中所示的条件独立条件。

**命题1。** 近端混杂因子集$C_P$构成了$t$对$y$的总因果效应无偏估计的有效且最优调整集。

**证明。** 证明分为两部分:通过后门标准建立有效性,通过最小性证明最优性。

**有效性(充分性)。** 根据Pearl的后门标准,如果一个调整集阻断了$t$和$y$之间的所有非因果(后门)路径,则该调整集是有效的。后门路径是任何连接$t$和$y$且箭头指向$t$的路径。这样的路径必须包含一个混杂因子 $C \in C$。考虑任意后门路径 $\pi$。

—**情形1:** 路径$\pi$的形式为 $t \leftarrow \cdots \leftarrow C_j \to \cdots \to y$,其中 $C_j \in C_P$。在链节点$C_j$处,对$C_P$进行条件化直接阻断了此路径。

—**情形2:** 路径$\pi$涉及混杂因子 $C_k \in C \setminus C_P$。根据定义1,$\pi$中从$C_k$到$t$的子路径被$C_P$ d-分离。因此,对$C_P$进行条件化必须阻断此子路径和整个后门路径$\pi$。

由于对$C_P$进行条件化阻断了所有可能的后门路径,因此它是用于无偏效应估计的有效调整集。

**最优性(最小性)。** 我们用反证法证明。假设存在一个有效调整集 $C' \subsetneq C_P$。由于$C'$是$C_P$的真子集,而$C_P$被定义为d-分离$t$与 $C \setminus C_P$ 的最小集合,因此$C'$不可能满足此d-分离性质。因此,必然存在至少一个混杂因子 $C_k \in C \setminus C_P$ 使得 $(C_k \not\perp t \mid C')_G$。这意味着给定$C'$时,从$C_k$到$t$存在一条开放路径。由于$C_k$是混杂因子,它是$y$的祖先,通过一条不经过$t$的路径。从$C_k$到$t$的这条开放路径因此构成了一条从$t$到$y$的未阻断后门路径。这与$C'$是有效调整集的假设矛盾。因此,$C_P$的任何真子集都是不充分的,确立了$C_P$作为最小充分调整集。$\square$

值得注意的是,所选协变量集合作为有效近端混杂因子集的理论保证,本质上依赖于因果图模型的基本假设。具体而言,假设因果马尔可夫条件和忠实性假设成立,从指定因果图$G$推导出的d-分离关系映射到底层数据分布中的条件独立,从而在数学上保证了$C_P$的有效性和最优性。

**示例。** 考虑图3中描绘的因果结构。$t$和$y$的所有共同原因集合即总混杂因子集 $C = \{C_1, C_2, \ldots, C_7\}$。

一种朴素的调整策略会对所有这些变量进行条件化处理。然而,应用我们的原则可以得出一个更为简约且稳健的调整集。图3。一个包含远端混杂因子(C?)–(C?)、近端混杂因子(C?)–(C?)、处理变量(t)、结果变量(y)以及变量(X?)–(X?)的有向无环图。近端混杂因子位于最接近处理变量的位置,对(C?)–(C?)进行条件化处理可以阻断处理变量与结果变量之间的后门路径。一个具有复杂混杂结构的示例性DAG。所有混杂因子的集合为C={C?,C?,C?,C?,C?,C?,C?}。近端混杂因子集合被确定为CP={C?,C?,C?}。仅对CP进行条件化处理即可阻断从t到y的所有后门路径。近端混杂因子集合为CP={C?,C?,C?}。该集合被确定为C的最小子集,能够阻断从更远的混杂因子({C?,C?,C?,C?})到处理变量t的所有路径。因此,仅对CP进行条件化处理就足以控制整个集合{C?,C?,…,C?}中的混杂效应。对完整集合C进行调整会增加模型维度并增大有限样本误差的易感性,而不会带来任何额外的偏差减少。本案例展示了近端混杂因子集合准则在推导理论上可靠且统计效率高的调整策略方面的实用价值。为了便于实际实施和可复现性,我们将所提出的近端混杂因子集合原则正式化为一套端到端的算法流程,如算法1所述。该算法无缝地将图形选择准则与下游估计方法连接起来。3 实验 为了验证第2节中发展的理论原则,我们开展了一系列综合实验。实证验证围绕两个核心目标展开。首先,我们旨在系统地量化协变量误设引入的偏差,特别是各种非混杂变量被错误包含在调整集中所产生的影响。其次,我们力求在合成数据和真实数据环境中实证验证我们提出的近端混杂因子集合原则,展示其相对于朴素调整策略的优越性。3.1 实验设置 为确保清晰性并避免冗余,本节集中概述所有后续实验共用的方法框架。我们详细说明了合成数据和真实数据集的数据生成方案,定义了用于评估模型性能的指标,并介绍了竞争因果推断模型及其实现方式。3.1.1 数据集。我们的验证依赖于三个不同的数据集,旨在探究我们理论主张的不同方面。任务1的合成数据(SD-T1):评估协变量误设。为了精确控制不同协变量类型的存在,我们首先基于图1所示的复杂因果图生成一个合成数据集。该数据集样本量为20,000,包含处理变量t、结果变量y以及协变量集合X={I,C,A,M,Z,TI,YI},其中每个组成部分都有明确定义。外生变量I、C、A服从正态分布,即I,C,A~N(0,1)。二元处理变量t从伯努利分布中生成,其概率由混杂因子C和工具变量I决定,如公式(9)所示:P(t)=0.4?σ(C?WCt)+0.5?σ(I?WIt)+0.1?σ(?t),(9) 其中σ(·)为sigmoid函数。所有其他内生变量V={M,Z,TI,YI,y}均基于其各自的父变量Pa(V)依次生成,如公式(10)所示:V=∑Pa(V)σ(Pa(V)?W)+0.1??V。(10) 所有权重参数W从均匀分布U[2,5]中抽取,噪声项?服从标准正态分布N(0,1)。任务2的合成数据(SD-T2):验证近端混杂因子集合。为了测试近端混杂因子集合原则,我们基于图3所示的因果图设计了第二个合成数据集,该图具有相互关联的混杂因子复杂网络。这使得在调整完整混杂因子集合与我们提出的最优子集之间可以进行受控比较。除了因果图结构不同外,变量的生成方式与数据集SD-T1一致。真实世界基准数据集(RW-T2)。这是一个新引入的专有数据集,收集自某领先消费金融公司基于大语言模型的真实世界电话营销活动。受严格的金融隐私法规约束,我们提供相对统计指标来刻画数据分布。例如,近端混杂因子"loanVol"与结果变量"dropRate"之间的皮尔逊相关系数为0.35,而工具变量"callsMo"与处理变量"tone"之间的互信息表现出高度显著性(归一化MI=0.42)。这些指标凸显了数据中存在的复杂非线性依赖关系。该数据集非常适合我们的验证目的,因为它包含两个不同组成部分:(1) 一个50,000样本的观察性数据集,在业务驱动的策略下收集,用于因果发现和施加不同的调整策略;(2) 一个20,000样本的RCT数据集,提供可靠的、无需模型的真正ATE估计,作为我们的基准真值。该数据集的关键变量见表2。表2:变量描述与角色。dropRate:10秒内通话挂断率,结果变量。tone:通话中使用的说话语气,处理变量。loanVol:用户累计贷款金额,近端混杂因子。limit:用户当前信用额度,近端混杂因子。age:用户年龄,近端混杂因子。sinceApp:距用户上次信用申请以来的天数,近端混杂因子。dpd:用户最大逾期天数,远端混杂因子。drawCnt:180天内取现请求次数,远端混杂因子。drawAmt:180天内取现请求金额,远端混杂因子。logins:最近30天的登录次数,远端混杂因子。region:用户地区代码,工具变量/预测因子。occup:用户职业代码,工具变量/预测因子。gender:用户性别,工具变量/预测因子。callsMo:上月已接通通话次数,工具变量/预测因子。highInc:用户是否具有高收入,工具变量/预测因子。处理变量("tone")是一个二元音色变量,代表使用两种不同声音(男性和女性)。关键的是,营销脚本的逻辑和内容在两个处理组中完全相同,确保我们的分析仅隔离出归因于语气变化的因果效应。结果变量("dropRate",10秒内的挂断率)通过对原始通话时长(秒)应用变换"dropRate = sigmoid(dura ? 10)"得到。该函数将通话时长平滑映射为提前断连的概率。该数据集的因果图构建(图4)结合了数据驱动方法和领域专业知识,以确保其结构严谨性。关键的是,这一构建过程展示了我们提出的框架如何应用于底层因果图最初未知的真实世界场景。该框架并非假定神谕知识,而是作为下游模块与经验图发现流程高效衔接。最初,我们采用一系列经典因果发现算法来学习结果变量("dropRate")的祖先图。具体而言,我们利用基于函数的广义协方差度量(GCM)算法[36]来识别与结果变量因果相关的候选变量集。随后,我们应用加性噪声模型算法[15]来确定这些变量之间的因果方向。在此基础上,我们组织了消费金融公司的资深业务分析师和数据科学家参与的结构化研讨会。在研讨会上,呈现了算法生成的初步图结构,并引导专家组审查每条关键因果路径。存在争议的边通过深入讨论和投票来解决。最终,控制处理变量"tone"分配的已知程序化逻辑(即tone推荐算法)被整合到图中。这种"算法-专家"混合流程确保了最终图不仅与数据一致,也符合深层业务逻辑,最终获得了所有参与专家的一致共识。图4:真实世界tone推荐数据集的因果图。客户历史、信用、人口统计和通话相关变量通过有向箭头连接到处理变量"tone"和结果变量"dropRate",展示了实证研究中使用
的因果结构。3.1.2 评估指标。我们在群体层面和个体层面评估所有模型的性能。群体层面效应。模型在群体层面的性能使用ATE的绝对误差来评估,记为εATE(公式11):εATE=|ATET?ATE^|。(11) 个体层面效应。对于需要反事实预测的任务,我们评估个体处理效应(ITE)估计的准确性。我们使用异质效应估计精度(εPEHE)[14],定义为估计值与真实ITE之间的均方根误差,如公式(12)所示:εPEHE=√(1/N∑i=1N((yi(1)?yi(0))?(?i(1)??i(0)))2)。(12) 3.1.3 竞争方法与实现。我们评估了基于潜在结果框架的一系列代表性因果推断模型的性能。这些包括基于倾向得分的分层法(PSS)[10]、基于倾向得分的匹配法(PSM)[4]、RCF [43]、逆概率加权(IPW)[33]、CBPS和npCBPS [17]、基于表征空间的TARNet,以及CFR模型[37]。对于基于倾向得分的方法(PSS、PSM和IPW),得分通过R语言中的"glm"函数使用逻辑回归估计。对于CBPS和npCBPS,权重通过"CBPS" R包获取。RCF、TARNet和CFR的实现基于各自作者提供的Python源代码。对于不直接估计ITE的模型(除TARNet和CFR外所有模型),反事实结果使用在调整后或重新加权数据上训练的非线性梯度提升模型进行预测,如在"gbm" R包中实现的那样。此外,为便于实际实施,合成数据的源代码已在匿名仓库中公开:https://anonymous.4open.science/r/ComplexCovariateAna。3.2 研究一:协变量误设的危害 3.2.1 实验设计。目标。本研究的主要目标是实证量化当非混杂协变量被错误包含在调整集中时引入的偏差。我们旨在验证关于各种协变量类型对因果效应估计准确性不同影响的理论主张。设置。使用明确标记协变量组成部分的数据集SD-T1,我们构建了一系列调整集。基线集仅包含真正的混杂因子{C}。然后我们创建若干形式为{C,U}的污染集,其中U依次被替换为集合{I,A,M,Z,TI,YI}中的单个非混杂变量。随后将3.1.3节所述的每种竞争因果推断方法应用于每个调整集以估计处理效应。性能通过εATE和εPEHE指标进行衡量。为确保公平比较并优化每个模型的性能,我们采用贝叶斯优化系统性地搜索并确定每种因果推断方法的最优超参数配置。该优化过程在独立的验证集上进行,目标是最小化预测误差,从而保证超参数选择的公正性和有效性。3.2.2 结果与分析。表3(εATE)和表4(εPEHE)中的实证结果为我们的理论框架提供了验证。主要发现如下组织。表3:{C,U}指标:εATE。各模型在合成数据集下不同{C,U}组合的εATE估计值。蓝色加粗标记各模型下表现最优的协变量组合,红色加粗表示反之。表4:{C,U}指标:εPEHE。各模型在合成数据集下不同{C,U}组合的εPEHE估计值。蓝色加粗标记各模型下表现最优的协变量组合,红色加粗表示反之。观察1(包含对撞变量导致严重偏差)。在所有模型和两种评估指标下,将
对撞变量Z包含在调整集{C,Z}中始终产生最大的估计误差。该实证结果与已建立的因果理论一致。如公式(13)所示,对对撞变量进行条件化处理会打开处理变量t和结果变量y之间的虚假非因果路径,引入其他非混杂协变量所不具备的新偏差来源(τ′(j)):E[yi(t)|Ci=c]=γ+(τ+τ′(j))?t+β?c。(13) 基于公式(13),估计偏差从ΔAPU转变为公式(14)所示的ΔAPZ:ΔFAPZ=β?∑j=1Jq(j)[C?tZ(j)?C?cZ(j)+τ′(j)]。(14) 这证实了在因果推断中将对撞变量视为混杂因子是特别有害的。观察2(调整变量的双重作用)。调整变量A表现出显著的双重效应。在群体层面(表3),{C,A}集合的性能对于大多数模型而言与基线{C}集合几乎相同,证实了包含A不会引入ATE估计的混杂偏差。然而在个体层面(表4),{C,A}集合在所有模型中均产生最低的εPEHE误差。

这验证了其理论角色:作为结果y的直接原因,它不会打开后门路径,但将其纳入结果模型会减少残差方差,从而提升反事实预测和个体处理效应(ITE)估计的精确性。

观察3(其他非混杂因素的负面影响):纳入工具变量(I)、中介变量(M)及其他变量会持续降低估计精度,相比于正确指定的基线{C}。虽然这些变量引入的偏差不如对撞变量严重,但表3和表4的结果展示了清晰且一致的性能下降。这一发现支持了我们的核心论点:最优指定的调整集应严格剔除非混杂协变量,以避免引入不必要的估计偏差和方差。

3.3 研究2:近端混杂集原则的验证

3.3.1 实验设计

目标:本研究旨在实证验证第2.6节的核心理论主张:即对近端混杂集(CP)进行调整不仅是充分的,而且是最优的,其得到的因果效应估计比对整个混杂集(C)进行调整更为准确。

设置:我们比较三种不同的调整策略以评估偏差减少效果:
(1)不调整(AN):基线估计,不进行混杂控制,代表处理与结果之间的朴素关联。
(2)整体调整(AT):传统的对所有已识别混杂因素C集进行条件化处理的方法。
(3)近端调整(AP):我们提出的仅对定义1中的近端混杂集(CP)进行条件化的策略。

为确保结果的稳健性和实际相关性,该比较评估在合成数据集(SD-T2,具有相互关联的混杂因素)和真实世界基准数据集(RW-T2)上均进行了。我们使用两种广泛采用的方法——IPW和PSM——来实现调整。

3.3.2 合成数据结果

合成数据(SD-T2)的结果为我们的假设提供了初步支持。如表5所示,未调整估计表现出51.32%的巨大相对误差。虽然整体调整策略大幅减少了该误差,但近端调整策略表现显著更好,在IPW(9.39%)和PSM(7.22%)两种方法下均实现了最低误差。这一结果表明,在真因果图已知的完美指定模型中,由我们的原则推荐的更精简的调整集能带来更准确的ATE估计。

表5
设置 方法 数据集:SD-T2 数据集:RW-T2
ATET ATE^ ?ATE ?ATE(%) ATET ATE^ ?ATE ?ATE(%)
AN – 0.717 41.085 50.368 251.32 0.0411 0.0813 0.0402 97.81
AT IPW 0.8186 0.1013 14.11 0.0719 0.0308 74.94
AT PSM 0.5636 0.1537 21.43 0.0678 0.0267 64.96
AP IPW 0.7847 0.0673 9.39 0.0613 0.0202 49.15
AP PSM 0.6656 0.0518 7.22 0.0525 0.0114 27.74

不同去混杂策略在SD-T2和RW-T2数据集上的ATE估计性能
加粗值表示两种比较方法中各指标的最佳结果。

3.3.3 真实世界数据结果

为验证我们原则的实际效用,我们在RW-T2数据集上复制了比较实验,使用来自重叠RCT的ATE作为真值。基于图4中构建的因果图,我们为竞争策略指定了调整集。整体调整(AT)策略包含所有八个已识别混杂因素:{age, sinceApp, dpd, drawCnt, loanVol, logins, drawAmt, limit}。相比之下,近端调整(AP)策略仅包含处理tone的四个直接父节点,它们在图中构成近端混杂集:{loanVol, limit, age, sinceApp}。

表5中展示的结果表明,近端调整原则的优势有效地推广到了复杂的真实世界应用中。未调整估计偏差极大,相对误差为97.81%。虽然传统的整体调整策略改进了估计,但近端调整策略证明显著更有效。使用PSM,它将相对误差降至仅27.74%,使观察性估计显著接近真值ATE。这一显著差异表明,虽然纳入更多远距离混杂因素在理论上是有效的后门路径阻断方法,但这种"过度调整"可能会引入显著的有限样本方差,最终降低估计的准确性。我们基于原则的最小调整策略成功避免了这一陷阱。这一结果进一步强调了近端混杂集原则在真实世界决策场景中提供可靠因果洞见的实际价值。

4 结论

本文探讨了观察性因果推断中的一个根本性挑战:用于混杂调整的协变量的原则性选择。我们首先解决了普遍认为所有可用协变量都是混杂因素这一流行但危险的假设。为了超越这一点,我们首先开发了AP的统一理论框架,该框架将不同调整方法背后的共同机制概念化。该框架成为我们构建核心理论贡献的分析基础,它使我们对非混杂协变量的错误纳入如何系统性地放大估计偏差进行了严格、广义的证明。

在理解了应排除什么的基础上,我们解决了当混杂因素因果关联时的最优纳入这一更细微的问题。我们提出了一个新颖的基于图的原则,证明近端混杂集——定义为d-分离处理与所有其他混杂因素的最小混杂因素集——构成最优调整集。这一靶向策略超越了调整所有已知混杂因素的朴素启发式方法,提供了更有效、统计效率更高的方法。我们的实证验证利用复杂的合成数据和基于真值RCT的真实世界研究,证实了这一原则的实践优越性,表明它始终产生更准确、偏差更小的ATE估计。

这些发现共同为因果实践提供了分层次、原则性的指南。实践者应首先严格区分真正的混杂因素和调整变量与其他协变量类型。随后,在混杂调整步骤中,他们应识别并仅对近端混杂集进行条件化。展望未来,这些原则为新一代自动化因果推断算法奠定了理论基础。未来工作应专注于将这些选择标准与因果发现方法相结合,开发鲁棒的端到端系统,以应对复杂的协变量环境并提供更可靠的因果洞见。最后,尽管本研究在无混杂性假设下进行,但近端混杂集对内生性(未测量混杂)的鲁棒性结构上取决于未观测变量的拓扑角色。具体而言,如果未测量的混杂因素严格作为远端混杂因素起作用,则对已观测近端集进行条件化在理论上仍然足以筛选出其虚假路径,从而保持因果估计的有效性。相反,如果未观测变量本身作为近端混杂因素起作用,则已观测协变量从根本上不足以完全消除混杂偏差。将我们的近端拓扑标准与基于代理变量的方法结合以解决未测量的近端混杂问题,构成了未来研究的关键方向。

致谢

作者感谢马上消费金融股份有限公司提供的数据和计算硬件支持。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号