在部署的多模态融合中的反射性选择偏差：针对政策引发的反馈循环的因果修正

《Neurocomputing》：Reflexive selection bias in deployed multimodal fusion: Causal correction for policy-induced feedback loops

　　摘要：多模态融合系统通常会将昂贵的数据源隐藏在廉价且始终可用的通道之后：模型监控廉价数据，并仅在认为值得时才触发昂贵的测量。当此类系统在其帮助收集的数据上进行重新训练时，就会形成一个反馈循环，即模型塑造了自己的未来训练分布。我们将其称为内生政策引发的缺失，并证明这种缺失会产生选择偏差，且这种偏差不会随着数据量的增加而消失。我们证明了即使是在渐近情况下，零插入的训练也会收敛到有偏的估计器，并且循环执行部署-重新训练过程会恶化情况，使参数趋向于一个有偏的固定点，而不是自我纠正。我们开发了两种校正方法。第一种方法通过逆获取概率重新加权完整案例，从而恢复无偏损失，但它要求所有昂贵特征都必须同时被观察到，而且随着特征数量的增加，可用数据的比例呈指数级减少。第二种方法分割梯度：基础参数在所有样本上训练，而每个昂贵特征的贡献仅在使用到该特征的案例中单独进行校正。

引言：许多现实世界的预测系统结合了始终可用的廉价数据源和一种或多种选择性激活的昂贵数据源。雷达网络可能持续进行低分辨率监控，仅在轨迹看起来模糊时才启动高分辨率传感器。生产线可能用相机检查每个部件，只将不确定的部件发送到昂贵的计算机断层扫描（CT）中。预测性维护系统可能连续监控振动，只有在怀疑出现退化时才请求油样分析。每种情况的基本模式都是相同的：模型监控廉价通道，并决定每次测量是否值得其成本。

在医疗保健领域，这种模式也很常见。分诊模型监控连续的生命体征遥测数据，仅在患者状况看起来不确定时才触发成像或实验室检查；如果生命体征足够清晰，则不进行昂贵的测试。ICU监测也是如此。基本生理信号会定期获取，而动脉血气、肝功能和肾功能测试则是根据临床怀疑来安排的。这种门控逻辑在这些领域中都是合乎逻辑的。当廉价数据已经为大多数情况提供了明确的答案时，没有必要对每个案例都进行昂贵的测量。嵌入在这种系统中的模型实际上学习了一种获取策略：将廉价模态的观测结果映射到请求昂贵模态的概率。

问题在于当此类系统被迭代地重新部署时。在每一轮中，初始模型确定策略。然后使用在这些策略下收集的数据来重新训练模型，产生新的模型和新策略。每一轮，模型的预测都会影响下一个版本将从哪些数据中学习。这是一个反馈循环：如果训练过程不考虑非随机的数据收集，偏差就会累积。不确定的案例会接受昂贵的测试（因为模型在这些案例中不确定），而确定的案例则不会，从而重新训练后的模型的梯度系统性地偏向于不确定的子群体。这是我们在这里研究的环境的一个结构性特点：一个多模态系统，其自身的预测驱动了一种选择性获取策略，该策略又收集了其重新训练的数据。外生缺失和内生缺失之间的区别在这里非常重要。在外生缺失中，预测模型之外的因素（如临床医生习惯、保险规则或设备可用性）控制了哪些模态被观察到。Choi等人[5]的最新工作将逆概率加权（IPW）应用于多模态临床预测，在假设缺失是随机的（MAR）情况下纠正了单一来源到目标的缺失。Liang等人[25]也研究了内生（MNAR）缺失，但他们事后用启发式校正器根据观察到的掩码进行条件处理；他们既没有建模获取机制，也没有建立可识别性。

在内生缺失中，预测模型自身的输出决定了它接下来将看到哪些数据。这创造了一个自参照的选择机制：模型在其影响的数据上训练。这种反馈循环（1）是这种内生情况的一个定义性特征，在外生设置中没有类似物。Von Kleist等人[19]认识到主动特征获取会创建评估偏差，但没有解决训练偏差或反馈动态的问题。Kobayashi等人[21]学习了一个在上下文中决定在测试时获取哪些特征的策略，但他们没有纠正部署策略在其自身数据中引起的训练偏差。关于性能预测的文献[33]形式化了模型部署如何改变数据分布，但它尚未应用于多模态融合中的模态缺失问题。选择性标签的文献[23]解决了刑事司法和贷款中的结果依赖性观察问题，但没有解决多模态融合中的模态依赖性观察问题。据我们所知，还没有先前的工作形式化了多模态融合模型的获取策略与其自身训练数据之间的反馈循环，或者为非随机缺失（MNAR）设置提供了具有收敛保证的校正方法。

本文做出了五项贡献：1. 形式化内生政策引发的内生MNAR。我们定义并描述了内生政策引发的缺失，其中融合模型自身的预测决定了哪些模态会被获取。我们正式证明（命题1），在这种选择下，零插入的经验风险最小化（ERM）在渐近上是偏的。2. 反馈下的偏差持续性。命题2表明，多轮的部署-重新训练将ERM推向一个有偏的平衡状态。每个循环都继承了前一个循环的有偏分布，与真实值的差距收敛到一个非平凡的固定点，而不是消失。3. 具有反馈感知倾向估计的完整案例IPW（CC-IPW）。我们引入了CC-IPW，这是一种通过每个重新训练周期重新估计的逆倾向分数来加权的完整案例估计器。在正性和正确的倾向规格下，CC-IPW始终能够恢复真实值损失（定理1），并且反馈循环收敛到一个性能稳定的点。4. DIME：提升-去偏的信息缺失利用。CC-IPW会丢弃任何缺少一个昂贵特征的样本，当昂贵特征数量超过少数几个时，这种方法变得不切实际。DIME是一种梯度分割优化器，它避开了这个问题：它在所有样本上训练，仅对与昂贵特征相关的梯度分量应用每特征IPW校正。基础参数（廉价特征、缺失指示器）可以受益于完整数据集。此外，DIME产生的缺失指示器系数是可解释的。5. 经验验证。十七个实验涵盖了整个范围：六个合成基准测试，这些测试隔离了偏差机制；一个反馈循环实验显示在多轮后系数衰减了39%；一个基于UCI心脏病数据的半合成实验；一个直接基线比较；一个多特征缩放研究，在该研究中CC-IPW在特征数量较多时失效，而DIME保持稳定；以及一个关于理解治疗结果和风险偏好研究的真实世界实验（SUPPORT；9103名ICU患者），在那里DIME与全数据ERM的结果相符（曲线下面积AUC为0.839），并揭示了限制CC-IPW的完整案例瓶颈。进一步的六个实验量化了偏差递归，扩展了反射性MNAR的扫描范围，使用了深度更高维的融合模型，并探讨了倾向性错误指定、剪切阈值敏感性和依赖性获取问题。

本文的其余部分安排如下。第2节回顾了五个方面的相关工作，并定位了内生MNAR的差距。第3节建立了数据模型、反馈循环和缺失分类；命题1和命题2出现在这里。第4节开发了CC-IPW：估计器、算法、一致性定理及其与性能稳定性的联系。第5节介绍了DIME。第6节报告了所有十七个实验。第7节讨论了局限性和扩展。证明部分放在附录中。

在MCAR和MAR情况下的缺失模态融合：当某些模态在测试时缺失时，关于多模态学习的文献很多且不断增长。Che等人[4]引入了GRU-D（一种具有可训练衰减的门控循环单元），用于带有缺失值的临床时间序列预测，并有趣地观察到缺失模式本身也携带信号。Ma等人[31]采用了贝叶斯元学习方法，对缺失模态表示进行了边际化。Ma等人[30]对流行的多模态数据生成模型进行了基准测试。用 表示便宜的模态，该模态对每个患者都进行了观察；用 表示昂贵的模态，仅在获取指示器等于一时才可用。标签 是二进制的。样本是从 和 中独立同分布抽取的，而 是在便宜模态条件下抽取的：其中 是获取策略。分析师实际看到的是 如果 ，则完整的双模态记录 就在那里。如果 ，则只有 可用，昂贵的模态被替换为零向量（零插入）。

参考：Horvitz-Thompson加权原则。CC-IPW背后的思想很古老：它可以追溯到Horvitz-Thompson（HT）估计器[12]。对于任何函数 和具有倾向性的获取指示器 ，根据塔属性：。将 替换为 适用于政策实际使用的任何条件集 ，前提是给定 的情况下获取是独立的，即 和 。在每轮MAR情况下。在反射情况下，政策读取预扫描数据，因此 与 ；权重变成了 。这正是...

动机：多特征可扩展性问题。CC-IPW有一个严重的实际限制：它要求所有昂贵特征都必须同时存在。当每个特征 以概率 独立获取时，完整案例的比例是...在SUPPORT研究中（实验室面板，每个特征的缺失率为25-53%），只有19.6%的患者具有所有六个实验室值。在这个小子集上，CC-IPW的权重具有高方差。在我们的合成实验中，当特征数量较多时，完整案例的比例下降到0.5%以下...

实验概述：实验1-4、6、8和9在MAR子案例下进行。实验5转向反射性MNAR。实验7模拟了反馈循环。实验10将CC-IPW和DIME应用于真实的临床数据。实验11测试随着昂贵特征数量增加的情况如何扩展。实验12至17（从第6.13节开始）涵盖了定量偏差递归、反射性MNAR扫描、深度更高维的融合模型、倾向性错误指定、剪切阈值限制等。

局限性：已知倾向性要求。定理1要求 是已知的或能够一致估计的。在政策透明的系统中（例如，当不确定性超过阈值时触发），倾向性可以分析计算得出。当人类操作员覆盖自动化系统时，倾向性必须进行估计并且可能会错误指定，在这种情况下，CC-IPW和DIME可以减少但可能无法消除选择偏差。这就是Zhang等人[44]形式化的倾向性识别问题。

结论：我们发现了一个据我们所知还没有人正式解决的问题的问题：内生政策引发的内生MNAR。当部署的融合模型决定订购哪些昂贵的测试时，它会破坏自己的重新训练数据。这不是常见的缺失数据问题。这种缺失是自参考的，并且在重新训练周期中累积。从理论上讲，有三个结果框定了本文。命题1表明，零插入的ERM在渐近上是有偏的（在政策引发的情况下的标准M估计器论证）。

在编写本工作的过程中，作者负责任地使用了Gemini 3来辅助代码文档和格式化，并在模拟实验的开发过程中提供了常规的支持，包括帮助数组索引和相关脚本细节。在审查阶段，使用了Claude Opus 5和ChatGPT 5.6 Sol来进行进一步改进和代码质量检查以及额外实验的改进。核心思想、分析...

本研究没有从公共、商业或非营利部门的资助机构获得任何特定的资助。

声明：作者声明他们没有已知的竞争财务利益或个人关系，这些利益或关系可能会影响本文报告的工作。