平价医疗法案下算法无歧视合规的未来挑战与应对策略

《npj Digital Medicine》：The future of algorithmic nondiscrimination compliance in the affordable care act

本文针对《平价医疗法案》第1557条新规对AI临床决策工具的合规要求，探讨了算法偏见识别与消除的挑战。研究通过建模模拟揭示了在健康结果差异存在时公平性指标（如FPR、FNR、PPV）之间的固有权衡，提出应优先审计影响已知差异结果的工具，并呼吁制定标准化实施指南以支持医疗系统合规。该研究为算法公平性在医疗领域的实践提供了重要参考。

　　

随着人工智能（AI）技术在医疗领域的广泛应用，算法辅助临床决策正逐渐成为常态。然而，这些强大的工具也带来了新的风险——它们可能无意中复制甚至加剧医疗保健中现有的差异。2024年5月，美国卫生与公众服务部（HHS）发布了关于《平价医疗法案》（Affordable Care Act, ACA）第1557条的最终规则，明确禁止在患者护理决策支持工具（包括基于AI的决策支持干预，DSI）中存在基于种族、肤色、国籍、性别、年龄或残疾的歧视。该规则要求覆盖实体在2025年5月前完成合规，这为算法设计者和医疗保健组织带来了前所未有的挑战。

当前医疗AI领域面临的核心问题在于，当不同患者群体（如不同种族或年龄组）的健康结果发生率（例如，某种疾病的患病率）本身存在显著差异时，如何定义和实现算法的“无歧视”。例如，前列腺癌在老年人群中的发病率远高于年轻人，而急诊室的等待时间可能因种族而异。如果基于历史数据训练AI模型，这些现实存在的差异会直接影响模型的性能指标，导致在不同群体间出现不可避免的准确性权衡。研究人员William G. La Cava、I. Glenn Cohen和Jaya Aysola在《npj Digital Medicine》上发表的文章《The Future of Algorithmic Nondiscrimination Compliance in the Affordable Care Act》深入剖析了这些挑战。

为了厘清合规路径，研究人员首先分析了第1557条规则的具体要求，重点聚焦于第92.210节。该节规定，覆盖实体必须持续监控那些直接使用受保护属性作为输入的DSI，并采取合理措施减轻其使用可能带来的歧视风险。然而，文章指出，规则的一个潜在局限是它主要针对明确使用受保护属性的工具，而现实中更隐蔽且危害更大的歧视形式往往是“代理歧视”（Proxy Discrimination）——即模型通过使用与受保护属性相关的变量（如邮政编码可能代理种族）来间接产生歧视性结果。

为了阐明算法公平性固有的技术挑战，研究团队进行了一项详细的建模模拟。他们构建了一个简化的场景：两个患者群体（a组和b组）具有相同的临床风险因子分布，但目标结局（如某种疾病）的患病率不同（a组为20%，b组为50%）。通过逻辑回归模型，他们演示了在试图平衡不同公平性标准时出现的根本性冲突。这些标准包括错误率平衡（要求假阳性率FPR和假阴性率FNR在不同群体间相等）和校准标准（要求阳性预测值PPV在不同群体间相等）。模拟结果清晰地表明，当结局患病率在群体间不同时，不可能同时实现FPR、FNR和PPV的跨群体平等。开发者必须在这些指标之间做出选择，而不同的选择可能对不同的患者群体产生截然不同的临床影响（例如，一个群体面临更多的漏诊，而另一个群体面临更多的过度治疗）。

除了技术上的权衡，文章还探讨了处理受保护属性组合（即交叉性，Intersectionality）带来的巨大复杂性。规则要求考虑基于“任何组合”的受保护属性的歧视。利用Beth Israel Deaconess医疗中心急诊科近20万例入院数据，研究人员展示了当同时考虑种族、性别、年龄和语言偏好（国籍代理）这四个属性时，会产生270个潜在的交叉子群体。通过统计功效计算，他们发现，在大型医疗中心长达八年的数据中，也只有约65%的四重交叉子群体有足够的样本量来可靠地检测出较大的患病率差异（如20%对50%）。对于更细微的差异，绝大多数子群体都无法进行有效评估。这凸显了在现实世界中全面审计算法对所有交叉子群体公平性的巨大困难。

在合规策略方面，文章对规则优先审计“使用受保护属性”的工具的做法提出了质疑。作者认为，这可能导致开发者为了规避监管负担而完全从模型中移除这些属性，但这并不一定能消除歧视，反而可能使模型性能下降或公平性更差。他们主张，更有效的审计策略应该是优先关注那些针对“已知存在显著健康差异的临床结局”的DSI，因为结局差异是驱动DSI性能差异和最终健康结果差异的主要因素。

面对这些挑战，文章最后呼吁相关机构（如CMS）召集多学科任务组，制定一个标准化的“实施指南”（Implementation Guide, IG）。这样的指南不仅能提供技术指导，还能在法律上提供更清晰的合规路径，特别是对于资源有限的小型或农村医院。同时，文章也讨论了规则面临的政治和法律不确定性，尽管其核心反歧视条款目前尚未受到挑战，但未来的执法力度可能会随政府更迭而变化。

主要技术方法

本研究主要采用理论分析、法律解读和计算模拟相结合的方法。理论分析部分深入解读了《平价医疗法案》第1557条最终规则的法律文本和内涵。计算模拟部分利用合成数据（Synthetic Data）构建了一个理想化的临床场景，通过逻辑回归模型（Logistic Regression）模拟不同患病率群体下的模型性能，并绘制受试者工作特征曲线（ROC曲线）和精确召回曲线（PR曲线）来可视化公平性权衡。此外，研究利用真实的急诊入院数据集（MIMIC-IV-ED）进行统计功效分析，以评估在交叉性子群体中检测差异的可行性。

研究结果

算法公平性中的固有权衡

研究通过模拟表明，当患者亚组间结果患病率（p）不同时，算法公平性指标之间存在不可调和的矛盾。试图平衡各组间的错误率（FPR和FNR）会导致各组间的阳性预测值（PPV）出现差异。反之，试图平衡PPV则会引发错误率的差异。这种权衡是数学上的必然，无法通过收集更多数据或改进模型算法来规避。

交叉性审计的可行性挑战

对真实世界急诊数据的分析显示，随着考虑的受保护属性数量增加，形成的交叉子群体数量急剧膨胀。要在此类子群体中可靠地统计检测到歧视，需要足够的样本量。分析表明，即使在大型医疗中心的长周期数据中，对于细微的差异，大多数多重交叉子群体也缺乏足够的统计功效（Statistical Power）来进行稳健的评估。

代理歧视与审计范围的局限性

文章指出，规则强调审计直接使用受保护属性的工具，可能无法有效捕捉更常见的“代理歧视”形式。许多知名的算法偏见案例（如用于管理人群健康的算法和胸部X光AI模型）并未直接使用受保护属性，但仍因与结果变量相关的代理或混杂因素而产生了显著的歧视性影响。

合规路径与政策不确定性

研究分析了规则对医疗提供商（而不仅仅是开发者）赋予的责任，以及由此产生的对标准化实施指南和潜在“安全港”（Safe Harbor）合规机制的需求。同时，文章指出规则的长期效力受政治环境和执法优先级变化的影响，尽管其通过司法挑战被完全推翻的可能性较低。

结论与讨论

该研究系统地阐述了在《平价医疗法案》第1557条新规下，实现医疗算法无歧视合规所面临的多重挑战。核心结论是，在健康结果存在差异的现实世界中，绝对的、无条件的算法公平往往是无法实现的。开发者、提供商和监管机构必须认识到不同公平性定义之间的固有权衡，并根据具体的临床背景和工具预期获益，做出明智的、符合伦理的妥协。简单地避免使用受保护属性或机械地追求某一公平性指标，都可能无法达成真正的公平，甚至可能带来危害。

研究表明，有效的合规策略需要超越规则字面要求，将审计重点扩展到那些影响已知存在差异的健康结果的工具上，而不仅仅是那些明确使用受保护属性的工具。同时，必须正视在交叉性子群体中测量和减轻歧视的可行性限制。为了支持所有规模的医疗系统，特别是资源有限的机构，开发实用的、标准化的实施指南至关重要。

这项研究的意义在于，它为医疗AI领域的算法公平性实践提供了关键的理论基础和现实指导。它强调了在技术可行性、法律要求和伦理责任之间取得平衡的必要性。随着医疗AI的持续集成，这项研究提出的问题和解决方案将为政策制定者、医疗提供商、算法开发者和研究人员提供重要的参考框架，共同推动医疗保健向更加公平的方向发展。