AI辅助医疗中算法公平性与健康结果公平性的关联研究：基于乳腺癌筛查的社会技术系统模拟

《Nature Communications》：Connecting algorithmic fairness and fair outcomes in a sociotechnical simulation case study of AI-assisted healthcare

本研究针对临床AI系统仅关注算法公平性（如TPR、FPR均等化）而忽视实际健康结果公平性的局限，通过构建离散时间分区模型模拟AI辅助乳腺癌筛查的社会技术系统，评估了四种算法公平性标准（Naive、EqOppTPR、EqOppFPR、EqOdds）对长期死亡率和社会经济差异的影响。研究发现：实现真阳性率（TPR）均等可降低死亡率差异（死亡率比率从3.77降至3.07），但会以特权群体死亡率上升为代价；假阳性率（FPR）均等的影响较小；提高筛查可及性对减少健康不平等的效果远超算法干预。该研究强调需将算法公平性置于更广泛的社会技术系统中考量，为医疗AI的公平性评估提供了新范式。

　　

随着人工智能（AI）技术在医疗领域的快速应用，确保其公平性已成为亟待解决的核心问题。目前多数研究聚焦于算法层面的公平性（Algorithmic Fairness），例如通过技术手段消除不同亚组间真阳性率（TPR）或假阳性率（FPR）的差异。然而，一个关键问题被忽视了：算法上的公平是否必然转化为患者实际健康结果的公平？在真实的医疗场景中，AI系统并非孤立存在，而是嵌入在包含医生决策行为、患者就医可及性、社会经济因素等复杂要素的社会技术系统（Sociotechnical System）中。单纯追求算法指标的平等，可能会忽略不同群体在获取筛查、接受后续诊疗等方面存在的固有结构性障碍，甚至可能因“削高就低”（Leveling Down）的公平策略而对某些群体造成伤害。因此，迫切需要一种能够连接算法公平性与长远健康结果公平性的研究框架。

为解决这一难题，Emma A. M. Stanley等研究人员在《Nature Communications》上发表了一项开创性研究。他们以AI辅助乳腺癌筛查为案例，构建了一个创新的社会技术系统模拟模型，首次系统地探讨了不同算法公平性定义如何影响长期的死亡率和社会经济差异。这项研究的意义在于跳出了纯技术的局限，将AI公平性置于更广阔的医疗系统和社会环境中进行审视，为负责任地开发和部署医疗AI提供了关键见解。

为开展此项研究，研究人员主要采用了以下几种关键技术方法：首先是离散时间分区模型（Discrete-time Compartmental Model） 的构建，该模型模拟了包含50万40-75岁女性的虚拟人群，并抽象化地定义了其年龄、乳腺癌患病状态、疾病严重程度（以死亡率风险分数x_R表示）及社会经济指数（x_SEI）。其次是算法公平性场景的参数化定义，研究人员设定了四种场景（Naive无干预、EqOppTPR真阳性率均等、EqOppFPR假阳性率均等、EqOdds两者均等），并假设通过公平表示学习（Fair Representation Learning）实现性能均等化，常伴随“削高就低”效应。第三是临床决策整合模型，该模型模拟了放射科医生如何结合自身判断与AI系统的建议做出最终诊断，并引入了AI依赖参数（α）来量化医生对AI的信任程度。最后，研究人员还进行了广泛的敏感性分析，以评估AI系统性能差异、医生依赖度以及非算法干预（如提高筛查可及性、减少治疗延迟、增加辅助治疗机会）对结果的影响。模型参数主要基于美国相关医疗文献进行设定。

研究结果

不同算法公平性约束下结果差异的随时间比较

模拟运行50个时间步（年）后发现，与Naive场景（死亡率比率3.77）和EqOppFPR场景（3.82）相比，强制实现TPR均等（EqOppTPR和EqOdds场景）能将特权与非特权群体间的死亡率比率显著降低至约3.05-3.07，相当于每10万人绝对减少约12.22例死亡差异。然而，这种死亡差异的缩小部分归因于特权群体死亡率的相对上升，这是TPR“削高就低”的结果。在社会经济指数差异方面，Naive和EqOppFPR场景下差异较小，但这主要是因为特权群体因更高的TPR而更多接受治疗，承受了更大的经济负担，而非特权群体则因治疗机会少而死亡率更高，其社会经济指数未受治疗成本拖累。

AI系统组间性能差异对结果的影响评估

分析表明，TPR差异对死亡率结果的影响远大于FPR差异。在给定FPR差异（ΔFPR）下，将非特权群体的TPR降低30%可使死亡率比率增加超过15%，主要源于该群体漏诊（假阴性）增加。而在给定TPR差异（ΔTPR）下，将特权群体的FPR提高30%仅使死亡率比率降低不到5%，这主要是因为特权群体假阳性增多导致其后续筛查参与度下降，死亡率有所上升。对于社会经济指数差异，较高的ΔTPR（即非特权群体TPR较低）会缩小组间差异，而ΔFPR的影响微乎其微。

放射医生对AI决策依赖度的影响评估

当放射医生完全依赖AI决策（α=1）时，在存在TPR差异的Naive和EqOppFPR场景下，死亡率差异急剧扩大。在EqOdds场景下，死亡率差异不受AI依赖度影响。在EqOppTPR场景下，完全依赖AI时死亡率差异略有下降，但这并非由于非特权群体状况改善，而是因为特权群体FPR升高导致其后续筛查参与减少，死亡率向非特权群体的高死亡率“靠拢”。这表明，即使医生本身无偏见，其对AI的信任程度也会显著影响最终健康结果的公平性。

非算法医疗系统干预的敏感性分析

提高非特权群体的筛查可及性是减少死亡率差异最有效的干预措施。当非特权群体筛查比例从基线约65%提升至约93%时，其死亡率（每10万人）从144.06显著降至95.38，死亡率差异从105.48降至56.88。相比之下，减少治疗延迟或提高辅助治疗可及性的效果相对有限。然而，提高筛查和辅助治疗可及性也伴随着非特权群体治疗经济负担加重，导致组间社会经济指数差异扩大。

研究结论与讨论

本研究通过模拟揭示了算法公平性与健康结果公平性之间的复杂关系。核心结论是：算法公平性并不直接等同于公平的健康结果。实现TPR均等虽能降低死亡率差异，但可能以牺牲特权群体利益为代价；而提高医疗可及性等非技术性干预对促进健康公平的效果可能远大于算法层面的优化。这强烈提示，解决健康不平等问题需要超越单纯的技术方案，必须综合考虑社会、经济、政策等系统性因素。

研究的局限性包括对现实世界的简化假设、仅关注死亡率和社会经济指数作为结果指标，以及未考虑患者报告结局（如生活质量）等。此外，模拟结果基于特定参数，其具体数值不能直接外推至真实世界数据。

尽管如此，这项工作为理解医疗AI的公平性提供了重要的范式转换。它强调应避免“技术解决方案主义”（Technological Solutionism），即不能指望仅通过技术手段解决复杂的健康公平问题。相反，算法公平性应被视为一个跨学科工具箱中的重要工具，与改善医疗可及性、优化临床工作流程、制定公平卫生政策等非技术措施协同作用，共同推动医疗AI负责任地融入临床实践，最终实现更公平的健康结局。未来研究需要结合前瞻性临床试验（如CANAIRI框架所倡导的）和更精细的模拟，在更真实的场景中验证这些发现，并纳入更多元的利益相关者视角。