综述:医疗人工智能中的公平性偏见:基于系统性回顾的现状分析与缓解框架
《Healthcare》:Algorithmic Bias in AI-Based Diagnostic Models: A Systematic Review and Lifecycle Framework for Fairness Auditing and Governance in Healthcare
【字体:
大
中
小
】
时间:2026年10月03日
来源:Healthcare 3.4
编辑推荐:
:摘要 背景:基于人工智能的诊断系统正在日益影响医疗服务的提供,然而,虽然这些系统在整体性能上表现出色,但在不同人群亚组之间仍可能存在具有临床意义的差异。此类差异不仅引发了模型开发的挑战,也
:摘要
背景:基于人工智能的诊断系统正在日益影响医疗服务的提供,然而,虽然这些系统在整体性能上表现出色,但在不同人群亚组之间仍可能存在具有临床意义的差异。此类差异不仅引发了模型开发的挑战,也给医疗组织的健康公平性、实施和治理带来了问题。方法:我们根据PRISMA 2020标准,对2019年1月至2026年8月期间发表的文献进行了系统性回顾。搜索共识别出1842条记录,其中87条被纳入证据库,46条记录接受了结构化的定量分析。证据库包括原始的实证/模型评估证据,以及用于定性背景分析的次级或相关方法论证据。我们还开发了FRCS-10,这是一个包含十个条目的描述性报告完整性指标,该指标基于现有的报告和治理指南制定,并应用于整个证据库。结果:经过同行评审的原始数据显示,在CheXpert和MIMIC-CXR研究中,不同性别、年龄和种族之间的基线真阳性率存在0.062–0.281的差异;而一项皮肤病学的元分析显示,Fitzpatrick I–III阶段的AUROC值为0.89,Fitzpatrick IV–VI阶段的AUROC值为0.82。这些数值是直接从文献中获取的估计值,并未基于患者级数据进行独立分析。数据表示是最常见的偏见来源(38%),其次是算法设计(21%)和标签或注释偏见(19%)。FRCS-10的描述性平均分为4.6/10;在87条记录中,仅有7条记录描述了部署后的公平性监测情况。对5项具有足够明确评估指标的原始实证研究进行了兼容性评估,但由于这些研究中的差异定义无法相互比较,因此未计算出汇总效应量。结论:我们提出了“公平意识偏见检测与缓解框架”(EA-BDMF),这是一个基于现有文献、面向实施的医疗人工智能生命周期规范。该框架涵盖了数据审计、基于流行病率的预处理、受公平性约束的训练、校准和阈值治理以及部署后的监测等环节。该框架还包含了生命周期公平性债务(LED) accounting指标、检查点文档、偏见来源-缓解可追溯性矩阵以及描述性的监管映射。目前,这个完整的框架尚未经过端到端的验证,其临床和组织效用仍需在现实医疗环境中进行前瞻性评估。
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号