医疗AI嵌入偏差多群体精准测量：基于SD-WEAT的敏感人群偏见检测框架

本研究针对医疗AI模型在非二元敏感群体(如多民族、性别群体)中嵌入偏差检测的难题，创新性开发SD-WEAT框架。研究团队构建7类医疗基准数据集（涵盖性别/种族关联疾病与ADR），在BioBERT等模型中首次实现多属性组同步偏差量化，发现生物医学模型存在显著性别(P<0.01)及种族(P<0.01)关联偏差，为医疗公平性评估提供新工具。

　　

在人工智能席卷医疗领域的今天，一个隐蔽的风险正在浮现：当AI诊断系统将"乳腺癌"与女性特征紧密关联时，可能忽视男性患者的诊疗需求；将某些疾病与特定种族关联时，或加剧医疗不平等。传统偏见检测工具WEAT（词嵌入关联测试）面临两大瓶颈——仅支持二元群体比较，且固定属性词集导致结果波动。面对医疗场景中复杂的多层级敏感属性（如亚洲、黑人、西班牙裔等多民族分类），亟需更精准的测量工具。

美国食品药品监督管理局国家毒理学研究中心的研究团队在《BMC Medical Informatics and Decision Making》发表突破性研究。他们开发出SD-WEAT（标准差-词嵌入关联测试）新框架，通过构建七类医疗基准数据集，首次实现对Glove、BERT、BioGPT等六大语言模型的多维度偏差扫描。研究揭示：生物医学专用模型BioBERT在性别关联疾病数据集（G-1、G-2）中呈现显著偏差（P<0.01），却能在性别中性疾病（G-3）中保持中立；更警示性地发现该模型在种族关联基准（E-1、E-2）同样存在系统性偏差（P<0.001）。

研究方法精要（250字）

研究团队采用三阶段方法：

1. 基准构建：依据WHO及临床研究数据，创建7类靶点集（含性别/种族关联疾病、药物不良反应ADR），要求术语均存在于GloVe词典

2. 模型选择：覆盖静态向量（GloVe）与动态Transformer模型（BERT系列、GPT系列），包含生物医学专用模型（BioBERT/BioGPT）

3. SD-WEAT算法：

   • 合并多属性词集（如非裔/白人/西班牙术语）

   • 随机生成100组属性子集（每组4词）

   • 通过均值池化（mean pooling）处理子词嵌入

   • 计算效应值标准差得出偏差分数

核心发现

性别关联基准的深度解析

在包含前列腺癌（男性99%+）、卵巢癌（女性99%+）的G-1数据集，BioBERT展现最强关联性（SD-WEAT=0.727, P=0.003）。当扩展至性别主导疾病（如男性色盲3:1）的G-2集，其偏差仍显著（0.608, P<0.001）。值得注意的是：在性别中性疾病集（G-3），BioBERT成功规避虚假关联（0.558, P=0.956），而BioGPT反而出现过度关联（0.447, P=0.012）。这揭示生物医学模型能精准捕获真实医学差异，但需警惕过拟合风险。

种族偏差的多维度证据

• 传统二元基准（E-1）：针对芬兰/犹太遗传病（如Cohen综合征），BioBERT显示强烈族群关联（0.844, P=0.004）

• 创新多元基准（E-2）：首次同步扫描黑人/西班牙裔/白人三群体，BioBERT再现显著偏差（0.868, P<0.001）

LegalBERT虽在常规任务中表现中立，却在种族基准中异常敏感（E-1:0.348, P<0.001; E-2:0.663, P<0.001），暗示法律语料训练可能放大特定敏感特征。

混合基准的警示意义

当将男性专属疾病（如睾丸癌）与种族术语混合测试（H-1），主流模型均未建立虚假关联（BioBERT:0.652, P=0.339）。但基础BERT模型出现异常信号（0.700, P<0.001），后续WEAT配对分析（表3）揭示其"黑人-西班牙裔"配对接近显著（WEAT=0.822, P=0.084），提示通用模型可能存在隐性认知偏差。

属性词重要性热图揭示关键关联

通过添加16个中性词（岩石、天空等）构建噪声实验，BioBERT的热力分析（图1）直观显示：

[](@replace=1)

在性别强相关疾病集（G-1/G-2），"女性（woman）"、"她（her）"等词与妇科癌症呈现高强度关联（暖色区块）；而性别中性疾病集（G-3）则呈现分散模式。这证实模型并非简单记忆词频，而是精准捕获医学特征关联。

研究启示与医疗应用前景

本研究颠覆了"医疗AI偏差必须消除"的单一认知：

1. 必要偏差的医学价值：BioBERT精准关联性别特定疾病（如前列腺癌→男性），恰是临床知识的正确体现

2. 危险偏差的预警：种族与疾病的非理性关联（如非裔与镰状细胞贫血）需针对性消减

3. SD-WEAT的工具突破：支持

   • 多元敏感群体同步扫描

   • 属性词集动态生成

   • 医疗场景定制化基准

未来可基于此框架发展"偏差精准调控"技术——强化必要医学关联，弱化伦理敏感关联。随着Llama、Mistral等大模型进入医疗，该研究为构建下一代公平性评估标准提供核心方法论，推动FDA等监管机构建立AI医疗偏见检测新范式。