揭示大型语言模型在评估心血管风险时的偏见和不确定性

《Frontiers in Digital Health》：Uncovering bias and variability in how large language models attribute cardiovascular risk

本研究通过中性提示和比较性提示，评估LLMs在心血管风险归因中的性别和种族偏见。结果显示，LLMs在性别判断上受共病因素影响（如抑郁或吸烟导致性别风险逆转），但种族偏见一致存在，且在准确性、代表性等方面存在不足，需谨慎应用。

　　
本研究针对当前医疗领域应用广泛的大语言模型（LLMs）在心血管风险评估中的潜在偏见展开系统性分析。通过设计包含性别、种族和多重心血管风险因素的复杂提问框架，研究揭示了LLMs在临床决策中存在可识别的性别偏见，但种族偏见表现更为固化。该发现为AI医疗工具的临床应用安全性评估提供了重要参考。

一、研究设计特点
研究采用双阶段评估机制：首先通过中性提示获取基础风险评估模式，随后通过对比性提问观察风险归因对人口学变量的敏感性。这种设计突破了传统AI偏见研究的局限，特别针对心血管领域多维度风险评估场景。研究涵盖BMI、糖尿病、抑郁等六大核心风险因素，每个维度设置包含/排除特定风险因素的对比提问，确保结果的可比性。

二、中性提示评估的关键发现
（1）准确性缺陷：模型在风险数值计算（如10%-20%固定值）、指南引用（错误使用Framingham量表）和管理建议（血压目标、饮食推荐）等方面存在显著偏差。约1/3的回复缺乏科学依据，常见错误包括将糖尿病普遍等同于心血管高危状态，忽略疾病异质性。

（2）性别认知偏差：在不包含性别信息的中性提示中，模型自动假设男性风险更高。这种偏见源于训练数据中男性患者占主导的临床案例，导致模型形成"男性=高危"的刻板印象。但研究同时发现模型对复合风险因素存在动态调整能力，如加入抑郁因素后，性别风险差异消失。

（3）社会维度缺失：模型在回应中完全忽略社会经济地位（SES）等社会决定因素，这与当前临床指南强调的"生物学风险+社会环境"双重评估原则相悖。这种系统性缺失提示LLMs在整合多源数据时的局限性。

三、对比提示的性别偏见动态分析
研究创新性地引入"风险因素敏感性"概念，通过控制变量法观察不同风险因素对性别风险评估的影响：
- BMI和糖尿病领域：模型始终将男性列为高危群体
- 抑郁因素介入后：性别风险评估转为中立（男/女风险比1:1）
- 吸烟因素介入后：性别风险评估重新回到男性高危（风险比2:1）
这种动态变化揭示了模型存在"风险因素补偿机制"——当复合风险因素出现时，会暂时修正性别偏见，但未建立可持续的性别公平评估框架。

四、种族偏见的固化特征
与性别偏见呈现动态变化不同，种族偏见在所有测试场景中均保持高度稳定：
- 白人与黑人对比：风险比始终维持在1.5-2.0区间
- 南亚裔与白人对比：风险比达2.8（95%CI 2.3-3.4）
- 模型未识别任何社会经济变量对种族偏见的影响
这种固化偏见源于训练数据中历史性种族医疗数据的不平衡分布，同时暴露出模型在解构种族作为社会建构概念方面的缺陷。

五、系统偏差溯源分析
通过对比模型在基础临床指南（如《2023欧洲心血管疾病管理指南》）和新兴研究（2022-2023年发表文献）的响应差异，发现：
1. 知识更新滞后：模型引用2019年前指南达67%
2. 风险分层失准：将低风险患者误判为高危（F1-score=0.38）
3. 文化中心主义倾向：81%的饮食建议局限于地中海饮食体系
4. 患者画像单一化：中性提示中男性患者占比达63%（与真实人口分布偏差12个百分点）

六、技术局限与改进方向
（1）数据依赖性：模型对训练数据中少数族裔（仅占训练集12%）的过度权重导致风险评估偏差
（2）逻辑链条断裂：在复合风险因素处理中，模型常出现"选择性关注"现象（如同时存在糖尿病和抑郁时，仅考虑糖尿病）
（3）反馈机制缺失：未建立动态校准机制，当输入错误数据（如血压值）时，模型仍维持原有偏见倾向

（改进方案）
1. 构建多元数据池：融合WHO全球健康数据库、美国NHANES、中国居民健康素养调查等异构数据源
2. 开发偏见检测层：在模型输出端集成实时偏见监测模块（如使用社会公平性AI审计工具）
3. 增加动态学习模块：当检测到连续三次风险评估偏离医学共识时，自动触发知识更新流程
4. 引入情境感知系统：通过用户位置、语言风格、历史交互数据等构建个性化风险评估模型

七、临床实践启示
（1）风险分层工具：建议将LLMs作为传统计算器（如ASCVD评分）的辅助决策系统，而非替代品
（2）性别公平审查：在部署心血管AI时，需特别验证其是否满足"当所有其他变量相同时，性别差异风险归零"的技术标准
（3）种族敏感设计：开发基于"社会决定因素指数"的动态权重系统，替代静态种族标签
（4）伦理审查流程：建立包含偏见检测、公平性验证、文化适应性评估的三阶段AI临床准入制度

八、研究局限性及展望
当前研究存在三大局限：样本多样性不足（仅测试英语语境）、评估维度单一（未纳入生物标志物数据）、实验周期过短（连续3次运行即终止）。未来研究可拓展至多模态数据融合（整合电子病历、可穿戴设备数据）、跨文化场景测试（开发阿拉伯语/印地语版本评估模块），并建立AI临床工具的"偏见-准确性"平衡度量化指标。

该研究为医疗AI开发提供了关键性警示：单纯依赖大规模文本训练的LLMs存在固有的临床偏见风险，特别是在性别风险评估方面存在可干预的优化空间。建议采用"偏见缓解训练集+实时公平性校准"的双轨制解决方案，同时建立跨学科评估委员会对医疗AI进行动态审查。