人工智能生成的门诊回复存在人口统计学语气差异：对少数族裔及弱势群体患者传递更少积极情感与礼貌用语，凸显医患沟通中的算法不平等风险

《npj Digital Medicine》：Differences in tone of AI and care team responses to patient messages by patient demographics

　　

摘要

已提出使用人工智能（AI）起草对病人门户信息的回复，以减少医生收件箱的负担。然而，关于其对医患沟通的影响知之甚少。在这项回顾性观察研究中，我们评估了AI生成的草稿回复（AI-GDRs）以及医疗团队对病人信息的回复在语气上的人口统计学差异。本研究纳入了来自纽约市三家内科和家庭医学诊所的12,202个信息三元组，包括病人信息、AI-GDRs和医疗团队回复。我们发现，不同人口统计学特征的患者在回复语气上存在差异。与白人患者相比，AI-GDRs对西班牙裔患者的回复中包含礼貌用语的可能性较低。此外，对于西班牙裔、偏好非英语、出生时被指定为女性或居住在平均收入较低地区的患者，AI-GDRs在回复中传达积极情感的可能性也较低。这些语气差异中的部分现象也在医疗团队的回复中被发现。医生和高级执业提供者在回复西班牙裔或偏好非英语的患者时，传达积极情感的可能性也较低。我们的研究结果强调，需要谨慎实施AI起草功能，以确保该技术不会在医患沟通中引入或加剧不平等现象。