认知干预与认知需求对AI辅助心理健康决策中偏见的影响研究

《Scientific Reports》：Impacts of cognitive forcing and need for cognition on biased AI-assisted decision making about mental health emergencies

本研究针对AI在心理健康风险评估中可能加剧对边缘群体偏见的问题，探讨了认知干预(CF)和认知需求(NFC)对AI辅助决策的影响。通过两项在线实验发现，认知干预未能有效缓解偏见，但高NFC个体表现出更强的抗偏见能力。该研究为促进AI在精神卫生领域的公平应用提供了重要心理学依据。

　　

在精神卫生急救领域，人工智能(AI)正被越来越多地用于预测暴力风险等关键决策。然而，这些基于电子健康记录训练的机器学习(ML)模型可能存在严重偏见——研究表明，它们更容易对男性、种族边缘化群体(如黑人、中东裔或原住民)、居住不稳定患者等做出虚假阳性预测，即高估这些群体的暴力风险。更令人担忧的是，当临床医生接触到这些有偏见的AI建议时，他们也可能做出带有偏见的决策，从而在紧急心理健康服务中造成潜在的不公平现象。

为了探索如何减轻这种偏见影响，由Shrika Vejandla和Marta M. Maslej博士领导的研究团队在《Scientific Reports》上发表了最新研究，考察了认知干预(CF)和个体认知需求(NFC)特质如何影响人们在AI辅助下的心理健康紧急决策。

研究人员通过两个精心设计的在线实验展开研究。实验1招募了281名参与者，随机接受有偏见或无偏见的AI建议，评估不同患者群体的暴力风险。实验2则纳入373名参与者，在接触有偏见AI建议的同时，随机分配至三种CF干预组(延迟AI、更新AI、按需AI)或对照组，进一步探究干预效果。所有参与者均完成了认知需求量表(NCS)评估。

主要技术方法包括：基于亚马逊MTurk平台的参与者招募和数据收集；使用REDCap系统进行实验管理；采用逻辑混合效应模型分析决策数据；通过注意力检查机制确保数据质量。

实验1结果：偏见AI的确导致偏见决策

研究发现，接触偏见AI建议的参与者明显更可能对边缘群体(特别是黑人)做出派遣警察的决策。具体而言，在偏见条件下，参与者对黑人个体派遣警察的可能性几乎是白人的2.8倍(OR=2.826)。有趣的是，这种偏见效应主要体现在低NFC个体中，而高NFC个体相对不受偏见AI影响。

实验2结果：认知干预效果有限，但NFC作用显著

三种CF干预(延迟AI呈现、更新决策机会、按需查看AI建议)均未能有效减轻参与者对黑人个体的偏见决策。然而，NFC的特质差异再次显现重要作用：高NFC参与者未表现出基于种族的决策差异，而低NFC参与者仍显著更可能对黑人个体派遣警察(OR=1.687)。在"按需AI"条件下，低NFC参与者整体派遣警察的可能性降低，可能因为他们选择不查看AI建议。

讨论与意义

本研究的重要发现在于，传统的CF干预在缓解心理健康领域的AI决策偏见方面效果有限，这可能是因为暴力风险评估涉及复杂的社会刻板印象，简单的认知干预难以克服深层偏见。然而，个体特质NFC的作用不容忽视——高NFC个体表现出更强的批判性思维能力，能够更好地抵抗偏见AI的影响。

这一发现对AI在精神卫生领域的实施具有重要启示：与其依赖可能增加临床认知负荷的干预措施，不如关注使用者的心理特质。未来的AI系统设计可能需要考虑如何适配不同NFC水平的用户，或通过培训提升临床医生的批判性思维倾向。

研究还指出，在高压力的急性精神科护理环境中，促进系统2思维可能不足以保障决策公平性。相反，可能需要开发更智能的系统，能够主动识别和标记可能存在偏见的风险预测，而非对所有患者提供统一的AI建议。

尽管研究存在样本代表性、任务生态效度等限制，但它为理解人机协同决策中的心理机制提供了宝贵见解。在AI日益融入心理健康服务的今天，确保技术应用不加剧现有健康不公平至关重要。这项研究提醒我们，技术的公平性不仅取决于算法本身，还取决于人类如何与这些算法互动——这一认识将推动更负责任、更有效的AI实施策略发展。