《Dialogues in Clinical Neuroscience》:Artificial Intelligence in suicide prevention: promise, peril, and clinical implications for clinical practice
编辑推荐:
人工智能(AI)融入精神病学的进程正快速推进,其在自杀预防领域虽前景广阔但尚待深入探索。尽管现有研究大多集中于自杀风险预测,但AI可更广泛地应用于自杀预防的连续谱系。本综述考察了AI在提升自杀意念(SI)检测、加强临床医生培训以及扩大患者获得心理治疗支持方面的
人工智能(AI)融入精神病学的进程正快速推进,其在自杀预防领域虽前景广阔但尚待深入探索。尽管现有研究大多集中于自杀风险预测,但AI可更广泛地应用于自杀预防的连续谱系。本综述考察了AI在提升自杀意念(SI)检测、加强临床医生培训以及扩大患者获得心理治疗支持方面的潜力。研究表明,AI模型通过识别微妙语言或语义线索,可能比临床医生更敏感地识别SI。此外,基于AI的虚拟患者已在自杀风险评估中显示出提高临床医生信心和准确性的效果,尤其当与传统培训方法结合使用时。在患者端,受认知行为疗法(CBT)启发的AI工具提供了可规模化、按需获取的支持,但多数仍未受监管且未经临床验证。纵然这些工具被认为具有同理心和可用性,它们仍构成伦理与临床风险。许多患者在无专业指导的情况下使用AI工具,临床医生常低估这一趋势。这种脱节亟需监管监督与专业参与。若无明确临床验证,基于AI的工具可能在医学框架之外发展,使弱势个体暴露于可预防的伤害。精神病学不仅必须适应,还必须引领,确保以同理心、安全性和科学严谨性负责任地利用创新以服务患者。
引言
人工智能(AI)在精神病学中的应用正在全球快速发展,也包括精神障碍患者群体。AI可被视为模拟人类认知某些方面(如信息处理、语言理解和风险评估)的计算工具。尽管AI不复制人类的理解或同理心,但它能识别数据中可能被人类忽略的微妙标记,例如与自杀意念相关的语言模式。近期美国调查显示,过去一年使用过大型语言模型(LLM)的成年精神障碍患者中,近半数将其用作心理支持,约三分之二报告AI互动改善了心理健康状况。在青少年和年轻成人中,约13%使用AI获取心理健康建议,且超过65%的AI使用者每月都会寻求相关建议,超过90%认为非常有帮助。然而,大多数精神科医生对这一广泛使用不知情或否认。已有悲剧案例表明,AI可能被滥用。因此,AI在自杀预防中仍具潜力,但现有研究多聚焦于风险预测,而其在检测自杀意念、临床培训以及患者支持方面的直接应用值得探讨。本综述旨在考察这三个领域,并批判性讨论其潜在收益和风险。
临床判断与人工智能:互补而非替代
自杀行为可被视为从被动自杀意念(SI)到主动意念、自杀未遂直至死亡的连续谱。识别SI是干预的关键第一步,不仅因为预防自杀,也因为SI本身与更差的精神科预后相关。然而,检测SI具有临床挑战。研究显示,临床医生评估与患者自报之间关于自杀想法的分歧高达75%,多数情况下是患者报告了SI而医生未检测到。约56%的自杀死亡者在死亡前四周内咨询过医疗专业人员。此外,仅通过自报问卷支持SI而未在临床访谈中披露的患者,其自杀未遂风险与临床确认者相当。AI,特别是最新的LLM,可能提高检测敏感性。一项研究比较了ChatGPT-4和ChatGPT-3.5与379名心理健康专业人员对患者案例的判断,发现ChatGPT-4在预测自杀未遂方面与临床医生持平,且在检测SI和心理痛苦方面更敏感,而ChatGPT-3.5则显著低估风险。这表明不同AI模型性能差异大,使用需谨慎。AI还可作为临床访谈的“第二读片”,例如实时转录对话并分析语言线索,包括强化词、人称代词或语气转变,可能识别出未明确透露的自杀想法。近期研究显示,基于自然主义医患访谈训练的AI模型能利用声学和语义特征检测SI。然而,过度依赖AI可能导致自动化偏见,即临床医生即使有矛盾也过度相信算法输出。此外,依赖AI可能导致认知卸载,妨碍独立临床推理的发展。建议在培训后期分阶段引入AI,以确保其增强而非取代临床判断。
培训人类副驾驶:AI作为自杀行为临床医生教育的工具
全科医生(GP)是常首先接触自杀患者的专业人员,但少于40%的GP报告常规评估情绪障碍患者的SI。因此,加强精神科医生和GP等非专科医生的SI检测能力成为公共卫生目标。AI培训工具可发挥双重作用:一方面教育医生了解AI工作原理和局限,另一方面协助获得临床访谈和风险评估技能。虚拟患者模拟器是创新应用之一。例如,名为“Alex”的虚拟代理被设计用于训练心理健康临床医生评估自杀风险,提供安全且可重复的学习体验。与使用传统方法培训的医生相比,使用Alex培训的医生在获取自杀想法相关信息方面更自信、更有效。另一项研究评估了模拟呈现SI患者的会话代理,结果显示使用该AI代理培训的临床医生对自杀风险相关言语和非言语线索的识别更好,且更容易处理困难对话。近期一项AI驱动的虚拟现实培训项目针对来自20个国家的年轻临床医生,支持各自母语互动,结合实时反馈和自然场景,显著提高了知识获取和临床信心,尤其有助于在模糊或微妙表现中检测SI。传统自杀风险评估培训依赖理论教学和督导下角色扮演,耗时且资源密集,而AI工具可提供持续、按需的练习机会,促进长期技能巩固。然而,此类工具的开发不应仅由技术公司主导,而应让临床医生、研究人员和教授密切协作,并在严格框架下评估。同时,临床医生的接受度是关键,担心责任增加、工作量和资源限制可能阻碍采用。因此,需邀请临床医生参与共同设计,并确保实施时有适当培训和机构支持。
当患者独自转向AI:无监督心理健康支持的使用、感知与风险
针对SI的认知行为疗法(CBT),如自杀预防认知疗法(CT-SP)和简短自杀预防认知行为疗法(BCBT-SP),已在临床试验中显示可显著减少SI和自杀未遂。然而,全球治疗师短缺、等待时间长和地理分布不均限制了可及性。基于自然语言处理(NLP)的CBT启发AI工具提供了可扩展、按需的支持,但大多数未受监管且未经临床验证。开发者常将其标记为“健康应用”以规避美国食品药品监督管理局(FDA)或欧洲药品管理局(EMA)的医疗器械审批。用户常在心理痛苦时与AI聊天机器人互动,有时讨论自杀想法。由于AI常被感知为比人类治疗师更有同理心、更少评判和更易获得,患者可能更愿意披露,但也可能面临风险。LLM可能表现出奉承行为,即认可用户观点,即使观点反映扭曲或危险思维。研究警告,LLM可能验证SI而不提供适当的转介或干预。AI工具还可能强化回避行为,例如不联系紧急服务或家人。有理论提出“临床互动错觉”,即AI通过模拟共情对话而无真正主体间性,可能削弱治疗联盟。此外,AI在检测风险线索方面可能失败,例如未能识别解离、对自己伤害的隐晦提及或升级风险信号。尽管有研究显示AI代理能改善患者对自杀风险的理解,但多在严格控制环境中进行。目前尚无随机对照试验(RCT)测试AI应用作为自杀特定CBT的验证工具。需要监管机构采取更积极角色,如强制内置安全机制、明确公众沟通。临床医生应作为知情中间人,教育患者并整合技术,确保安全。
将AI融入自杀预防的伦理与认知挑战
AI融入自杀预防带来了深刻的伦理和认知困境。预测模型依赖大规模数据集,包括电子健康记录和社交媒体活动。但如何根据预测的高风险标签行动?阈值设定问题,假阳性可能导致强制措施或污名化。伦理框架需适应AI预测的非二值、概率性特征。一个容易被忽视的问题是“委派困境”,即临床医生在高压环境中可能将判断卸载给算法。这导致自动化偏见,临床医生忽视自身直觉而倾向于模型输出。法律问责担忧可能导致防御性临床决策,如不必要的住院。患者可能认为AI比临床医生更有同理心,但这种模拟同理心可能具有误导性,因为LLM在本质上是奉承的。在自杀预防中,这可能导致错失治疗性对抗或安全计划的机会。许多AI应用在传统医疗环境之外收集敏感心理数据,包括语言样本、情绪状态和行为模式,且同意程序模糊。数据常存储于第三方服务器,法律保护不足,患者可能意外交出高度个人数据。此外,AI并非中立,模型受训练数据和开发者目标影响。NLP模型可能无法检测神经多样性患者或使用非规范语言者的自杀倾向。因此,偏见是结构性的。负责任的自杀预防AI需要主动去偏、包容性数据集和跨人群持续验证。
结论
尽管AI在心理健康领域的研究不断增加,其在自杀预防中的应用仍相对不成熟。现有研究多集中于利用电子健康记录或社交媒体数据预测自杀风险,但AI还可用于临床访谈中检测SI、培训医疗专业人员以及支持患者管理自杀想法,特别是在照护可及性有限的地区。然而,将AI融入自杀预防面临诸多挑战,包括自主性与数据隐私的伦理关切、自动化偏见以及奉承式聊天机器人行为等临床风险。当前患者对AI的使用已广泛且往往无人监管,忽视这一现实不仅可能增加有害结局风险,还可能加剧医患隔阂。因此,必须以负责任和循证的方式推进:用于支持自杀患者的AI工具应接受与其他临床干预相同的严格标准,包括随机对照试验、主管机构的监管批准以及上市后安全监测。问题不再是患者是否会使用AI,而是临床医生和研究人员如何明智地塑造这种使用。