心理健康生成式人工智能:前景、风险与未来之路

《BMJ Digital Health & AI》:Generative AI for mental health: promise, risk and the path forward

【字体: 大 中 小 】 时间:2026年09月21日 来源:BMJ Digital Health & AI

编辑推荐:

   在整个人生中,每两人中就有一人会面临心理健康问题1,而心理健康问题也是全球疾病负担的主要贡献因素之一。2 2023年,近12亿人正遭受精神障碍的困扰,这一数字自1990年以来几乎翻了一番。2 尽管针对常见心理健康问题已有多种循证治疗方法,从药物治疗到谈话疗法,但许多人仍然难以

  

在整个人生中,每两人中就有一人会面临心理健康问题1,而心理健康问题也是全球疾病负担的主要贡献因素之一。2 2023年,近12亿人正遭受精神障碍的困扰,这一数字自1990年以来几乎翻了一番。2

尽管针对常见心理健康问题已有多种循证治疗方法,从药物治疗到谈话疗法,但许多人仍然难以找到适合自己的支持方式。有些人对某些疗法看不到效果;有些人会经历副作用;而全球数百万人因服务超负荷、不可获得或受到污名化影响而面临无法获取任何服务的障碍。

随着健康系统努力应对不断上升的需求,数字创新——尤其是生成式人工智能——常被提出作为变革性解决方案。但要将这些技术的潜力变为现实,仅靠技术本身是不够的。目前存在明确的研究空白和重要的监管问题有待解决,但生成式人工智能的潜力覆盖范围和可扩展性意味着,它可能提供在规模上很少现有的干预措施所能匹敌的支持。

在生成式人工智能的前景之外,还必须面对其可能造成的现实伤害,包括未能阻止自残或自杀、因迎合倾向而强化妄想性信念,以及体现训练数据中嵌入的文化偏见。需要循证证据、监管明确性、全球包容性,以及有生活经验者的实质性参与,才能使技术推动心理健康支持进入一个新的时代。

在维康基金会(Wellcome),我们正在投资基础研究3,以了解生成式人工智能如何改善焦虑、抑郁症和精神病的测量与治疗,包括通过在中低收入国家(LMICs)工作的团队。中低收入国家的心理健康基础设施往往极为薄弱,在某些地区心理健康问题仍受到高度污名化,但数字设备的可及性却仍在持续上升,尽管这些设备主要是在高收入国家开发的。4 在某些情况下,AI赋能的干预措施可能比需要大量治疗师投入的模式更具可行性。确保人工智能解决方案在中低收入国家安全部署至关重要,同时要考虑加剧医疗服务可及性健康不平等的风险——高收入人群由治疗师治疗,而低收入人群只能依赖人工智能聊天机器人获取支持。在高收入环境下开发的工具很少能无缝移植到其他地方;合乎伦理且具有文化相关性的解决方案从一开始就需要纳入有生活经验者的意见,以便进行适配并最大化对所服务人群的益处。

摆在我们面前的机遇比聊天机器人或自动化疗法更为广阔。生成式人工智能之所以格外引人注目,是因为心理健康护理在诊断、症状跟踪和认知行为疗法等干预方面高度依赖语言。但人工智能还可以增强更广泛的护理路径:通过环境记录员减轻临床医生的负担,通过动态分诊系统应对波动的需求,以及通过数据关联方法帮助更早识别风险。除了任务转移之外,这也是一次重新思考全面有效且可扩展的心理健康护理应当呈现何种面貌的机会。

监管环境的变化可以加速进步,但也存在削弱安全性的风险。美国近期的公告表明监管趋于宽松,包括扩展可穿戴设备的"一般健康"类别、缩减某些临床决策支持工具的规定,以及降低数字健康产品的上市前负担。5–7 这些变化承诺了更快的上市途径和早期项目更大的灵活性,但我们必须切勿忽视安全性和有效性。

面向消费者的AI工具进一步模糊了这些边界。尽管缺乏监管监督、临床验证或敏感数据保护,人们越来越多地使用这些工具获取心理健康支持。

如果AI赋能的心理健康工具要实现其潜力,必须面对多项挑战。证据要求仍然存在争议:随机对照试验在某些情况下可能适用,但数字对照组的设计难度大,且干预措施发展迅速。数字工具和软件更新的动态特性使得标准方法难以实施。正如John Torous及其同事所论述的,证据框架必须反映数字工具的现实,而不是将它们强行套入过时的范式。8 监管也难以跟上持续更新的技术步伐。许多工具因以通用用途为宣传而游离于正式监管之外,尽管它们实际上被用于心理健康支持。此外,AI工具造成的伤害可能是微妙的、情境化的且难以归因的——触发痛苦的对话可能难以被察觉,而心理健康的变化很少能清晰地映射到单一的互动中。

切实可行的解决方案正在涌现。诸如英国药品和医疗器械监管局(MHRA)的"缓冲间"项目9等监管"缓冲机制"允许开发者在监管参与下测试产品,早期识别风险并引导工具走向安全上市。这项工作已在全球范围内成形。我们的研究加速器正在支持各团队探索AI如何培训或为卫生工作者提供反馈、在超负荷系统中辅助分诊以及实现更早诊断,同时,PATH(健康适宜技术项目)获得的维康资助联盟正在设计非洲首个针对AI赋能心理健康工具的监管沙盒,引导产品走向上市批准10,并与非洲药品管理局合作在全大陆推广相关经验。

该行业还需要一套针对数字心理健康技术的共同伤害分类体系,而英国标准协会(BSI)于2026年6月公开征询的标准11为将此嵌入实践提供了机会。持续的自动化监控对于检测潜在伤害、模型漂移和偏见至关重要,PATH及其合作伙伴正在开发实时评估这些风险的方法。监管机构也必须互相学习:MHRA已在与国际监管组织合作,国际医疗器械监管者论坛12和英国-新加坡健康AI创新走廊13等倡议提供了进一步的对齐机遇。跨部门合作同样重要,开发者、政策制定者、临床医生和有生活经验的人需要共享空间来定义证据要求并了解可用技术,同时需要有透明的心理健康工具数据库来提供支持。

机遇是明确的。我们现在需要的是行动:卫生工作者可以获取并使用最近出台的MHRA指南;开发者和政策制定者可以申请MHRA和PATH的缓冲机制;参与未来关于标准的公众咨询;并支持监管机构协同工作。AI无法单独解决心理健康危机,但只要有合适的证据、监管和全球合作,它就能成为解决方案的有力组成部分。

相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号