以青年为中心的人工智能心理健康支持：打破证据—设计反馈回路

《Frontiers in Public Health》：Recentring young people in AI for mental health support: breaking the evidence-design feedback loop

　　

摘要翻译：年轻人在支撑人工智能（AI）心理健康工具的研究中在很大程度上代表性不足。AI系统所依据的证据基础往往并未完全纳入年轻人的意见和观点。研究人员提出一个概念模型，即“证据—设计反馈回路”：在研究阶段被排除在外可能会产生更不易被年轻人采用或难以满足其需求的干预措施。对于来自边缘化及代表性不足文化背景的年轻人，这些风险会被放大，因为他们所面临的叠加排斥源于证据基础和设计过程往往缺乏文化多样性。该模型中的关系是基于现有文献提出的假设。本文主张，需要在研究和产业两个层面进行结构性变革，以纳入与年轻人的共同设计（co-design）。AI开发者应展示从开发的最早阶段就让年轻人有意义地参与，监管机构则应在这方面执行更高的监管标准。研究人员和AI开发者应将与年轻人的有意义共同设计嵌入AI心理健康工具的开发之中，这可能有助于这些技术对年轻人的生活经验更具相关性、更安全且更具回应性。

论文解读：以青年为中心的人工智能心理健康支持：打破证据—设计反馈回路

一、研究背景与问题

人工智能（AI）心理健康工具在年轻人群体中快速普及，聊天机器人等干预手段被越来越多地定位为应对日益增长的心理健康需求的可扩展方案。然而，这些工具所依据的证据基础在很大程度上排除了它们所服务的年轻人群体的意见和视角。研究发现，青少年参与健康研究的比例极低，例如《柳叶刀儿童与青少年健康》委员会指出，在青少年健康研究中，仅约15%的研究让青少年以超出“研究对象”之外的身份参与。2025年一项纳入41项研究的系统综述显示，在心理健康干预措施的共同设计研究中，没有一项达到高参与度，超过50%的研究仅呈现低参与度。这种证据基础的缺陷可能进一步被AI系统的训练数据和设计决策放大，导致对年轻人无效、不安全且不公平的干预措施。尤其值得关注的是，年轻人在AI互动中面临特定风险，包括无效的治疗支持、对痛苦信号的误解以及求助行为的减少。

二、研究目的与核心模型

为解决上述问题，本文提出一个概念模型——“证据—设计反馈回路”（evidence-design feedback loop）。该模型描述：健康研究在多数情况下排斥年轻人，生成一个不能充分代表年轻人经验、偏好与风险的知识证据库；AI系统基于这一不完整的证据库进行问题框定、设计决策和评估标准设定；由此开发出的心理健康应用未与年轻人共同设计，可能导致接受度低和安全隐患；低接受度和安全隐患又反过来使年轻人被排除在下一代研究与开发之外，形成自我强化的循环。该模型中的关系是基于现有文献提出的假设。作者进一步以Tessa聊天机器人事件和Grové研究为例说明缺乏共同设计的风险与有效共同设计的价值。

三、关键技术与方法

本研究是一篇观点性（perspective）文章，作者提出概念模型并基于现有文献进行论证。研究采用的方法包括：对现有证据的整合与分析，如引用《柳叶刀》委员会数据、系统综述和案例；概念模型构建，即通过图1展示“证据—设计反馈回路”中各要素间的假设关系；案例分析法，剖析NEDA的Tessa聊天机器人因未充分融入年轻人视角而产生有害输出的反面案例，以及Grové研究中建立青少年参考小组实现性别中立设计和多主题覆盖的正面案例；此外还引入发展心理学理论（如青少年自我中心、双系统模型）和儿童权利框架（如《联合国儿童权利公约》、UNICEF指南）来支撑论证。

四、研究结果

1. 问题始于工具之前：每7名10–19岁青少年中约有1人患有心理健康障碍，但该群体不愿寻求外部支持而偏好自我应对策略。尽管AI正被整合进心理健康工具以提供个性化干预，但快速整合并未伴随与年轻人的有意义共同设计。现有研究表明，年轻人参与健康研究和共同设计的程度普遍较低，导致下游AI干预的相关性受限。

2. AI如何放大排斥：AI心理健康工具依赖现有证据库和训练数据集，因此证据库中的偏见、排斥和知识空白可能通过所生成的干预被延续和放大。由于证据库本身就未充分纳入年轻人的观点，开发者据此框定问题、做出设计决策并设定评估与安全标准，所生成的工具难以真正满足年轻人的需求，形成如文中图1所示的自我强化反馈回路。

3. 年轻人特有的风险：年轻人对在线安全、自主性和数字互动有独特期望。青少年发展特征使其对AI内容更敏感：青少年自我中心（imaginary audience and personal fable）使他们对被审视和评判的感受增强，容易受到鼓励比较和有害身体形象标准的内容影响；双系统模型（dual systems model）提出，负责奖励敏感性的社会情绪系统早于负责自我调节的认知控制系统成熟，因此青少年可能更关注潜在奖励而非潜在风险，难以可靠地拒绝有害的AI建议。因此，将年轻人纳入共同设计至关重要，但共同设计只是更广泛安全框架的一部分，不能取代临床评估、人工监督和上市后监测。

4. 对代表性不足文化背景的特别失败：文化相关性是确保AI心理健康工具提供适当治疗的关键。现有证据库对少数文化背景年轻人的代表性更差，导致AI工具缺乏文化能力和细微度。一项来自印度的研究显示，印度青少年认为现有AI聊天机器人缺乏文化相关性和足够的个性化；另一项混合方法研究显示，来自加拿大、英国和美国的聊天机器人用户表达更直接并寻求解决方案，而来自印度尼西亚、印度、马来西亚、菲律宾和泰国的用户则采用更隐晦的沟通风格并偏好促进家庭和谐的解决方案。算法偏见已被确认为健康的重要数字决定因素，与来自多元背景的年轻人进行共同设计有助于识别和纠正文化上不适当或有偏见的支持策略。

5. 挑战：与年轻人共同设计面临真实障碍，包括冗长复杂的伦理审批流程、伦理审查委员会自身仍在摸索AI研究伦理、研究人员未在预算中适当为年轻人时间提供报酬、权力动态管理困难、选择偏倚导致样本不具有代表性、象征性参与而非真实共同设计，以及现有基础设施对边缘化年轻人群体的持续排斥。尽管如此，联合国《儿童权利公约》将尊重儿童观点视为基本权利，资源限制和后勤困难不应凌驾于这一原则之上。UNICEF关于儿童与AI治理的指南、澳大利亚的AI医疗指南、英国国家AI医疗监管委员会的证据征集以及Chang等人支持历史上边缘化群体年轻人作为AI系统共同设计者的案例研究，均可作为缓解这些复杂性的支持资源。

五、讨论与结论

作者认为，由于问题是结构性的，增量调整不足以解决，必须在研究和行业监管两个层面同时推进有意义的变革。研究人员应构建更具代表性的证据基础，直接纳入不同背景和年龄段的年轻人，在招募和数据报告中避免将年轻人视为同质群体，采用经年轻人群体验证的结局指标，资助机构和研究治理机构应将年轻人参与设为资助和发表标准的预期条件，并常规分配资金为年轻人参与提供适当报酬。AI开发者应与研究人员共同承担责任，监管者应要求开发者从开发过程开始就展示年轻人的有意义参与，而非仅限于事后测试。将发展理论融入共同设计输入向具体设计原则的转化，例如利用双系统模型制定针对青少年的风险识别模型和升级协议，利用青少年自我中心理论指导设计语言以避免放大自我意识。UNICEF指南可作为标准化方法和框架的基础，对高风险AI心理健康工具在上市许可中纳入共同设计标准可提高透明度并确保文化相关性。仅靠研究或监管单方面都无法成功：包含年轻人的研究若不被产业采纳则无效，强制年轻人参与的监管若缺乏代表性证据基础则缺乏实质内容，两者必须共同推进。结论是：若不干预，AI快速融入心理健康护理将把长期存在的排斥大规模嵌入新技术系统中。将特别是来自代表性不足背景的年轻人有意义地嵌入共同设计，贯穿研究和开发全过程，能够提高AI心理健康工具的参与度、相关性和公平性。问题不再是年轻人是否应参与，而是相关利益相关者是否愿意重新设计系统以确保他们参与其中。