《Frontiers in Digital Health》：You must not fool yourself: Feynman, neurodiversity, and honest AI in digital mental health
编辑推荐：
数字心理健康正通过包括对话智能体、风险预测工具及临床决策支持平台在内的人工智能（AI）系统部署经历快速转型。尽管热情日益高涨，该领域尚未就精神病学与心理学背景下构成诚实、可信赖AI的操作标准达成共识——该标准需明确考量局限性、盲点以及已部署系统未经验证的人群。
数字心理健康正通过包括对话智能体、风险预测工具及临床决策支持平台在内的人工智能（AI）系统部署经历快速转型。尽管热情日益高涨，该领域尚未就精神病学与心理学背景下构成诚实、可信赖AI的操作标准达成共识——该标准需明确考量局限性、盲点以及已部署系统未经验证的人群。本视角（Perspective）借鉴理查德·费曼（Richard Feynman）于1974年加州理工学院毕业典礼演讲“ cargo cult science”中阐述的科学诚信基本原则，并结合卡尔·萨根（Carl Sagan）的维度隐喻，为数字心理健康中的AI开发一套实用的、面向披露的伦理框架。神经多样性（neurodiversity）范式提供了关键的应力测试（stress test）：日益增长的实证证据表明，基于狭隘行为与语言规范训练的AI工具存在严重误代表神经多样性（neurodivergent）用户的风险，可能将污名、错误分类与不公隐性重新编码至临床系统中。借助预测加工（predictive processing）理论及近期关于AI对神经多样性人群偏见的实证证据，本研究提出费曼诚实标准（Feynman Honesty Standard）的五项准则：范围明晰（scope clarity）、人群限制披露（population-limit disclosure）、不确定性沟通（uncertainty communication）、角色完整性（role integrity）与参与式共同开发（participatory co-development）。分析最后提出了面向临床医生、开发人员与政策制定者的前瞻性研究议程，主张评判该领域的尺度不仅是算法性能，还包括其对这些系统所知、遗漏及无法做到之事的坦率程度。
研究背景与问题提出
数字心理健康正处于由人工智能（AI）驱动的快速转型期，对话智能体、风险分层算法及临床决策支持平台被广泛部署。尽管AI有望普及心理健康服务并揭示人眼难以察觉的模式，但现有伦理框架尚未解决“坦诚（candour）”这一核心问题：研究者与开发者是否对系统的能力边界、未知领域及适用人群保持了制度性与认知上的诚实。当前领域存在“ cargo cult science”风险，即仅具备表面科学严谨性（如窄样本试点研究、历史偏见数据训练、流畅但无理解的生成式AI输出），却缺乏自我审视的深层承诺。尤其对于神经多样性（neurodivergent）群体（如自闭症、ADHD），其共病率高、诊断延误史及结构性不平等已被记录，若AI系统在未经该人群验证的情况下部署，将放大既有不公并将差异病理化。鉴于此，研究人员开展了一项基于理查德·费曼（Richard Feynman）“首要原则是不可自欺”与卡尔·萨根（Carl Sagan）维度隐喻的理论整合研究，结合神经多样性范式作为应力测试，旨在提出适用于数字心理健康的费曼诚实标准（Feynman Honesty Standard），该论文发表于《Frontiers in Digital Health》。
主要关键技术方法
研究人员采用了理论整合与文献综述法，未涉及实验试剂与操作。研究依托预测加工（predictive processing）理论及认知神经科学框架，系统回顾了通用大语言模型（LLM）编码器偏见、自然语言处理（NLP）分类模型在精神健康中的系统性偏见，以及已部署对话智能体的危害路径三方面实证文献。样本证据主要涉及成人自闭症与ADHD群体，并指出发育层面（青少年）及其他神经发育状况（如 dyslexia、dyscalculia）的证据缺口。通过哲学隐喻（费曼的 cargo cult science、萨根的Flatland维度约束）与伦理框架分析，推演出五项操作性准则，并参照欧盟AI法案（Regulation (EU) 2024/1689）、FDA AI/ML SaMD行动计划（2021）及NICE证据标准框架（2022）进行合规性讨论，同时引入GRIPP2检查表以操作化参与式共同开发。
研究结果
2 Feynman's first principle and cargo-cult risks in digital mental health
研究人员将费曼1974年提出的“ cargo cult science”概念移植至数字心理健康领域，指出当前AI开发存在自我欺骗风险：对话AI基于非代表性人群的窄试点研究宣称“临床验证”；风险分层算法在历史偏见数据上测量性能；生成式AI产出流利但无真实临床理解的文本。这种制度性表演而非真诚探究的做法，在患者脆弱性及临床权力不对称背景下被放大，尤其对神经多样性人群（自闭症者共病抑郁约25%、焦虑约27%，自杀风险高3-6倍）造成结构性伤害重编码。
3 Neurodiversity as a stress test for honest AI
研究人员以神经多样性范式检验AI诚实性，指出若AI主要基于神经典型（neurotypical）行为规范训练，会将差异编码为病理。实证显示在三个层面存在偏见：LLM编码器对神经多样性相关术语存在内隐偏见；NLP分类模型在训练数据、架构及解释各环节存在系统性偏见（一项标志性分析回顾52项研究无一同时解决所有偏见源）；部署中对话智能体导致情感依赖与内化污名放大且缺乏监管。当前证据主要集中于自闭症与ADHD，其他状况及青少年群体证据尚薄，但足以证明该问题非理论假设且缺乏人群特定评估。未经过神经多样性验证、未披露性能差距、未让社区参与设计的系统违背费曼第一原则。
4 Dimensional metaphors, predictive processing, and the limits of AI perception
研究人员借用萨根二维Flatland生物无法感知三维物体的隐喻，结合预测加工（predictive processing）理论，将AI重构为受限投影架构：AI输出是基于训练先验（prior distributions）的约束截面（cross-section），而非客观真理或高阶观察者。人类临床医生作为具身、道德可问责主体可通过直接遭遇与同僚挑战修正先验，而AI模型缺乏此矫正机制。因此诚实AI应将输出呈现为“投影”并沟通其盲点形状，而非伪装成特权真相。
5 Toward a Feynman honesty standard for AI in digital mental health
研究人员提出费曼诚实标准的五项操作准则：范围明晰（scope clarity）——明确声明未设计或未验证的功能（如排除无监督诊断）；人群限制披露（population-limit disclosure）——记录并披露训练与验证人群的人口学、神经、语言、发育特征及弱势群体育预期性能退化；不确定性沟通（uncertainty communication）——伴随风险或预后输出提供用户可理解的未知范围而非仅技术置信度；角色完整性（role integrity）——界面与文档清晰区分支持、分诊与治疗，禁止拟人化冒充临床权威，可参照Software as a Medical Device (SaMD) 与NICE框架审计；参与式共同开发（participatory co-development）——神经多样性群体结构性参与定义可接受不确定性及危害场景，可用GRIPP2检查表操作化。这些准则将费曼“讲出所知与所不知全貌”的要求转化为可审计的文档、界面审查与社区磋商指标，是对现有框架（如EU AI Act、WHO 2024指南）在人群特定披露与角色完整性上的补充。
6 Implications and a forward research agenda
研究人员指出对临床医生需重新校准对AI输出的解释立场，将AI素养作为核心能力以阅读局限文档与挑战输出；对开发者需从优化基准性能转向设计“诚实失败”；对政策制定者与期刊应要求训练人群特征、神经多样性代表性、不确定性量化与参与式设计作为发表与部署前提。提出三急迫研究优先项：开发含儿科青少年及超越自闭症ADHD的神经多样性包容验证数据集；将费曼诚实标准操作化为监管与报告检查表；纵向研究诚实AI实践是否改善神经多样性人群公平与信任结果。
讨论与结论翻译
费曼第一原则并非停滞劝诫而是真正进步的前提。不自欺的科学才是能真正学习的科学。应用于数字心理健康AI，该原则引出一问题：研究者是否对开发者、临床医生、监管者、患者及神经多样性社区讲出了全貌——关于这些系统所知、所不知及谁承担错误代价？关于AI对神经多样性人群偏见风险日益增长且方向一致的证据清楚表明尚未诚实回答该问题。萨根维度隐喻与预测加工框架提醒，AI输出是人类复杂性的受限投影，临床AI最危险的错误是将之误认为客观性。提出的五项准则提供了从哲学承诺到数字心理健康AI工具构建、文档化、监管与使用实操改变的可行路径。三大优先研究浮现为最紧迫：开发神经多样性包容的心理健康AI验证数据集（含儿科青少年及验证数据最稀疏的自闭症ADHD以外状况）；将费曼诚实标准操作化为标准化监管与报告检查表；纵向研究诚实AI实践是否为神经多样性心理健康服务使用者产生可测量的公平与信任改善。数字心理健康不仅将由算法性能评判，也将由该领域是否有诚信讲述关于它们的真相来评判。
要不要我帮你把论文中“费曼诚实标准”的五项准则整理成一条条带解释的说明清单，方便你后续引用或做笔记？
