《DIGITAL HEALTH》：ChatGPT health and AI for healthcare: From commercial personal assistant to public health infrastructure
编辑推荐：
OpenAI面向个人用户推出的ChatGPT Health以及面向机构用户推出的ChatGPT for Healthcare，标志着大型语言模型向健康与医疗服务领域的大规模扩展。尽管这些产品承诺提高效率并改善信息可及性，但它们也引发了有关隐私、患者安全以及数字
OpenAI面向个人用户推出的ChatGPT Health以及面向机构用户推出的ChatGPT for Healthcare，标志着大型语言模型向健康与医疗服务领域的大规模扩展。尽管这些产品承诺提高效率并改善信息可及性，但它们也引发了有关隐私、患者安全以及数字健康基础设施治理方面的重大关切。本文通过对OpenAI健康相关产品进行评价，审视其系统性影响，并勾勒出能够更好地使生成式人工智能（AI）与卫生系统目标相一致的公共利益治理模型。研究人员采用基于文档的分析方法，对公开可获取的供应商通信、技术文档和政策页面进行了考察，并借助健康信息学中的社会技术框架进行解读，评估了产品架构、数据流、验证声明及治理机制。供应商材料表明，这两款产品均可能促进大量敏感健康与行为数据的聚合，进而形成纵向健康档案，由此引发了关于数据保留、二次使用、再识别以及跨境传输等一系列悬而未决的问题。尽管公开声明声称安全且具有较高的基准测试性能，但现有验证似乎集中于狭窄的任务和专有内部评估，无法替代适当的临床治理或全面的监管评价。这些进展还可能加深对单一全球供应商的依赖，从而对数字主权和健康公平构成结构性风险，尤其是在数据保护较为薄弱的司法管辖区。归根结底，健康领域的生成式AI不应主要被界定为由单一平台运营的多用途消费应用，而应被视为嵌入在公共治理的数字健康基础设施中的专业化工具。
**解读文章**
**研究背景与问题**
随着OpenAI于近期推出面向个人的ChatGPT Health和面向机构的ChatGPT for Healthcare，大型语言模型（large language models, LLMs）正式大规模进入健康与医疗服务领域。这一发展标志着生成式人工智能（generative artificial intelligence, AI）在医疗卫生领域的商业化部署进入新阶段。然而，在效率提升和信息可及性改善的承诺背后，这些产品也引发了关于隐私保护、患者安全以及数字健康基础设施治理能力的系统性担忧。现有研究指出，消费者级别的会话代理可能因权威性语气与不完整临床语境的结合而导致患者误解或延误就医；临床环境中，AI辅助文档生成则可能诱发自动化偏见，使临床医生在认知负荷下不加充分核实地接受AI输出，让算法细微错误永久污染医疗记录。此外，知识检索与指南综合类工具易出现引文失败或语境综合不当，而行政与运营流程中的AI应用可能因不透明的优先级排序而加剧健康不公平。更为关键的是，OpenAI的策略兼具大规模消费平台与企业级产品线，其跨情境功能扩展的空间与激励远大于局限于单一工作流的工具。在治理层面，这种平台化模式对临床验证、审计能力和责任归属提出了严峻挑战，亟需系统的评估框架与公共治理方案。
**研究内容与结论**
本研究以社会技术系统理论为分析视角，采用基于文档的分析方法，对OpenAI公开提供的产品公告、帮助/常见问题材料、政策条款页面以及安全与合规声明进行了系统梳理。研究人员将审查语料按声明类型、隐含数据流和隐含治理机制进行编目，并借助健康信息学中的人因框架SEIPS（Systems Engineering Initiative for Patient Safety）加以分析，从而评估产品架构、数据流、验证声称和治理机制的系统性影响。研究得出以下核心结论：第一，OpenAI的两款健康产品均可能促成大规模高粒度健康数据聚合，其中消费端配置的集中化风险更为突出；第二，现有验证主要依赖供应商内部评估和窄任务基准，无法替代临床治理和独立监管评价；第三，对单一全球供应商的深度依赖将产生结构性风险，涉及数字主权、健康公平和跨司法管辖区的治理不对称。研究人员主张，健康领域的生成式AI不应被定位为单一平台运营的多用途消费应用，而应嵌入公共治理的数字健康基础设施之中。
**关键技术与方法**
本研究不涉及实验数据采集，其核心方法为文档分析方法。研究人员系统收集并审查了OpenAI发布的公开供应商材料（访问截止至2026年1月），包括产品公告页面、帮助/常见问题材料、政策与条款页面以及公开的安全/合规声明。分析过程将声明按类型、隐含数据流和治理机制进行系统编目，并以健康信息学中的社会技术系统理论——具体而言是SEIPS人因框架——为解释透镜进行定性分析。研究没有使用试剂、细胞或临床样本队列。
**研究结果**
**隐私与数据保护风险。** 研究人员通过对比企业配置和消费配置的架构差异发现，ChatGPT for Healthcare以相对联邦化、隔离化的方式集成机构内部文档和电子健康记录（electronic health records, EHRs），而ChatGPT Health则明确鼓励用户连接医疗记录、检验结果和可穿戴设备持续生活方式数据，形成单一商业生态系统内的大规模集中。两者共同使纵向健康档案的构建成为可能，但供应商文档未能充分说明数据保留期限、二次使用可能性以及多源数据组合下的再识别风险缓解措施。在目的限制方面，多用途会话代理架构使健康数据与其他行为数据流的交叉组合在概念上具有直接可行性，存在显著的功能蠕变风险。
**患者安全与临床治理风险。** 消费端与临床端的风险路径存在本质差异。消费端方面，患者可能将高度流畅的AI输出视为权威建议，导致检验结果误解或就医行为延迟，且缺乏现实世界伤害监测机制。临床端方面，自动化文档引入自动化偏见风险，临床医生在认知负荷和时间压力下可能不加核实地认可AI生成的摘要。概率性模型固有的幻觉问题与上下文窗口限制相结合，可能导致AI基于截断数据生成医学建议，忽视患者完整纵向病史，在护理环节产生认知盲区。此外，文件未阐明这些工具从单纯信息检索转变为主动临床决策支持的功能阈值，这直接影响其在不同司法管辖区中的监管分类。
**系统性与社会性影响。** 健康系统对生成式AI的依赖代表了从基础设施锁定到认知集中的质性转变。不同于云服务商仅托管数据，LLM主动中介临床推理和知识综合，使公共系统未来迁移能力受限，引发数字主权问题。欧洲用户的早期排除反映了监管差异，研究识别出一种结构性激励：数据保护较薄弱司法管辖区的居民可能成为高风险健康AI的事实测试对象，而受监管环境中的高资源人群可能借助VPN等技术变通规避本地保障，从而加剧健康不公平。
**政策建议。** 面向医疗机构，研究人员提出四项即时行动：实施“摩擦设计”以缓解自动化偏见；建立本地化AI治理委员会；开展专门的临床AI素养培训；在采购合同中强制执行严格的数据治理条款。面向政府和监管机构，研究提出六项具体行动：明确监管分类与范围；强化健康AI的数据保护要求；强制技术与组织保障措施；确保有意义的透明度和用户自主权；发展公共监管的AI健康助手；建立明确的责任分配与上市后监测框架。
**总结与结论**
研究人员认为，当前的治理框架必须超越供应商自我报告式的安全声明，转向独立的第三方审计和监管沙盒机制。衡量成功不应仅限于近期安全与隐私指标，还应涵盖系统层面的结果，包括临床医生工作量和文档时间的变化、文档修正率与下游临床错误、消费者就医行为转变以及监管的行政成本。生成式AI在健康领域的恰当定位是嵌入数字健康基础设施中的公共治理工具，需要在明确的法律授权、技术保障和临床治理下运行。研究强调，政府和监管机构必须主动采取行动，确保医疗AI首先服务于公民和患者利益，而非主要服务于商业利益。
