《DIGITAL HEALTH》:Readability, information quality, and safety of AI chatbot responses to common questions about ostomy care: A cross-sectional digital health evaluation
编辑推荐:
背景:造口患者术后通常需要及时、易懂且可靠的自我护理指导。尽管AI聊天机器人越来越多地被用作可获取的健康信息来源,但其对造口护理问题的回答质量与安全性仍不明确。目的:比较五款聊天机器人在回答常见造口护理问题时的信息质量、可读性及文本层面安全性。方法:研究人员于
背景:造口患者术后通常需要及时、易懂且可靠的自我护理指导。尽管AI聊天机器人越来越多地被用作可获取的健康信息来源,但其对造口护理问题的回答质量与安全性仍不明确。目的:比较五款聊天机器人在回答常见造口护理问题时的信息质量、可读性及文本层面安全性。方法:研究人员于2026年3月31日通过官方网页界面,将46个配对的面向患者的造口护理问题分别提交给五款聊天机器人(ChatGPT、Gemini、Perplexity AI、DeepSeek和豆包),共获得230条首次回复。采用DISCERN、EQIP、全局质量评分(GQS)、JAMA基准、六项可读性指数及基于指南的审核对回复进行评估。引文审核仅限于唯一显示来源链接的Perplexity AI。比较采用Friedman检验、Wilcoxon检验和Cochran's Q检验,并进行了多重性校正。结果:经Holm校正后,所有四项质量指标和六项可读性指数在各聊天机器人间的得分差异均有统计学意义(校正后P<.001)。Perplexity AI在Pro Search模式下的DISCERN、EQIP和JAMA得分较高。在其1,721条引文中,18.9%为非学术或低权威来源,5.3%为临床不恰当引用。DeepSeek的阅读年级估算较低,但没有任何系统达到六年级基准。定量评分的组间一致性良好(ICC [2,1] =0.758–0.791),定性编码的一致性较高(κ=0.830–0.842)。各系统均存在指南偏离和潜在文本层面安全风险,但经校正后系统间差异无统计学意义。结论:没有任何系统可稳定地作为造口教育的独立信息来源。其回复在专业审核后可能有助于患者教育,但不应取代临床医生指导的教学。
**论文解读:AI聊天机器人造口护理信息质量、可读性与安全性的横断面数字健康评估**
**一、研究背景与目的**
结直肠癌(CRC)是全球重大公共卫生负担,GLOBOCAN 2020数据显示其发病率和死亡率分别位居全球癌症第三和第二位,每年新发病例超190万,死亡约93万。手术切除是CRC的主要治疗方式,相当比例患者(尤其直肠中低位癌)需行临时或永久性肠道造口。造口虽常能挽救生命,但带来身体功能和日常生活的持久改变,患者术后需承担复杂且持续的自我护理。术后第一年内,许多患者面临实际护理困难和并发症,如造口袋渗漏和造口周围皮肤并发症(PSCs),并伴随情绪困扰及身体形象适应困难,影响生活质量。
有效自我管理是长期康复的关键,但医院到家庭的过渡阶段十分脆弱。住院教育常受住院时间短和出院压力限制,患者出院后对饮食、症状监测、器具使用及性健康等信息需求未获满足。消费者导向的AI聊天机器人逐渐成为临床监督之外的非正式健康信息来源,可能吸引寻求即时答案的患者,但回答不准确或不完整可能助长不当自我管理。已有研究在其他临床背景评估了大语言模型(LLM)生成的健康信息,但针对造口人群多样且安全敏感信息需求的证据仍然有限。既往造口专项AI研究多聚焦较窄问题,如Lim等比较四个LLM围手术期造口信息,发现可读性和可靠性存在差异;Yüceler Ka?maz等使用ChatGPT-4.0通过专家评估开发验证造口患者教育材料。相比之下,本研究采用同一组46个造口护理问题,在问题分块配对设计中比较五种消费级聊天机器人配置,并经Holm法进行多重比较校正,联合评估信息质量、全局实用性、来源透明度、英语可读性、指南一致性及文本层面安全性,以区分系统间差异与问题内容差异,并识别安全相关的信息遗漏。
**二、研究方法与技术**
本研究为方法学横断面研究,于2026年3月31日通过官方网页界面,将46个涵盖八个临床领域的造口护理问题分别提交至ChatGPT、Gemini、Perplexity AI Pro Search、DeepSeek DeepThink和豆包五个消费级聊天机器人,共获得230条首次回复且不进行重新生成。问题池由研究人员从国际造口治疗师协会(WCET)、伤口造口失禁护士协会(WOCN)等专业指南、患者倡导资源及Reddit社群讨论中系统筛选,经两名研究生筛查整合并由资深国际伤口治疗师及一名有造口经历的患者代表审阅措辞,最终形成46个问题。评估工具包括DISCERN(评估消费者健康信息质量)、EQIP(评估患者信息呈现质量)、全局质量评分(GQS)、JAMA基准(评估来源透明度),以及六项英语可读性指数:自动可读性指数(ARI)、Coleman-Liau指数(CLI)、Flesch-Kincaid年级水平(FKGL)、Gunning Fog指数(GFI)、SMOG指数和Flesch阅读易读度评分(FRES)。定性审核依据2018年WOCN指南、2020年WCET国际造口指南和2025年中国成人肠造口护理指南预设标准,包括引文质量审核(仅Perplexity AI显示可见来源链接,N=1,721)及指南偏离和潜在安全风险审核。两名评估员独立盲评,资深专家裁决分歧。统计方法包括Friedman检验、配对Wilcoxon符号秩检验、Kendall's W效应量、Holm校正、Cochran's Q检验、组内相关系数(ICC)及Cohen's kappa。
**三、研究结果**
**可读性分析**
六项可读性指数经Holm校正后各聊天机器人间差异均有统计学意义(调整后P<.001)。Perplexity AI在所有六项指数中均显示阅读难度显著高于其他四个系统(各指数内Holm调整后P≤.004),DeepSeek在多项年级水平指标上阅读难度普遍较低。然而,所有五个系统的中位年级水平估计值均高于国际健康传播指南推荐的六年级基准,例如FKGL中位数范围从DeepSeek的7.78到Perplexity AI的12.03,FRES中位数范围33.0至57.0,提示文本整体偏难。
**信息质量分析**
四项信息质量指标(DISCERN、EQIP、GQS和JAMA)经Holm校正后系统间差异均显著(调整后P<.001)。依据DISCERN分级,启用检索的Perplexity AI(中位数53.0)被评为“良好”,而其余四个非检索系统均为“一般”。EQIP评估中各系统均处于“良好但有轻微问题”层级,但Perplexity AI得分显著更高。GQS评估中ChatGPT为“中等”水平,其余四系统为“良好”水平。JAMA基准中Perplexity AI(中位数1.0)显著高于其他四个接近零分的系统。定量评分的评估员间一致性良好(ICC [2,1] =0.758–0.791)。
**定性审核分析**
指南偏离率在各系统中为15.2%至28.3%,潜在安全风险率为8.7%至26.1%,但经Holm校正后系统间差异无统计学意义。引文质量审核显示Perplexity AI的1,721条可见引文中,18.9%为非学术或低权威来源,5.3%为临床不当引用。手动审核发现了若干具有临床意义的模式:部分系统推荐含油或乳液的肥皂清洁造口周围皮肤、推荐造口底盘开口超过指南规定的1–2毫米余量、未明确早期术后应使用透明无过滤网可排放开口袋;DeepSeek使用固定时间阈值(如4–6小时无排出)提示梗阻但参考标准强调应结合伴随症状与临床情境,对缺血征象的描述不够完整;Perplexity AI曾建议将润滑手指伸入造口疏通疑似堵塞,该操作缺乏参考标准支持。
**四、讨论与结论总结**
讨论部分指出,本研究揭示了流畅内容生成与临床适宜患者教育之间的重要差距。系统普遍能生成连贯且结构良好的回复,但较高的语言质量或表面信息量并不必然转化为最佳可读性、证据透明度或指南一致的建议。所有系统产生的文本均超过六年级阅读水平,提示可读性不仅是传统在线资源的障碍,同样是AI生成造口教育的重要挑战。造口自我管理的程序性特征本身增加了保持可读性的难度,改善可读性可能需要将密集的临床指导分解为更短、更有序的指令,同时保留必要的注意事项、禁忌证和升级标准。较低的阅读难度并不一定对应更高的指南一致性或临床适宜性,语言简化应在不丢失临床必要信息和程序精确性的前提下提高可及性。
信息质量评分差异应结合工具特性解读:EQIP侧重信息呈现与可理解性,JAMA基准强调归属和披露等透明度特征,因此结构化格式和可见来源链接可能提升测量质量和可追溯性,但并不必然表明更高的临床准确性。引文虽然提高来源可追溯性,但引用的可获得性并不保证证据质量。临床相关问题往往源于情境信息的丢失而非完全错误的信息,造口护理要求患者根据术后阶段、造口类型、症状、禁忌证和升级标准解释建议,省略这些情境限定条件可能使表面合理的建议在特定临床情境中变得不当。值得注意的是,尽管Perplexity AI的默认Pro Search配置具备检索和可见引文,在多义性校正后其在指南偏离和潜在安全风险方面并无显著优势,表明检索和来源可见性本身可能不足以确保指南一致性更佳或更安全的面向患者回复。
研究结论为:在本研究评估的五种消费级聊天机器人配置中,没有任何系统能稳定满足造口独立教育对信息质量、来源透明度、英语可读性和文本层面安全性的综合要求。观察到的差异具有配置依赖性:Perplexity AI在其默认Pro Search配置下表现出更高的可追溯性和多项信息质量指标得分,而DeepSeek通常产生较低的基于公式的阅读年级估计;这些发现不应被解释为稳定的模型排名。临床相关问题常涉及遗漏情境限定条件、无依据的阈值或不完整的升级标准,属于潜在文本层面安全风险而非已证实的患者伤害。当前聊天机器人输出可能支持专业审核的草拟或补充教育,但不应作为造口护理指导的自主信息来源。研究人员强调,在临床实践中AI工具应被视为受监督的起草辅助工具而非自主患者指导来源,未来系统可能需要结合证据检索、来源展示以及保留临床情境、不确定性和升级引导的机制,并需前瞻性验证后才可考虑临床实施。