《Frontiers in Public Health》:AI Health Literacy: a reflective framework for LLM-based generative AI in public health education and promotion
编辑推荐:
生成式人工智能(AI)正在改变公民搜索、理解和利用健康信息的方式。大语言模型(LLMs)可以简化、翻译、总结健康相关内容,并针对个体问题定制回答。同时,AI生成的回答可能看似流畅、合理且富有同理心,但不一定完整、最新、基于证据或适合个体的具体情况。这对公共卫生
生成式人工智能(AI)正在改变公民搜索、理解和利用健康信息的方式。大语言模型(LLMs)可以简化、翻译、总结健康相关内容,并针对个体问题定制回答。同时,AI生成的回答可能看似流畅、合理且富有同理心,但不一定完整、最新、基于证据或适合个体的具体情况。这对公共卫生教育与促进构成了一个公共卫生挑战,因为AI生成的回答可能日益影响公民如何获取、解读和信任健康信息。基于健康素养、电子健康素养(eHealth literacy)、数字健康素养(digital health literacy)以及关于AI中介健康传播的争论,本文将AI健康素养(AI Health Literacy)概念化为现有素养概念的一种任务敏感和情境敏感的扩展。其具体贡献在于将AI健康素养理解为一门跨学科的判断能力,要求公民不仅评估AI生成健康信息的内容,还要评估接收和使用此类信息的任务、情境、模态、可验证性以及心理条件。本文提出了一个包含三个分析维度的反思性框架:任务适切性(task appropriateness)、使用情境(context of use)和批判性可验证性(critical verifiability)。核心论点是,生成式AI可以支持理解、定位、翻译和准备,但不应在诊断、治疗、分诊、用药或危机情境中取代专业建议。该框架旨在支持面向公共卫生的教育、传播和机构指导,以负责任地使用AI生成的健康信息,并且应被理解为一个概念性定位工具,而非经过验证的评估工具。
**研究背景与问题**
生成式人工智能(AI)正在深刻改变公民获取、理解和利用健康信息的方式。大语言模型(LLMs)能够简化、翻译、总结健康相关内容,并针对个体问题定制回答,这为公共卫生教育(Public Health Education)与健康促进(Health Promotion)带来了便利。然而,AI生成的回答可能看似流畅、合理且富有同理心,但不一定完整、最新、基于证据或适合个体情况。这种信息不确定性对公共卫生领域构成挑战,因为AI生成的信息可能影响公民对健康信息的访问、解读和信任。现有健康素养(health literacy)、电子健康素养(eHealth literacy)和数字健康素养(digital health literacy)概念主要关注传统或数字信息环境,但未能充分覆盖AI生成信息的特殊性,如任务依赖性、情境敏感性和可验证性不足。因此,研究人员提出了AI健康素养(AI Health Literacy)这一概念,旨在为公民在教育、沟通和机构指导中负责任地使用AI生成健康信息提供概念支撑。
**研究内容与结论**
本文是一项概念性研究,发表在《Frontiers in Public Health》。研究人员通过整合四个主题领域的文献(健康素养、电子健康素养与数字健康素养;医疗保健中的生成式AI及信息感知与处理的心理方面;中介、AI中介、错误信息与信息权威;数字健康公平、信任、脆弱性与情境因素),构建了一个反思性框架(reflective framework)。该框架包含三个分析维度:任务适切性(task appropriateness)、使用情境(context of use)和批判性可验证性(critical verifiability),并将信任、脆弱性、公平和机构责任视为交叉条件。核心结论是:生成式AI可以支持理解、定位、翻译和准备,但不应在诊断、治疗、分诊、用药或危机情境中取代专业建议。该框架旨在作为面向公共卫生的教育、沟通和机构指导的概念性定位工具,而非经过验证的评估工具。
**主要关键技术方法**
本文采用文献整合方法,无实证数据收集或实验步骤。研究人员通过有目的性地选择四个主题领域的文献(健康素养、电子健康素养与数字健康素养;医疗保健中的生成式AI及信息感知与处理的心理方面;中介、AI中介、错误信息与信息权威;数字健康公平、信任、脆弱性与情境因素),进行概念推导和框架构建。未涉及样本队列、试剂或具体操作步骤,仅依赖已有理论观点和综述证据。
**研究结果**
**3.1 维度一:任务适切性(task appropriateness)**
通过分析生成式AI在不同健康目的下的适用性,研究人员得出结论:当AI用于理解、翻译或简化信息以及准备咨询时是合适的;但在涉及症状、诊断、用药、治疗决策、紧急护理或急性健康问题时,风险显著增加。用户需区分使用AI是为了理解信息、准备咨询还是支持决策,越接近决策,越需要检查来源、认识不确定性并寻求专业建议。
**3.2 维度二:使用情境(context of use)**
基于媒体渠道、技术设备、界面格式以及用户情绪、时间压力、语言能力等情境因素的分析,研究人员指出:AI生成信息的接收和处理受渠道(文本、语音、穿戴设备等)影响,文本更易回溯和验证,但需要读写能力;语音更易获取但更短暂。用户当前的压力、脆弱性、语言障碍、数字访问和医疗信任度会影响对AI回答的理解和使用。因此,AI健康素养要求用户进行情境性自我评估。
**3.3 维度三:批判性可验证性(critical verifiability)**
通过对比AI生成回答的清晰性与医疗可靠性,研究人员强调:AI回答可能听起来清晰、富有同理心,但缺乏医学可靠性。可验证性取决于回答是否提供可查证来源、识别不确定性、明确边界及建议何时寻求专业帮助。仅凭可理解性不足以作为质量标准,用户还需评估信息质量、推理过程、潜在风险和信任度。
**3.4 信任、脆弱性与公平作为机构条件**
基于对公众感知、信任研究和数字健康公平的分析,研究人员指出:信任具有两面性,太少信任会阻碍有用功能,太多信任可能导致盲目接受。数字健康素养和社会不平等分布会加剧双重挑战:AI可能降低门槛,但也可能使低读写能力、语言障碍或数字参与度低的人群面临更大风险。机构(如健康保险公司、医疗机构)应提供明确指导,促进校准信任和社会公平。
**讨论与结论总结**
在讨论部分,研究人员强调AI健康素养应被视为一个任务敏感和情境敏感的人口层面概念扩展,而非仅关注技术本身。当前证据有限,多基于人工测试问题或特定模型版本,且缺乏对真实生活情境下不同人群理解、评估和使用AI生成信息的了解。框架存在局限性:未经实证验证,仅为概念性工具;文献选择有目的性而非系统性,可能遗漏相关研究;未来需适应多模态、语音或嵌入式AI系统,以及不同语言、文化、医疗系统和数字访问水平。结论部分翻译如下:AI健康素养因此不仅是一种个体能力,也是公共卫生机构、教育系统和数字信息环境的一项责任。随着医疗系统和数字健康技术日益复杂,基础健康素养变得更加重要,因为公民需要理解信息、评估风险、导航服务并做出知情决策。公民需要获得AI,但也需要指导、保障措施和公平条件以负责任地使用AI。