AI时代医学教育中的知识判断力:从批判性评估信息到负责任地使用人工智能

《Journal of Medical Education and Curricular Development》:Epistemic Cognition in the Era of Artificial Intelligence

【字体: 大 中 小 】 时间:2026年10月15日 来源:Journal of Medical Education and Curricular Development 1.6

编辑推荐:

   摘要随着人工智能(AI)使信息获取日益便捷,医学生面临着一个日益严峻的挑战:如何判断哪些信息是可信的,何时需要进行核实,以及某条信息是否适合特定的情境。Huang等人发现,即使专家对多个大语言模型的评分更高,学生仍然倾向于选择教师生成的回答,这揭示了这些判断的复杂性。这一差异

  

摘要

随着人工智能(AI)使信息获取日益便捷,医学生面临着一个日益严峻的挑战:如何判断哪些信息是可信的,何时需要进行核实,以及某条信息是否适合特定的情境。Huang等人发现,即使专家对多个大语言模型的评分更高,学生仍然倾向于选择教师生成的回答,这揭示了这些判断的复杂性。这一差异引发了医学教育领域一个更广泛的问题:在AI介导的学习环境中,学生如何决定信任和使用哪些信息?本文结合知识认识论(epistemic cognition)、不确定性和基于能力的医学教育的概念,论证了负责任地使用AI不仅仅是判断AI生成的回答是否正确。学生需要培养批判性评估信息的能力,无论这些信息来自AI还是人类。因此,医学教育应当将知识判断(epistemic judgement)作为教学和评估的明确重点。对人工生成信息与AI生成信息进行结构化比较,是实现学生推理过程可视化并提供相关反馈的一种有效途径。未来研究应考察学生如何在富含AI的学习环境中发展和展现知识判断能力。
Huang及其同事证明了众多医学教育者已经在亲身体验中感受到的一个现实:学生现在可以在几秒钟内获得高度详细、准确和全面的答案。他们的研究结果进一步证实了不断增长的证据——大语言模型(LLMs)可以成为有价值的教育资源,在某些情况下,生成的回答甚至获得了专家比教师回答更高的评分1。这些发现诞生于AI在医学教育领域快速扩张的背景下,生成式AI正越来越多地被用于支持学习、反馈、评估和个性化教育体验2。
然而,该研究中最引人深思的发现可能并非多个LLM表现优于人类教师,而是专家评价与学生偏好之间的差异。尽管盲评专家对多个LLM生成的回答给予了比教师回答更高的评价,但知晓每个回答来源的学生却对教师生成的回答表现出中等程度的偏好。学生还认为教师生成的回答更容易理解,尽管他们同时描述AI生成的回答"更全面、更详细,使[他们]能够获得更多的知识"1。
这一表面矛盾可能有多种解释。学生可能优先选择可理解性而非完整性,或者他们的偏好可能受到对教师的熟悉程度和信任的影响。由于学生知晓回答的来源,并且被问及AI是否应该取代教师,研究本身的语境也可能影响了他们的判断。然而,Huang等人并未直接探究学生偏好背后的原因,因此他们的研究结果无法确立学生如何评估人类生成信息与AI生成信息的相对可信度或实用性。
这种不确定性并不意味着学生缺乏批判性评估信息的能力,而是引发了医学教育领域一个重要的问题:当准确性、全面性、可理解性和来源等信息的判断不一致时,学生如何决定信任和使用哪些信息?这一问题超越了学生对人工生成答案或AI生成答案的偏好。它关乎学习者如何评估相互竞争的知识来源,以及判断某条信息是否足够可信和适当,以指导学习或临床决策。
历史上,学习的主要障碍之一是信息的获取。如今,在AI时代,这一障碍正迅速消失3。学生可以几乎即时生成解释、示例、摘要和不同视角的观点。然而,随着信息获取变得更容易,评估和应用信息的能力变得更加重要。这些挑战从根本上来说是认识论(epistemic)性质的,反映了知识认识论这一更广泛的概念——即用于评估知识主张、判断可信度和确定何种证据值得信赖的过程4。这一转变也与精准医学教育的呼吁相一致,后者强调个性化学习以及在日益复杂的学习环境中导航所需的技能5。
在医学领域,这些认识论方面的需求尤为重要,因为决策通常是在信息不完整、证据不断演变和推荐意见相互竞争的情况下做出的6。AI为这一挑战增加了另一层复杂性,因为即使AI的回答中包含未经证实的主张、忽略重要背景或需要额外核实,它们也可能看起来权威且全面2。自动化偏差的风险——即学习者在未进行充分审查的情况下接受AI生成的建议——进一步凸显了这一挑战。因此,培养批判性评估和验证AI输出的能力,是负责任地在医学教育中使用AI的必要组成部分7。
以往的研究强调了验证AI输出、明确的指导和监督,以及在富含AI的学习环境中教师持续发挥作用的重要性8,9,10。本文评论在此基础上进一步论证,负责任地使用AI需要对学习者面临的更广泛的认识论任务给予关注。负责任地使用AI不仅仅是判断AI生成的回答是否正确。学生必须学会判断何时信息是可信的,何时需要额外核实,以及该信息是否适合其使用的情境。因此,这些能力应当成为医学教育中教学和评估的明确目标。
这一重点也强化了教师在富含AI的学习环境中的重要角色。随着信息获取越来越不依赖教育者,教师可以越来越多地帮助学生培养评估信息所需的判断力。教师不应仅仅是告诉学生信任哪些来源,而是帮助他们检查支持某一主张的证据,识别不确定性和局限性,并确定何时应接受、质疑或验证信息9。因此,其目标不仅仅是教会学生有效使用AI,而是为他们在信息来源于AI或人类的情况下,都能做出可辩护的信息决策做好准备。
基于能力的医学教育(CBME)为将这些能力变得可观察和可评估提供了一个有用的框架。CBME不仅关注学生知道什么,还关注他们如何在真实的临床情境中应用其知识11。临床推理和证据评估已经要求学习者评估信息、识别不确定性、解释其决策并在需要时寻求帮助。AI支持的学习和临床环境将这些期望扩展到了AI生成的信息。学生应当能够确定何时信息需要验证,并为其关于是否使用以及如何使用的决策提供正当理由。这些可观察的行为可以为教师提供反馈和监督的机会,并最终为判断学生是否已准备好进行日益独立的执业提供依据。
医学院发展评估这些能力的一种方法是通过结构化比较练习,使学生的推理过程可视化。可以向学生展示针对同一教育或临床问题的AI生成回答和教师或专家生成回答。学生不应仅仅是选择他们更偏好哪个回答,而是应比较每个回答中信息和推理的质量,包括每个回答如何处理不确定性和特定情境。任何来源都不应被视为天生权威。学生应依据适当的外部标准(如课程材料或同行评审文献)来评估两个回答。
随后,学生可以识别两个回答之间的重要差异,并确定需要额外证据或验证的地方。他们将利用这一评估来论证是否接受、修改、拒绝所提供的信息,或寻求额外证据。通过这种方式,该任务从寻找"正确"答案转变为展示用于评估知识主张和校准信任的推理过程。
在这些练习中,教师的反馈可以聚焦于这种推理过程,而不仅仅是学生是否选择了偏好的回答。例如,反馈可以聚焦于学习者如何评估信息,以及他们关于是否使用以及如何使用的决策的正当理由。重复练习可以引入逐步增加的歧义性或来源间的分歧,让学生在不断复杂化的条件下练习这些判断。这些相同的可观察行为最终可以作为CBME的一部分进行评估。
未来研究同样应超越对人类生成答案与AI生成答案质量的比较,转而考察学生如何发展和展现有效使用这些来源所需的判断力。研究应考察这些能力如何通过教学和经验发展,以及它们与临床推理、监督和向独立执业过渡之间的关系。
最后,Huang等人提供了证据表明,某些LLM可以生成与教师相当甚至超过教师水平的答案,尽管不同模型之间的表现存在差异。值得注意的是,评估的五个模型中有两个并未超越人类教师1。这种变异性进一步强化了超越仅仅教会学生如何从AI获取信息这一目标的必要性。学生还必须学会判断哪些信息值得他们的信任。随着AI成为学习的常规组成部分,医学教育应当将知识判断作为教学和评估的明确重点。

伦理考量

本编辑函无需伦理审批。

利益冲突声明

作者声明,就本研究的撰写和/或发表不存在潜在的利益冲突。

AI使用披露

在准备本手稿的过程中,作者使用了ChatGPT(OpenAI;版本2026)来支持头脑风暴、组织内容、语言润色、修改和整合先前撰写的章节。该工具被用于提高作者生成文本的清晰度、连贯性和可读性,并协助重新组织内容以改善行文流畅度。未将任何未发表的数据、机密信息或先前版本的受版权保护的材料上传至任何AI工具。所有AI生成的建议均由作者独立审查、事实核查、编辑和整合,以确保准确性、完整性以及与作者原始分析和解释的一致性。作者已核实所有引用。作者对手稿的内容承担全部责任,包括所有信息的准确性和所呈现论证的完整性。

资金支持

作者就本研究的撰写或发表未获得任何资金支持。

ORCID iD

相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号