LLM4DEU:基于大语言模型微调的神外门急诊智能诊断新方法

《Tsinghua Science and Technology》:LLM4DEU: Fine Tuning Large Language Model for Medical Diagnosis in Outpatient and Emergency Department Visits of Neurosurgery

【字体: 时间:2025年11月21日 来源:Tsinghua Science and Technology 3.5

编辑推荐:

  本研究针对神经外科门急诊场景下疾病诊断面临的时间效率要求高、信息不完整及共病率高等挑战,开发了LLM4DEU模型。研究人员通过对ChatGLM-6B大语言模型进行指令微调,利用北京天坛医院30万例神经外科电子病历构建CNI数据集,在69种神经外科疾病诊断任务中取得了78.53%的F1值,显著优于传统深度学习模型。该模型在低发病率疾病诊断方面表现优异,为专科医疗领域的AI辅助诊断提供了新范式。

  
在神经外科这个医学领域最复杂的学科之一,医生们每天都面临着极具挑战性的诊断任务。颅脑损伤、颅内占位性病变、硬膜下血肿等疾病不仅解剖结构复杂,临床表现也千变万化。特别是在门急诊场景下,医生需要在有限的时间内,基于可能不完整的患者信息做出准确诊断,这就像是在和时间赛跑的医学侦探。
传统的AI诊断模型在处理这类复杂任务时往往力不从心。它们要么需要复杂的特征工程,要么难以充分理解医学文本中的语义信息。而近年来兴起的大语言模型虽然在通用领域表现出色,但在专业医疗领域,尤其是神经外科这样的专科领域,其诊断准确性和可靠性仍显不足。
正是在这样的背景下,由王博冉和刘一鸣等研究人员组成的团队开展了一项创新性研究。他们开发了一个名为LLM4DEU的智能诊断模型,专门针对神经外科门急诊场景的疾病诊断需求。这项研究发表在《Tsinghua Science and Technology》上,为专科医疗领域的AI应用开辟了新途径。
研究人员采用指令微调技术,对ChatGLM-6B模型进行专门优化。他们从北京天坛医院神经外科收集了2004年至2020年间的30万例门急诊电子病历,经过严格的数据清洗和标准化处理,最终构建了包含超过4.5万条医疗记录和69种诊断的CNI数据集。这个数据集不仅规模可观,更重要的是它来源于真实的临床环境,保证了数据的实用价值。
在模型训练过程中,研究团队采用了P-Tuning v2技术,仅需调整原始参数量的0.1%,大大提高了训练效率。他们使用了两块NVIDIA GeForce RTX 3090 GPU,经过5天的训练,最终得到了LLM4DEU模型。
模型性能评估
实验结果显示,LLM4DEU模型在神经外科疾病诊断任务中表现出色,F1值达到78.53%,明显优于ALBERT+TextCNN、ALBERT+Seq2seq等基线模型。特别是在处理低发病率疾病时,该模型展现出了显著优势。例如,在脑梗死诊断任务中,LLM4DEU的F1值达到36.36%,而表现最好的基线模型仅为24.62%。
案例研究分析
通过具体病例的对比分析发现,当患者信息不完整时,传统分类模型往往无法给出诊断结果,而LLM4DEU仍能提供有价值的诊断建议。在一个35岁男性患者的病例中,模型准确识别出了创伤性脑损伤,而其他基线模型则出现了误判或无法判断的情况。
跨数据集验证
为了验证模型的泛化能力,研究团队还在包含4634条记录的神外门诊数据集上进行了测试,LLM4DEU取得了65.37%的F1值,显示了良好的迁移学习能力。更值得一提的是,临床专家对模型输出的评估表明,其诊断准确率达到86.18%,与标准诊断结果的吻合度达到64.47%,错误率甚至低于标准诊断。
讨论与展望
这项研究的意义不仅在于提出了一个性能优异的诊断模型,更重要的是展示了大语言模型在专科医疗领域的应用潜力。LLM4DEU能够有效理解和利用医学文本中的症状表型信息,在信息不完整的情况下仍能做出合理诊断,这使其特别适合门急诊场景下的初步诊断需求。
然而,研究也面临一些实际挑战,比如急诊电子病历数据的非标准化问题,不同医生术语使用差异,以及病因信息的缺失等。未来研究将着重于患者表型分析,通过表示学习和迁移学习等技术来填补缺失的诊断信息,修正症状和诊断的表型描述。
结论
LLM4DEU作为首个针对神经外科诊断的大语言模型,为临床决策支持提供了有价值的第二意见,特别有助于经验不足的神经外科医生。随着更多临床数据的积累和模型优化,这类专科医疗AI模型有望在更多医疗场景中发挥作用,推动人工智能在临床诊断中的深入应用。
这项研究不仅为神经外科的智能诊断提供了实用工具,也为大语言模型在专科医疗领域的应用指明了方向,预示着AI辅助诊断正在从通用走向专科,从粗放走向精准的新阶段。
相关新闻
生物通微信公众号
微信
新浪微博
  • 急聘职位
  • 高薪职位

知名企业招聘

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号