用于脑卒中风险预测的可解释混合GRU-TabTransformer学习:结合交叉注意力机制与大语言模型辅助解释

《AI》:Explainable Hybrid GRU–TabTransformer Learning with Cross-Attention and LLM-Assisted Interpretation for Stroke Risk Prediction

【字体: 大 中 小 】 时间:2026年09月14日 来源:AI 6.5

编辑推荐:

   摘要

  

摘要

早期中风风险预测提供了及时干预的机会,并可能有助于减轻与中风相关的临床负担。人工智能(AI)为医疗从业者提供了分析临床生物标志物并预测患者中风风险的工具。然而,现有模型缺乏可解释性和可解释的决策支持,限制了其在临床环境中的应用。本文提出了一种基于交叉注意力的混合门控循环单元(GRU)-TabTransformer架构,用于中风状态预测。该架构包含两个阶段。在第一阶段(模型A)中,来自GRU编码器的有序特征序列表示与来自TabTransformer编码器的拼接类别和数值表格特征相结合。模型将这些不同的学习表示通过交叉注意力和线性投影层后,进行最终预测。在第二阶段(模型B)中,我们使用大型语言模型(LLMs)和局部可解释模型无关解释(LIME)来增强模型,基于预测概率提供逐样本的、事后的、人类可解释的解释。实验结果表明,两种模型均达到了有竞争力的灵敏度和准确率值。特别是,合成少数类过采样技术(SMOTE)带来了更平衡的灵敏度-特异度权衡,灵敏度为74.00%,特异度为75.10%。此外,该模型在SMOTE下的准确率达到了75.05%。消融研究进一步表明,交叉注意力在灵敏度和受试者工作特征-曲线下面积(ROC-AUC)方面表现更好,而门控融合在其他几个指标上表现更优。此外,年龄和平均血糖水平是最有影响力的中风风险指标,而体重指数(BMI)和是否曾婚则是次要的模型归因特征。双因素重复测量方差分析(ANOVA)证实了在中风风险预测系统中模型选择与类别平衡技术之间存在交互作用。Mistral + 混合GRU-TabTransformer架构在使用少样本提示下也记录了平均推理时间为57.59秒。总体而言,结果表明将混合GRU-TabTransformer与交叉注意力及基于大语言模型的可解释性相结合,以支持可解释的中风风险预测系统具有概念验证的可行性,但仍需在部署前进行稳健的外部验证。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号