《Information Fusion》:DuMAF: Dual-Level Adaptive Fusion of Multi-View X-Rays and Clinical Data for Surgical Decision-Making in Pediatric Intestinal Obstruction
编辑推荐:
•我们构建了一个多中心、多视图、多模态的小儿肠梗阻数据集。•DuMAF在特征和参数两个层面上自适应地融合多种模态。•NSPA生成多尺度特征;AVSE构建连贯的多视图序列。•TAI Mamba和GCM将临床文本与图像耦合,实现稳健的融合。•DuMAF在三个中心均取得了最高的准确率。
- •
我们构建了一个多中心、多视图、多模态的小儿肠梗阻数据集。
- •
DuMAF在特征和参数两个层面上自适应地融合多种模态。
- •
NSPA生成多尺度特征;AVSE构建连贯的多视图序列。
- •
TAI Mamba和GCM将临床文本与图像耦合,实现稳健的融合。
- •
DuMAF在三个中心均取得了最高的准确率。
引言
肠梗阻是指肠内容物不能正常通过肠道,是最常见的急腹症之一,其发病率逐年上升([1])。其特点是起病急骤、病情迅速恶化、并发症发生率高。这些风险在儿童中显著放大,因为儿童免疫防御功能尚未成熟,生理代偿能力有限,更容易发生严重发作和危重并发症;小儿肠梗阻可在数小时内危及生命,仅留下狭窄的手术干预窗口。因此,可靠且及时地识别需要手术的患儿具有极其重要的临床意义。在计算机辅助诊断(CAD)中,医学图像分类已成为此类决策的基础工具,通过区分图像的病理和影像学特征来为诊断、治疗和预后提供信息([2],[3])。
尽管医学影像和临床评估不断进步([4]),但肠梗阻的手术决策,尤其是针对儿科患者,仍然是一个重大挑战。在临床实践中,医生综合X线、CT扫描以及一系列临床指标来判断是否需要手术。然而,现有的自动化技术通常只能提供初步的辅助判断,难以兼顾诊断准确性与效率([5])。这促使我们构建一个联合分析影像和临床信息的自动决策框架,以支持小儿肠梗阻的精准手术决策。
肠梗阻的计算分析沿着两条互补的路径发展。第一条路径利用医学影像。[6]应用经典机器学习算法从X线图像中检测和分类大肠梗阻;[7]通过迁移学习训练了一个由五个卷积神经网络组成的集成模型,用于在腹部平片上识别小肠梗阻;[8]评估了CNN在儿童群体中区分X线片上胃肠道梗阻的能力。在横断面影像方面,Vanderbecq等人采用3D混合CNN进行腹部CT上肠梗阻的自动识别([9]),并通过深度学习进一步定位梗阻移行区,以表征粘连相关病例([10])。
第二条路径利用结构化的临床变量为手术决策和风险分层提供信息。[11]使用机器学习预测粘连性小肠梗阻的手术需求,而[12]和[13]分别对术后重大并发症和早期并发症进行建模,后者为多中心队列。在儿科环境中,[14]采用随机森林模型预测肠旋转不良婴儿的术后粘连性梗阻。
尽管这些方法有效,但它们主要依赖单一视图和单一模态,这不可避免地限制了其性能和泛化能力。由于未充分利用临床医生常规综合使用的互补多模态证据,它们无法满足小儿肠梗阻手术决策所需的全面病理评估。
为了弥补这一不足,我们与重庆医科大学附属儿童医院合作创建了一个多中心、多视图、多模态的小儿肠梗阻数据集,并提出了双层级自适应融合网络(Dual-Level Adaptive Fusion Network)以实现精准手术决策。本文的主要贡献如下:
- 1)
我们提出了一种嵌套尺度渐进聚合(NSPA)机制,用于在多个尺度上学习病灶特征。它通过渐进式特征融合将局部的潜在病理细节与更广泛的解剖背景相结合。
- 2)
为了保持跨视图的空间连续性,我们设计了交替视图蛇形嵌入(AVSE)。它将多视图图像组织为连贯的序列,同时保留局部结构和互补的视图特定信息。
- 3)
我们通过表格辅助图像Mamba(TAI Mamba)将临床表格信息纳入图像分支。临床变量调整状态空间参数,帮助模型聚焦于与诊断更相关的特征。
- 4)
组协商模块(GCM)不依赖单一融合门控,而是使用多个独立分支评估视觉和表格证据。它们的通道级共识产生更稳定的融合表示。
章节片段
CNN用于医学图像处理
CNN长期以来一直是医学图像分析中的基石架构。现代变体如ConvNeXt([15])在计算效率和特征表示能力方面展现了显著提升。通过级联卷积运算利用分层特征学习,CNN擅长从高维医学图像中提取判别性模式。其部署涵盖了关键的临床应用,包括皮肤病损分类
方法
在本节中,我们提出DuMAF用于识别需要手术干预的小儿肠梗阻患者。DuMAF将多视图图像融合与图像-表格自适应融合相结合,以支持准确高效的手术决策。其架构如图3所示。
数据集与实验设置
为评估该方法的有效性,我们选取了来自三家机构的小儿肠梗阻病例数据集:重庆医科大学附属儿童医院(数据集1)、万州三峡中心医院(数据集2)和曲靖市妇幼保健院(数据集3),用于判断儿科患者是否需要手术干预,所有数据集均已获得使用许可。数据集1包含589组医学诊断图像
结论
在本工作中,我们提出了DuMAF,这是首个将自适应多模态融合与多视图推理相结合用于小儿肠梗阻手术决策的网络框架。该框架基于专门构建的多中心、多视图、多模态数据集,统一了四种互补设计:(i)NSPA对嵌套图像区域应用尺度特定注意力,并逐步聚合其表示,从局部细节到全图上下文;(ii)AVSE重新排序
CRediT作者贡献声明
袁建军:写作——审阅与编辑,监督,方法学,资金获取,概念化。王若凡:写作——初稿,验证,方法学,正式分析,概念化。赵罗明:写作——初稿,验证,软件,正式分析。赵景峰:验证,软件,方法学。李光进:验证,软件。康泉:写作——审阅与编辑,监督,项目管理,资金获取。
利益冲突声明
作者声明,他们不存在已知的、可能影响本论文所报告工作的竞争性经济利益或个人关系。
袁建军|王若凡|赵罗明|赵景峰|李光进|康泉