面向不规则且不完整的重症监护室电子健康记录的可解释临床决策支持：一种观察感知的多层次注意力模型

《Decision Support Systems》：Toward explainable clinical decision support for irregular and incomplete ICU EHRs: An observation-aware multi-level attention model

　　

摘要重症监护病房（ICU）是高危环境，患者病情演变迅速且需要持续监测。这些环境生成丰富的高频电子健康记录（EHR），为数据驱动的决策支持提供了关键机会。然而，ICU EHR 的特点是采样不规则、普遍存在缺失以及结构异构。这些特征阻碍了可靠且可解释的机器学习模型的开发——这两种品质对于安全的临床部署至关重要。本研究提出了 MMAEM（遮蔽多级注意力编码模型），这是一种观测感知临床决策支持模型，通过混合编码器架构将静态人口统计信息与动态多元时间序列相结合。该方法采用显式遮蔽策略，直接从稀疏和不规则序列中学习，而不插补未观测值。此外，它融合了跨越特征级、时间步级和趋势级的多级注意力机制。该机制旨在基于观测到的临床数据提供结构化、时间解析的解释信号，并提高不规则 ICU 时间序列中模型输出的透明度。使用真实的 ICU 数据，我们在早期脓毒症预测案例研究中评估了该模型，并表明可以在不牺牲预测性能的情况下实现增强的透明度。通过将算法创新与临床实践所需的透明度要求相结合，本研究推进了可解释预测模型的开发，并支持其在 ICU 决策支持系统中的实际采用。

引言重症监护病房（ICU）是高危环境，患者需要持续监测和时间敏感干预。这些环境的特点是诊断不确定性、工作量大以及严重的时间限制，使得可靠的决策支持尤为重要 [1]。同时，临床工作流程的数字化导致了大规模电子健康记录（EHR）的常规收集，包括生命体征、实验室结果、用药事件及其他纵向临床信息。此类数据为数据驱动的决策支持系统（DSS）创造了重要机会，这些系统可以预见病情恶化并改善 ICU 环境中的患者预后 [2]。

尽管前景广阔，但使用 ICU EHR 进行预测建模仍然充满挑战，因为数据具有高维、异构和时间不规则的特点。临床测量是根据临床驱动和可变的间隔记录的，产生异步和不完整的多元时间序列。传统的统计方法往往难以有效建模这些复杂的数据模式 [3]。虽然机器学习方法在死亡率预测、住院时间估计和早期脓毒症检测等任务中表现出强劲性能 [4]，[5]，[6]，但其有效性关键取决于如何处理不规则采样和缺失问题。这些特性凸显了需要专门针对 ICU EHR 独特数据特性定制建模框架的必要性。

从方法论的角度来看，这些数据特征暴露了两个相关的缺口，限制了机器学习模型在 ICU 环境中的临床适用性。首先，现有模型仍然缺乏一种原则性的方法直接从稀疏、不完整和异步的 ICU 序列中学习。尽管先前的工作探索了基于插补的方法 [7] 或将缺失模式视为预测信号 [8]，但这些策略通常依赖于关于时间连续性或缺失机制的不可验证假设。此类假设可能会扭曲生理轨迹或引入虚假相关性，这在高风险的临床环境中尤为 problematic。因此，在不施加过强先验假设的情况下，从稀疏、不规则的 ICU 时间序列中鲁棒学习的能力，仍然是可部署 DSS 面临的重要挑战。

其次，即使预测准确率很高，许多深度学习模型对于预测或风险估计是如何形成的提供的透明度有限。黑箱模型架构可能会模糊特定临床变量及其时间演变的贡献，从而限制临床医生的信任并引发关于问责制的担忧。事后解释方法，如特征归因、显著性映射和代理建模，被广泛使用，但它们通常在拟合后近似模型行为，而不是在预测架构内部原生生成解释信号 [9]，[10]。在不规则的临床时间序列中，这种区别尤为重要，因为临床相关的推理不仅取决于哪些变量重要，还取决于它们在何时重要以及它们的轨迹如何随时间演变。因此，越来越多的可解释人工智能（XAI）研究表明，可解释性应嵌入模型架构本身，而不是事后附加 [11]。内在可解释模型在训练期间生成解释结构，因此日益被视为可信且与人类对齐的临床决策支持所必需 [12]。

综上所述，数据不规则性和模型不透明性构成了有效 AI 支持的 ICU 决策支持的双重障碍：前者威胁预测的鲁棒性，而后者破坏临床接受度。因此，解决这两项挑战——直接从稀疏的 EHR 观测中学习以及提高关于风险估计形成方式的透明度——对于构建可信且运营可行的 ICU DSS 模型至关重要。

为了应对这些挑战，我们开发了 MMAEM，这是一个基于编码器的临床决策支持框架，专门针对稀疏和异构的 ICU EHR 数据。MMAEM 的新颖性在于整合性和设计导向性，而不是声称具有 fundamentally new algorithmic primitive。具体而言，该框架将观测感知遮蔽、时间序列建模和多级注意力解释结合在一起，以支持从不规则和不完整的临床观测中进行鲁棒且透明的预测。

MMAEM 引入了一种显式遮蔽策略，记录每个变量在每个时间步是否被观测到，并在训练和推理期间为未观测条目分配零注意力。该框架不从缺失值插补中学习，而是直接从可验证的观测中学习，从而保留数据原始的观测结构。为了提高时间预测的透明度，MMAEM 进一步融合了一种多级注意力机制，以捕捉时间推理的互补维度。联合特征 – 时间步注意力模块识别哪些临床变量在哪些时刻受到更多重视，而趋势级注意力模块则建模可能具有预后意义的长期变量轨迹。由于这些解释信号是在架构本身内部生成的，模型提供了对其内部注意的结构化且时间解析的视图，而不依赖于外部的事后近似。

我们使用公开可用的 MIMIC-IV ICU 数据集，在早期脓毒症预测的背景下评估 MMAEM。除了与既定基准的预测比较外，我们还通过队列级验证、基于扰动的忠实度分析以及使用原型界面的形成性临床医生反馈研究，检查了所提出的解释设计。

与此设计导向的框架一致，本研究在医疗预测分析和临床决策支持的 IS/DSS 文献中做出了三个贡献：
•一种针对不规则 ICU EHR 的观测感知整合模型。MMAEM 配置遮蔽和时间编码组件，直接从稀疏、不规则和不完整的 ICU EHR 时间序列中学习，而不插补未观测值，从而减少了对不可验证预处理假设的依赖。
•一种时间结构化且内在可解释的架构。MMAEM 在特征、时间步和趋势级别生成特定于患者的解释信号，使模型推理在时间演变的临床环境中更加透明。
•来自 ICU 早期脓毒症预测的多角度实证证据。使用大型公开可用的 ICU 数据集，我们通过预测性能、队列级、基于扰动以及初步的以临床医生为中心的反馈，评估了 MMAEM 作为临床决策支持工件的有效性。

本文的其余部分组织如下。第 2 节回顾了关于建模不规则 ICU 时间序列数据、用于临床决策支持的 XAI 以及脓毒症预测建模的相关工作。第 3 节介绍了 MMAEM 框架，详细说明了其遮蔽策略和多级注意力机制。第 4 节提出了实证设置，并使用真实的 ICU EHR 数据评估 MMAEM 用于早期脓毒症预测。第 5 节讨论了研究发现、对临床决策支持的意义以及未来研究方向。

节选
文献综述
本节回顾了与 MMAEM 相关的三个文献流。首先，我们考察了针对具有不规则采样、异步和缺失特征的 ICU EHR 数据的建模方法。其次，我们回顾了关于临床决策支持的 XAI 研究，特别关注透明度、信任和流程集成。最后，我们讨论了关于早期脓毒症预测的先前工作，这为我们的案例研究提供了实证背景。这三者共同阐明了 MMAEM 所取得的进展：一种用于不规则临床 EHR 的遮蔽多级注意力编码模型。

ICU EHR 数据包含静态和时序信息。静态特征，如年龄、性别、体重和身高，在患者 ICU 住院期间保持相对稳定。时序特征，如生命体征和实验室结果，被重复记录并反映患者不断演变的生理状态。然而，时序 EHR 数据的特点是不规则采样间隔、异构记录频率和普遍的缺失性 [38]，如图 1(a) 所示。这些

案例研究：使用 EHR 数据在 ICU 中早期预测脓毒症
本节使用 ICU 中脓毒症的早期预测作为评估 MMAEM 架构的实证设置。我们从多个角度评估该框架，包括预测性能、可解释性、鲁棒性和面向临床医生的评估。

讨论与结论
本研究开发 MMAEM 作为一种观测感知和内在可解释的临床决策支持框架，用于不规则 ICU EHR 的预测分析。ICU 数据稀疏、异步、异构且经常不完整，使得在不施加强预处理假设的情况下应用标准时间序列建模和解释技术变得困难。MMAEM 通过整合静态患者背景、多元时间信号、观测感知...来解决这些挑战。

CRediT 作者贡献声明
朱凯博：写作 – 回顾与编辑，写作 – 初稿，可视化，验证，项目管理，方法论，调查，正式分析，数据整理，概念化。魏轩：写作 – 回顾与编辑，监督，项目管理，方法论，正式分析，概念化。王修仙：写作 – 回顾与编辑，可视化，验证，方法论，调查，正式分析。耿娜：写作 – 回顾与编辑，监督，软件，

利益冲突声明
作者声明他们没有已知的竞争性经济利益或个人关系，这些可能看似影响本文报告的工作。

致谢
这项工作得到了国家自然科学基金的支持 [授予号：No. 72201169, 72031007]。

朱凯博是上海交通大学安泰经济与管理学院管理科学与工程系的博士生。他的研究兴趣包括不确定性下的数据驱动决策、运营管理及决策支持的机器学习以及医疗分析。

朱凯博|魏轩|王修仙|耿娜
上海交通大学安泰经济与管理学院，上海市华山路 1954 号，200030，中国