《Computers》:MedSTRIDE-AI: An Extended STRIDE-Based Threat Modeling Framework for Multimodal Agentic AI Systems in Medical Internet of Things (MIoT) Environments
编辑推荐:
医疗物联网(MIoT)系统中的多模态代理式AI(multimodal agentic AI)会带来复合网络安全威胁,例如入侵与零日异常,而传统基于STRIDE的威胁模型未能充分捕获这些威胁。本文提出MedSTRIDE-AI框架,这是一种采用设计科学研究(DSR
医疗物联网(MIoT)系统中的多模态代理式AI(multimodal agentic AI)会带来复合网络安全威胁,例如入侵与零日异常,而传统基于STRIDE的威胁模型未能充分捕获这些威胁。本文提出MedSTRIDE-AI框架,这是一种采用设计科学研究(DSR)开发并以全面系统综述为基础的结构化STRIDE扩展。在本研究中,MedSTRIDE-AI探讨MIoT生态系统内三类当代入侵检测系统(IDS)威胁异常:多模态对抗融合攻击(T1.2)、不安全自主临床行动链(T4.2)和跨设备级联记忆投毒(T6.2),并纳入受ISO 14971:2019启发的患者危害优先排序层和六步威胁识别工作流。MedSTRIDE-AI增加风险感知IDS响应,强调依据患者危害程度进行遏制,从而较危害不可知IDS响应多降低62%的危害加权残余风险。评估结果表明,MedSTRIDE-AI不仅较STRIDE、MEDSTRIDE和ASTRIDE提供更广的结构性威胁覆盖,还为多模态代理式医疗系统提供可度量的安全属性与缓解权衡。
研究背景与问题:医疗系统正经历以人工智能(AI)为核心的技术转型,AI已用于临床诊断、患者监测和治疗决策支持;医学物联网(MIoT)设备可解释医学影像、追踪生理参数并生成自动化临床建议。代理式AI可自主感知环境、综合多模态数据并采取临床相关行动,且可能不再需要逐步人工确认;其多模态数据融合、自主推理和跨设备持久记忆使攻击面扩展。传统STRIDE面向静态、确定性、人工控制且信任边界固定的软件系统,难以建模多模态对抗融合、自主临床行动链和跨设备级联记忆投毒;已有AI/ML扩展、医疗IoT适配和ASTRIDE等代理AI扩展虽覆盖部分威胁,但未将三类传播型威胁统一建模,也缺乏基于患者危害的优先排序与审计化工作流。因此,研究人员开展MedSTRIDE-AI研究,旨在提出结构化STRIDE扩展、ISO 14971:2019启发的患者危害优先排序层、六步威胁识别工作流和风险感知IDS响应,并通过机制级实验验证其可实例化、可测量与可缓解性。研究结论表明,MedSTRIDE-AI较STRIDE、MEDSTRIDE和ASTRIDE具有更广的结构性威胁覆盖,并能给出可度量的安全属性与缓解权衡;其意义在于把威胁枚举推进到以传播为中心、可审计且面向患者危害的检测—响应分析。
关键技术方法:研究人员采用设计科学研究(DSR)与系统综述构建框架,并以机制级实验评估三类威胁。T1.2使用WESAD多模态可穿戴生理数据集(15名受试者;ECG、BVP、ACC;30 s窗口;63个特征;按受试者独立划分训练/验证/测试),比较早融合、晚融合与可靠性感知融合,并在标准化特征空间实施定向投影梯度下降(PGD)攻击与oracle模态隔离。T4.2使用MIT-BIH Arrhythmia来源的ECG二分类检测,实施快速梯度符号法(FGSM)/PGD告警抑制,并测试独立安全代理(safety agent)拦截与四阶段级联。T6.2构建5000个受控共享记忆多智能体临床episodes,比较全局、来源验证、范围限制、安全策略及生存时间(TTL)/语义验证。还以危害加权残余风险(HWRR)评估风险感知IDS响应。
研究结果:
5.1 评估目标与实验方案:采用FEDS人工评估策略,将三类扩展操作化为可测量攻击场景,评估其能否在可重复条件下被实例化、测量和缓解,而非声称临床部署就绪。
5.2 T1.2:多模态对抗融合攻击。5.2.1 数据集、特征与受试者独立划分:基于WESAD的15名受试者、ECG/BVP/ACC三模态、30 s窗口和63个特征,按受试者划分训练/验证/测试,避免受试者泄漏。5.2.2 融合架构与干净性能:早融合、晚融合和可靠性感知融合的干净AUROC分别为0.960、0.967、0.940,说明后续攻击发生在有效基线之上。5.2.3 定向单模态PGD攻击:在标准化特征空间对单一模态施加定向PGD,强扰动下晚融合攻击成功率(ASR)为ECG 29.5%、BVP 1.6%、ACC 60.7%,表明模态攻击面高度不对称。5.2.4 模态隔离与安全—效用权衡:oracle隔离受损ACC使ASR从60.7%降至1.6%,AUROC从0.620恢复至0.949;但弱扰动下移除ECG可提高ASR并降低AUROC,说明隔离须有可靠妥协证据。
5.3 T4.2:不安全自主临床行动链。5.3.1 ECG检测器与干净性能:MIT-BIH来源ECG检测器干净准确率0.8768、AUROC 0.8575。5.3.2 FGSM与PGD脆弱性:随扰动增强,PGD使AUROC下降;定向PGD在较强预算下抑制31.98%的正确异常检测。5.3.3 安全代理拦截与级联遏制:独立安全代理拦截83.78%的成功抑制,残余不安全率降至16.22%,平均级联深度由4.0降至约2.32–2.39,说明独立验证边界可实质性限制传播。
5.4 T6.2:跨设备级联记忆投毒。5.4.1 受控共享记忆测试床:5000个episodes中,全局共享记忆下记忆投毒成功率(MPSR)=1.0、传播reach=1.0、EHR投毒reach=1.0、不安全episode率=1.0。5.4.2 来源、范围与可信源妥协:来源验证完全阻断不可信写入;可信源妥协下,安全策略将传播reach降至0.75、平均不安全行动由3.0降至2.0但未消除。5.4.3 时间遏制与语义验证:TTL将毒化持久性限制为三个时间步;语义阈值30拒绝23.24%合法更新,显示安全—效用权衡。
5.5 风险感知IDS响应:将检测威胁映射至ISO 14971危害层级并调整遏制强度,高危害T4.2、T6.2触发硬遏制,中危害T1.2依妥协证据触发;HWRR由0.90降至0.35,约62%降低。
5.6 跨威胁综合与比较框架分析:三项实验共同显示局部模型或记忆妥协经传播后被放大;MedSTRIDE-AI较STRIDE、MEDSTRIDE和ASTRIDE覆盖更广,但实验为机制级验证,不证明临床全面性或真实医院攻击流行率。
讨论部分总结:讨论强调应从威胁枚举转向可度量安全行为;T1.2显示多模态融合不天然稳健且攻击面不对称,oracle隔离仅给出上限;T4.2表明模型稳健性与工作流安全需分开治理,独立安全边界和授权边界是关键缓解点;T6.2表明记忆安全不能仅依赖来源,需要来源、范围最小化、完整性、时效和语义一致性多层控制;六步工作流应记录传播边界、可达患者危害和遏制成本。风险感知IDS响应需同时考虑危害与检测置信度,将强硬遏制优先用于高危害路径。局限包括T1.2特征空间攻击、oracle隔离、T4.2受控级联、T6.2合成episodes、危害分层与法规映射的概念性以及外部效度;伦理上未攻击真实医院网络或自主治疗系统。
研究结论(译):本文提出MedSTRIDE-AI,一种面向医疗MIoT环境中多模态代理式AI的基于STRIDE的威胁建模框架。该框架以T1.2多模态对抗融合攻击、T4.2不安全自主临床行动链和T6.2跨设备级联记忆投毒扩展传统STRIDE分析,并纳入六步工作流和受ISO 14971:2019启发的患者危害优先排序层。除概念覆盖分析外,框架通过三项受控实验评估。对T1.2,基于WESAD的受试者独立多模态压力分类在早融合、晚融合、可靠性感知融合的干净AUROC分别为0.960、0.967、0.940;定向单模态PGD攻击显示强模态不对称,晚融合ASR在ECG、BVP、ACC分别为29.5%、1.6%、60.7%;oracle隔离受损ACC使ASR由60.7%降至1.6%,AUROC由0.620恢复至0.949。对T4.2,MIT-BIH来源ECG检测器干净AUROC为0.858;定向PGD抑制31.98%的正确异常检测,独立安全代理拦截83.78%的成功抑制。对T6.2,5000个受控共享记忆仿真显示无限制全局记忆完全传播,来源验证阻断不可信投毒;可信源妥协仍是残余失效模式,TTL控制限制毒化持久性。实验评估提供证据表明三类扩展捕获可度量且不同的安全行为;结果支持以传播为中心的安全观:风险不仅取决于输入、模型或记忆元素是否可被操纵,还取决于该操纵在遏制前如何跨越模态、行动和记忆边界。最后,将危害层操作化为风险感知IDS响应,把检测威胁映射到按ISO 14971严重度分层的遏制动作,通过组合T1.2、T4.2和T6.2的已测遏制机制,将危害加权残余风险由0.90降至0.35(约62%),使MedSTRIDE-AI成为风险感知检测—响应流程中的危害优先排序阶段。