传送技术：防范数据驱动型医疗健康应用程序接口（API）遭受数据窃取攻击的防护措施

《IEEE Transactions on Artificial Intelligence》：Teleportation: Defense Against Stealing Attacks of Data-Driven Healthcare APIs

　　

影响声明：

这些数据驱动的医疗模型是通过私有电子健康数据训练而来的，模型本身也是医院的专有财产。因此，保护这些模型非常重要...显示更多

摘要：

数字医疗服务的日益普及促使人们开发了多种基于电子健康记录的数据驱动医疗应用程序编程接口（API），这些接口在提供辅助诊断服务的同时无需牺牲隐私。保护医疗API免受未经授权的提取至关重要，原因如下：1) 未经授权的克隆模型可能在网上充当虚假医疗服务提供者，对公众造成危害；2) 包含私有电子健康记录的受保护训练数据也可能从被盗模型中被提取出来。因此，必须保护数据驱动的医疗API免受未经授权的克隆和提取。在本研究中，我们提出了一种原理性的防御策略，通过自适应传输传入的查询来有效防止对医疗API的提取攻击。该机制可以在保留API为合法查询提供服务的同时，阻止未经授权的模型功能复制。自适应传输操作基于制定的双级优化目标生成，并遵循Wasserstein梯度流（WGFs）所描绘的演变轨迹，这种轨迹能有效将攻击查询推离决策边界，同时限制合法查询的偏差程度，这是因为攻击者生成的伪查询通常比正常查询更接近决策边界。这种方法可以在保留模型效用的同时，为恶意查询提供误导信息。我们对提出的机制在三项与医疗相关的预测任务上进行了详细分析，包括住院死亡率、出血风险和缺血风险预测，以验证其在不同攻击场景下的有效性。与现有的防御措施相比，该机制在抑制克隆模型的性能方面显著更有效，同时保持了相当的服务效用...

显示更多

引言

近年来，随着数字医疗平台的发展，医疗应用程序编程接口（API）为不断增长的用户群提供服务，这些接口由数据驱动的机器学习模型提供支持。这也导致了虚假医疗API的出现，这些API在网页上广泛传播，并在搜索引擎结果中得到推广，它们是真实API的未经授权的克隆版本，针对患者进行恶意诈骗，以获取受保护的信息或非法财务利益[1]。这些虚假API对公众造成了多方面的危害，包括：1) 在网上提供虚假医疗服务的API会对患者进行金融和保险欺诈，还会导致医院、诊所和其他服务提供商因违规而承担巨额费用；2) 可能会发生大规模的个人信息泄露。API攻击是医疗数据泄露的最常见原因[2]，仅一年内就导致了超过4000万份医疗记录的泄露[3]。3) 与其他领域不同，医疗决策可能关乎生命，基于虚假API得出的错误结论会严重影响人们的健康。此外，医疗模型往往成本高昂（需要数百名临床医生参与长时间的数据收集和预处理），并且被视为诊所的专有财产。我们在图1中概述了不同的攻击场景。这些攻击利用了医疗API安全措施不足的问题，这些缺陷源于人们对风险的认识不足以及技术支持的缺乏。在本研究中，我们旨在从源头上解决问题，有效保护医疗API免受未经授权的克隆和窃取。