使用自然对抗性数据集评估具备学习能力的医疗信息物理系统的鲁棒性

《ACM Transactions on Cyber-Physical Systems》：Evaluating Robustness of Learning-Enabled Medical Cyber-Physical Systems with Naturally Adversarial Datasets

医疗Cyber-Physical Systems（MCPS）采用学习增强组件需保障对自然对抗样本的鲁棒性，现有合成对抗样本评估方法存在局限性。本研究提出基于概率标签的自动化弱监督标注方法，构建递增式自然对抗数据集，通过6个MCPS案例和2个非医疗案例验证，证实该方法能有效生成真实场景对抗样本并准确分类系统鲁棒性。

　　

摘要

医疗信息物理系统（MCPS）越来越多地采用具有学习能力的组件（LECs）来提升其决策能力。由于MCPS的安全性至关重要，这些系统必须在预期和非预期的输入数据下都能保持高性能。因此，确保LE-MCPS的鲁棒性对于其成功部署至关重要。现有研究主要集中在对合成对抗样本的鲁棒性上，这些样本是通过在干净输入数据中添加难以察觉的扰动来创建的。然而，这些合成对抗样本并不能准确反映最具有挑战性的现实世界场景，尤其是在医疗数据领域。因此，对合成对抗样本的鲁棒性并不一定能够转化为对自然发生的对抗样本的鲁棒性。我们提出了一种评估LE-MCPS对自然对抗样本鲁棒性的方法。该方法利用从自动弱监督标注中获得的概率标签来构建自然对抗数据集，这些标签结合了噪声较大的标注方法和易于获取的标注启发式方法。基于这些标签，该方法对输入数据进行对抗性排序，并利用这种排序构建一系列逐渐增加对抗性的数据集来评估鲁棒性。我们在六个MCPS案例研究和两个非医疗案例研究中的评估表明：（1）我们的方法在生成自然对抗数据集方面的有效性和统计有效性；（2）我们的鲁棒性评估在区分鲁棒和非鲁棒LE-MCPS方面的实用性。