一种基于分位数的、考虑模型层结构的扰动方法，用于防御深度神经网络中的模型逆向攻击

《Scientific Reports》：A quantile-based layer-aware perturbation to defend against model inversion attacks in deep neural networks

　　

摘要

医疗数据本质上非常敏感，极易受到训练阶段和测试阶段的攻击。在医疗模型中，模型逆向攻击屡见不鲜，因为攻击者试图获取这些关键模型的数据。胎儿平面分类涉及最为敏感的医疗数据之一，是超声筛查的首要步骤。本文的主要目的是探讨模型逆向攻击对胎儿超声平面数据集的影响，并提出一种新的防御策略以提高医疗深度学习模型的隐私保护水平。本文提出了一种改进的迭代模型逆向攻击方法，该方法采用多种初始化策略。此外，还提出了一种名为AQC-LANA的新型防御框架，该框架基于自适应分位数裁剪技术和层次智能噪声分配机制，有效规避了固定梯度裁剪方法所带来的开销。通过使用鲁棒性指标对改进的迭代攻击方法及所提出的防御架构进行了评估，结果表明其性能得到了提升，与现有方法相当。与DP-SGD相比，所提出的防御方案提供了33%更高的隐私保护效果，并减少了12%的特征泄露，同时保持了合理的准确性。