面向GDPR合规的机器学习模型隐私风险量化评估方法

《Scientific Reports》：An empirical privacy risk assessment method for machine learning models towards GDPR’s “Data protection by design and by default” requirement

　　

摘要

《通用数据保护条例》（GDPR）要求数据处理系统遵守“数据保护设计和默认数据保护”范式，但机器学习模型往往暴露出当前量化不足的潜在隐私风险。本文旨在提出一种全面的实证方法，依据GDPR要求对机器学习模型中的隐私风险进行定量评估。本研究提出了一种结合三个主要方面的范式：在单一量化方法层级上实施模型反转攻击、成员推断攻击和属性推断攻击。该方法通过系统实验在多个架构上进行验证，包括深度神经网络、决策树和支持向量机，以有力证明其检测隐私风险的能力，平均检测准确率为89.3%。该方法采用数学构建来表示0到100范围内的可量化风险分数，协助在模型使用方面做出明智的技术决策。该方法在五个标准基准数据集上进行了实验验证，以有力证明深度神经网络倾向于表现出较高的隐私风险分数（μ = 74.1），而在集成方法中则表现出相对较低的风险分数（μ = 51.6）。该方法为在GDPR“数据保护设计和默认数据保护”范式框架下实施技术和组织措施提供了明智的技术决策机会。