在局部差分隐私数据收集中的预算推断攻击与对策

《ACM Transactions on Internet Technology》：Budget Inference Attacks and Countermeasures in Locally Differentially Private Data Collection

隐私保护中的局部差分隐私（LDP）预算推断攻击研究。针对LDP协议中隐私预算ε的隐匿需求，提出预算推断攻击（BIAs）模型，区分知情和无知攻击者场景，通过实验验证对五类主流LDP协议的有效性，误差率低于5%。设计三种对抗措施发现：虽能降低攻击准确率约15%-30%，但导致数据效用损失增加20%-45%，需权衡安全与效率。

　　

摘要

局部差分隐私（LDP）最近已成为一种流行的隐私保护数据收集方法，用于从用户设备中收集数据。它已被应用于与物联网（IoT）和信息物理系统相关的众多场景中，以实现隐私保护的边缘数据分析。LDP中的隐私保护强度取决于隐私预算ε，而在某些情况下，希望ε的值对不受信任的第三方保持隐藏，或者不受信任的第三方推断出ε可能会构成隐私泄露。在本文中，我们提出了一类新的攻击方式，称为预算推断攻击（BIAs），这种攻击方式允许攻击者从LDP协议的输出中推断出ε的预算值。我们针对两种类型的攻击者开发了BIAs：一种是有统计数据分析知识的知情攻击者，另一种是没有这种知识的不知情攻击者。我们将我们的BIAs应用于五种流行的LDP协议，并使用多个数据集、不同的ε预算、群体规模以及攻击设置和参数进行了实验评估。结果表明，我们的BIAs非常有效，因为它们能够使攻击者以较低的错误率推断出ε的值。我们还提出了三种针对BIAs的潜在对策。分析显示，虽然这些对策可以有效降低BIAs的准确性，但也会增加效用损失；因此，需要仔细权衡BIAs的准确性和效用损失之间的平衡。