镜像平滑技术：利用历史数据提升差分隐私数据流发布的实用性

《Future Generation Computer Systems》：Mirror-Smoothing: Leveraging historical data for enhanced utility in differentially private data stream release

　　摘要
数据流发布技术使各种应用能够进行实时分析，但由于存在暴露敏感用户信息的风险，因此引发了重大的隐私问题。尽管一些研究利用差分隐私（DP）向发布的统计数据中添加噪声以保护隐私，但现有方法仍面临关键挑战，包括抽样短视、预算分配不当和噪声波动性，这些都会降低发布数据的效用。为了解决这些问题，我们提出了Mirror-Smoothing这一新颖框架，它结合了三种协调机制：Sample-Mirror、Budget-Mirror和Noise-Mirror。Sample-Mirror根据历史数据调整抽样率；Budget-Mirror通过学习历史消费情况来优化隐私预算分配；Noise-Mirror通过结合新鲜噪声和历史噪声生成时间相关的噪声以减轻波动性。通过利用历史数据来指导抽样、预算分配和噪声生成决策，Mirror-Smoothing显著提高了数据效用，同时确保了严格的隐私保障。在真实世界和合成数据集上的广泛实验表明，Mirror-Smoothing在各种效用指标和隐私预算下均实现了最佳的整体平均性能，特别是在复杂的数据流模式下。这些结果表明，Mirror-Smoothing是实时流处理应用的一个有前景的解决方案。

引言
数据流发布[1]是指从客户端持续生成的数据发布到下游服务器的过程，这一过程在生成大规模实时数据流的领域中被广泛采用，例如物联网[2]、金融[3]和医疗保健[4]。然而，这些领域的一个关键问题是隐私泄露[5]：数据源通常包含敏感的用户信息，直接发布此类数据可能会暴露个人数据轨迹，如物联网设备收集的地理位置、在线支付交易的消费记录以及医疗监测中的生理指标。因此，需要开发一个框架来防止数据流发布过程中的隐私泄露。
最近的研究[6]、[7]、[8]引入了差分隐私（DP）[9]来解决数据流中的隐私问题。DP是一种通过在数据中注入噪声来保护隐私的技术，防止攻击者从发布的结果中推断出敏感的用户信息。其中，PeGaSus[6]提出了一种数据自适应的DP数据流算法，用于以较低的错误率回答连续查询，但其基于启发式的性质往往导致数据无关的决策。SPAS[7]通过动态选择最佳发布策略来最小化发布错误并最大化多样化数据流的效用。同样，SPPA[8]通过自适应调整抽样周期并通过傅里叶插值[10]建模时间相关性，在DP保证下实现了高效用。这些研究[6]、[7]、[8]表明，DP可以有效地解决数据流中的隐私问题，使其成为现实部署的一个有前景的解决方案。
然而，尽管有这些进展，现有方法的效用仍然有限，难以适应各种复杂的数据流。具体来说，这些方法[6]、[7]、[8]通常依赖于抽样机制并在相应的隐私预算内扰动发布值。这种设计可能会导致三个关键问题，如图1所示：抽样短视、预算分配不当和噪声波动性。(1) 抽样短视是指抽样决策主要基于静态规则、即时观察或有限的局部信息，而没有充分利用更广泛的历史发布反馈。如图中的蓝条所示，现有方法可能在相对稳定的时期（如时间20左右）分配较高的抽样率，而在发生突然变化时（如时间40左右）分配较低的率。这种短视行为可能会错过关键动态，降低发布数据的代表性。(2) 预算分配不当是指隐私预算分配与数据流的时间变化效用需求不匹配。如图中的橙条所示，稳定时期可能会消耗过多的预算，而在数据突然变化时提供的预算不足。这种低效的分配会在关键时间戳增加扰动误差，并削弱发布流的效用。重要的是，这并不意味着违反了规定的DP保证；而是隐私预算以低效的方式被消耗。(3) 噪声波动性是指相邻发布之间独立生成的扰动所引入的时间不稳定性。如图中的绿色误差区域所示，独立噪声在突然变化时（特别是在时间40左右）可能会导致尖锐的误差峰值。这种波动性可能会掩盖真实的时间趋势，并导致发布值与实际值之间存在较大偏差。第3节提供了这三个问题的正式定义和详细讨论。
为了解决这些问题，我们提出了Mirror-Smoothing这一框架，它利用历史数据来提高DP数据流发布的效用。Mirror-Smoothing设计了三种集成机制：Sample-Mirror、Budget-Mirror和Noise-Mirror。每种机制都利用目标历史数据来指导当前的发布决策，从而有效缓解上述问题。具体来说，Sample-Mirror使用历史抽样计数来设置当前的抽样率并选择重新抽样的时间戳，直接解决抽样短视问题；Budget-Mirror根据历史消费情况分配当前的隐私预算，缓解预算分配不当问题；Noise-Mirror通过结合新鲜噪声和历史生成的噪声来形成当前的扰动，减少噪声引起的波动性。这三个机制共同作用，像“镜子”一样反映历史数据，平滑数据流，从而提高其效用，使其适合现实部署。

我们的主要贡献总结如下：
• 我们提出了Mirror-Smoothing，这是一种创新的差分隐私数据流发布框架，它创造性地利用历史数据作为“镜子”来指导当前的发布决策，从而在保护隐私的同时提高数据效用。
• 我们在框架内设计了三种核心机制：Sample-Mirror、Budget-Mirror和Noise-Mirror。这些机制分别解决了现有方法中的抽样短视、预算分配不当和噪声波动性问题。
• 我们在真实世界和合成数据集上进行了广泛的实验。实验结果表明，Mirror-Smelling在各种效用指标和隐私预算下实现了最佳的整体平均性能，尤其是在严格的隐私预算和复杂的数据动态下，尽管在每个个别情况下不一定是最优的。

本文的其余结构如下：第2节介绍背景概念以帮助理解。第3节回顾相关工作，识别现有研究空白，并突出我们框架的新颖性。第4节介绍问题设置和基本定义。第5节描述Mirror-Smoothing的三种核心机制。第6节提供理论分析，包括隐私和效用分析。第7节进行实验评估。第8节讨论我们框架在现实世界中的隐私风险和局限性。最后，第9节总结本文并总结我们的发现。本文使用的主要符号在表1中定义。

背景
在本节中，我们提供了理解我们工作所需的基本背景。首先，我们讨论了数据流的差分隐私，这是我们框架中采用的核心隐私机制。然后，我们概述了我们用于比较的Mirror-Smoothing框架的代表性方法。

相关工作
差分隐私（DP）[9]数据流发布启发了许多在隐私约束下提高效用的框架。的一项最新调查[20]将DP序列数据发布的效用增强策略分类为分布优化[21]、[22]、敏感性校准[23]、原始数据集概要[25]、[26]和相关性利用[16]、[17]。在这些类别中，Mirror-Smoothing与相关性利用最为接近。

初步
在本节中，我们首先提出定义我们研究目标的问题陈述。然后介绍滑动窗口机制和相应的??事件差分隐私模型。最后，我们制定了指导我们研究的研究问题。

方法
如图2所示，我们概述了Mirror-Smoothing的运作方式。该框架在滑动窗口上顺序运行，每个决策步骤都由历史数据引导。它包括三个紧密耦合的机制：
• Sample-Mirror：通过查看历史抽样数据来指导何时进行抽样，重点关注数据变化明显的时间戳，以解决抽样短视问题。
• Budget-Mirror：通过学习历史消费情况动态分配隐私预算，确保其在

理论分析
在本节中，我们对框架进行了隐私和效用分析，以证明其在满足隐私要求的同时保持效用的能力。

实验
在本节中，我们首先描述了实验设置，包括设置、数据集、基线和效用指标。然后报告了在真实世界数据流上的结果，接着进行了消融研究、超参数敏感性分析和鲁棒性实验，以回答第4.4节中提出的五个研究问题。

讨论
在本节中，我们讨论了流处理数据发布中的现实隐私风险，提供了这些风险的具体数值示例以及Mirror-Smoothing的行为，并概述了局限性和未来方向。

结论
在本文中，我们提出了Mirror-Smoothing，这是一个用于DP数据流发布的框架，它利用历史信息作为“镜子”来指导抽样、预算分配和噪声平滑。该框架包括三种协调机制：Sample-Mirror、Budget-Mirror和Noise-Mirror。这些机制旨在解决DP数据流发布中常见的三个限制：抽样短视、预算分配不当和噪声波动性。

在真实世界和合成数据集上的广泛实验表明...

作者贡献声明
胡继飞：方法论。张航：形式分析。周新强：调查。叶雅宁：资源。陶辽亮：概念化。

利益冲突声明
作者声明他们没有已知的财务利益或个人关系可能会影响本文报告的工作。

胡继飞 | 张航 | 周新强 | 叶雅宁 | 陶辽亮
中国浙江省丽水市丽水大学数学与计算机科学学院，323000