综述：差分隐私的全面研究：基于对称性的分类与分析

《Neurocomputing》：A comprehensive survey of differential privacy: Taxonomy and analysis based on symmetry

　　摘要
差分隐私（DP）已发展成为一个包含多种定义的丰富生态系统，这些定义从纯粹的差分隐私到近似差分隐私，再到集中式差分隐私、雷尼差分隐私和度量型差分隐私等，每种都针对特定的理论或应用需求而设计。尽管现有的综述已经根据信任模型、部署场景或机制设计对这些框架进行了广泛分类，但它们大多忽视了这些定义本身的内在结构特性。具体而言，关于在数据集相邻关系反转时隐私保障是否依然保持不变这一核心问题，几乎未被作为分类标准加以探讨。作为对传统视角的补充，本综述引入“对称性”这一新的结构视角，用于系统地梳理和分类各种核心差分隐私定义。我们将对称性定义为这样一种属性：无论数据集以何种方向进行比较，该差分隐私定义都能提供相同的隐私保障。基于这一视角，我们构建了一个系统的分类体系，阐明了各类主要差分隐私公式之间的内在差异，为理解它们的理论关联、实际应用性、局限性以及失效条件提供了新见解。

引言
差分隐私由Dwork在2006年正式提出，它代表了隐私保护计算领域的一次重大范式转变。它有效解决了传统匿名化技术如差分隐私和数据掩码在面对差分攻击时的关键缺陷[14]。其核心原理是在查询结果中注入经过校准的随机噪声，从而设定严格的概率界限，使得任何单个记录的加入或移除都只会对最终分布产生微弱影响。这一保障措施即便面对拥有任意辅助信息的攻击者也能提供强大的隐私保护，因此差分隐私成为了兼具理论严谨性与实际应用性的安全数据分析主导框架[15]。

在过去几十年中，差分隐私不断发展，形成了众多针对不同应用需求的简化版和扩展版变体。典型的例子包括近似差分隐私，它通过降低纯粹差分隐私的严格程度来提升数据利用效率[14]；雷尼差分隐私，它借助基于散度的特征描述来实现更精细的隐私损失控制[32]；高斯差分隐私，则通过统计假设检验来重新构建隐私保障机制[10]，等等。

尽管这些变体具有不同的实现方式，但它们本质上都依赖于“相邻数据集”的概念，即那些仅在一条记录上存在差异的数据集。一个重要但常被忽视的事实是，这类数据集之间的相邻关系本质上是对称的——交换任意一对相邻数据集，它们的相邻关系依然保持不变。

对称性是数学和理论物理学中普遍存在的结构原则，它能够带来结构一致性，简化形式推导，并提高分析的可行性。在数学中，对称结构有助于建立统一的证明框架，避免重复的双向验证。在理论物理学中，对称性是守恒定律和不变系统的基础，确保了系统的稳定性和普遍性。将其应用于隐私保护计算领域，对称性可以消除隐私保障中的方向性不一致问题，增强可解释性和可验证性，同时简化隐私机制的设计、组合与部署过程。

现有文献已从多个角度对差分隐私变体进行了分类。Dwork通过研究纯粹差分隐私及其在统计推断中的应用，奠定了早期基础[11]。Xin等人则聚焦于将差分隐私与联邦学习相结合[44]。Zheng等人对简化版的差分隐私变体进行了分类，并评估了它们的实际性能[47]。Khavkin等人提出了用于工程实现的系统设计原则[22]。Xiong等人则对局部差分隐私进行了系统性综述[45]。Demelius等人则根据约束紧密度分析了差分隐私变体在高层深度学习中的适用性[9]。尽管已有诸多研究，但至今仍没有哪项综述以对称性这一差分隐私的重要结构特性为核心，构建出系统的分类体系或进行分析。

总体而言，现有的分类体系通常是从四个主要视角提出的，即隐私差异度、实现机制、部署场景以及简化形式。它们的局限性在图1中进行了总结说明。尽管已有诸多努力，但仍然缺乏以对称性为核心的系统分类或分析，而这正是差分隐私最根本的结构特性之一。现有的分类方案要么侧重于定量隐私水平，要么关注实现技术、部署场景或简化模式，却未能捕捉到统一所有差分隐私定义的内在公理结构。

从数学角度来看，对称性指的是某些变换下核心属性的不变性，体现了结构的稳定性、平衡性与不变性。在物理学和信息科学中，对称性通常对应于基本的守恒定律，是系统最稳定、最普遍且最基础的特性。对于差分隐私而言，其核心目标就是确保添加或删除单条数据记录不会显著改变输出分布，这自然对应于双向不可区分的对称结构。因此，对称性并非差分隐私的外在特征，而是其内在的公理核心与本质的数学结构。

为填补这一空白，本文以对称性作为核心组织原则，对主流差分隐私变体进行分类、综述与综合分析，揭示了看似不同的框架之间的深层联系。具体而言，我们将差分隐私定义分为对称机制、条件对称机制和非对称机制三类。对称机制在交换相邻数据集时仍能保持相同的隐私保障，具备对称性所带来的数学简洁性与稳定性。条件对称机制则仅在特定约束或温和假设下才能满足这种对称的隐私保障。而非对称机制则会在相邻数据集之间的正向与反向转换过程中提供不同的隐私等级。

选择对称性作为分类视角的合理性、独特性及研究价值如下：
(1) 合理性。对称性是差分隐私原始定义所固有的，其核心要求就是插入或删除单个样本不会显著改变计算结果，这本质上对应于双向对称的不可区分性。作为一种公理化的基本属性而非表面特征，对称性适用于所有差分隐私变体，并具有坚实的理论基础。
(2) 独特性。与基于散度、基于机制或基于场景的分类法不同，对称性直接揭示了各种差分隐私定义之间的内在结构差异。它能统一解释包括组合性、后处理不变性、鲁棒性以及群体隐私在内的关键理论属性，这是现有任何分类方法都无法实现的。
(3) 研究价值。以对称性为核心的分类体系为各类差分隐私变体建立了统一的理论基准，清晰地阐明了它们之间的关联与差异。

这种以对称性为导向的分类体系不仅揭示了差分隐私变体之间的内在联系，还为差分隐私的分析、设计与发展提供了严谨且统一的理论视角。

本文的核心创新点与主要贡献可归纳如下：
• 新型的结构分类视角：我们将对称性视为差分隐私的内在基本属性，据此将现有的差分隐私变体划分为对称类、条件对称类和非对称类，突破了传统外部分类标准的局限。
• 统一的理论解释能力：基于对称性的框架能够一致地解释差分隐私变体的多项核心理论属性，而这些属性是以往分类方法无法系统分析的。
• 普适的理论研究基准：该分类体系消除了现有分类系统的碎片化问题，揭示了各类差分隐私机制之间的内在关联，为后续的理论研究与方案设计提供了新思路。

本文采用从基础到应用的层次结构。第2节介绍了所需的数学基础知识，并给出了差分隐私中对称性的正式定义。第3节阐述了本文的核心贡献——一种基于对称性的分类体系，该体系将主要的差分隐私变体分为对称类、条件对称类和非对称类。第4节聚焦于对称差分隐私变体，通过形式化分析验证其对称性，并探讨其理论优势。第5节研究了非对称变体，分析了其不对称性的根源，并讨论了实际应用意义。第6节探讨了在特定条件下可实现对称性的中间框架。这三节共同验证了所提出的分类体系，并将理论分类与实际部署联系起来。最后，第7节总结了本文的主要贡献，指出了未来在考虑对称性的差分隐私研究方面的方向，并强调了这项工作的理论与实践价值。

为帮助读者快速了解本综述的整体架构与结构逻辑，我们在图2中提供了相应的框架图。