TopSDH：一种基于拓扑结构的半条件潜在扩散模型，采用双曲形状的表示方法用于图生成

《Knowledge-Based Systems》：TopSDH: Topology-regularized semi-conditional latent diffusion with hyperbolically shaped representations for graph generation

　　**摘要**
深度图生成在药物发现和社会网络分析等领域中具有重要意义。最近的潜在扩散模型提高了样本质量和效率，但它们仍然面临以下问题：（1）离散优化以及在采样过程中产生的不连通或结构校准错误的输出；（2）编码-扩散-解码流程中的信息损失；（3）欧几里得潜在空间与许多图数据集中观察到的非欧几里得结构模式之间的几何不匹配。我们提出了TopSDH，这是一种基于拓扑正则化的半条件潜在扩散框架，旨在缩小连续潜在轨迹与离散可行集之间的差距。TopSDH分为三个阶段：（1）使用具有变分潜在瓶颈的几何感知双曲图自动编码器（GraphAE）进行拓扑塑造，并加入与度数、聚类相关性和谱统计相关的可微拓扑损失；（2）在由双曲结构塑造的潜在表示上进行半条件潜在扩散，其中潜在变量被分解为可扩散的生成子空间和由cond_ratio控制的条件锚定子空间；（3）在推理阶段进行结构对齐，包括使用logit-shift投影进行边预算校准和保持连通性的修复，以便将概率映射到结构上可行的离散图。在涵盖基线覆盖率的三个基准数据集（MUTAG、PROTEINS和IMDB-BINARY）上，TopSDH在严格的协议下进行了评估，使用相同的生成样本数量和评估器。我们还在ENZYMES、DD、COLLAB和仅包含拓扑的QM9子集上进一步评估了该方法，以考察超出这三个基准数据集的结构行为。由于该增强协议专门使用来自训练分割的边预算统计数据，因此应将其解释为系统级校准的输出，而非模型本身的性能。

**引言**
**背景与动机**：近年来，图生成已成为理解和建模复杂关系数据的核心方法，在分子药物发现、社会网络建模和物理系统仿真等关键领域具有广泛的应用前景。其主要目标是利用深度生成模型准确捕捉观测数据的潜在分布，从而生成在统计属性和拓扑组织方面与真实世界分布高度匹配的新图结构。然而，尽管生成式人工智能在图像和音频等连续数据领域取得了突破性进展，但由于图数据的内在特性，构建高效且稳健的图生成模型仍然具有很大挑战性。与类似网格的图像数据不同，图本质上是一种离散的拓扑结构。这不仅导致了巨大的组合搜索空间（可能的边配置数量随节点数量的增加而呈指数级增长），更重要的是，真实图数据通常表现出复杂的拓扑特性，如偏态度分布[1]、高聚类系数[2]和特定的模式图案。因此，在生成过程中如何保持这些全局和局部拓扑不变量已成为当前研究的核心挑战。

**现有方法的局限性**
尽管现有的图生成方法（包括自回归模型如GraphRNN[3]、基于流的模型如GraphAF[4]和MoFlow[5]以及基于扩散的方法）已取得显著进展，但在近似复杂真实世界图分布时仍面临三个主要限制：
1. 生成拓扑结构的统计不稳定性。当前模型在训练阶段强调拟合分布，但在推理阶段往往缺乏对全局拓扑属性的显式约束。因此，生成的结构容易出现严重的分布漂移，包括频繁的边删除（边数漂移）、不连通组件数量的增加以及关键局部聚类模式（如三角形图案）的退化。
2. 离散空间扩散与潜在空间重建之间的不平衡。在离散图空间中的直接扩散会带来高昂的计算成本（通常为??2(N2)）和巨大的优化难度。尽管潜在扩散方法通过映射到连续空间来降低复杂性，但它们常常忽略了从离散拓扑到连续潜在变量转换过程中的信息完整性。这种编码-解码流程容易导致细粒度拓扑细节的过度平滑或丢失，使得难以忠实恢复原始图中的复杂连通模式。
3. 欧几里得潜在空间的几何表达能力有限。大多数现有的图生成框架基于平坦的欧几里得几何，当图包含非欧几里得结构或稀疏的多尺度连通性模式时可能会受到限制。这种几何不匹配会增加嵌入失真，并限制模型捕捉复杂拓扑的能力。

**本工作的核心思想**
为了解决上述挑战，我们提出了TopSDH，这是一个三阶段生成框架，它将拓扑约束与几何感知建模相结合。该框架旨在通过分阶段的结构对齐实现从连续潜在空间到离散图结构的更可靠映射。整个流程包括三个阶段：在训练阶段（拓扑塑造），我们使用具有变分潜在瓶颈的图自动编码器实现（在发布的代码中称为GraphAE），利用双曲形状的表示提供额外的几何灵活性，并引入多维拓扑正则化，以鼓励潜在空间编码拓扑信息；在扩散阶段（半条件建模），我们根据固定的cond_ratio参数将潜在向量划分为可扩散子空间和条件锚定子空间。这种机制旨在通过在采样过程中冻结条件组件，在生成多样性和结构稳定性之间提供可调的平衡。我们提出了一种即插即用的采样后对齐协议，通过logit-shift投影进行边预算校准和基于置信度的连通性修复，将连续概率矩阵映射到满足严格约束的离散可行域。所有报告的定量结果均使用了默认的MLP去噪器。

**主要贡献**
1. **拓扑正则化训练**：我们在潜在变量学习过程中引入了显式的拓扑统计约束，并结合了线性热身调度策略。研究结果表明，这些措施取决于数据集和评估指标，因为消融实验显示了MMD、连通性和多样性之间的权衡。
2. **采样后结构对齐**：我们建立了一个完整的结构对齐框架，包括logit-shift投影、边匹配和连通性修复。
3. **具有双曲结构先验的半条件潜在扩散**：我们提出了一种基于双曲形状潜在表示的半条件潜在扩散策略，并使用cond_ratio设置来控制生成稳定性和多样性之间的平衡，从而实现结构可行性和生成自由度之间的可控权衡。

**相关工作**
本节回顾了关于生成、潜在扩散和几何拓扑学习的现有研究，并分析了现有方法的局限性。关于图生成模型的全面调查可以在[6]中找到。

**初步概念**
本节概述了与本研究相关的基础概念、数学符号和核心理论方法，为后续章节提出的生成框架建立了正式基础。

**总体框架**
为了便于介绍任务定义和整体方法，图1首先展示了本工作的三阶段框架：输入图经过拓扑正则化编码，然后通过半条件潜在扩散处理，最后通过离散结构对齐转换为重构图。该图还展示了严格/增强协议在输出处理方面的差异，并与消融实验有一一对应关系。

**数据集**
我们总共考虑了七个数据集。MUTAG（188个图，平均17.9个节点）、PROTEINS（1113个图，39.1个节点）、IMDB-BINARY（1000个图，19.8个节点）和ENZYMES（600个图，32.6个节点）提供了完整的六种子严格和仅训练增强结果。COLLAB（5000个图，过滤掉节点数超过500的图）和DD（1178个图，通过排除节点数超过配置限制的图，剩下1168个图）作为大规模诊断数据集，分别提供了六种子严格和仅训练的结果。

**指标特定的权衡**
实验结果显示，不同拓扑指标之间存在明显的不对称性。由于度数、聚类和谱MMD是从不同的统计空间计算得出的，它们的绝对值不能在不同指标家族之间直接比较。然而，在每个指标内部，配对结果显示，拓扑正则化和推理阶段的对齐改变了边预算准确性、局部三角形封闭性、谱摘要、连通性和多样性之间的平衡。

**结论**
本研究通过提出一种基于拓扑正则化的半条件潜在扩散框架，解决了图生成中连续潜在空间建模与离散结构可行性之间的核心矛盾。该方法结合了训练阶段的结构塑造、生成阶段的条件指导和推理阶段的结构对齐，而不是依赖于单一的生成阶段。经过验证的实验在四个基准数据集上提供了严格和仅训练的增强评估。

**作者贡献声明**
Qiurui Song：形式分析、数据整理、概念化。
Maoxin Sun：形式分析、数据整理。
Xuchu Jiang：资金获取、形式分析、数据整理。
Biao Zhang：资金获取、形式分析。

**生成式AI和AI辅助技术的声明**
在准备本工作时，作者使用了AI辅助编码工具来检查LaTeX格式并提高语言清晰度。作者随后审查并编辑了所有生成的修改建议，并对稿件的内容负全责。

**利益冲突声明**
作者声明没有已知的财务利益冲突或可能影响本文所述工作的个人关系。

**致谢**
本研究得到了中国国家自然科学基金（52405572, 62303204）和湖北省自然科学基金（2025AFC119）的支持。