超越成对相互作用：高阶网络上协同演化传播的准确预测

《Communications in Nonlinear Science and Numerical Simulation》：Beyond pairwise interactions: Accurate forecasting of co-evolutionary spreading on higher-order networks

　　

摘要

许多共进化传播过程涉及高阶相互作用，然而通过两两配对表示对其进行近似的后果仍缺乏足够深入的理解。在此，我们揭示了两两配对图神经网络在单纯复形上进行节点级单步条件转移概率预测时的独特预测失效模式。注意力图神经网络（Att-GNN）的预测值与真实转移概率之间的偏差模式，在同质网络中呈现出有序的斜向分层，在长尾网络中则呈现出表观无序的散射，且这种偏差即使在二级连通性可忽略不计的节点上依然存在。偏差方向系统性地取决于活跃的一维单纯形和二维单纯形传播通道的相对数量，这两者共同刻画了局部暴露条件。我们将这些现象解释为源于补偿性学习的高阶截断偏差。被遗漏的单纯形贡献被吸收进一个共享的两两配对映射中，而该映射的统计折中导致在不同局部暴露条件下产生过多或不足的补偿。为了解决这一问题，我们提出了Att-HGNN——一种拓扑自适应高阶注意力模型，通过节点特定的查询和结构特定的键与值来显式聚合单纯形相互作用。在合成网络和基于实证接触数据构建的拓扑上模拟的竞争、合作及不对称动力学中，Att-HGNN在实验上降低了观察到的预测偏差。在SC-ER和SC-SF网络上，四种GNN家族的两两配对与高阶变体的十组种子对比实验显示出高阶聚合的一致优势，其中Att-HGNN在Pearson相关系数和概率均方误差两项指标中均取得了八种模型中最强的整体表现。

引言

现实世界中的传播过程通常涉及多个共同进化的实体，其相互作用在生物、社会及生态系统中产生了复杂的动力学行为[1]、[2]、[3]。Newman开创性的框架[4]为建模相互依赖的传播提供了理论基础，包括行为-流行病学反馈[5]、[6]、[7]、信息-疾病耦合[8]、[9]、[10]、宿主-病原体相互作用[11]、[12]、[13]以及跨系统相互作用[14]、[15]。然而，仅通过两两配对链路来表示这些过程可能会遗漏贡献于集体动力学现象（如滞回转变和双稳态[16]、[17]、[18]、[19]）的高阶相互作用。因此，超图和单纯复形框架被引入以显式表示群体级共进化传播[20]、[21]、[22]、[23]、[24]、[25]。

图神经网络（GNNs）通过消息传递机制从网络拓扑和观测中学习状态转移规则[26]。离散快照模型[27]、神经常微分方程模型[28]、[29]、时空自适应架构[30]、[31]、[32]以及物理信息驱动框架[33]拓展了可从数据中学习的网络动力学范围。然而，大多数标准GNN仍然通过两两配对邻域进行信息聚合。因此，结构上不同的活跃单纯形配置可能被映射到相同的两两可观测表示上，尽管它们引起的节点级转移概率不同。

高阶GNN通过超边[34]、[35]、[36]或单纯形[37]、[38]、[39]编码多节点依赖关系来解决这一表示局限。然而，显式的高阶聚合引入了与处理节点-单纯形关联相关的额外计算开销。更重要的是，现有研究主要证明高阶结构的重要性或高阶模型改善预测的能力，而两两配对GNN中预测失效的可观测特征仍不清楚。特别是，我们缺乏对高阶相互作用遗漏如何产生预测偏差以及这些偏差模式如何随网络异质性变化的机制性理解。缺乏这样的理解，由结构表示不充分引起的预测偏差可能被误认为普通的预测噪声。因此，刻画这些预测偏差模式对于诊断结构误设和激励显式表示高阶相互作用的架构至关重要。

在此，我们研究单纯复形上共进化传播的高阶截断偏差，并评估显式高阶聚合是否改善了节点级单步条件转移概率预测。本研究的主要贡献总结如下：

1. 我们揭示了在单纯复形上进行节点级单步条件转移概率预测时，两两配对Att-GNN的独特预测失效模式。Att-GNN预测值与真实转移概率之间的偏差模式在同质网络中呈现有序的斜向分层，在长尾网络中呈现表观无序的散射，且偏差即使在二级连通性可忽略的节点上依然存在。偏差方向系统性地取决于活跃的一维和二维单纯形传播通道的相对数量。

2. 我们定义了高阶截断偏差，即由补偿性学习产生的系统性预测偏差——被遗漏的单纯形贡献被吸收进一个共享的两两配对映射中。所需的补偿量随活跃的二维与一维单纯形通道之比变化，但交叉熵最小化倾向于对两两表示下不可区分的配置进行条件平均的转移概率。这种统计折中导致在相对更强的高阶强化下补偿不足和低估，而在相对更强的两两配对暴露下补偿过多和高估。

3. 我们提出了Att-HGNN，一种拓扑自适应高阶注意力架构，通过将节点特定的查询与结构特定的键和值耦合来显式表示单纯形相互作用。在合成网络和基于实证接触数据构建的拓扑上的评估表明，该模型在竞争、合作和不对称传播动力学下都能准确预测节点级单步条件转移概率。

4. 通过对Att-GNN/Att-HGNN、GCN/HGCN、GraphSAGE/HGraphSAGE和Sum-GNN/Sum-HGNN的匹配对比，我们建立了跨四种评估GNN家族的高阶聚合一致的预测优势。在测试的SC-ER和SC-SF场景中，所有高阶变体在十组实验种子上都取得了比其两两配对对应模型更高的平均Pearson相关系数和更低的平均概率均方误差。Att-HGNN在八种评估模型中取得了最强的整体预测性能和两项指标中最低的跨种子变异。

章节摘要

单纯复形表示

为模拟集体聚合产生的高阶结构，我们采用单纯复形框架。在此，我们介绍单纯复形的基本概念。有关更多细节，读者可参阅5.1节。

如图1(a-1)所示，一个单纯复形记为 ??=?????=0??(??)，是一组单纯形的集合，这些单纯形是由一组节点构建的不同维度的组合结构。这些单纯形抽象了节点群组，捕捉了...

合成网络上的预测性能

图2展示了Att-HGNN模型与其图对应版本Att-GNN之间的预测性能对比分析。散点图可视化了分配给已实现目标状态的概率，将预测值 ? 与真实状态转移概率 Ytrue 进行对比。为了验证预测保真度，我们使用了Pearson相关系数（R）。虽然单个状态转移是随机的，但条件转移概率向量是...

讨论

在SC-ER和SC-SF单纯复形上，我们识别了节点级单步条件转移概率预测中两两配对Att-GNN的预测失效，表现为同质网络中的斜向分层和长尾网络中表观无序的散射。高阶截断偏差产生于补偿性学习将遗漏的单纯形贡献吸收进共享的两两配对映射时。其统计折中导致...

网络

单纯复形是一种组合结构，由一组单纯形组成，其中每个单纯形 σ(d)（由 d+1 个节点 [v?,…,v_d] 构成的 d 维对象）满足闭包条件：如果单纯形 σ∈??，则由 σ 的子集构成的所有子单纯形也是 ?? 的元素。例如，三个元素之间的群体相互作用构成一个二维单纯形（"完整"的三角形）[p?, p?, p?]，包含其边 [p?, p?]、[p?, p?]、[p?, p?] 以及节点 [p?]、[p?]、[p?]。对应的...

CRediT作者贡献声明

李文瑶：论文撰写-初稿、可视化、软件、调研、形式分析、数据管理。林涛：论文撰写-审阅与编辑、监督、资源获取、项目管理、资金获取。王伟：论文撰写-审阅与编辑、监督、项目管理、方法论、资金获取、概念构思。

利益冲突声明

作者声明他们没有已知的可能影响本文所报道工作的竞争性经济利益或个人关系。

李文瑶 | 林涛 | 王伟
四川大学 计算机科学学院，成都，610065，中国