复杂网络上传播过程的神经仿真：从狂热者投票模型到流行病和有限置信度意见动力学

《Physica A: Statistical Mechanics and its Applications》：Neural emulation of spreading processes on complex networks: From the zealot voter model to epidemics and bounded-confidence opinion dynamics

　　

摘要

随着系统规模增大，复杂网络上扩散过程的蒙特卡洛模拟变得越来越昂贵。对于 $R$ 次模拟、时间跨度为 $T$、节点数为 $N$ 的情况，其复杂度为 $\mathcal{O}(N \cdot T \cdot R)$。而平均场近似则会丧失支配少数固定影响者重塑动力学行为的结构性细节。我们通过对五种递进式神经架构进行基准测试来解决这一问题，最终形成了狂热者Transformer（ZealotTransformer, ZT）。节点级结构特征被嵌入后，经过多头自注意力模块处理，随后分别对狂热者和非狂热者节点进行池化操作；再由LSTM解码器自回归地生成轨迹。在狂热者投票者模型中，ZT在枢纽型、随机型和桥梁型部署方式下，于Barabási–Albert、Erd?s–Rényi和Watts–Strogatz三类网络集成上均实现了均方根误差（RMSE）低于0.05。ZT能外推至远超训练范围的网络规模（$N=4096, 8192$）而无需重新训练，而基于描述符的模拟器则性能急剧下降。这三类集成均包含在训练数据中，因此这衡量的是训练族类之间的插值能力，而非向未见过的图族类的迁移。相同架构从头开始在独立生成的数据上重新训练后，也能复现易感—感染—易感（SIS）传染病模型中的感染比例（RMSE低于0.02），以及Deffuant–Weisbuch有界置信度模型中的意见簇数量（误差不到一个簇的比例）。在这两种情况下，其表现均显著优于平均场和持续性基线。在空间嵌入的随机几何图上准确率有所下降——这是一个训练未涵盖的集成——从而界定了该代理模型保持有效的结构条件。

引言

网络中的集体现象，如共识形成、疾病传播和意见碎片化，长期以来一直是复杂系统统计物理学的核心议题。这些现象均可建模为图 $G=(V,E)$ 上的随机过程，其中局部的微观更新规则产生宏观序参量，例如投票者模型中的磁化强度、传染病模型中的感染比例以及有界置信度模型中的意见簇数量。一个关键问题在于：少数外部固定的、不随众的个体——意见动力学中的狂热者[1]、流行病学中永久感染的种子、或有界置信度模型中的顽固个体——如何同时改变系统的稳态及通往稳态的动力学过程。这一问题与对称性破缺[1]、[2]、共识—非共识相变附近的临界行为，以及网络拓扑对BA、ER和WS图族类之间普适性类行为的影响[3]、[4]、[5]密切相关。许多研究者致力于病毒式营销[6]、[7]、[8]、社会网络信息扩散[9]、[10]、政治极化[11]和公共卫生传染[12]等领域中动力学行为的研究。所有这些工作都共享一个核心问题：由单一个体发起的变化如何传播并塑造整个社会。对这些动力学的研究催生了大量模型，每个模型都试图捕捉相同的意见动态。DeGroot经典模型[13]展示了社会网络成员如何通过迭代过程和加权平均彼此意见来达成共识。Friedkin–Johnsen（FJ）模型[14]更进一步，引入了（狂热性）因素，指那些仅部分保持初始立场的人。Deffuant–Weisbuch（DW）[15]和Hegselmann–Krause（HK）[16]模型采用有界置信度，即个体仅与意见差距低于某一阈值的他人交流。对这些基本框架的扩展引入了意见融合中的随机性、模拟欺骗性互动[17]，并增加了群体影响的概念[18]。尽管这些模型在理论上内容丰富，但大多数经典模型仍假设底层接触网络是完全连接的或采用简单的平均场近似，从而忽略了真实社会网络的结构异质性。

在意见动力学研究中，一些模型定义了两组持有对立意见的个体，例如具有离散意见 $+1$ 和 $-1$ 的Ising模型[19]。一个广为人知的框架是投票者模型，其中意见竞争通过概率过程描述，节点采纳随机选择的邻居的意见[20]。在有限拓扑中，共识的达成被证明高度依赖于拓扑结构、维度以及社会中的子结构[21]。真实社会行为的复杂性导致了投票者模型的多种改编。具体而言，Mobilia（2003年）表明单个狂热者能打破投票者动力学的对称性，导致非平凡稳态[1]。后续研究表明，稳态磁化强度和收敛速度取决于狂热者密度及其在空间中的位置[2]、[22]。其他研究表明，将狂热者放置在高度数节点（枢纽）中显著增强了其对意见分布的影响[23]、[24]。然而，连通性本身不足以作为影响力的度量，因为网络化系统的鲁棒性高度依赖于节点间的依赖关系，并可能导致级联故障[25]。

一些近期工作使用物理信息神经网络来分析意见动力学[26]。将意见动力学与图神经网络（GNNs）结合仍有两个关键问题待解决：(1) 学习意见聚合策略和 (2) 建模平衡条件[27]。尽管现有模型将意见动力学视为静态的，GNNs（以及我们提出的模型）通过图建模交互作用来捕捉其动态特性，从而实现政治情境中未来意见的预测[28]。

真实社会网络的结构、狂热者密度及其位置会随时间变化。狂热者密度的变化、连接模式的变化以及网络结构的改变是其典型特征。当前方法无法联合推广到狂热者密度、图密度和拓扑结构。Moeinifar和Gündü?（2021年）表明，将狂热者放置在中心枢纽或高度连接节点中能最大化其推动共识的效率，这清楚地表明拓扑位置对结果有强烈影响[21]。

最近关于使用GNN预测意见动力学的研究主要集中在单一条件下进行预测，假设训练和测试数据是独立同分布的。当拓扑结构或狂热者密度偏离训练分布时，这些模型表现不佳。问题不仅在于校准；无标度、随机和小世界网络之间的意见形成机制存在根本差异。一些研究已开始关注图神经网络中的分布外（OOD）泛化问题[29]、[30]。基于GNN的意见动力学模型仍然假设训练和测试数据来自同一分布。相比之下，我们的工作在一个模拟器上联合训练多种图族类和网络规模，并在从训练中保留的配置上进行测试。

近期，将GNN应用于意见动力学被提议作为平均场类近似的替代品。图注意力网络（GATs）[29]产生动态的、结构感知的聚合权重，已被用于节点级二元分类的意见状态预测[26]。最新进展UniGO[27]引入了一种粗化—精化的GNN，将多个经典意见动力学模型整合到一个可训练框架中，并展示了在真实社会图中的跨网络迁移能力。然而，UniGO未考虑狂热者密度或网络连通性，限制了其在不同影响条件下的应用。

将神经网络与微分方程先验相结合的物理信息方法[31]代表了另一个方向。与它们一样，这些方法也假设测试分布与训练拓扑和狂热者配置匹配。GNNs中的分布外泛化[30]主要在图结构层面进行研究，但在意见动力学中跨拓扑和狂热者密度的泛化在很大程度上仍未被探索。

在我们看来，现有方法失效有三个相互关联的原因。首先，狂热者密度 $\rho_Z$ 调节外生驱动力的量级。例如，仅两个狂热者（$\rho_Z=0.002$）会产生接近临界且高度随机的轨迹，而32个狂热者（$\rho_Z=0.031$）则迅速主导动力学行为。其次，网络拓扑决定了狂热者影响力的传播模式：无标度Barabási–Albert（BA）网络[3]将影响力集中在枢纽中，Erd?s–Rényi（ER）网络[4]均匀传播影响力，而Watts–Strogatz（WS）小世界网络[5]则导致局部聚类，阻碍远距离扩散。第三，网络规模 $N$ 造成计算难题：$R$ 次独立运行长度为 $T$ 的蒙特卡洛（MC）模拟成本为 $\mathcal{O}(N \cdot T \cdot R)$，当 $N \geq 4096$ 时变得不可行。这三个挑战促使我们开发了一个集成神经模拟器来模拟集合平均动力学。

我们的目标是构建一个神经模拟器，仅从网络结构和狂热者配置预测狂热者影响下的投票者模型磁化轨迹 $m(t)$，从而绕过蒙特卡洛模拟。该模拟器必须在测试网络与训练数据在以下三个方面存在差异时仍保持可靠：狂热者数量 $Z$、网络规模 $N$ 和网络拓扑结构。因此我们提出三个问题：对于未见配置，$m(t)$ 能多准确地被预测；模型需要多少结构信息；以及随着 $N$ 增长能节省多少计算时间。除了投票者模型之外，我们还探讨了相同的神经代理架构能否作为更广泛的狂热者驱动和种子驱动扩散过程的通用工具，包括离散意见复制（投票者动力学）、简单传染（SIS传染病）和连续有界置信度聚类（Deffuant–Weisbuch模型）。尽管这些过程的微观更新规则不同，但它们共享一组固定影响节点的结构特征。证明单一架构在每个过程上分别重新训练但结构不变的情况下，能在所有三种过程上达到可比精度，表明其利用的结构信号——度数异质性、局部聚类以及固定节点在这些结构中的位置——是网络和种子配置的特性，而非特定微观更新规则的特性。这是对架构和特征充分性的陈述，而非关于过程之间权重迁移的陈述。我们的贡献如下：

- 为狂热者投票者模型设计了五种递进式神经模拟器：Specialist-Low（图注意力网络（GAT），仅 $Z=2$）、Global-GAT（无条件，所有 $Z$）、SpectralLSTM（8维谱描述符配LSTM解码器）、PA-LSTM（11维位置感知描述符配LSTM解码器）以及ZealotTransformer（节点级Transformer编码器配双狂热者/非狂热者池化和LSTM解码器）。
- ZealotTransformer：我们的主要贡献在三种部署策略（枢纽、桥梁、随机）、三种训练拓扑（Barabási–Albert（BA）、Erd?s–Rényi（ER）、Watts–Strogatz（WS））以及各网络规模上均实现了RMSE低于0.05，仅使用单一训练模型。桥梁部署和规模 $N \in \{4096, 8192\}$ 从训练中保留，因此构成真正的外推；BA、ER和WS均包含在训练中，因此跨它们的性能反映的是多拓扑训练而非向未见族的迁移。我们还在随机几何图（RGG）上进行了额外评估——这是唯一完全未见的集成——该模型在此未超越平均场基线。
- 对五种神经模型与基线（平均场常微分方程（ODE）、持续性）在各种拓扑—规模—位置—狂热者配置下进行了系统性基准测试，使用每个配置128次独立MC运行的均值±标准差RMSE进行评估（大型网络 $N=\{4096, 8192\}$ 使用32次运行）。额外表格见附录。
- 计算加速：ZealotTransformer在GPU上的推理比单线程MC模拟快15倍至243倍，在CPU上快至15倍，GPU优势随 $N$ 增长而增大，因为二次注意力项在GPU上并行化良好，而蒙特卡洛成本按 $\mathcal{O}(N \cdot T \cdot R)$ 增长。
- 架构跨动力学族的复用：我们证明相同架构在每个过程上分别使用独立生成的数据重新训练后，能模拟三个动力学族类：狂热者投票者模型（意见复制）、SIS传染病模型（简单传染）和Deffuant–Weisbuch模型（有界置信度聚类）。仅可观测量和模拟核函数发生变化。我们强调这是架构复用而非迁移：过程之间不共享权重，也不声称跨过程的零样本或少样本评估。

章节摘要

具有狂热者的投票者模型

投票者模型是一个马尔可夫过程，其中图中的每个节点 $G=(V,E)$ 持有一个意见 $s_i \in \{-1, +1\}$。在每个时间步，随机选择的节点采纳其一个邻居的意见[20]、[32]。磁化强度 $m(t) = \frac{1}{N} \sum_i s_i(t)$ 取值范围为 $-1$（负面共识）到 $+1$（正面共识）。狂热者是节点集 $\mathcal{Z} \subset V$ 的一个特定子集，它们保持恒定意见且从不更新[1]。即使仅有少量狂热者 $\rho_Z = |\mathcal{Z}|/N$ 也能阻止共识并驱动系统达到非平凡稳态。

Specialist和Global-GAT

三个GAT模型共享相同的基架构：4层GATConv层，隐藏维度256（每个头64维，共4个头），残差连接，每层后接层归一化（LayerNorm）。节点特征为 $\mathbf{x}_i = [s_i, z_i, \bar{k}_i]$，其中 $s_i$ 是归一化后的意见，$z_i$ 是狂热者指示变量，$\bar{k}_i = k_i/k_{\max}$ 是归一化度数。最终输出是节点 $i$ 持有意见 $+1$ 的概率。Specialist-Low在其GATConv层上应用0.1的dropout，而Global-GAT则接受…

实验设置

图生成。

本研究主要使用三种合成图拓扑结构：Barabási-Albert（BA）[3]、Erd?s-Rényi（ER）[4] 和 Watts-Strogatz（WS）[5]，节点数 N=1024，平均度?k?≈16。BA 模型采用 m=8（度分布 P(k)～k?3）；ER 模型采用 p=16/(N?1)（度分布为泊松分布）；WS 模型采用 k=16、p=0.1（具有较高聚集系数）。为实现规模泛化，训练阶段涵盖 N∈{256,512,1024,2048}；测试阶段额外包含训练时未见的 N∈{4096,8192}。对于分布外拓扑测试，采用与上述模型具有匹配平均度?k?的随机几何图（RGG）[40]（训练时未见）。

跨拓扑性能

表 1 报告了在 BA、ER 和 WS 三种拓扑结构下，所有五个模型相对于基线预测器在枢纽节点放置策略（N=1024，128 次蒙特卡洛运行）中的平均±标准差 RMSE。在 BA 网络中，ZealotTransformer 在 Z=2 时 RMSE 为 0.029，在 Z=32 时为 0.007，比 SpectralLSTM（0.271 和 0.129）和 Global-GAT（0.269 和 0.048）好了一个数量级。在 ER 和 WS 网络中，ZealotTransformer 对所有 Z 值均将 RMSE 维持在 0.014–0.020 范围内，而基于描述符的模型（SpectralLSTM、PA-LSTM）则表现出高度的敏感性。

跨动态过程的架构复用

为检验该架构是否在意见复制模型之外同样适用，我们在不改变其结构的前提下，从零开始在另外两种动态过程上重新训练该模型：SIS 流行病模型和 Deffuant-Weisbuch 有界置信度模型。每种过程都有其独立生成的数据集和独立的一组权重；除架构和训练流程外，它们之间没有任何共享内容。投票者模型作为参照基准，用于与这两个新过程进行比较。因此，我们……

讨论

当移除结构信息时，预测精度下降。无论维度如何，聚合描述符均无法区分不同的狂热分子放置位置。然而，ZealotTransformer 通过直接在节点级表示上操作来解决这一局限。PA-LSTM 仅有两个有效的独立放置标量（见第 3.3 节），在随机放置中表现尚可，但在桥接放置中则表现不佳。Z=32 时的 RGG 结果最为明显地揭示了这一局限。

结论

从简单的 GAT 到 ZealotTransformer 的演进表明，狂热分子的放置位置与其数量同样重要；聚合描述符会丢弃这种空间信息。对所有节点对的关注机制结合双池化机制，使我们获得了一个可跨拓扑和规模应用的模型——这是我们此前所有尝试都无法实现的。单个训练好的 ZealotTransformer 即可覆盖所有三种训练拓扑（BA、ER、WS）、所有四个狂热分子数量和所有三种……

利益冲突声明

作者声明，他们不存在可能影响本文所报告工作的任何已知的竞争性经济利益或个人关系。

致谢

我们衷心感谢波兰高性能计算基础设施 PLGrid ACC Cyfronet AGH 在计算资助编号 PLL/2026/019594 项下提供的计算设施与支持。投票者模型实验在 LUMI 超级计算机上使用 AMD MI250X GPU 进行。SIS 和 Deffuant 实验通过 Kaggle 平台使用 NVIDIA T4 GPU 进行。作者使用了 AI 助手辅助 LaTeX 排版、语言编辑及初稿撰写。所有科学内容、实验……

Vahid Moeinifar
克拉科夫 AGH 科技大学，电气工程学院、自动化、计算机科学与生物医学工程系，克拉科夫，30-059，波兰