虚假信息传播动力学建模：融合用户意识与生成式AI影响的多场景分析

本综述提出三种模型（ASM、EM、GIFS），系统分析社交媒体虚假新闻传播机制与干预策略。基于流行病学动力学，模型纳入用户行为、平台特异性及认知偏差（如确认偏误），模拟六种场景（如情感参与、平台干预）。研究发现生成式AI（Gen AI）可放大传播5.7%–37.8%，而事实核查（Fact-checking）能有效抑制扩散（最低至0.73%）。所有模型均收敛于稳定均衡，敏感性分析证实鲁棒性。研究为平台开发与政策制定提供了理论框架与实证依据。

　　

引言：社交媒体虚假信息的传播机制与干预需求

社交媒体的快速发展重塑了信息传播模式，但虚假信息（Misinformation）的扩散对公共信任、健康及民主进程构成严重威胁。研究表明，虚假新闻的传播概率比真实新闻高70%，且扩散速度更快。COVID-19期间的"信息疫情"（Infodemic）进一步凸显了虚假信息控制的紧迫性。生成式人工智能（Generative AI, Gen AI）的兴起为虚假信息传播提供了新维度，其生成的高仿真内容难以辨别，且可能通过污染训练数据形成反馈循环。本研究通过多场景动力学建模，旨在解析虚假信息传播机制并评估干预策略。

相关研究：流行病学模型在虚假信息研究中的应用

虚假信息传播与传染病动力学具有高度相似性，因此流行病学模型（Epidemiological Models）被广泛借鉴。确定性模型（如SIR框架）将人群划分为易感（Susceptible, S）、暴露（Exposed, E）、感染（Infected, I）和恢复（Recovered, R）等 compartment，通过微分方程描述状态转移。随机模型则考虑随机变异，更贴合实际用户行为的不确定性。近年研究进一步引入验证机制（如SEIVR模型）、社会智能反馈（Socially Intelligent Epidemic Model）及神经网络检测（Epidemiology-Informed Neural Network），但现有模型仍缺乏对平台特异性、用户心理及AI自适应动态的综合刻画。

模型构建：ASM、EM与GIFS的理论框架

本研究提出三个渐进式模型：

• •
  基础意识传播模型（Awareness Spread Model, ASM）将用户分为五类：易感（S）、暴露（E）、转发（F）、意识停止（A_s）及意识持续（A_c）。其动力学由方程组（2-6）描述，参数包括感染率（β）、警报率（γ）及恢复率（δ）。
• •
  扩展模型（Extended Model, EM）引入事实核查用户（C）及平台异质性（β₁, β₂）、确认偏误（β_p），方程组（7-12）新增事实核查率（θ）与再引入率（?_C）。
• •
  生成式AI影响模型（Generative AI-Influenced Spread model, GIFS）在ASM基础上添加AI活动变量M(t)，其演化受转发用户数（F + A_c）驱动，并通过系数α₁与α₂(t)调节S→E及E→F的转移速率（方程组13-17）。

六类场景的参数化与实证依据

模型参数基于文献实证设定，六类场景包括：

1. 1.
   准确内容环境（低感染率β=0.1，高停止概率p=0.9）
2. 2.
   同伴网络动力学（同质网络放大传播）
3. 3.
   情感参与（情绪内容提升转发，β增幅显著）
4. 4.
   信念对齐（确认偏效导致选择性暴露）
5. 5.
   来源信任（高可信度源加速初始扩散）
6. 6.
   平台干预（早期标记与内容移除降低传播）
   参数取值及文献支持详见Table 2-5，体现了场景间行为差异与平台策略的耦合效应。

稳定性分析与数值模拟验证

通过雅可比矩阵特征值计算，所有模型在六类场景下均收敛至唯一稳定均衡点（Table 6-13）。数值模拟（MATLAB ode45）显示：

• •
  ASM中转发用户比例最低为场景1/4/6（1.47%-2.95%），最高为场景3（56.52%）
• •
  EM因事实核查介入，转发比例进一步降低（场景6仅0.73%）
• •
  GIFS中生成式AI使转发用户数增加5.7%-37.8%，且学习率k超过临界值（~10^-5）时稳态与瞬态响应均被放大（Figure 7-10）

敏感性分析与鲁棒性检验

蒙特卡洛模拟（±10%-20%参数扰动）表明：

• •
  ASM与EM的稳态转发比例排序稳定（场景3＞5＞2＞4＞1＞6）
• •
  场景3（情感参与）方差最大，但仍保持最高传播水平
• •
  平台干预（场景6）与事实核查（EM）始终表现最优抑制效果（Table 24-27, Figure 14-15）
  证实模型结论在参数不确定性下仍具鲁棒性。

讨论：干预策略与伦理考量

研究表明：

• •
  平台早期干预（如"多次转发"标签、内容移除）可有效降低传播
• •
  事实核查用户机制能将转发比例压制至1%以下
• •
  生成式AI通过自适应学习加剧传播风险，需伦理规范与算法透明度
• •
  情感化内容（场景3）最具传播力，需针对性监控
  研究同时揭示"双重使用困境"：模型可能被恶意利用优化虚假信息策略，需建立伦理防护框架。

局限与未来方向

当前模型假设种群混合均匀，未显式包含网络拓扑；参数为时不变，未考虑外部事件驱动；AI组件仅捕获基础反馈。未来工作将：

• •
  引入网络结构（如无标度、社区网络）
• •
  整合实时事件与自适应参数
• •
  结合实证数据（如Twitter传播链）校准模型
• •
  扩展Gen AI的微观靶向与对抗规避能力

结论

通过ASM、EM、GIFS三模型与六场景分析，本研究系统揭示了虚假信息传播的动力学机制。生成式AI的介入显著提升传播规模（尤其高情感内容场景），而平台干预与事实核查可有效抑制扩散。模型稳定性与敏感性分析证实结论的普适性，为社交媒体治理提供了理论依据与量化工具。