一种保护隐私的联邦图神经网络,具备全局语义增强功能及逐层节点对齐机制,适用于社会分析领域
《Knowledge-Based Systems》:Privacy-preserving federated graph neural network with global semantic augmentation and layer-wise node alignment for social analysis
【字体:
大
中
小
】
时间:2026年04月21日
来源:Knowledge-Based Systems 7.6
编辑推荐:
隐私保护联邦图神经网络学习框架PPFedSALA通过全局语义增强和分层节点对齐机制解决社交网络数据异构性问题,在五个数据集上分类准确率达0.893-0.903,优于基线方法。
严峰|权倩
南京金陵工业大学计算机工程学院,中国南京211169
摘要 探索社交数据的内在价值一直是研究的重点。目前,社交网络数据分散在多个平台上。虽然联邦学习可以在保护隐私的同时实现客户端之间的协作模型训练,但客户端数据之间的结构和属性差异仍然存在重大挑战,包括性能下降和潜在的隐私泄露。为了解决这些限制,我们提出了一个结合全局语义增强和分层节点对齐的隐私保护联邦图神经网络学习方法(PPFedSALA),该方法在提高性能的同时也保护了隐私。为了在隐私约束下缓解结构差异,我们设计了一个联邦全局语义增强(FedGSA)模块。该模块根据节点重要性重构全局图结构,并利用跨层注意力融合来获得增强的节点表示。此外,引入了一种高效的双重加密隐私保护机制(EDPP),以保护参与语义增强的模型参数,有效确保隐私的同时减少性能下降并提高通信效率。为了解决在保护隐私的同时解决属性差异问题,我们提出了一个联邦分层节点对齐(FedLNA)模块。该模块在节点表示和全局类别中心之间执行分层推拉操作,使局部和全局分布更加接近,从而捕获更丰富的全球信息。另外,我们设计了一种基于注意力的加密机制(AHE),以确保在对齐过程中的隐私性,减少性能损失并优化通信开销。我们在五个数据集上评估了PPFedSALA,获得了0.893、0.747、0.606、0.89和0.903的准确率,优于其他方法。消融研究进一步验证了全局语义增强和分层节点对齐的有效性。此外,我们证明了所提出的安全机制是有效的,并且对模型性能的影响最小。
引言 随着社交媒体和在线平台的迅速扩张,社交网络数据的量激增,包括用户资料、社交关系和交互行为。这些数据包含丰富的社交属性和用户偏好,使其有效提取和利用成为数据挖掘、社交计算和人工智能的关键研究焦点。在相关挑战中,社交网络节点分类起着关键作用,支持个性化推荐[1]、[2]、[3]、定向营销[4]、社区检测[5]和金融风险管理[6]等应用。例如,在微博和Facebook等平台上进行准确的用户分类可以增强内容推荐和用户参与度,而在金融安全方面,它可以检测异常用户和恶意行为。然而,社交网络数据本质上是高维的、稀疏的、动态变化的和结构异构的,这对提取深度语义信息以进行强大的节点分类和智能决策提出了重大挑战。
现有的社交网络分析方法主要依赖于网络拓扑[7]、属性特征[8]或两者的混合[9]、[10]。然而,这些传统方法往往难以捕捉用户行为中的非线性相关性,并从非结构化数据中提取深度语义表示。图神经网络(GNNs)通过将社交数据转换为图表示并聚合多跳邻域信息来学习表达性节点嵌入,从而解决了这些限制。然而,大多数基于GNN的模型依赖于集中式训练,这需要将敏感的用户数据上传到中央服务器,从而引发隐私问题并产生高昂的通信和计算成本,从而阻碍了分布式环境中的可扩展性。联邦学习(FL)[11]、[12]、[13]为隐私保护的分布式学习提供了一个有前景的范式,允许客户端在不共享原始数据的情况下协作训练模型。将GNN与FL结合使用,产生了联邦图神经网络(FedGNNs),它们共同利用图结构建模和联邦优化,在去中心化的社交网络中实现隐私感知的表示学习。
联邦图神经网络(FedGNNs)允许多个客户端之间的协作学习,而无需暴露原始数据。然而,社交网络数据通常是非独立同分布(Non-IID)的,因为用户行为、类别分布和数据集大小在各个平台上有所不同[14]、[15]。传统的联邦方法[16]、[17]、[18]、[19]、[20]主要处理非结构化数据,忽略了图结构中固有的拓扑依赖性。在联邦图设置中,每个客户端只持有局部子图,而客户端之间的结构关系仍然未知,导致全局信息不完整。为了解决这个问题,一些研究尝试近似全局图结构或对齐客户端之间的节点属性[21]、[22]、[23],如图1所示。然而,大多数现有方法强调全局聚合,忽略了图表示的层次性质,其中不同层次捕获了互补的上下文语义。这带来了两个关键挑战:(1)如何在保护隐私的同时层次化地建模结构和属性差异;(2)如何在最小化性能下降和通信开销的情况下增强隐私保护。
为了解决这些挑战,我们提出了PPFedSALA,这是一个结合全局语义增强和分层节点对齐的隐私保护联邦图神经网络框架。PPFedSALA在保持严格隐私保护的同时,增强了社交网络节点的结构和属性级表示。具体来说,联邦全局语义增强(FedGSA)模块将局部节点属性投影到全局潜在空间中,通过节点重要性评估和稀疏化来细化图结构,并融合多层节点嵌入以提高表示质量。基于双重加密的差分隐私保护(EDPP)机制在语义增强过程中保护关键模型参数,同时提高通信效率。此外,联邦分层节点对齐(FedLNA)模块以分层方式将节点嵌入与全局类别中心对齐,从而促进类内紧凑性和类间可分离性。最后,基于注意力的同态加密(AHE)机制在整个对齐过程中确保隐私性。
据我们所知,这是第一个在统一的隐私保护FedGNN框架中结合全局语义增强和分层节点对齐的工作。这种双重优化同时提高了模型准确性、可扩展性和隐私保护。
总结来说,本研究的贡献如下:
1. PPFedSALA框架: 一种新颖的隐私保护联邦GNN,它同时解决结构和属性差异问题,增强全局语义表示,同时最小化性能损失。
2. 联邦全局语义增强(FedGSA): 重建全局图结构,并通过双重加密隐私保护(EDPP)融合跨层的节点嵌入,以隐私保护的方式缓解结构分布差异并增强全局语义表示。
3. 联邦分层节点对齐(FedLNA): 一种分层对齐机制,通过基于注意力的同态加密(AHE)将节点嵌入与全局类别中心对齐,实现隐私保护的同时增强更丰富的全球依赖建模。
4. 广泛的实验验证:
在五个社交网络数据集上进行实验,证明其性能优于现有的FedGNN基线,验证了FedGSA和FedLNA的有效性,以及在多客户端场景中的可扩展性。研究的其余部分结构如下:第2节回顾相关工作。第3节给出问题定义和威胁模型。第4节详细描述所提出的模型。第5节概述实验结果和分析。最后,第6节提出结论和未来工作。
相关工作 相关工作 图神经网络(GNNs)在社交网络[24]、[25]、电子商务[26]和自主系统等领域迅速发展,有效地捕获了复杂的关系依赖性,并实现了在图结构数据上的准确表示学习。例如,Abderaouf Bahi和Amel Ourici [27]应用深度强化学习来优化无人机能源管理,而Bahi等人[28]提出了MycGNN,这是一种受菌丝体启发的GNN,它可以自适应地重新加权边以提高推荐多样性
问题定义 本研究采用了一个由中央服务器和N 个客户端组成的联邦学习框架。鉴于社交网络本质上由用户节点及其交互形成图结构,每个客户端都拥有相应的社交子图。由于用户群体的异质性,不同客户端之间通常观察到结构和属性的差异。在联邦训练过程中,每个客户端使用GNN作为其本地模型并进行训练
方法论 为了缓解局部和全局社交图数据之间的差异,本研究提出了一个结合全局语义增强和分层节点对齐的隐私保护联邦图神经网络学习方法(PPFedSALA),如图2所示。整个框架分为两部分。首先,我们使用联邦全局语义增强(FedGSA)在保护隐私的同时缓解结构差异。随后,我们使用联邦分层节点
实验和结果分析 实验部分旨在从四个不同角度验证PPFedSALA算法。(1)首先,我们通过将其分类性能与不同的基线算法进行比较来验证PPFedSALA的优越性能。(2)其次,我们对全局语义结构和节点分布对PPFedSALA算法性能的影响进行消融实验,以验证FedGSA和FedLNA的有效性。(3)第三,我们检查了数量的影响
结论和未来工作 为了解决社交节点不重叠场景中的社交图数据分析问题,我们提出了PPFedSALA。为了缓解结构差异,我们引入了一个联邦全局语义增强模块(FedGSA),它在保护隐私的同时改进了节点语义表示。这是通过重建全局语义结构并通过基于注意力的融合结合分层节点表示来实现的,从而增强了全局节点的语义表达能力。
CRediT作者贡献声明 严峰: 撰写——原始草案、可视化、验证、软件、方法论、形式分析、数据整理。权倩: 撰写——审阅与编辑、监督、资源管理、项目管理、调查、形式分析、概念化。
利益冲突声明 作者声明他们没有已知的竞争性财务利益或个人关系可能影响本文所述的工作。
致谢 本工作得到了中国国家重点研发计划 (编号:2023YFB4606200)、云南省重点科技计划 (编号:202302AB080020)和上海张江国家自主创新示范区重点项目 (编号:ZJ2021-ZD-006)的资助。作者感谢匿名审稿人的宝贵意见。
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号