迈向保护隐私的个性化联邦关系分类

《IEEE Transactions on Big Data》：Towards Privacy-Preserving Personalized Federated Relation Classification

个性化联邦关系分类框架提出知识融合与原型增强策略，结合客户端差分隐私机制解决数据异质性难题。摘要：

　　

摘要：

关系分类在检测文本数据中注释实体之间的语义关系方面发挥着关键作用，是知识结构化的基本工具。近年来，联邦学习作为一种在分散环境中训练关系分类模型的有前景的方法应运而生。现有方法侧重于通过将服务器端的模型训练与直接访问客户端文本数据分离来开发一个健壮的服务器模型，同时利用分布式数据源。然而，由于客户端文本的异质性（即关系分布的多样性和不平衡性），当前方法的实用性受到了限制。为应对这一挑战，本研究提出了个性化联邦关系分类的概念，旨在根据每个客户端的数据分布定制强大的客户端模型。为进一步解决由异质文本引起的问题，提出了一个名为pFRC的新框架，并对其进行了多项优化设计。该框架结合了一种知识融合方法，该方法利用基于关系的加权机制，以及一种特征增强方法，通过原型自适应地增强与长尾关系相关联的实例的表示。尽管联邦学习可以安全地确保私人数据不被泄露，但需要注意的是，从信息论的角度来看，好奇的服务器仍有可能通过分析客户端上传的共享知识来推断出私人信息。为了增强个性化联邦关系分类系统的隐私保护能力，本研究将客户端级别的差分隐私机制集成到了联邦训练过程中。根据我们的理论分析，结合客户端级别差分隐私的