《Intelligent Systems with Applications》：Beyond
Leave-One-Out: Private and robust contribution evaluation in Federated Learning
编辑推荐：
联邦学习（Federated Learning, FL）是一种分布式机器学习方法，多方在不交换原始数据的情形下联合训练模型。除隐私保护外，贡献评估（Contribution Evaluation, CE）也是FL的关键组成部分。安全聚合（Secure Aggr
联邦学习（Federated Learning, FL）是一种分布式机器学习方法，多方在不交换原始数据的情形下联合训练模型。除隐私保护外，贡献评估（Contribution Evaluation, CE）也是FL的关键组成部分。安全聚合（Secure Aggregation, SA）已成为隐藏个体客户端更新的标准技术，但这与大多数依赖个体更新的CE方法产生了根本性矛盾。本研究提出了两种与SA完全兼容的新型边际差异贡献评分：Fair-Private（FP）和Everybody-Else（EE）。FP满足效率性、对称性和零参与者等公平性公理，但仍依赖自我评估；EE则通过放弃零参与者性质，转而利用同行互评机制，提供了对自私客户端的抗操纵鲁棒性。研究人员为这两种方法建立了涵盖公平性、隐私性、计算复杂度和抗操纵性的理论保证，并在三个医学影像数据集和CIFAR-10上进行了实证评估，结果表明FP和EE一致优于现有的SA兼容基线方法，能够更准确地逼近由基准真值所揭示的客户端贡献排序。
**论文解读**
**研究背景与问题提出**
联邦学习（Federated Learning, FL）作为一种分布式机器学习范式，允许多个参与方在不共享原始数据的前提下协同训练模型，从设计上增强了隐私保护。然而，随着FL在实际部署中的推广，如何公平地评估各参与客户端的贡献逐渐成为核心挑战。贡献评估（Contribution Evaluation, CE）对于激励诚实参与、确保公平的奖励分配以及检测低质量或恶意行为者至关重要。当前CE领域的主流方法多基于边际贡献理论，尤其是Shapley值（Shapley Value, SV）及其各类近似算法，但这些方法需要访问个体客户端的模型更新，与另一项关键的隐私增强技术——安全聚合（Secure Aggregation, SA）存在根本性冲突。SA通过轻量级安全多方计算和秘密共享，确保服务器仅能获得聚合后的全局模型，而无法窥视任何个体更新。在SA约束下，服务器可观测的联盟信息极为有限，仅有空联盟和全联盟两个端点，这使得绝大多数传统CE方法无法直接适用。留一法（Leave-One-Out, LOO）是唯一在SA下可操作的边际差异类CE方法，但其评估粒度粗糙、缺乏效率性公理，且依赖自我评估，在存在自私客户端时极易被操纵。此外，现有文献对CE方法中严谨的公理化公平性保障关注甚少，大量工作止步于启发式加速计算，缺乏可证明的理论基础。正是在这一背景下，研究人员展开了本研究，旨在设计既能满足SA兼容性、又具备公理化公平性保证和抗操纵能力的CE方法。
**研究方法概述**
研究人员采用边际差异分析框架，在SA仅暴露空联盟（?）、全联盟（[N]）、单例联盟（{i}）和补联盟（[N]\{i}）四类子模型的信息约束下，设计了两种新型贡献评分机制。研究中使用了四个图像数据集（ISIC2019皮肤镜图像、PatchCamelyon病理图像、Brain-MRI脑肿瘤图像和CIFAR-10自然图像）进行跨机构联邦学习（cross-silo FL）场景下的实证验证。数据按Dirichlet分布（μ=0.5）进行非独立同分布划分，客户端数量涵盖6至15个。以负平均损失作为效用函数v(?)，评价基准采用多轮Shapley值近似（Multi-Round Shapley Value, MR-SV）及精确Shapley值，对比方法包括LOO和余弦相似度（Cosine Similarity, COS）。评估指标采用Spearman相关系数?、Kendall秩相关系数κ、Pearson相关系数ρ及归一化L?距离。
**研究结果**
*Fair-Private评分的构建与性质*：研究人员提出Fair-Private（FP）评分，其核心是将LOO与对称的Include-One-In（IOI）边际差异相结合取平均并通过[·]?算子截断负值，再经归一化步骤强制满足效率性。理论证明表明，FP满足效率性（Property 1）、零参与者（Property 2）、对称性（Property 3）和SA兼容性（Property 4）四项公理。与MR-SV的对比实验显示，FP在四个数据集上均取得0.89–0.95的Spearman相关系数，显著优于LOO的0.55–0.82。
*Everybody-Else评分的构建与性质*：为克服自我评估固有的操纵风险，研究人员进一步提出Everybody-Else（EE）评分。EE的核心创新在于通过同行互评间接推断客户端贡献：对于目标客户端i，汇总所有其他客户端j≠i提供的两类边际差异——β(i)衡量全联盟与{j}的对比、γ(i)衡量[N]\{j}与?的对比，再经归一化处理。理论证明EE满足效率性、对称性和SA兼容性，并额外具备抗操纵性（Property 5），但以放松零参与者公理为代价。实验表明，EE的Spearman相关系数达到0.89–0.95，与FP在统计上无显著差异，但避免了自我评估通道。
*与精确Shapley值的对比*：在计算资源允许的规模下，研究人员将FP和EE与基于重训练博弈的精确Shapley值进行了直接比较。结果显示，MR-SV本身与精确Shapley值的?高达0.97–0.99，而FP和EE也分别达到了0.83–0.98的强相关性，验证了两种近似方法在捕捉客户端真实贡献排序方面的有效性。
*消融实验*：研究人员从评估轮次、客户端数量和数据分布异质性三个维度开展消融分析。结果表明，随着训练轮次增加，各方法的排序一致性均有所提升；客户端数量增多会导致相关系数下降，反映了线性复杂度方法与指数级Shapley值之间的固有差距，但FP和EE保持在稳健水平（?>0.84）；Dirichlet参数μ增大（趋近独立同分布）使客户端更难区分，但FP和EE仍表现出较强的鲁棒性。
*计算开销分析*：复杂度分析表明，FP和EE对所有N个客户端的评分仅需O(N)次模型评估，实际运行时间测量也确认其额外开销极低（每轮每客户端约4.8秒推理时间），相比需要处理2N种子集组合的MR-SV（约615秒服务器端开销）具有显著的效率优势。
*下游任务表现*：在加权聚合任务中，使用FP和EE分数对客户端更新进行加权后，全局模型性能（以负损失衡量）显著优于FedAvg均匀聚合、COS和LOO，几乎达到MR-SV的上界水平。在恶意行为检测任务中，FP和EE对执行标签翻转攻击的拜占庭客户端的识别率接近MR-SV的最优水平，远超LOO和COS。
**总结与结论**
本研究系统性地解决了跨机构联邦学习在安全聚合约束下的贡献评估难题。传统的边际贡献方法需要大量联盟信息，与SA仅暴露极有限子模型的现实形成根本性矛盾。研究人员提出的Fair-Private（FP）评分在充分利用SA下可访问联盟的基础上，首次在此约束条件下实现了效率性、对称性和零参与者三大核心公平性公理的满足；而Everybody-Else（EE）评分则通过同行互评机制，在保持公平性的同时消除了自我评估通道，获得了对自私客户端的抗操纵鲁棒性。经多个医学影像数据集和CIFAR-10的实证验证，FP和EE在与多轮Shapley值的排序一致性上达到0.89–0.95的Spearman相关系数，相比留一法提升显著，并将归一化L?排序误差降低了一个数量级。研究表明，在跨机构联邦学习场景中，即使受限于SA的严格隐私约束，仍可获得兼具公平性、隐私性和实用性的可靠贡献评估。研究结论指出，有意义且保护隐私的客户端估值可以有效支持奖励分配和异常行为检测，而无需昂贵的架构变更或额外的计算开销。未来的研究方向包括将私有贡献评估扩展到客户端采样、动态退出和异步训练场景，以及通过结合EE式的交叉评估与鲁棒聚合或异常检测来进一步增强抗操纵性。
