Hush hush：利用联邦学习（Federated Learning）实现神经网络索赔建模的隐私性、秘密性与分布式协同——讨论

《British Actuarial Journal》：Hush hush: Keeping neural networks claims modelling private, secret, and distributed using federated learning: Discussion

　　

本文为一篇讨论性论文（Discussion Paper），针对Dylan Liew、Ma?gorzata ?mietanka、Harry Loh、Michelle Chen及Scott Hand所提交的关于将联邦学习（Federated Learning, FL）应用于保险精算神经网络索赔建模的研究论文进行评述与问答交流。研究人员指出，传统集中式机器学习需聚合原始客户数据，面临GDPR等数据保护法规限制及去匿名化攻击（Linkage Attack）风险；联邦学习允许各参与方在本地训练模型并仅上传模型参数更新（Parameter Updates）至中心聚合器进行联邦平均（Federated Averaging / FedAvg），从而实现不共享原始数据下的协同建模。研究人员进一步探讨了对上传参数施加安全多方计算（Secure Multi-Party Computation, SMPC）掩码（Masking / Pair-wise Random Number Exchange）及同态加密（Homomorphic Encryption, HE）以防范参数逆向推断，并在法国第三方机动车责任险（French Motor Third-Party Liability Claims）数据集上对比全局模型（Global Model）、独立局部模型（Local / Partial Model）与横向联邦学习（Horizontal Federated Learning）模型的泊松偏差解释度（Percentage of Poisson Deviance Explained），验证联邦学习模型性能接近全局模型且显著优于独立局部模型，最后讨论其在再保险、劳合社（Lloyd's of London）辛迪加、健康险可穿戴设备及生命表（CMI Mortality Tables）编制中的应用前景与局限。

论文解读：《British Actuarial Journal》——利用联邦学习实现神经网络索赔建模的隐私保护与分布式协同（讨论稿）

该文是英国精算学会（Institute and Faculty of Actuaries, IFoA）数据科学组研讨会的讨论记录，围绕工作论文"Hush hush: Keeping neural networks claims modelling private, secret, and distributed using Federated Learning"展开。研究背景源于保险精算建模中长期存在的数据悖论：一方面人工智能与机器学习模型（特别是神经网络（Neural Network, NN）及广义线性模型（Generalised Linear Model, GLM））对大样本数据的需求日益增长；另一方面，《通用数据保护条例》（General Data Protection Regulation, GDPR）等隐私法规严格限制跨机构原始客户数据的共享与集中。传统去匿名化（Anonymisation）手段亦不可靠——Netflix Prize数据集可通过IMDb进行关联攻击（Linkage Attack）重新识别个人，Latanya Sweeney研究亦证明仅通过{年龄、性别、邮政编码}即可唯一识别87%的美国人口，马萨诸塞州群体健康保险委员会（Group Insurance Commission, GIC）去匿名化案例及Strava军事人员位置泄露均佐证此风险。在此背景下，研究人员引入联邦学习（Federated Learning, FL）——一种分布式机器学习范式，使多家保险公司可在不交换原始保单与索赔数据的前提下，协同训练更优的索赔频率预测模型，解决数据孤岛与隐私合规的矛盾。研究人员通过法国机动车第三者责任险公开数据集构造仿真实验，证明横向联邦学习（Horizontal Federated Learning）模型在泊松偏差解释度（Poisson Deviance Explained）上接近集中式全局模型（Global Model），远优于各公司单独建立之局部模型（Local Model），并通过安全多方计算（Secure Multi-Party Computation, SMPC）掩码技术与同态加密（Homomorphic Encryption, HE）进一步强化参数传输阶段的隐私保障。该研究为精算行业在遵守隐私法规前提下开展跨机构模型协作提供了可行路径，对再保险定价、劳合社辛迪加（Syndicates）低频高损业务联合建模、CMI（Continuous Mortality Investigation）生命表编制及健康险可穿戴设备数据分析具有重要实践意义。

主要关键技术方法

研究人员选取法国机动车第三者责任险（French Motor Third-Party Liability Claims）公开数据集（约700,000份保单记录），将其均匀随机拆分为10份模拟10家保险公司之独立数据子集。采用横向联邦学习（Horizontal Federated Learning）框架：各参与方约定相同神经网络架构（含权重（Weights）与偏置（Biases），类比GLM系数与截距）、激活函数tanh()（类比链接函数（Link Function））、损失函数为泊松偏差（Poisson Deviance）及NADam优化器，在本地用自有数据训练后仅将参数梯度/更新发送至可信中心聚合器执行联邦平均（Federated Averaging / FedAvg），聚合后广播回各参与方进行下一轮迭代；为防止聚合器或中间人通过参数反推原始数据，引入两两随机数对交换（Pair-wise Exchange of Random Numbers / Masking）——各 insurer向其余参与方发送随机掩码并对自身参数加减相应掩码，使聚合器仅收到相互抵消后的加总参数而获知任何个体真实参数；部分环节讨论同态加密（Homomorphic Encryption, HE）作为补充。对照设置三种场景：①全局模型（Global Model，所有数据集中训练）；②局部模型（Partial/Local Model，各公司仅用自身数据独立训练）；③联邦模型（Federated Model，上述FL流程）。性能评估指标为测试集上百分数泊松偏差解释度（Percentage of Poisson Deviance Explained），辅以双提升图（Double Lift Chart）比较预测索赔频率与实际经验。

研究结果

How Federated Learning Works（联邦学习原理）

Dr M. ?mietanka说明：传统机器学习需集中数据，联邦学习则初始化随机模型分发至各客户端（如手机或保险公司本地服务器），各客户端用本地数据训练后将模型参数更新（而非原始数据）上传云/中心聚合器做加权平均得到全局模型再下发——以手机端下一词预测（Next-word Prediction）为经典用例；移植至保险业，多家公司约定相同模型结构、超参数与损失函数，由中心机构（可为监管机构、再保险人或行业组织）负责收集参数更新并广播全局模型，各公司保留原始数据于本地。

Need to Encrypt Parameters（参数加密必要性及SMPC掩码）

Mr D. I. Liew指出单纯传参仍有泄露风险（参数可能反映各公司索赔经验水平，且聚合器可能为恶意或通信被截获），故需在聚合前对各公司参数施加保密处理：三家 insurerβ₀、β₁、β₂两两交换随机数r_ij，本地计算β_i+Σ(发出掩码)?Σ(收到掩码)后发予聚合器；聚合器将三家公司之加掩结果求和，掩码正负相消恰好等于Σβ_i，从而在不暴露任一β_i前提下完成联邦平均——此为安全多方计算（Secure Multi-Party Computation, SMPC）中之掩码（Masking）技术示例。

Applications of Federated Learning（应用场景）

Ms M. Chen与Mr H. Loh列举：①再保险（Reinsurance）——再保险人可通过FL汇聚各直保公司经验优化再保定价而不违反数据隐私；②劳合社（Lloyd's of London）各辛迪加（Syndicates）针对低频高损险种（航天、赛事取消等）联合建模；③健康险结合可穿戴设备——生理数据留于用户手机/设备，仅上传本地训练之参数更新；④跨医院/医学研究中心脑肿瘤诊断模型（NVIDIA Clara FL实例）；⑤SWIFT联合金融机构基于FL构建金融欺诈检测（Fraud Detection）模型。

Sample Case in Insurance Claims – French Motor TPL Data（法国车险索赔实证）

将数据集分10份模拟10家 insurer，以含单隐层之神经网络建模索赔频率（Claims Frequency），激活函数tanh()，损失为泊松偏差，NADam优化。对比三场景：全局模型泊松偏差解释度5.57%；各局部模型介于2.8%–3.8%（中位3.2%）；联邦模型达5.34%，接近全局模型且约为局部模型之近两倍——证明FL在无法集中数据时可获得近似集中训练之预测力。双提升图显示联邦模型在某些风险段优于全局模型（后者存在局部过拟合/欠拟合），整体预测与实际经验吻合良好。

Limitations（局限性）

Ms M. Chen与Dr ?mietanka归纳：①数据不平衡——大公司权重过高；②特征一致性要求——横向FL须所有参与方具相同变量集、相同Min–Max缩放参数及分类变量编码（Encoding）/分组粒度，协商过程中可能间接泄露业务信息（如最小/最大驾驶人年龄）；③训练收敛更慢——实证中FL训练耗时约为全局模型2.5倍（需更多轮次迭代）；④系统挑战——客户端掉线（Client Dropout）、容错、与现有系统集成复杂度及人才缺口；⑤本例为横向FL，纵向FL（Vertical Federated Learning，相同客户ID不同特征，如健康险公司与医疗机构合作）属另一方向。

Q&A Highlights（讨论与展望）

优先落地场景预计为CMI生命表/发病表联合编制（可信第三方IFoA/CMI作聚合器）、劳合社市场（LMA为协调方）及跨公司反欺诈模型。横向FL要求各参与方模型架构一致，异构架构可用迁移学习（Transfer Learning）部分共享网络层；实际数据量/质量异质（Non-IID）下Google文本预测实证表明FL具一定鲁棒性，工作小组初步异质数据拆分实验亦表现良好。GLM可视作无隐层NN，天然适配FL；梯度提升机（Gradient Boosting Machine, GBM）亦可适配FL（已有后续研究方向）。特征预处理（如Min–Max范围确定）可通过同态加密（Homomorphic Encryption, HE）或SMPC协商以进一步降低信息泄露。监管层面GDPR对加密模型参数共享尚无明确规定，系潜在采纳障碍。

讨论总结（结论翻译）

研究人员得出结论：联邦学习可使多家机构在互不披露原始客户数据之前提下协同训练神经网络索赔预测模型，其预测性能（以泊松偏差解释度衡量）接近将所有数据集中训练之全局模型，并显著优于各机构单独建立之局部模型。通过安全多方计算掩码或同态加密可进一步保护上传之模型参数不被逆向推断。该方法适用于再保险定价、劳合社辛迪加联合建模、CMI生命/发病表编制、健康险可穿戴设备及跨机构反欺诈检测等精算场景。当前局限包括参与方需就特征定义与编码达成一致、数据量与质量不平衡影响、训练收敛时间延长及系统运维挑战。未来研究方向含纵向联邦学习、非独立同分布（Non-IID）数据异质性处理、GBM之联邦化实现及同态加密辅助之特征预处理协商。工作小组已将实现代码开源至GitHub。正如Moderator Mr A. E. Iglauer所言，联邦学习将精算数据科学中"大数据需求"与"隐私保护"这一对矛盾力量予以调和，是精算职业值得深入探索之重要技术方向。