FedCEP：面向工业物联网（IIoT）入侵检测的具有类别意识的联合学习方法

《Journal of Network and Computer Applications》：FedCEP: Class-aware federated learning for IIoT intrusion detection

　　摘要
联邦学习（FL）允许在原始流量记录保留在本地的情况下，为工业物联网（IIoT）的入侵检测模型进行训练。然而，在非独立同分布（Non-IID）数据划分下，高风险但稀有的攻击可能仅存在于少数边缘节点上；来自未观察到该攻击的客户的重复聚合更新可能会降低相应分类器的性能。我们将这种潜在的故障模式称为“稀有类别灭绝”。我们提出了FedCEP（基于中心指导的初始化和通过原型进行相互知识交换的联邦类别感知聚合），它通过三种耦合机制来解决这一问题。类别感知聚合（CAA）排除了来自没有相应类别样本的客户的直接聚合贡献。中心指导的初始化（CGI）在贡献该类别的客户较少时，使用全局特征中心方向来规范最稀有类别的行。相互知识蒸馏（MKD）在不对原始样本进行传输的情况下，根据这些中心来规范局部特征，从而提供训练时的类别级信号。我们将FedCEP与十一个基线方法进行了比较，包括FedAvg、SCAFFOLD、cwFedAvg、CReFF以及最近的长尾方法FedLoGe，在Edge-IIoTset、CICIoT2023和UNSW-NB15数据集上进行了测试。在评估的极端非独立同分布（α=0.1）设置中，FedCEP在所有三个数据集上获得了最高的宏观F1分数：在Edge-IIoTset上达到了65.80%（比CReFF高6.22个百分点），在CICIoT2023和UNSW-NB15上分别高出2.07个百分点和1.43个百分点。在默认的Edge-IIoTset设置中，中心传输增加了约2.7%的全双向FedAvg流量（约5.4%的单向模型负载），在所测量的设置下代表了适度的额外负载。

引言
工业物联网（IIoT）设备现已渗透到关键基础设施中，从智能生产线到电网，每一次新的部署都扩大了攻击面。最近的调查记录了针对运营技术环境的威胁持续增加（Makris等人，2025年；Lavaur等人，2022年），这使得位于网络边缘的入侵检测系统（IDS）处于关键位置。深度学习在过去十年中提高了IDS的准确性（Buczak和Guven，2016年；Thakkar和Lohiya，2021年；Liao等人，2024年），但这些方法假设了集中式训练——这与IIoT的现实相冲突：原始流量编码了专有生产参数，跨组织的数据共享与GDPR等法规相抵触，将大量流量发送到中央服务器会消耗带宽并造成单点故障。因此，在不暴露原始数据的情况下跨组织共享安全知识是IIoT入侵检测必须解决的核心问题。
联邦学习（FL）提供了一种解决方案。由于McMahan等人（2017年）的工作，每个边缘节点可以本地进行训练，并仅将模型参数上传到服务器——数据保留在生产地，但模型却是联合训练的。后续的许多工作直接研究了联邦入侵检测（Nguyen等人，2019年；Rahman等人，2020年；Friha等人，2022年），最近的调查总结了该领域的现状（Hernandez-Ramos等人，2025年；Makris等人，2025年）。然而，直接将FedAvg应用于IIoT入侵检测的效果往往不佳，因为有两个紧密相关的挑战阻碍了这一进程。

挑战1：统计异质性（非独立同分布）。不同工厂、传感器类型和网络段之间的流量分布差异显著。Zhao等人（2018年）从理论上证明了非独立同分布数据会导致权重发散：局部目标相互冲突，全局模型会偏离每个客户端的最优状态。后续研究证实，非独立同分布的异质性是联邦优化的核心障碍（Lu等人，2024年；Ye等人，2024年）。
挑战2：极端类别不平衡。在实时的IIoT环境中，良性流量通常占所有观测值的99%以上，而高严重性的攻击则是极其罕见的事件。Wang等人（2021年）首次系统地研究了FL中的类别不平衡问题，并报告了在联邦训练下少数类别性能的显著下降。这两个挑战在IIoT环境中相互叠加。在非独立同分布的情况下，稀有攻击可能仅出现在少数客户端上，而来自大多数未观察该攻击的客户的更新会在聚合过程中稀释相应的分类器行。我们使用“类别灭绝”来描述由此产生的风险，即全局模型对稀有但重要威胁的识别能力在训练过程中会降低。这种聚合级别的效应在文献中受到的关注相对有限。

几项工作针对非独立同分布的异质性进行了研究。FedProx（Li等人，2020年）通过近端项固定局部更新；MOON（Li等人，2021a年）通过模型级别的对比学习来纠正训练方向。这两种方法都减少了发散，但都没有根据每个类别的数据可用性来改变聚合规则：所有分类器行仍然属于单个客户端加权的平均值。
针对不平衡的方法从分类器角度出发。FedETF（Li等人，2023年）用固定的等角度框架替换分类器以减少类别偏见；FedLC（Zhang等人，2022年）根据标签偏斜校准logits；CReFF（Shang等人，2022年）基于共享的特征统计在服务器上重新训练分类器。这些方法要么限制分类器架构，要么依赖于在极端非独立同分布条件下质量可能下降的特征统计。原型方法（Tan等人，2022年；Mu等人，2023年）交换类别原型，但在标签严重偏斜的情况下，对罕见类别的估计可能不可靠。最近，Lee和Choi（2025年）按类别聚合了整个模型；这隔离了类别信息，但碎片化了编码器，并放弃了共享表示的学习。总之，现有方法要么在分类器或样本级别解决不平衡问题，要么在模型级别解决异质性问题。一个尚未解决的问题是制定一个聚合规则，该规则能够直接考虑在非独立同分布和长尾分布下哪些客户端拥有每个类别。

为了以统一的方式解决这些挑战，我们提出了FedCEP（基于中心指导的初始化和通过原型进行相互知识交换的联邦类别感知聚合），这是一个用于异构IIoT环境中稀有类别学习的联邦框架。FedCEP结合了仅头部的类别感知聚合规则和两种基于中心的训练机制，同时保持编码器聚合与标准FedAvg相同。本工作的贡献总结如下：
(i) 我们引入了类别感知聚合（CAA），这是一种仅头部的聚合规则，它仅从包含相应类别的选定客户端更新每个分类器行。这消除了来自没有观察到该类别的客户的稀有类别行的直接 averaging。与Lee和Choi（2025年）的整个模型按类别聚合不同，CAA保留了标准的全局平均，因此保持了共享的表示学习，而不需要特定于类别的编码器副本。
(ii) 我们将CAA与中心指导的初始化（CGI）结合使用，以稳定最稀有类别的分类器行。当很少有客户端贡献某个类别时，CGI使用其全局类别中心的方向来规范行更新。其线性衰减的系数将这种干预限制在训练的早期阶段。
(iii) 我们在客户端侧加入了基于原型特征对齐的相互知识蒸馏（MKD）损失。它惩罚每个样本的特征表示与服务器广播的全局类别中心之间的距离（Hinton等人，2015年）。这种对齐在不传输原始样本的情况下交换了类别级信息；它本身并不是一种正式的隐私机制。一个预热计划延迟其激活，直到中心足够稳定。
(iv) 我们将FedCEP与十一个基线方法进行了基准测试——FedAvg、FedProx、MOON、FedBN、SCAFFOLD、cwFedAvg、FedETF、FedLC、CReFF、FedProto以及最近的长尾方法FedLoGe（Xiao等人，2024年）——在三个公共数据集上进行了测试：Edge-IIoTset（Ferrag等人，2022年）、CICIoT2023（Neto等人，2023年）和UNSW-NB15（Moustafa和Slay，2015年）。在极端异质性设置（α=0.1）下，FedCEP在每个数据集上都获得了最高的宏观F1分数。在Edge-IIoTset上，它的宏观F1达到了65.80%，比最强的基线CReFF高出6.22个百分点；在CICIoT2023和UNSW-NB15上分别高出2.07个百分点和1.43个百分点。分析明确了CAA的直接按类别聚合特性，并在研究的同步协议下实证评估了收敛性。

本文的其余部分组织如下。第2节回顾了相关工作。第3节详细介绍了FedCEP的设计和支持的理论分析。第4节描述了实验设置。第5节呈现并分析了结果。第6节总结了本文并概述了未来方向。

相关工作
我们回顾了四项与FedCEP相关的工作：IIoT入侵检测的发展、联邦学习中的非独立同分布挑战、客户端间的知识共享和特征对齐，以及联邦设置中的类别不平衡。表1总结了FedCEP与我们在实验中使用的基线之间的设计级差异。

问题表述
考虑一个由N个客户端组成的联邦系统，每个客户端i拥有一个来自K个类别条件分布的本地数据集Di。服务器协调整T轮通信。在第t轮，它选择S=?Nr?个客户子的子集St，其中r是参与率。每个客户端的数据分布遵循具有浓度α的Dirichlet分配；较小的α导致更严重的非独立同分布行为。
全局模型表示为f(?)=h(g(?))，其中编码器g(?):Rd→Rm

数据集
我们在三个规模和不平衡程度明显不同的公共IIoT入侵检测数据集上评估了FedCEP。基本统计信息见表3。Edge-IIoTset（Ferrag等人，2022年）是主要评估目标。它来自一个覆盖八种协议的真实IoT/IIoT网络环境——TCP、UDP、DNS、MQTT、HTTP、ICMP和Modbus TCP——包括一个良性类别和十四个攻击类别。类别分布极度偏斜：正常类别占...

整体性能比较
表7报告了在默认配置（α=0.1，d=69）下Edge-IIoTset上的主要比较结果。完整的FedCEP配置获得了65.80%的宏观F1分数，比排名第二的CReFF高出6.22个百分点（相对增益10.4%），比经典的FedAvg高出8.26个百分点（相对增益14.4%）。由于宏观F1均匀地权衡了15个类别，这一优势反映了整个类别分布上的性能提升，而不仅仅是主导类别上的准确性。跨种子的标准差为0.55%

结论和未来工作
本工作研究了在非独立同分布数据下联邦聚合过程中的直接稀有类别稀释问题。FedCEP结合了三种机制来应对这种情况。CAA为编码器保留了标准的FedAvg聚合，同时排除了来自缺乏相应类别的选定客户的直接分类器行贡献。MKD保持了动量平滑的全局类别中心，并使用基于距离的损失来提供具有类别级参考的本地训练。CGI使用中心方向来规范...

作者贡献声明
Zhan Xin：撰写——原始草稿、可视化、软件、方法论、调查、数据 curate、概念化。
Liu Xianlei：调查、数据 curate。
Huang Yi：调查、数据 curate。
Qiao Xujin：调查、数据 curate。
Zhang Guoshun：调查、数据 curate。
Dai Jianguo：撰写——原始草稿、监督、资金获取、概念化。

利益冲突声明
作者声明他们没有已知的财务利益或个人关系可能影响本文报告的工作。

致谢
本工作得到了中国新疆生产建设兵团关键领域关键科学技术研究计划的支持[资助编号2025AB054]。

Zhan Xin | Liu Xianlei | Huang Yi | Qiao Xujin | Zhang Guoshun | Dai Jianguo
石河子学院信息科学与技术学院，石河子，832003，中国