综述：风险感知的学习使能控制用于安全关键的联邦系统：一种隐私保护的CIoT恶意软件防御方法

《Internet of Things》：Risk-Aware Learning-Enabled Control for Safety-Critical Federated Systems: A Privacy-Preserving Approach for CIoT Malware Defense

　　

学习使能系统（Learning-enabled systems）越来越多地部署在分布式、安全关键的环境中，在这些环境中，必须在不确定性、异质性和对抗性行为下保持可靠性。这一挑战在消费物联网（Consumer Internet of Things, CIoT）中尤为明显，其中基于Android的消费电子（Consumer Electronics, CE）设备在严格的资源和隐私约束下协同参与恶意软件检测。传统的机器学习（Machine Learning, ML）和深度学习（Deep Learning, DL）恶意软件检测方法主要基于静态数据集验证，当此类系统在动态、真实世界条件下运行且参与者不可靠时，其提供的保障有限。为了解决这些挑战，本文提出了一种风险感知、安全感知的模糊隐私保护联邦学习（Fuzzy Privacy-Preserving Federated Learning, FPPFL）框架，用于资源受限的CE设备上的Android恶意软件分类。联邦学习（Federated Learning, FL）过程被视为一个动态学习系统，其稳定性和安全性必须在运行过程中主动调节。Paillier同态加密（Paillier Homomorphic Encryption, PHE）方案为跨分布式客户端的安全梯度聚合提供了一个隐私保护仪表层，而模糊风险评估（Fuzzy Risk Assessment, FRA）机制则作为一个实时安全控制器，在全局聚合之前评估局部更新的可靠性。所提出的框架在多个基准Android恶意软件数据集上进行了评估，包括Malgenome、Drebin、Tunadromd和Kronodroid。实验结果表明，FPPFL方法不仅保护了隐私，而且提高了对不可靠或对抗性更新的鲁棒性，同时与现有的联邦和集中式模型相比保持了优越的检测精度。此外，该方法在延迟和能耗方面表现出有利的权衡，验证了其在边缘部署的适用性。通过将轻量级密码学与自适应风险调节相结合，这项工作展示了如何将学习使能控制（Learning-Enabled Control）原理应用于网络安全系统，在CIoT环境中实现安全、鲁棒和隐私保护的协作学习。

1. INTRODUCTION
该部分指出，基于Android的CE设备在CIoT环境中面临严峻的恶意软件威胁，传统ML/DL方法在动态、异质和隐私受限场景下存在局限性。联邦学习（FL）作为一种分布式训练范式，能解决数据本地化问题，但引入梯度泄露、对抗性更新和非独立同分布（non-IID）数据等新挑战。从学习使能控制视角，FL可视为动态学习系统，其演化需通过控制机制调节稳定性和安全性。为此，论文提出FPPFL框架，集成Paillier部分同态加密（PHE）提供隐私保护仪表层，并引入模糊风险评估（FRA）作为实时安全控制器，在全局聚合前筛选可靠更新。

1.1 Problem Statement and Formulation
问题表述为：如何在参与者不确定或对抗行为下，保持FL模型演化的稳定、可靠与安全。考虑N个Android客户端，每个持有本地数据集D_i，目标是通过协作训练全局恶意软件分类模型M_T，同时确保数据隐私、梯度机密性及对抗性鲁棒性。FPPFL引入FRA机制，在每个通信轮次t中，基于梯度更新?M_i,t计算信任评分r_i，仅当r_i≥τ时才参与聚合，从而调节学习动态。隐私保护通过Paillier PHE实现，满足加法同态性，允许服务器直接聚合加密梯度。

1.2 Threat Model and Privacy Requirements
威胁模型假设服务器为诚实但好奇（honest-but-curious）的对手，即正确执行协议但可能推断敏感信息。部分客户端可能产生不可靠或恶意更新。框架定义三项关键隐私与安全需求：用户梯度机密性、隐私保护聚合、低风险协作环境。FRA作为启发式可靠性滤波器，并非针对合谋、Sybil攻击或自适应后门攻击的认证防御，这些作为未来工作。

1.3 Novelty and Contributions
核心创新在于将隐私保护和更新可靠性作为同一聚合轮次中耦合的控制目标在线优化，而非独立的后期附加模块。贡献包括：① 将Paillier PHE嵌入FL聚合循环，实现密文域梯度聚合；② 引入FRA作为门控控制器，实时评分并筛选可靠更新；③ 提供安全与复杂度分析，并与差分隐私（DP）和全同态加密（FHE）对比；④ 在四个基准数据集上全面验证，显示加密、风险门控聚合在保持或提升检测精度方面的有效性。

2. LEARNING-ENABLED CONTROL ARCHITECTURE FOR RESOURCE-LIMITED CIOT SYSTEMS
整体架构将全局模型视为系统状态，客户端更新为控制输入，FRA为安全调节器，PHE为安全仪表通道。框架包括三个阶段：A）本地Android恶意软件分类训练：客户端预处理、训练并计算梯度?M_i,t；B）FRA模型：计算模糊风险评分并排除低信任客户端；C）隐私保护防御策略：客户端用PHE加密梯度，服务器利用加法同态性聚合后解密更新全局模型。

2.1 Android Malware Classification
将恶意软件分类作为监督学习问题，学习函数f(x;θ)最小化经验损失。使用两层前馈神经网络，激活函数采用ReLU或sigmoid。FL设置中，每个客户端保留本地数据集D_i，全局模型通过加权聚合加密梯度更新：W_global=∑α_iW_i。分类流程包括特征提取、二值标注、本地预处理、模型训练、联邦聚合和评估。

2.2 Building Privacy with PHC in FPPFL
采用Paillier PHE实现端到端梯度机密性。客户端用公钥加密梯度?~_k=Enc_pk(?_k)，服务器聚合?~_agg=Enc_pk(∑?_k)，解密后更新全局模型。PHE相比FHE更轻量，相比DP保持更高精度，适合资源受限CE设备。

2.3 Fuzzy Risk Assessment (FRA) Model
FRA通过模糊推理实时量化客户端信任度。定义输入变量（如梯度偏差）、输出变量（低/中/高风险），采用高斯隶属函数和Mamdani型模糊推理系统（FIS）。规则库映射输入组合到风险等级，最终通过质心解模糊输出清晰风险值，仅允许r_i<τ的客户端参与聚合，过滤恶意或低质更新。

3. THEORETICAL ANALYSIS
从学习使能控制理论解释：全局模型M_t为系统状态，加密梯度为候选控制输入，FRA门控决定哪些输入可接受，确保不稳定或危险输入被拒绝。

3.1 Security Analysis
引理1证明用户本地梯度机密性：服务器仅收到加密梯度?~_k，无密钥无法解密。引理2证明梯度与聚合结果的隐私：服务器在聚合中无法获知原始梯度，仅授权用户可访问解密后的聚合结果。分析基于Paillier的IND-CPA安全假设，但未针对恶意服务器、合谋或自适应敌手提供正式安全证明。

3.2 Complexity Analysis
客户端计算复杂度为C_client=E_e+n_tC_t，其中E_e为PHE加密复杂度，C_t为本地训练复杂度；服务器端为C_server=E_d+C_a。通信复杂度为C_comm=N(S_g+S_m)，PHE确保加密梯度大小接近原始梯度，管理开销可控。

3.3 Resource Profile on CE-class Hardware
报告了不同Paillier密钥大小（256、512、1024位）下每轮客户端延迟、峰值内存和CPU使用情况，显示加密/解密时间随密钥大小单调增长，而训练时间保持稳定，内存低于典型CE设备限制，验证了PHE的轻量性。

4. IMPLEMENTATION AND EVALUATION
实验在PyTorch上实现，使用Ubuntu 20.04系统、RTX 2070 GPU等。采用四个基准数据集：Malgenome、Drebin、Tunadromd和Kronodroid。分类器为四层MLP，隐藏层神经元数分别为200、100、50，输出层使用sigmoid，训练采用SGD，学习率0.01，批次大小32，80-20留出验证。

4.2 Performance Metrics
使用准确率、F1分数、AUC和假阳性率（FPR）评估模型。

4.3 Experimental Results
4.3.1 Performance metrics analysis：与FedAvg和DwFedAvg对比，FPPFL在多个客户端和轮次组合下，在四个数据集上均达到相当或更优的准确率、F1、AUC和FPR，表明加密梯度未损害性能，反而提升泛化性和鲁棒性。
4.3.2 PHE metrics analysis：加密/解密时间随密钥大小（256到1024位）显著增加，训练时间相对恒定，内存消耗相应增长，需在安全性与计算开销间权衡。
4.3.3 Comparison with other encryption methods：与FHE相比，PHE计算复杂度更低（O(n) vs O(n^k)），适合资源受限设备；与DP相比，FPPFL的准确率提升约40%，且在其他指标上全面领先。
4.3.4 Risk assessment analysis：通过示例展示FRA如何动态识别低、中、高风险场景，仅接受低风险更新参与聚合，保障FL过程质量与安全。
4.3.5 Real-Time Gating Ablation Study：启用FRA后，不可靠更新接受率降低约37.4%，AUC下降不超过0.18%，每轮额外开销仅9.7ms，验证了FRA在不牺牲性能下的实时有效性。

4.4 Discussion of Limitations and Future Extensions
指出当前局限：未严格评估非独立同分布（non-IID）数据、仅考虑最多15个客户端可扩展性、缺乏直接能量测量、未进行统计显著性检验、基线对比仅限FedAvg和DwFedAvg、未实验合谋/Sybil/自适应后门威胁模型。未来工作将扩展至更大规模、更复杂架构和更强攻击场景。

5. RELATED WORK
回顾了现有FL恶意软件检测方法，包括Fed-IIoT、DW-FedAvg、Fed-PEMC等，并从隐私、信任、 Byzantine鲁棒性、加密支持和Android恶意软件检测五个维度对比了FedAvg、DW-FedAvg、信任感知FL、PPBR、Krum、安全聚合及提出的FPPFL。FPPFL独特之处在于同一轮次内联合实现Paillier加密层与可解释模糊可靠性控制器。

6. CONCLUSION AND FUTURE WORK
总结将学习使能控制原理应用于CIoT安全系统，通过FRA和PHE确保FL稳定、安全、高效。未来工作包括处理非IID数据、提高可扩展性、直接能量测量、统计检验、对比更强基线和更广威胁模型。