《Electronics》：Cost-Sensitive Stacking Ensemble with Hybrid Feature Selection for Rare Attack Detection in Network Intrusion Detection Systems
编辑推荐：
基于机器学习的网络入侵检测系统（Network Intrusion Detection Systems, NIDS）通常使用总体准确率进行优化，然而运营层面的安全性依赖于对罕见高影响攻击的可靠检测。研究人员提出了一种数据保持的入侵检测框架，该框架结合了混合特征
基于机器学习的网络入侵检测系统（Network Intrusion Detection Systems, NIDS）通常使用总体准确率进行优化，然而运营层面的安全性依赖于对罕见高影响攻击的可靠检测。研究人员提出了一种数据保持的入侵检测框架，该框架结合了混合特征选择、异构集成学习和代价敏感优化，用于不平衡多类攻击检测。该方法首先应用互信息（Mutual Information, MI）过滤和递归特征消除（Recursive Feature Elimination, RFE），将NSL-KDD的122个一热编码（one-hot encoded）属性特征空间缩减至25个判别特征。研究人员评估了四种分类器，即随机森林（Random Forest, RF）、极端梯度提升（XGBoost）、支持向量机（Support Vector Machine, SVM）和K近邻（K-Nearest Neighbors, KNN），并使用逻辑回归（Logistic Regression）作为元学习器构建了Stacking集成。研究人员通过平衡类别加权而非合成过采样来解决类别不平衡问题，从而保留了原始的少数类观测值。在NSL-KDD基准上的实验表明，所提出的代价敏感配置改善了稀有攻击识别，最显著的是将Stacking集成的U2R（User-to-Root）召回率从0.00%提高至35.82%（测试实例67个中的24个）；这一改进，连同伴随的加权F1分数从0.7120变为0.7214的变化，在重复随机种子下的Wilcoxon符号秩检验中具有统计学显著性，并且两个值均报告其变异性而非单点估计。SVM获得了最大的全局增益，加权F1分数提高了7.06个百分点。结果表明，代价敏感学习是一种改善稀有攻击可见性的简单实用机制，但也揭示了R2L（Remote-to-Local）检测存在的剩余局限性，其与正常流量的特征重叠仍然显著。修订后的验证设计明确包含了直接重采样基线、重复种子评估、统计显著性检验、特征子集敏感性分析以及R2L和U2R的绝对真正例计数，以避免过度解读边际点估计增益。所有实验，包括重采样比较、组件消融、特征子集敏感性分析和重复种子统计评估，均在单一统一协议下的完整KDDTrain+训练集（125,973个实例）上执行，因此每个报告的每类值均指相同的实验设置。修订后的研究还报告了主要模型的概率级评估，包括类级PR-AUC（精确率-召回率曲线下面积）、精确率-召回率曲线以及U2R阈值和告警预算分析，并在UNSW-NB15基准上外部验证了该框架，在相同协议下，平衡类别加权将最稀有类别（Worms, Shellcode, Backdoor）的召回率从接近零的基线水平提高到69–96%。
该研究聚焦于基于机器学习的网络入侵检测系统（Network Intrusion Detection Systems, NIDS）在应对严重类别不平衡及稀有高影响攻击（如U2R、R2L）检测时的局限性。当前研究常过度依赖总体准确率等聚合指标，忽视了少数类在安全运营中的关键影响，且传统合成过采样方法在极少数样本场景下可能产生不可靠边界。为此，研究人员开展了一项数据保持的入侵检测框架研究，旨在通过混合特征选择、异构Stacking集成与代价敏感优化的可控整合，在不改变原始数据分布的前提下提升稀有攻击可见性，并在NSL-KDD及UNSW-NB15基准上验证其有效性。论文发表于《Electronics》。
研究人员采用的关键技术方法包括：在特征工程层面，结合互信息（Mutual Information, MI）过滤与递归特征消除（Recursive Feature Elimination, RFE）的混合策略，将NSL-KDD的122维一热编码特征降至25维；在分类模型层面，评估随机森林（Random Forest, RF）、极端梯度提升（XGBoost）、支持向量机（Support Vector Machine, SVM）、K近邻（K-Nearest Neighbors, KNN）四类基学习器，并以逻辑回归（Logistic Regression）为元学习器构建Stacking集成；在类别不平衡处理上，采用平衡类别加权（balanced class weighting）算法替代SMOTE等合成过采样，权重计算基于类别频率公式 wc=N/(Cnc)；实验基于NSL-KDD标准划分（KDDTrain+ 125,973实例，KDDTest+ 22,544实例）及UNSW-NB15官方划分（训练175,341，测试82,332），引入重复随机种子（10组）、Wilcoxon符号秩检验、Friedman检验、特征子集敏感性消融（10/25/50/122维）、绝对少数类真阳性计数及概率级PR-AUC与告警预算分析以确保统计鲁棒性与解释性。
研究结果部分结论如下。4.1. Baseline Classification Results 通过基线实验发现，尽管随机森林与Stacking集成在加权F1分数（0.7120）与准确率上表现尚可，但所有基模型在U2R与R2L类上的召回率极低（U2R为0.00%），混淆矩阵显示稀有攻击被大量误分为正常流量，证实标准监督学习在少数类检测上的失效。4.2. Cost-Sensitive Classification Results 引入代价敏感学习后，Stacking集成的U2R召回率提升至35.82%（24/67），加权F1分数显著提升至0.7214（p<0.05），SVM增益最大（7.06个百分点）；Normal类召回降至91.45%，体现了以适度误报换取稀有攻击可见性的权衡；R2L仅微增至5.23%，表明其特征重叠问题非单纯不平衡所致。4.3. Direct Experimental Comparison with Resampling-Based Imbalanced Learning Methods 与SMOTE、Borderline-SMOTE、ADASYN、SMOTE-Tomek对比显示，代价敏感法在U2R召回上最优且保持原始数据分布，而ADASYN在全局加权F1与R2L召回上略优，证明二者各有适用场景。4.4. Repeated-Seed Statistical Robustness 10组独立种子实验经Wilcoxon检验确认U2R召回、R2L召回及加权F1的提升具统计显著性，Stacking集成均值高且跨种子标准差低，结果稳定。4.5. Feature Subset-Size Sensitivity Analysis 敏感性分析表明50维与122维在全量指标上优于25维，25维仅为紧凑性与计算效率妥协的设计点，非性能最优解。4.6. Absolute Rare-Class Counts and Interpretation of R2L/U2R Gains 绝对计数显示U2R从0增至24例真阳性，R2L仅从119增至151例（共2887），结合Wilson置信区间指出R2L增益微小，框架主要解决U2R可见性而非全面解决稀有类。4.7. Positioning Against Recent Literature 文献定位表明该框架以数据保持为特点，权衡在于合成采样提升全局指标而代价敏感专注极稀有类U2R。4.8. Component Ablation, Additional Metrics and R2L Failure Analysis 消融实验确认类别加权是U2R可见性的主要驱动（移除则归零），Stacking进一步优化，去特征选择反略优；R2L失败分析显示成本敏感后仍有463例误判至U2R，未形成精确决策域。4.9. Extended Imbalance Baselines, Minority Precision and False-Alarm Analysis 扩展基线（Balanced Random Forest、Focal-loss MLP、XGBoost阈值校准）显示高召回伴高误报，成本敏感U2R精度约1%，需作为分析师分流信号而非自主判定；R2L仍余2736假阴性，属未解案例。4.10. Probability-Level Evaluation and U2R Alert-Budget Analysis 概率级评估中U2R PR-AUC从0.0092增至0.0126；阈值与告警预算分析表明tau可调告警负担，千次告警仅捕获11例U2R，印证需结合运营成本考量。4.11. External Validation on UNSW-NB15 外部验证在UNSW-NB15同协议下进行，稀有类召回显著提升（Worms 88.64%、Shellcode 95.50%、Backdoor 69.30%、Analysis 24.96%），平衡准确率至0.6696，Normal召回降至64.22%，复现权衡并证明框架跨基准泛化能力。
讨论部分总结指出，代价敏感学习通过改变优化目标而非生成合成样本，在极少样本（如训练仅52例U2R）场景下更具可靠性，其对SVM等边界模型增益显著而对随机森林有限，且具有算法依赖性。运营层面需接受Normal召回下降以换取特权升级攻击可见性，告警应作为高优先级分流而非终判。局限性包括NSL-KDD现代代表性不足（虽增UNSW-NB15验证）、R2L因特征空间重叠未解、SVM因计算约束用3万子集抽样、缺运行时内存与可解释性层（SHAP）。未来工作将扩展至CICIDS2017/2018、TON_IoT，引入自适应代价调度、概率校准与平衡集成对比。
结论部分译为：本文提出了一种结合混合MI-RFE特征选择的代价敏感Stacking框架，用于在严重类别不平衡下的多类网络入侵检测。该框架将NSL-KDD特征空间从122缩减至25，并评估了四种经典分类器及异构Stacking集成。关键方法学选择是避免合成样本生成，通过类别依赖权重修改学习目标来处理不平衡。实验结果表明代价敏感学习可改善稀有攻击可见性，此结论现由重复种子验证及与重采样方法的完整训练对比支持。Stacking集成的U2R召回率在主要运行中从0.00%增至35.82%，且在重复种子下统计显著，伴随加权F1分数从0.7120增至0.7214。此增益应结合绝对计数解释，因其对应约24/67正确检测U2R样本。R2L改善有限，仅从约119/2887增至151/2887。同时结果突显了类别加权的局限与需更审慎的主张。R2L因与正常流量特征空间重叠仍难检测，观测到的R2L增益统计上可能较弱。因此该框架应解释为轻量、可复现、数据保持的基线，改善U2R可见性并支持更透明稀有类评估，而非少数攻击检测的完整方案。最终贡献应读作方法学澄清与受控证据，而非全新学习算法主张。研究展示了既定组件在稀有类聚焦验证协议下整合的行为，剩余R2L弱点及单数据集设计界定了本工作主要边界。
