利用可解释人工智能增强网络安全：技术框架及在训练实验室中的应用

《Frontiers in Computer Science》：Enhancing cybersecurity with Explainable Artificial Intelligence: technical framework and applications in training labs

　　

网络攻击的复杂性不断增长，基于机器学习的入侵检测系统(IDS)日益被用于支持可扩展的威胁监测。然而，高性能模型在其决策不可解释或不可审计时，在操作上难以部署。研究人员将可解释性作为IDS工作流中的决策支持组件而非纯粹的视觉附加物进行研究。利用UNSW-NB15基准，研究人员比较了三种广泛使用的分类器——随机森林(RF)、决策树(DT)和支持向量机(SVM)——随后用事后(post-hoc)可解释性工具局部可解释模型无关解释(LIME)与沙普利加性解释(SHAP)分析最强性能者(RF)。RF达到95.3%准确率（精确率94.8%、召回率96.1%、F1分数95.4%），在同一切分下超越DT与SVM。LIME与SHAP一致将流量体积与时长相关特征（如目的字节数、源字节数、流时长）突出为入侵预测的关键驱动因素，为分析人员分流与策略细化提供可行动假设。研究人员进一步讨论了解释输出如何通过可审计的“依据工件”在网络安全训练实验室中操作化，同时澄清任何观察到的假阳性下降应被解释为解释引导干预（如阈值调优与分流规则调整）的结果，而非生成解释的直接因果效应。最后，研究人员列出必要的研究扩展——受控基线、鲁棒性测试、解释稳定性/忠实性分析——以确保LIME/SHAP在安全关键IDS环境中的可靠部署。

研究背景与动机

随着数字化进程加速，高级持续性威胁(APT)、分布式拒绝服务(DDoS)、勒索软件与零日漏洞等攻击日趋复杂，传统基于规则与签名的网络安全机制难以应对未知模式。基于机器学习(ML)的入侵检测系统(IDS)虽提升了对复杂威胁的识别能力，但高性能分类器常表现为黑盒，安全分析人员无法理解决策依据，导致告警可信度低、误报难消、响应延迟。既有可解释人工智能(XAI)研究多将局部可解释模型无关解释(LIME)与沙普利加性解释(SHAP)用作事后(post-hoc)可视化解读，未系统转化为运营动作。为此，研究人员在《Frontiers in Computer Science》提出“可解释即干预”(Explainability-as-Intervention, XAI²)框架，将解释生成与解释引导干预分离，以受控实验评估可解释性对网络安全决策的实际贡献。

主要技术方法

研究人员采用公开基准UNSW-NB15数据集（由澳大利亚网络安全中心ACCS构建，含良性与多类现代攻击流量，49个特征），按70%训练、30%测试固定随机种子42划分。预处理包括缺失值处理、归一化、相关系数大于0.90的高冗余特征剔除、方差低于0.01的低判别力特征剔除，训练集多数类随机欠采样(RandomUnderSampler)以缓解类别不平衡而测试集保留原分布。对比随机森林(RF, 100棵树、最大深度20)、决策树(DT, 最大深度15)与支持向量机(SVM, RBF核、C=1.0)；以准确率、精确率、召回率、F1分数为指标。在RF上施加LIME与SHAP解释，并设计三条件受控实验：C0无解释基线、C1仅生成解释不干预、C2依预注册规则用解释做阈值校准与分流细化（不重训模型）。

研究结果

4.1 数据集分析与描述统计

经整合与预处理后的实验子集约含175万正常与95万恶意样本（正常占65%），属中度类别不平衡。相关性分析剔除高共线特征，保证模型无冗余偏倚。

4.2 机器学习模型性能

RF准确率95.3%（精确率94.8%、召回率96.1%、F1 95.4%），优于DT（89.6%）与SVM（72.5%），选RF进入解释分析。

4.3 基于LIME与SHAP的可解释性分析

SHAP全局重要性显示目的字节(dst_bytes)、源字节(src_bytes)、流时长(flow_duration)、TCP标志与总包数(tot_pkts)为最主要正向贡献特征；LIME局部解释显示短时长高体积连接常致误报。解释洞察表明模型对高吞吐合法流量敏感，据此可调整阈值。

4.4 关键发现

RF虽精度高但仍需XAI²支撑可信度；解释输出通过预定义规则转化为阈值校准与告警规则细化，在不改动模型结构下降低不必要告警。研究人员明确：假阳性下降归属解释引导干预而非解释生成本身。C0/C1/C2独立量化对比留待未来工作，本文报告整体干预后运营结果。

讨论与结论翻译

讨论指出，XAI²框架将可解释性从后置解读提升为运营决策支持层，使IDS在关键基础设施、企业网络与训练实验室中具备可审计性与合规性。解释稳定性、忠实性及受控基线仍是安全关键场景部署LIME/SHAP的前提。结论：研究人员提出XAI²框架，在UNSW-NB15上以RF达95.3%准确率，借LIME/SHAP锁定流量体积与时长特征为关键驱动，并通过可审计依据工件将解释转化为阈值调优与分流规则调整等干预动作；任何性能改善须归因于解释引导干预而非解释算法本身。后续需补强受控评估、鲁棒性测试与解释稳定性/忠实性度量，方可将XAI可靠嵌入安全关键IDS。