使用自监督预训练和多模态技术的SQL注入检测

《Intelligent Systems with Applications》：SQL injection detection using self-supervised pre-training and multimodal techniques

　　

大多数现有关于使用自监督预训练进行SQL注入攻击（SQLIA）检测的研究采用单模态方法，仅依赖HTTP请求信息。然而，鉴于SQLIAs日益复杂，依赖单一数据模态可能不足以提供对此类攻击的全面理解。本文提出了一种结合自监督预训练和多模态学习的SQLIA检测框架，前者旨在减少对标注数据集的依赖，后者则利用多样化的信息来源生成SQLIAs的鲁棒表示。研究人员的方法包括使用计算机视觉和自然语言处理自监督技术，在未标注的HTTP请求文本上预训练两个模型。研究人员从公开可用的未标注网络攻击数据集中提取结构和上下文特征，采用卷积神经网络（CNN）和Transformer编码器作为自监督预训练阶段的学习算法。研究人员将预训练模型迁移至包含混合特征的多模态SQLIA数据集，从而实现对攻击更全面的表示。通过在私有网络上模拟SQLIAs，研究人员生成了合成多模态网络攻击数据集（MWAD），包含：（i）用于微调预训练模型的文本特征，以及（ii）用于训练经典机器学习分类器的统计包流向特征。通过使用晚期融合技术结合微调后的预训练模型和经典机器学习模型，实验结果表明，研究人员提出的多模态方法优于现有依赖单一数据模态进行SQLIA检测的研究。这些结果证明，将自监督预训练文本模型与基于网络流信息的模型相结合，能够联合学习HTTP请求的文本和行为特征，从而有效检测SQLIAs。

**论文解读：基于自监督预训练与多模态技术的SQL注入攻击检测研究**

**研究背景与问题**

随着Web应用的广泛部署，SQL注入攻击（SQLIA）已成为导致数据泄露的主要威胁之一。近年来，MOVEit数据泄露、ResumeLooters数据泄露等事件均源于Web应用漏洞的利用，造成了敏感信息被盗和巨额经济损失。现有基于机器学习的SQLIA检测方法主要存在两大局限：第一，多数方法依赖监督学习，需要大量标注的HTTP请求数据来构建有效模型，而人工标注数据耗时且难以规模化；第二，大多数现有方法仅依赖单一数据模态（如仅使用HTTP请求文本或网络流量特征），难以捕捉攻击的深层表征，导致对日益复杂攻击的鲁棒性不足。因此，亟需开发一种减少对标注数据依赖、并能融合多源信息以提升检测性能的SQLIA检测方法。

**研究内容与结论**

本研究提出了一种结合自监督预训练与多模态学习的SQLIA检测框架。研究人员利用自监督技术（计算机视觉和自然语言处理）在未标注的HTTP请求数据上预训练两个模型（TransPred和MaskPred），以学习结构和上下文特征；随后，将预训练模型迁移至包含混合特征（HTTP请求文本与网络流统计特征）的多模态SQLIA数据集，通过微调完成下游任务。实验结果表明，采用晚期融合策略将微调后的预训练模型与经典机器学习分类器（如随机森林RF、K近邻KNN）结合，所提出的多模态方法在准确率、精确率、召回率和F1分数上均超过0.9994，显著优于现有依赖单一模态的检测方法。该研究证实，融合自监督预训练文本模型与网络流行为特征模型，能够联合学习HTTP请求的文本和行为表征，从而有效提升SQLIA检测能力。论文发表在《Intelligent Systems with Applications》。

**主要关键技术方法**

本研究采用的关键技术包括：（1）基于计算机视觉的自监督预训练方法——变换预测建模（TransPred），将HTTP请求URI的Word2Vec嵌入表示为二维矩阵，通过旋转等几何变换生成伪标签，训练卷积神经网络（CNN）学习结构特征；（2）基于自然语言处理的自监督预训练方法——掩码语言建模（MaskPred），将URI文本进行整数编码后随机掩码，训练Transformer编码器预测掩码词，学习上下文特征；（3）多模态数据生成：在私有网络上利用Metasploitable虚拟机模拟SQLIA，使用NFStream等工具捕获网络包，提取统计流特征（如双向字节数、包大小标准差等），并同步提取HTTP请求URI文本，构建多模态Web攻击数据集（MWAD），包含650个微调样本和250个测试样本；（4）晚期融合策略：将微调后的预训练模型与经典机器学习分类器（RF、NB、KNN）的决策通过全连接神经网络（FCNN）进行融合，输出最终检测结果。

**研究结果**

**4.3 个体模型性能分析**
通过微调TransPred和MaskPred预训练模型，在650个样本上训练，发现两个模型在10个epoch后微调损失分别降至0.00041和0.000419，验证损失降至0.00039和0.00016。在测试集上，TransPred模型在10个epoch时准确率0.9901，精确率0.9915，召回率0.9905，F1分数0.9922；MaskPred模型表现略优，准确率0.9925，精确率0.9914，召回率0.991，F1分数0.9941。独立的经典机器学习分类器中，RF在准确率（0.995）和召回率（0.991）上最优，KNN在精确率（0.994）和F1分数（0.992）上最优。

**4.4 多模态框架性能分析**
将微调后的预训练模型与三种经典分类器分别通过晚期融合组合。实验表明，TransPred+RF在10个epoch后所有指标均超过0.999，精确率达0.9994；MaskPred+RF在10个epoch后准确率、召回率和F1分数均超过0.9994，MaskPred+KNN的精确率达0.9995。所有多模态模型的ROC曲线AUC均达到1.00，显著优于各自单模态模型（个体微调模型）。综合来看，MaskPred与RF的组合取得了最佳检测性能，说明上下文信息对SQLIA检测更具判别力。

**4.5 与现有工作对比**
与现有研究（如Swileh等2025年使用BERT预训练模型、Liu等2023年使用TextCNN等）相比，本方法在仅使用250个SQLIA微调样本的情况下，仍达到了接近或超过0.9996的指标，而现有方法往往依赖大规模标注数据或更大规模的微调数据集。此外，本方法首次将自监督预训练文本模型与网络流特征结合，弥补了单模态方法的不足。

**5. 部署可行性讨论**
所提框架在推理阶段具有较低计算开销：预训练模型采用轻量级CNN和Transformer编码器架构，经典ML分类器（NB、KNN、RF）计算高效，晚期融合仅使用简单的FCNN，因此适合部署在资源受限的环境中。

**6. 局限性与未来工作**
当前多模态数据集仅包含1000个模拟样本，可能无法完全反映真实攻击的多样性；未来需在更大规模的实际多模态数据集上评估泛化能力。此外，当前仅针对SQLIA，未来可扩展至其他Web攻击（如XSS）及邮件钓鱼检测。还可探索其他融合策略（如早期融合、中间融合）以进一步提升性能。

**7. 结论**
本研究通过集成自定义预训练文本模型与基于网络流特征的模型，提出了一种检测SQLIA的方法。采用自监督学习技术（掩码语言建模和变换预测建模）在未标注数据上预训练TransPred和MaskPred模型，并在私有网络模拟生成的MWAD数据集上进行微调和评估。实验结果表明，MaskPred与RF组合的多模态模型在准确率、召回率和F1分数上均超过0.9994，优于现有基于预训练模型的SQLIA检测研究。研究证实，融合HTTP请求的文本和行为特征能够提供更丰富的攻击表征，从而提升检测鲁棒性。未来工作将扩展至多类Web攻击检测，并在真实数据集上验证框架的有效性。