《IEEE Transactions on Aerospace and Electronic Systems》：Detecting SQLi Attacks Using a Compact Transformer-Based Machine Learning Framework
编辑推荐：
结构化查询语言注入（Structured Query Language Injection，SQLi）仍然是破坏性最强的Web应用程序漏洞之一，因为它使攻击者能够操纵后端数据库、提取敏感数据，并可能持续控制关键服务。在实际环境中，SQLi载荷常通过注释、编码或
结构化查询语言注入（Structured Query Language Injection，SQLi）仍然是破坏性最强的Web应用程序漏洞之一，因为它使攻击者能够操纵后端数据库、提取敏感数据，并可能持续控制关键服务。在实际环境中，SQLi载荷常通过注释、编码或关键字拆分等方式进行混淆，这会削弱传统基于特征签名和规则的防御效果，并导致攻击漏报或误报率升高。本文提出了一种紧凑型、基于Transformer的机器学习框架，该框架通过学习SQL标记序列（token sequences）的上下文语义，在存在此类语法变化的情况下区分良性输入与恶意输入。该方法首先执行SQL感知预处理，包括查询清洗与归一化、保留结构性关键字和运算符的分词、将字面量抽象为占位符标记，以及序列填充；随后采用轻量级Transformer编码器（encoder）和在带标注SQL查询上训练的二分类头（binary classification head）。研究人员将所提出模型与多种强基线方法进行比较，包括结合TF–IDF特征的支持向量机（Support Vector Machine，SVM）、极端梯度提升（eXtreme Gradient Boosting，XGBoost），以及作用于标记序列的卷积神经网络（Convolutional Neural Network，CNN）。在实验中，所提模型在评估数据集上取得约99%的准确率和F1-Score，同时在常见的语法与格式变化条件下仍保持稳健检测能力，而这些变化通常能够绕过基于特征和规则的系统。消融实验进一步量化了Transformer组件（如位置编码和注意力配置）对检测性能的贡献。结果表明，紧凑型自注意力模型（self-attention model）能够以适于实际高吞吐部署场景的效率特征，提供高质量检测能力。
该论文发表于《IEEE Transactions on Aerospace and Electronic Systems》，研究聚焦于Web应用环境中SQL注入（SQLi）攻击的自动化检测问题。研究背景在于，SQLi长期以来一直是最严重的应用层安全威胁之一，攻击者能够通过用户可控输入注入恶意SQL代码，进而篡改查询逻辑、读取或删除敏感记录，甚至导致系统整体失陷。尽管业界已经广泛采用输入净化、参数化查询、签名过滤和规则约束等静态防御策略，但这些方法高度依赖人工定义规则与已知模式，对关键字拆分、注释插入、编码变化等混淆手段缺乏稳健性，容易造成漏检，也常在复杂业务流量中带来较高假阳性率（false positive rate，FPR）。与此同时，传统机器学习（machine learning，ML）与深度学习（deep learning，DL）方法虽在标准数据集上可获得较高检测率，但仍存在对未见攻击泛化不足、对复杂语义关系建模能力有限以及部署成本偏高等问题。因此，开展面向SQL语法结构特征、兼顾检测性能与部署效率的研究具有明确必要性。
围绕上述问题，研究人员提出了一种面向SQLi检测的紧凑型Transformer分类框架，其核心思想并非构建全新架构，而是将SQL感知预处理（SQL-aware preprocessing）与轻量化自注意力编码器相结合，使模型能够在较低复杂度下学习SQL标记之间的上下文依赖关系。论文的研究目标包括：比较该模型与现有机器学习方法在检测准确性与可靠性上的差异；评估自动特征提取相对于人工特征工程的有效性；分析何种优化和正则化策略有助于提升泛化能力。研究最终表明，该框架在所评估数据集上取得约99%的准确率和F1-Score，并在对抗常见语法混淆和格式变化方面表现出良好的鲁棒性，说明基于上下文注意力的表示学习能够有效提升对结构变形载荷的识别能力。论文的重要意义在于，它证明了无需依赖大型预训练语言模型（pretrained language model），通过任务定制化的紧凑Transformer即可实现高质量SQLi检测，为高吞吐量、资源受限的实际安全场景提供了具备工程可行性的技术路径。
该研究主要采用以下关键技术方法。其一，使用来自Kaggle的公开SQLi数据集作为主实验数据，并采用分层80/20训练—测试划分以及5折分层交叉验证，同时引入外部验证数据集SQLiV3.csv评估跨数据源泛化能力。其二，构建SQL感知预处理流程，包括查询清洗、归一化、基于正则表达式的SQL专用分词、字面量占位符抽象、定长编码与填充。其三，设计轻量级Transformer编码器，包含64维嵌入层、2层编码器和每层4个注意力头，结合均值池化与二分类头完成检测。其四，将模型与SVM、XGBoost、随机森林（Random Forest）、K近邻（KNN）、逻辑回归（Logistic Regression）和CNN进行系统比较，并通过消融实验、混淆矩阵、ROC-AUC、推理时延与吞吐率等指标综合评估。
在研究结果部分，论文首先通过“Dataset and Experimental Contribution”“Dataset Description”等部分说明了实验数据基础。研究使用的Kaggle SQLi数据集包含约30,000条SQL查询，类别近似均衡，覆盖SELECT、INSERT、UPDATE、DELETE等常规语句，以及基于恒真式、联合查询、报错和布尔条件等多类注入攻击样本。同时，数据集中包含编码变换、关键字操控、行内注释和大小写变化等混淆策略，使模型评估更接近实际攻击情境。研究人员也明确指出，该数据集虽具有现实启发性，但仍属于受控基准数据，尚不足以完全反映真实环境中的动态攻击分布。
在“Preprocessing”与“Sql-Aware Tokenization”部分，研究显示预处理与分词是模型性能的重要基础。研究人员并未采用通用自然语言处理（natural language processing，NLP）子词分词器，而是使用面向SQL结构的规则驱动式分词方案，保留关键字、标识符、运算符和数值等关键语法元素，并将字符串字面量替换为占位标记、数值替换为相应抽象符号，从而减少噪声并保留结构语义。研究还在全数据集层面进行精确重复样本去除，以降低数据泄漏风险。实验分析表明，这种针对SQL语法的输入规范化为后续上下文建模提供了更加稳定的表示基础。
在“Proposed Transformer Classification Model”与“Model Architecture”部分，论文介绍了模型主体结构。研究人员采用自注意力机制（self-attention mechanism）建模SQL序列中的长距离依赖关系，在嵌入层后加入位置嵌入（positional embeddings）以保留标记顺序信息，经2层Transformer编码器提取上下文化表示后，通过掩码均值池化（masked mean pooling）汇聚序列表征，再输入线性分类头完成良性/恶意二分类。该设计强调紧凑性与实用性，不依赖大规模预训练，也未引入复杂混合骨干网络，而是通过任务适配的编码与注意力学习实现性能提升。
在“Performance Comparison of Models”部分，研究结果显示所有模型在该任务上均取得较高性能，但不同模型在鲁棒性与平衡性上存在明显差异。论文报告，Transformer模型获得99.0%的准确率、99.2%的精确率（precision）、98.8%的召回率（recall）和99.0%的F1-Score，在精确率与召回率之间保持了良好平衡。尽管XGBoost和随机森林在部分指标上略优，但Transformer在同时降低假阳性（false positive，FP）和假阴性（false negative，FN）方面表现更稳健，尤其适用于既不能漏报攻击、也不希望频繁误报正常查询的安全部署场景。论文据此认为，基于语义上下文的注意力建模相比依赖TF–IDF等表层特征的方法，更能适应SQL载荷被拼接、重排或混淆后的结构变化。
在“K-Fold Cross-Validation”部分，研究人员通过5折分层交叉验证报告F1-Score的均值与标准差，以评估模型稳定性。论文认为，多折验证减少了单次划分带来的偶然性影响，为模型泛化性能提供了更稳健的经验支持。不过，作者同时明确指出，研究并未进行统计显著性检验，因此模型间差异应被理解为经验观察结果，而非具有严格统计学意义的结论。
在“Inference Runtime and Throughput”部分，论文重点评估了部署可行性。研究在Intel Core i7-8650U CPU、批量大小32条件下进行推理测试。结果显示，Transformer平均推理时延为0.9168 ms/查询，吞吐率为1090.73 queries/s，明显慢于XGBoost等传统模型。研究人员据此指出，自注意力与上下文化表示学习虽然带来额外计算开销，但也提供了更强的检测能力，体现出计算效率与检测性能之间的内在权衡。因此，该模型更适用于安全关键型场景，而极端低时延需求下则可优先考虑更轻量的传统模型。
在“Confusion Matrix of Transformer”与“Error Analysis”部分，论文给出了对错误样本的具体分析。Transformer正确识别2251个SQLi样本与3902个良性样本，仅将6个良性样本误判为攻击、25个攻击样本误判为良性。假阳性样本多为含有UNION运算符、嵌套条件或复杂过滤逻辑的合法SQL语句，这些结构在形式上与攻击模式相似；假阴性样本则主要为高度混淆或极简攻击载荷，如短小的恒真式表达或经过特殊字符与编码扰动的查询。该结果说明模型已能有效捕捉标准SQLi模式，但对极端混淆、非常规表达的适应性仍有限，这也构成后续改进的重要方向。
在“External Validation on Independent Dataset”部分，研究人员进一步使用外部Kaggle SQLiV3数据集对所有已训练模型进行无重训练验证。结果表明，Transformer与CNN在外部数据上依然保持近乎完美的性能，随机森林与XGBoost也维持了较高F1-Score。这说明该方法在不同数据来源间具有较强一致性。不过，论文也指出，内部测试与外部验证之间仍存在轻微性能波动，反映出一定程度的数据分布偏移（distribution shift）。
在“Ablation Study”与“SMOTE Effect on F1 Score”部分，论文定量分析了各模块对性能的贡献。去除位置编码会导致准确率下降2.7%，去除多头注意力（multi-head attention）下降5.4%，降低编码器深度下降3.1%，而删除部分预处理步骤同样造成可测量的性能退化，说明SQL感知预处理与注意力结构对模型稳健性均具有关键作用。关于SMOTE（Synthetic Minority Over-sampling Technique），研究发现其作用依赖具体模型：对SVM和XGBoost略有提升，对随机森林和逻辑回归反而略有下降，对CNN和Transformer影响很小。这表明类别不平衡处理并非普适增益策略，而应结合模型特性审慎选择。
在“Discussion”与“Limitations and Failure Cases”部分，论文对研究意义与局限进行了归纳。研究认为，自注意力机制能够有效捕捉长距离标记依赖，从而增强对混淆SQLi的识别能力，并可为Web应用防火墙（Web Application Firewall，WAF）规则优化提供支持。与此同时，模型仍受限于单一主数据集验证、缺乏对更多真实流量和对抗样本的系统评估，尚未在大规模流式场景中充分验证实时性与可扩展性。此外，针对语法保持型混淆、动态演化攻击以及跨SQL方言迁移能力，论文尚未给出充分实证支持。这些讨论均基于正文实验和限制说明展开，没有超出原文证据范围。
研究结论部分可译述如下：SQL注入仍是Web应用中的严重威胁，因为恶意输入能够操纵数据库查询，并借助混淆与语法变化绕过传统基于规则和签名的防御。该研究提出了一种紧凑型、基于Transformer的SQLi检测机器学习框架，通过自注意力学习SQL标记间的上下文关系。该方法将SQL感知预处理（清洗、归一化、分词、字面量抽象和填充）与轻量级Transformer编码器及二分类头相结合。实验结果表明，所提模型在评估数据集上取得约99%的准确率与接近99%的F1-Score，并且与基线分类器相比，在假阳性与假阴性之间实现了更均衡的折中。研究结果支持如下结论：基于上下文注意力的表示能够提升对结构变形载荷的鲁棒性，使该方法适用于同时要求准确性与稳健性的高吞吐实际检测场景。未来的重要研究方向包括结合真实SQL流量日志以及CSIC 2010、CICIDS2017等基准数据集开展更全面的跨数据集评估，以进一步验证模型在当前研究数据集之外的鲁棒性、可迁移性与泛化能力。
