SDE-IG：一种基于图不变性学习的鲁棒恶意软件家族分类方法

《Computers & Security》：SDE-IG: A robust malware family classification method based on graph invariance learning

　　

摘要 现有的恶意软件家族分类方法在分布内数据上通常能够取得较高性能，但在面对不同的编译器、优化级别和高级代码混淆技术时，往往会过拟合于可变特征。这一漏洞严重降低了模型在复杂分布偏移下的泛化能力。此外，现有图不变性学习方法通常依赖于随机拓扑采样，这会破坏二进制代码固有的严格语义依赖关系。同时，简单地拼接动态特征与静态特征会引入底层系统调用噪声，从而对模型识别核心家族逻辑的能力产生不利影响。针对上述问题，本文提出了一种基于不变子图的鲁棒恶意软件家族分类框架SDE-IG。从静态视角出发，设计了一种跨环境不变子图提取机制，通过融合二进制语义先验与参数化图神经网络，将该机制将程序调用图解耦为一个表征核心语义的不变子图和一个捕获噪声的环境子图。这种分离旨在减少对可能因编译、链接和混淆设置不同而变化的环境依赖结构的依赖。为应对极端混淆可能导致的静态拓扑失效问题，SDE-IG引入了动态行为视图作为辅助语义证据。在端到端联合优化过程中，采用协作混合策略以模拟未知变体并拓宽分布边界。结合异步两阶段优化与门控残差校准机制，该方法有效地最小化了动态行为噪声对静态主干表示的干扰。实验结果表明，在本研究评估的按时间顺序划分的时序分布偏移条件下，SDE-IG实现了更好的跨时段分类稳定性。 引言 恶意软件家族分类是恶意软件分析和持久威胁检测中的一项基础且重要的任务（Sun et al., 2024）。通过提取恶意软件的家族稳定语义特征，安全分析人员可以有效地识别样本间的同源关系，分析家族演化模式，并为变体检测和持久防御提供支持。然而，在现实世界的二进制安全对抗场景中，恶意代码的数据生成机制具有极高的不确定性和对抗性。攻击者通常会利用不同的编译器版本、多样的编译优化选项（例如O0-O3）以及高级混淆技术（如控制流扁平化和虚假控制流）来批量生成变体样本（Duan et al., 2020）。这些变化可能导致历史训练样本与后续收集到的测试样本之间产生分布外条件和时序分布偏移（Pendlebury et al., 2019）。 面对如此复杂的分布偏移，现有的家族分类模型面临严峻挑战。传统方法，无论是基于一维序列的深度学习模型（Raff et al., 2017），还是传统图神经网络（Xu et al., 2017），大多依赖于全局表示的统计拟合。这种拟合方式极易捕获数据中的虚假相关关系（Geirhos et al., 2020），而这些关系会随环境剧烈波动。例如，模型可能会错误地将特定编译器自动生成的样板代码、静态链接的标准库函数或混淆器故意插入的冗余指令识别为家族分类的判别性特征。当这些模型被部署到未知编译环境或面对经过新型混淆技术处理的变体时，其过拟合的底层可变特征将变得无效，导致泛化能力和分类性能显著下降。此外，为弥补静态分析的不足，现有研究通常引入动态行为特征进行多模态增强（Gibert et al., 2020）。然而，静态特征与动态特征的简单拼接机制往往会引入大量底层系统调用噪声，这不仅无法有效净化特征，反而通过梯度反传污染了模型对静态核心逻辑的识别。 然而，在现实对抗场景中，由于恶意软件数据集通常仅提供家族标签，而缺乏描述编译器版本、优化级别、混淆策略或收集时间段的显式环境标注，提取跨环境稳定的拓扑特征仍然极具挑战性。因此，表1补充了与原始评估规模以及文献中报告的定性比较和代表性定量结果。 表1中的数值结果不应被直接解读为排行榜，因为各研究使用了不同的数据集、标签空间和评估协议。尽管EII-MBS和Self-Similarity在各自非时序设置下报告了较高性能，MalAtt在更广泛的野战数据集上报告了93.26%的准确率，但这些研究均未使用按时间划分的训练-测试协议评估时序分布偏移。此外，它们均未显式地将家族稳定表示与编译器特定的、混淆特定的或时段特定的组件分离开来，并通过跨环境不变性约束对其进行优化。因此，尚未解决的核心问题不仅仅是封闭集分类准确率，而是在编译变化、混淆扰动和长期恶意软件演化下的可靠泛化能力。这一差距促使了SDE-IG的提出，而其完整的实验结果保留在第4节中，未在引言中重复。 相比之下，我们的SDE-IG同时利用静态函数调用图和动态API行为图，并进一步引入了不变子图提取、协作环境不变混合以及轻量级门控残差融合机制。为解决显式环境标签缺失的问题并避免对单一分布过拟合，SDE-IG首先采用图不变性学习假设设计了一个基于参数化图神经网络的不变子图提取器。通过融合二进制语义先验和结构采样，该提取器将静态程序调用图解耦为一个不变子图（表征核心家族逻辑）和一个环境子图（捕获编译噪声）。其次，为弥补不变性学习中多环境监督信号的缺失，我们提出了一种协作混合策略，在图表示层面执行语义约束的环境扰动，并在隐流形空间中插值不变特征，主动构建具有强分布扰动的模拟变体域。这些自生成的多环境视图提供了更丰富的对比基础，以区分稳定的家族模式与环境特定的噪声。最后，为减少动态模态的冗余噪声，我们设计了一种异步两阶段优化与辅助决策机制，采用停止梯度策略保持静态不变表示的稳定性，并利用自适应门控实现静态-动态特征的协作利用与同源推断。这一整体设计使得模型在复杂分布偏移下能够学习更为稳定的家族判别性特征。 本研究的贡献归纳为以下三个方面： （一）科学与方法论贡献。我们将编译器变化、代码混淆和时序演化条件下的恶意软件家族分类问题形式化为在缺乏显式环境标签的情况下学习家族稳定图表示的问题。为应对该问题，我们开发了一种语义感知的不变子图学习方法，并辅以协作环境与不变混合机制。这些机制将稳定的家族相关结构与可变的环境特定组件分离开来，从而提升了跨环境泛化能力。 （二）技术与架构贡献。我们设计了一个两阶段静态-动态架构，其中静态不变表示作为主要分类主干，而运行时API行为仅作为受控辅助证据引入。停止梯度残差校准与自适应门控机制限制了动态行为噪声的干扰，同时允许动态分支补偿被加壳或混淆所损坏的静态拓扑。 （三）数据集与实证贡献。我们构建了MalEvo，一个时序性Windows PE恶意软件家族数据集，包含来自10个代表性家族、跨度为2021年至2025年的4292个样本。我们进一步建立了一种时序评估协议，即仅在2021年的样本上训练模型，并直接在2022年至2025年的样本上进行评估，未来年份的样本被排除在训练、验证、超参数调优和模型选择之外。该数据集与协议支持在长期时序分布偏移下对恶意软件家族分类进行时序评估。 段落节选 基于深度学习的恶意软件家族分类 现有恶意软件分类方法在输入粒度和表示目标上存在显著差异。基于序列的模型将原始字节或反汇编指令作为一维信号处理（Raff et al., 2017, Pascanu et al., 2015），而二进制表示方法如Asm2Vec和SAFE则学习指令级、基本块级或函数级的嵌入表示（Ding et al., 2019, Massarelli et al., 2019）。尽管Asm2Vec明确评估了对编译器的 概述 本节介绍了一种基于图不变性学习与多维动态-静态特征协作建模的鲁棒恶意软件家族分类框架。SDE-IG框架的核心理念是摒弃传统对易变底层特征（如特定编译器生成的样板代码）的过度拟合，转而从大量对抗样本中提取在不同环境下保持稳定的家族不变子图。通 过 实验环境 我们提出的SDE-IG使用PyTorch 2.4.0实现。所有实验均在一台工作站上完成，配置为：（1）CPU：Intel i9-13900 K；（2）内存：64 GB DDR4，2400MHz；（3）GPU：NVIDIA RTX 4090。 为提供充分的实现细节以支持独立复现，SDE-IG的完整实验配置汇总于表2。所有超参数均通过验证集选定，并在测试集评估前固定。 所有方法均独立训练并 讨论 时序MalEvo评估表明，在2021年至2025年的时间跨度内，SDE-IG在家族分类性能上强于所有评估基线。特别是，仅静态模型与完整模型的对比证明了不变性静态学习与动态行为校准对跨时段稳定性的互补贡献。以下讨论界定了这些发现的有效边界，并描述了SDE-IG如何集成到 结论 本文提出了SDE-IG，以在可能伴随长期样本演化以及二进制构建和运行时行为变化的时序与分布外偏移下改进恶意软件家族分类性能。从静态视角出发，SDE-IG通过语义与结构引导的提取、环境混合、不变混合和不变正则化来学习家族判别性不变子图。从动态视角出发，一种轻量级残差校准与门控融合机制 贡献声明 Sanfeng Zhang：方法论，概念构思。Zexiang Chen：撰写—审阅与编辑，撰写—原始稿件，数据整理。Fengzhou Zhu：可视化，验证，软件。 利益冲突声明 作者声明，他们没有已知的竞争性经济利益或个人关系可能影响到本文所报告的工作。 Sanfeng Zhang | Zexiang Chen | Fengzhou Zhu