基于语义等价转换的针对神经代码模型后门攻击：特征化与缓解

《ACM Transactions on Software Engineering and Methodology》：Semantically-Equivalent Transformations-Based Backdoor Attacks against Neural Code Models: Characterization and Mitigation

　　

摘要AI 摘要

要查看此 AI 生成的摘要，您必须拥有高级版访问权限。

了解更多登录

摘要

摘要

神经代码模型越来越多地被嵌入到软件开发工作流中，但它们对后门攻击的脆弱性构成了重大的安全风险。现有研究主要考察了基于注入的攻击，这些攻击将异常模式插入代码中，并且通常可以通过标准清洗和筛选来削弱。这种关注可能在对后门攻击的安全性方面造成一种虚假的安全感。在本文中，我们介绍了基于语义等价变换（SET）的后门攻击，这是一类新的攻击，使用保留语义的低流行度代码变换来生成隐蔽触发器。我们进一步提出了风格模式后门触发器（SPBT），这是一个用于构建和优先排序此类触发器的框架。我们在五项任务和六种语言中进行的实验，使用了包括 CodeBERT、CodeT5 和 StarCoder 在内的模型，表明基于 SET 的攻击实现了与基于注入的攻击相当的成功率，同时保留了模型效用。更重要的是，SET 基攻击被证明难以被评估的自动化防御和人工检查员检测到，显示出比基于注入的攻击低得多的可检测性。我们评估了基于归一化的对策，发现它们仅提供部分缓解。这些结果促使进一步研究针对 SET 基攻击的可扩展防御。

AI 摘要

AI 生成摘要（实验性）

此摘要是使用自动化工具生成的，未经文章作者撰写或审核。它旨在支持发现，帮助读者评估相关性，并协助来自相邻研究领域的读者理解该工作。它旨在补充作者提供的摘要，后者仍然是论文的主要摘要。完整文章仍然是权威的记录版本。点击此处了解更多。

点击 此处 评论此摘要的准确性、清晰度和有用性。这样做将有助于为改进和未来重新生成的版本提供信息。

要查看此 AI 生成的纯语言摘要，您必须拥有高级版访问权限。