施法：通过句子配对探索打破大型语言模型限制的方法

《Proceedings of the ACM on Software Engineering》：Casting a SPELL: Sentence Pairing Exploration for LLM Limitation-Breaking

　　

摘要AI总结

要查看此由AI生成的总结，您需要拥有高级访问权限。

了解更多信息登录

摘要

摘要

大型语言模型通过人工智能辅助编码工具彻底改变了软件开发领域，使得那些编程经验有限的开发者也能创建出复杂的应用程序。这种软件开发方式的普及大大降低了从事复杂编程任务的门槛。然而，同样的便利性也被恶意行为者所利用，他们可能借助这些强大的工具来生成有害软件，包括恶意软件、勒索软件以及其他安全威胁。现有的越狱研究主要关注针对大型语言模型的通用攻击场景，很少探讨将恶意代码生成作为越狱目标，而且也缺乏足够的技术能力来判断生成的代码是否符合预定的恶意目的。为弥补这一缺陷，我们提出了SPELL，这是一个专为大型语言模型开发者和安全团队设计的全面测试框架，用于评估恶意代码生成过程中的安全对齐问题。该框架采用时间分割选择策略，通过智能地组合现有知识库中的句子来系统地构建越狱提示语，从而在探索新型攻击模式与利用已有有效技术之间取得平衡。在三种先进的代码模型（GPT-4.1、Claude-3.5和Qwen2.5-Coder）上的广泛测试表明，SPELL具有很高的有效性，在八种恶意代码类别中，其攻击成功率分别达到了83.75%、19.38%和68.12%。在Cursor等实际的人工智能开发工具中，这些生成的提示语确实能够产生恶意代码，而且经过最先进的检测系统验证，这类代码被判定为恶意的比例超过了73%，其中有四个案例被所有检测工具认定为极其危险。这些发现揭示了当前大型语言模型实现中的重大安全漏洞，也为改进代码生成应用中的人工智能安全对齐提供了宝贵见解。

AI总结

AI生成的总结（实验性内容）

此总结是通过自动化工具生成的，并非由文章作者撰写或审核。它旨在帮助读者查找相关内容、评估文章的实用性，以及让相关领域的读者更好地理解这篇文章。它是对作者提供的摘要的补充，而作者提供的摘要仍是文章的主要总结内容。完整文章才是最具权威性的版本。点击此处了解更多。

点击此处，可以对这个总结的准确性、清晰度及实用性发表意见。您的反馈将有助于进一步优化未来的总结版本。

要查看此由AI生成的通俗语言总结，您需要拥有高级访问权限。