一种用于工业代码审查中值得信赖的代理式人工智能（Agent AI）的神经符号框架

《Information and Software Technology》：A Neuro-Symbolic framework for trustworthy agentic AI in industrial code review

　　摘要背景：自主AI组件，如自动审查器和重构工具，越来越多地嵌入到开发工具链中，成为控制软件质量的关键架构元素。在以数据为中心的系统中，例如制造执行系统（MES），这些组件必须处理跨越易变的应用代码和持久数据库元素的跨层行为的复杂性。目标：我们将代码审查视为自主AI的一种架构能力，并提出策略来弥合应用逻辑和数据库行为之间的“语义差距”，从而降低与AI幻觉相关的风险。方法：我们引入了一个神经符号框架，该框架构建了一个确定性的跨层依赖图（CLDG），将应用程序方法与数据库副作用联系起来。这种符号上下文为生成式AI代理提供了基础，使它们能够提供可验证的解释和准确的修复建议。结果：在一个为期3个月的工业试点项目中（342个拉取请求），该系统识别出了20个高严重性的漏洞（12个SQL注入，8个潜在的死锁），而这些漏洞被基线流程遗漏了，准确率达到87.0%。该框架将平均审查迭代次数从2.4次显著减少到1.1次。主动重构建议的总体接受率为71%，开发者的信任度和采用率随时间显著提高（p<0.001和p<0.01，Wilcoxon符号秩检验）。结论：将自主AI视为一个结构组件，并将其与确定性的跨层上下文相结合，显著提高了数据为中心的企业环境中的审查覆盖率、运营效率和可信度。

引言
MES作为核心车间基础设施，通过面向操作员的面板PC（PPC）协调生产执行，同时与更高级的企业系统接口以支持高吞吐量的生产环境[1]。这些系统面临双重挑战：在逐渐现代化仍然与单体数据库耦合的旧代码库的同时保持高可用性。关于DevOps采用的系统性文献回顾强调，转型结果取决于自动化实践和组织协作等关键成功因素[2]。在这种情况下，软件故障可能会直接导致生产中断。同时，AI能力正越来越多地作为架构组成部分集成到软件生命周期中，而不是外部附加组件。这一转变的标志是自主AI的出现——能够感知、推理并对代码库采取行动的自主软件组件[3]。示例包括嵌入在代码审查和持续集成及持续部署（CI/CD）中的基于LLM的助手、控制合并的决策策略以及自动化重构系统。这些组件影响运行时和组织结果，包括发布节奏和缺陷泄露，因此需要架构设计和质量保证。AI生成内容（AIGC）和代码辅助工具[4][5]的进步激发了对自主审查工作流的兴趣；然而，特别是在安全关键环境中，可靠性问题仍然存在。先前的研究表明，AI辅助的代码生成可能会引入安全漏洞[6]。这些观察结果促使人们结合概率代理输出与确定性检查和明确上下文的方法。将自主代理应用于企业系统的一个关键挑战是“语义差距”。这种差距代表短暂的应用逻辑（无状态）与持久数据库状态（有状态）之间的脱节。尽管这种架构挑战出现在各种以数据为中心的企业系统中，包括ERP系统、金融平台和紧密耦合的微服务[7]，但我们专注于MES，因为这个领域在操作条件特别严格的情况下呈现了这个问题。与典型的基于云的应用程序不同，工业MES必须在严格的本地安全约束下维持非常高的运行吞吐量，通常每秒数千笔交易，同时业务逻辑经常分布在数据库存储过程中以保持事务完整性。因此，证明一个通用框架可以在MES的可用性和数据耦合约束下弥合“语义差距”为后续适应更传统的企业环境提供了保守的基础。标准的静态分析工具（SAST）经常产生误报，因为它们无法分析数据库模式上下文。同样，纯生成式代理在没有对底层数据模型有正式理解的情况下难以预测运行时故障，例如数据库死锁。为了解决这些挑战，我们提出了一种可信赖的自主AI的架构框架，该框架将确定性依赖解析与神经符号分析相结合（图1）。这种方法通过强制执行严格的跨层上下文验证作为架构策略，扩展了之前的基于LLM的SAST方法。

我们解决了以下研究问题（RQs）：
• RQ1（有效性）：神经符号方法在多大程度上可以检测到传统静态分析遗漏的跨层缺陷，如数据库死锁？
• RQ2（效率）：引入自主AI对审查过程负担和技术债务管理有何影响？
• RQ3（采用）：工业从业者如何看待多代理系统在安全关键环境中的可解释性和可靠性？

本研究有三个主要贡献：
1. 我们介绍了跨层依赖图（CLDG），这是一种捕获异构语言（C#/Java ? SQL）之间依赖关系的正式表示。CLDG支持基于图的LLM代理的确定性上下文检索（基于证据的替代方案，而不是基于向量的RAG），从而能够检查与并发相关的风险。
2. 我们定义了一组用于协调多代理审查（审查、安全、性能）的架构策略，以确保可解释性和可靠性。
3. 我们报告了在现代摩比斯（Hyundai Mobis）的工业评估中，该系统识别出20个基线流程未报告的高严重性发现，并且主动重构的接受率为71%。

尽管我们的方法与GraphRAG[8]有关，但我们没有在文档上构建基于LLM的知识图谱。相反，我们使用从编译器和SQL解析工件确定性地构建的类型化跨层依赖模型来实现程序语义图基础的检索。这使得通过验证的执行和事务路径（包括数据库副作用和锁定语义）进行检索成为可能，这对于在工业约束下的保守正确性至关重要（本地部署、安全关键操作和严格治理）。

本文的其余部分组织如下。第2节总结了关于以数据为中心的架构和基于LLM的分析的相关工作。第3节描述了所提出的架构和基于CLDG的混合验证方法。第4节介绍了实施细节。第5节报告了工业评估结果。第6节讨论了对于AI驱动的架构和运营治理的影响。第7节进行了总结。

MES中的基础设施和安全约束
与基于云的企业应用程序不同，MES在物理和监管约束下运行。这些系统持续运行，并与车间设备接口，包括可编程逻辑控制器（PLCs）和物联网（IoT）传感器。在目标环境中，系统平均每秒处理3000笔交易（TPS），因此与并发相关的故障可能会产生运营影响。因此，MES基础设施主要部署在“本地”。

我们的架构框架旨在协调自主AI模型的能力与传统MES环境的严格运营约束（图1）。我们通过分析工业约束（MES）与生成式代理的局限性之间的紧张关系得出了设计目标。

实施
我们开发了一个针对高可用性工业环境的参考实现，以验证我们的架构主张。该系统被设计为一个模块化的微服务套件，确保推理引擎、静态分析工作者和SCM集成层之间的严格解耦。这种模块化对于维持第3.1节中描述的数据安全边界至关重要。

工业评估
我们在现代摩比斯的制造部门进行了一项现场研究，围绕三个研究问题（RQs）验证了所提出的框架：
• RQ1（有效性）：神经符号方法在多大程度上可以检测到传统静态分析遗漏的跨层缺陷？
• RQ2（效率）：这对审查过程负担和技术债务管理有何影响？
• RQ3（采用）：开发者如何看待多代理系统在安全关键环境中的可解释性和可靠性？

讨论
可追溯性和证据。实际上，没有支持证据的推荐难以评估，在审查过程中可能会被拒绝。通过强制使用包含理由、证据和规则引用的结构化JSON输出，该框架为讨论和决策提供了可追溯的基础。

对研究的意义
这项研究为神经符号软件工程（NSE）[37]的知识体系做出了贡献。最近的观点强调，NSE不仅仅是一种混合技术。

结论
本文提出了一种用于数据为中心的MES环境中自动代码审查的新型神经符号框架，解决了应用代码和数据库逻辑之间的关键“语义差距”。核心贡献是确定性跨层依赖图（CLDG），它模型化了隐藏的依赖关系，并使得基于规则的并发危险筛选成为可能，而这些危险逃避了传统分析。在一个包含342个拉取请求的工业试点项目中，该框架识别出了20个高严重性的缺陷。

术语表
• AIGC（AI生成的内容）：由人工智能模型生成的内容，如文本、代码或图像。
• CLDG（跨层依赖图）：本文提出的一种正式图结构，用于建模应用逻辑和数据库模式之间的依赖关系。
• 混合验证：一种结合确定性静态分析和大型语言模型的语义推理能力的验证策略。
• LLM（大型语言模型）：在大量文本数据集上训练的深度学习模型。

CRediT作者贡献声明
Ji Hyun Park：撰写——原始草稿、软件、项目管理、方法论、概念化。
Yong Gyu Kim：撰写——审查与编辑、监督、概念化。

在准备手稿过程中声明生成式AI和AI辅助技术
在准备这项工作时，作者使用了Gemini（Google）来改进英语表达并验证LaTeX语法。使用此工具/服务后，作者根据需要审阅和编辑了内容，并对已发表文章的内容承担全部责任。

资金支持
这项工作得到了现代摩比斯的支持。

利益冲突声明
作者声明了以下可能被视为潜在利益冲突的财务利益/个人关系：Jihyun Park报告说现代摩比斯提供了财务支持。Jihyun Park与现代摩比斯的关系包括就业。Yong Gyu Kim与现代摩比斯的关系包括就业。如果有其他作者，他们声明没有已知的财务利益或可能影响研究的个人关系。

Ji Hyun Park | Yong Gyu Kim
现代摩比斯制造IT团队，203, Teheran-ro, Gangnam-gu, Seoul, Republic of Korea