探索信任领域的边界：大型语言模型在软件工程中的应用——见解与视角

《ACM Transactions on Software Engineering and Methodology》：Mapping the Trust Terrain: LLMs in Software Engineering - Insights and Perspectives

大型语言模型在软件工程中的应用正快速扩展，但其可靠性及信任问题亟待解决。通过综述88篇文献（含18篇LLM4SE研究及70篇信任相关文献），并访谈25位专家，研究发现LLM4SE中信任、怀疑及可信度等核心概念定义模糊，信任形成因素及评估指标尚不成熟。研究明确了当前理论框架的不足，提出了多维度信任机制构建方向，为提升LLM辅助开发的可信度提供理论支撑。

　　

摘要

大型语言模型（LLMs）在软件工程（SE）中的应用在业界和学术界持续快速增长。随着这些模型成为关键SE流程的重要组成部分，确保其可靠性和可信度变得至关重要。实现这一目标需要一种平衡的信任机制：过度的信任可能会引入安全漏洞，而信任不足则可能阻碍创新。然而，关于LLMs在SE中的信任机制（LLM4SE）的概念框架仍然不明确。诸如信任、不信任和可信度等关键概念缺乏精确定义，影响信任形成的因素尚未得到充分研究，用于评估LLMs信任度的指标也尚未建立。为了梳理当前的研究现状并确定未来的研究方向，我们对$88$篇相关文章进行了全面回顾；同时系统性地分析了$18$篇关于LLMs在SE中的研究，并参考了$70$篇来自更广泛信任研究领域的文献。此外，我们还调查了$25$位领域专家的意见，以了解实践者对信任机制的看法，并找出他们的经验与现有文献之间的差距。我们的研究结果为LLM4SE中与信任相关的概念提供了结构化的概述，指出了未来研究的关键领域。这项研究有助于构建更可靠的LLM辅助软件工程流程，从而推动LLMs在SE中的更安全、更有效的应用。