代码智能任务中代码简化方法的实证研究

《ACM Transactions on Software Engineering and Methodology》：An Empirical Study of Code Simplification Methods in Code Intelligence Tasks

研究分析预训练语言模型在代码智能任务中的应用，提出预处理和后处理代码简化解法，发现需任务特定方法优化效果，并建议将简化策略融入模型预训练以提升性能。

　　

摘要

近年来，预训练的语言模型在自然语言处理领域取得了显著的成功，并越来越多地应用于与代码相关的任务中。在代码预训练语言模型的支持下，代码智能任务表现出了良好的性能。为了在保持任务效果的同时减少模型输入中的代码元素，人们引入了代码预处理简化方法。这些方法提高了代码智能任务的效率，同时降低了计算成本。预测后的代码简化方法可以为代码智能任务的结果提供解释，从而增强了模型预测的可靠性和可解释性。然而，目前还缺乏针对不同代码预训练模型架构和代码智能任务的全面评估。为了评估代码简化方法的有效性，我们进行了一项实证研究，将这些代码简化方法与多种预训练的代码模型结合应用于多个代码智能任务中。

我们的实证研究结果表明，开发特定于任务的代码简化方法将具有积极作用。此外，我们建议利用预测后的方法来总结先前的知识，以优化代码简化策略。同时，建立更完善的代码简化评估机制也非常重要。最后，我们提出将代码简化方法纳入代码预训练模型的预训练阶段，以提升模型的程序理解能力和代码表示能力。