综述：关于大型语言模型中提示工程与上下文工程技术的全面综述

《INTERNATIONAL JOURNAL OF PLASTICITY》：A comprehensive survey of prompt engineering and context engineering techniques in large language models

　　

顿莫伊·德布纳特|穆德·努鲁尔·阿布萨尔·西迪基|穆罕默德·埃纳耶图尔·拉赫曼|普罗森吉特·达斯|安图·库马尔·古哈|穆罕默德·雷扎乌尔·拉赫曼|H.M. 迪普·卡比尔

摘要

大型语言模型（LLMs）的快速发展使得人工智能能够解决复杂问题。然而，它们的性能仍对输入表述和上下文管理极为敏感。尽管提示工程起着关键作用，但它往往被视为一种经验性的、临时的做法，缺乏标准化的理论框架，从而导致输出不一致、对提示敏感以及产生幻觉等问题。本研究对提示工程和上下文工程技术进行了全面的系统性文献综述，将零散的范式整合为一个连贯的分析框架。我们提出了一个涵盖整个提示生命周期的结构化分类体系，将零样本学习和少样本学习等基础方法与思维链（CoT）、检索增强生成（RAG）以及多步骤推理架构（如思维树、思维图）等先进策略分类在一起。此外，我们还从不同LLM架构的角度对这些技术进行了批判性评估，重点分析了它们在减少幻觉、确保事实一致性以及使输出符合人类意图方面的有效性。通过分析从输入层语言控制向系统层上下文协调的转变，我们指出了上下文稀释和计算开销等持续存在的局限性。最后，我们概述了自动化提示优化、基于可靠性的提示设计以及智能体系统等新兴研究方向。本综述为那些致力于构建强大、可解释且能适应特定领域的人工智能系统的研究人员和实践者提供了重要的参考和决策依据。