面向成本高效的大语言模型部署的提示词与路由协同进化优化方法（CORAL）

《Frontiers in Artificial Intelligence》：CORAL: co-evolutionary optimization of routing and adaptive prompts for cost-efficient LLM deployment

　　

论文摘要专业翻译 在实际部署大语言模型（Large Language Model, LLM）时，不仅需要权衡答案质量，还需兼顾生成每个答案的成本与延迟，单一固定模型很难有效实现这种平衡。为解决这一问题，现有研究采用两种方法论：一是固定提示词（prompt）不变而选用最佳模型，二是根据查询（query）改变提示词的同时更换模型。研究人员设计了一种利用提示词–路由协同进化问题（Prompt–Router Co-Evolutionary Problem, PRCP）的模型，即CORAL，全称为路由与自适应提示词的协同进化优化（Co-Evolutionary Optimization of Routing and Adaptive Prompts）。该方法将模型选择与提示词模式视为相互关联的操作，并旨在同时提升二者的性能。具体实现方式是维护两个种群：一个用于提示词，另一个用于路由策略，使二者之间形成相互关联的耦合。整个过程由多目标优化技术（NSGA-II/III）引导，以提升正确性、成本平衡、吞吐量与延迟等指标。用于评估的测试数据集包括MMLU、GSM8K和WildChat，用以衡量AI模型性能。结果表明，CORAL比现有方法更具成本效率。在GSM8K上，在匹配的准确率水平下，相较于RouteLLM，成本降低了31.4%；在匹配的成本预算下，同样在GSM8K上，准确率最高提升了4.8个百分点，并将平均每查询延迟降低了12.2%。综合来看，这些发现表明，将提示词设计与模型选择视为耦合决策而非独立步骤，为更低成本、更高准确率的大语言模型部署提供了一条切实可行的路径。本文提出的PRCP形式化框架为未来研究该耦合问题提供了可复用的研究范式。

论文解读文章

一、研究背景与问题提出

随着大语言模型在生产环境中的规模化部署，推理成本已成为企业构建AI系统时面临的重大挑战。论文指出，单次查询GPT-4o的成本约为同查询调用70亿参数开源模型的50倍。以每日10万次查询的部署规模计算，这一成本差异意味着每月数万美元的推理支出差额。行业调查显示，推理成本已占中型企业大语言模型总运营预算的60%–80%。因此，核心挑战并非强模型不必要——许多查询确实需要强模型——而在于现有工具区分哪些查询需要昂贵模型、哪些不需要的能力仍然有限，尤其是当查询难度不仅取决于查询本身，还取决于其表述方式时。

针对这一问题，已有研究沿两条独立路线展开：一是路由（routing）研究，即给定查询，决定由哪个模型处理。RouteLLM和Hybrid-LLM等方法训练分类器预测哪些查询可由较便宜模型充分回答，在标准基准上以极小准确率损失削减成本35%–85%。二是提示词优化（prompt optimization）研究，即给定固定模型，寻找更好的查询表述方式。EvoPrompt、OPRO和DSPy等方法在提示词空间中搜索以提升任务准确率。然而，两条研究路线均独立运作，均未回答本研究的核心问题：当查询的表述方式改变了回答该查询所需模型时，会发生什么？

论文论证，提示词设计（prompt design）与模型选择（model selection）之间存在本质耦合关系：最佳提示词取决于所用模型，而最佳模型取决于所用提示词。具体而言，通过精心设计的提示词（如链式思维引导），原本需要强模型才能解决的困难查询可能变得对弱模型也可解，从而完全避免升级到昂贵模型。反之，将复杂提示词应用于相对简单的模型，在解决原始提示词方面很少是经济的。独立优化提示词或路由均无法利用这一耦合关系带来的成本节约空间。

二、研究内容与核心贡献

针对上述问题，研究人员提出了CORAL框架——一种协同进化多目标优化方法，在联合的（提示词×模型）空间中进行搜索。CORAL维护两个种群：提示词基因库（Population A）和路由策略池（Population B），二者通过协同进化机制相互施加选择压力。路由策略对提示词施加选择压力（导致路由错误的提示词受到惩罚），提示词也对路由策略施加选择压力（当提示词进化使困难查询对弱模型可解时，路由器必须协同适应以识别该信号）。整个优化过程由NSGA-II/III多目标优化算法引导，同时优化准确率、成本和延迟三个目标。

论文的主要贡献包括四个方面：第一，首次正式定义了提示词–路由协同进化问题（PRCP），并给出构造性理论论证，证明在标准分布假设下独立优化是次优的；第二，提出了CORAL算法框架，利用NSGA-II/III在联合空间中导航，并引入跨种群遗传算子（包括协同适应度评估和跨种群交叉算子）；第三，在MMLU、GSM8K和WildChat三个基准上进行了全面实验验证，证明在所有基线上均实现了一致的Pareto改进；第四，通过系统消融实验证实协同进化耦合机制是决定性因素，独立种群优化后贪心组合无法恢复Pareto改进。

三、关键技术方法

研究人员采用的核心技术方法包括以下四个方面。第一，协同进化算法（co-evolutionary algorithm）：维护提示词和路由策略两个种群，通过协同适应度评估实现双向耦合——提示词的适应度取决于哪些路由器选择它，路由器的适应度取决于可用提示词集合。第二，多目标进化优化（multi-objective evolutionary optimization）：采用NSGA-II作为主要选择机制，当有效非支配前沿数量超过三个时切换至NSGA-III，同时优化准确率（最大化）、成本（最小化）和延迟（最小化）三个目标。第三，跨种群遗传算子（cross-population genetic operators）：包括提示词–路由器交叉（prompt-router crossover），将路由器决策阈值与提示词难度分布对齐；以及路由器引导的提示词剪枝（router-informed prompt pruning），对路由器无法正确路由的提示词施加额外变异压力。第四，LLM介导的提示词变异（LLM-mediated mutation）：利用强LLM作为变异算子，根据随机采样的变异指令修改提示词模板。实验数据来源包括MMLU（知识密集型多领域推理）、GSM8K（多步数学问题求解）和WildChat（开放域对话任务）三个基准数据集。

四、研究结果

PRCP问题形式化与理论论证。 论文将提示词生成与模型路由的联合优化问题正式定义为PRCP，即对P×M联合空间的Pareto前沿搜索。构造性理论论证表明，当弱模型与强模型各自的最优提示词不同时，任何独立优化路由和提示词的系统都无法恢复联合空间中的全部Pareto最优点。独立提示词优化器在强模型上训练时收敛于强模型的最优提示词区域，不会探索对弱模型有效的提示词区域；独立路由器仅基于原始查询特征分类，无法感知改写后查询可被弱模型处理的信号。

CORAL框架的架构设计与机制验证。 CORAL由三个核心组件构成：提示词基因库（维护N_P=50个提示词染色体，每个染色体编码为（模板，模型层级，难度签名）三元组）、路由策略池（维护N_R=30个路由染色体，每个编码为浅层梯度提升树分类器，输出联合的（模型ID，提示词变体ID）决策对）和协同进化优化引擎。协同适应度评估机制使提示词适应度取决于哪些路由器选择它，路由器适应度取决于可用提示词集合。论文通过具体示例展示了协同进化的运行机制：在第12代，LLM介导变异生成新提示词“逐步求解并展示每个计算步骤：{查询}”，标记为弱模型层级；在第13代，协同适应度评估将该提示词与将查询路由至弱模型的路由器配对，联合适应度在成本和延迟上同时支配原始配对，从而加入Pareto存档。到第40代，CORAL积累了数十个此类（提示词，路由器）配对，将结构相似的查询从昂贵的强模型调用重定向至带链式思维脚手架的低成本弱模型调用。

实验评估与性能对比。 在GSM8K基准上，在匹配的准确率水平下，CORAL相较于RouteLLM成本降低31.4%；在匹配的成本预算下，准确率提升最高达4.8个百分点；平均每查询延迟降低12.2%。在MMLU和WildChat上同样观察到一致的Pareto改进，但收益在结构化推理任务上最强，开放域对话任务上的改进为正但较小。全权衡曲线显示，在极低成本的运行点上，CORAL相对于基线的优势收窄。超体积指标（hypervolume indicator）比较表明，V_CORAL > max(V_RL, V_EP)在全部三个基准数据集上成立，为联合优化优于独立优化提供了可测量的证据。

消融实验。 系统消融协同进化耦合机制后确认，联合协同进化是实现Pareto改进的决定性因素。独立种群优化后贪心组合无法恢复Pareto改进，证明跨种群耦合机制而非任何单一技术组件是CORAL性能优势的来源。

五、讨论与结论

讨论部分指出，CORAL的收益在结构化推理任务（如GSM8K）上最为显著，原因在于这类任务的查询难度可通过提示词脚手架有效降低，从而使弱模型能够胜任。在开放域对话任务（如WildChat）上改进较小，可能因为此类查询的难度更依赖于模型本身的广泛知识而非提示词结构。论文也承认CORAL的局限性：离线优化成本对低流量应用可能过高；在极低成本的运行点上，相对于基线的优势收窄。未来研究方向包括将框架扩展到更多模型和任务类型，以及探索更高效的协同进化策略。

研究结论表明，将提示词设计与模型选择视为耦合决策而非独立步骤，为更低成本、更高准确率的大语言模型部署提供了一条切实可行的路径。PRCP问题形式化框架为未来研究提示词与路由的耦合优化提供了可复用的理论基础。CORAL在三个基准数据集上的全面实验验证和消融分析，为协同进化方法在大语言模型部署优化中的有效性提供了有力证据。