ANCHOR：通过元认知任务锚定增强大语言模型的复杂推理

《Neurocomputing》：ANCHOR: Enhancing complex reasoning in large language models via metacognitive task anchoring

　　

摘要大型语言模型（LLMs）展现出了卓越的生成能力，但在复杂的多步推理方面仍面临严峻挑战，包括逻辑一致性不足、任务漂移和评估干扰。现有的推理增强方法通常依赖于固定流程或隐性约束，限制了其适应性。为了解决这些挑战，我们提出了用于协作整体优化推理的锚定导航（ANCHOR），这是一个基于元认知调节理论的多智能体协作框架。与侧重于局部连贯性的传统思维链（Chain-of-Thought）方法不同，ANCHOR 建立了一个全局的“任务锚定”机制，以显式地引导推理过程。具体而言，该框架协调四个专门化的智能体——章程（Charter）、舵手（Helm）、观察者（Watch）和船长（Skipper），分别致力于任务锚定、执行、评估和控制，形成一个自反馈闭环。该系统通过非干扰评估确保推理链的完整性，并根据任务复杂度动态调整迭代深度。在涵盖数学、逻辑、常识和世界知识领域的 12 个基准测试上的大量实验证明了该框架的有效性。ANCHOR 在 GLM-4-Flash 和 Doubao-1.5-Lite 上分别实现了 72.74% 和 80.15% 的平均准确率，显著优于思维链、自洽性和思维树等基线方法，优势幅度高达 8.81 个百分点。此外，我们发现了“锚定误指定收敛”现象，即系统在错误的锚定下可能实现高一致性但低正确性，这为多智能体推理系统的元认知局限性和稳定性提供了新的理论见解。

引言大型语言模型（LLMs）在一系列任务中展现出了卓越的生成和推理能力，包括自然语言理解、基于知识的问题回答和多步推理，从而推动了人工智能的认知进化。然而，尽管它们在语言生成方面取得了显著成就，现有研究表明，LLMs 在复杂推理场景下仍面临巨大挑战。这些挑战包括逻辑一致性不足、任务理解不稳定以及对推理路径的可控性有限 [1], [2]。这些问题表明，当前模型的推理过程更依赖于表面模式匹配，而非深度的语义和逻辑建模。最近的研究观察到，即使在数学推理任务中引入了显式的推理提示，模型仍可能表现出系统性偏差并产生错误结论，这表明缺乏目标导向的推理约束机制 [3]。例如，在多步推理中，模型经常经历任务漂移，这是一种逐渐偏离原始问题目标的现象。此外，当评估机制嵌入推理生成过程中时，可能会引起评估干扰，从而损害推理链的完整性。因此，开发能够在推理过程中保持目标一致性和推理透明度的结构化方法，已成为增强 LLMs 认知推理能力的关键研究方向。

近年来，在可解释推理范式下提出了各种方法，旨在通过显式的中间步骤或自我反思机制来增强 LLMs 的推理能力。思维链（CoT）方法首先证明了生成中间推理步骤可以有效提高复杂任务上的准确率 [4]。自洽性策略通过多路径投票进一步增强了推理稳定性 [5]。随后，思维树（ToT）框架将推理建模为树状搜索过程，以系统地探索多样化的思维路径 [6]。Reflexion [7] 和 Self-Refine [8] 引入了自我评估和反馈机制，实现了对输出的迭代优化。同时，诸如从少到多提示 [9] 和分解提示 [10] 等方法强调了任务分解和结构化引导的重要性。总的来说，这些研究推动了方法论从直接生成向分阶段推理的转变，为实现类似人类的多阶段认知控制提供了理论和技术基础。

然而，现有的推理增强方法仍存在系统性局限。首先，大多数方法缺乏显式的任务结构建模，导致推理过程依赖于隐性语义约束，并在不同任务上表现不一致 [2], [9]。其次，迭代推理通常遵循固定流程，无法根据任务复杂度或推理状态进行动态调整 [11]。第三，评估机制往往关注最终结果而非推理过程本身，使得难以实现推理质量的阶段性评估和自适应终止 [12], [13]。此外，现有研究表明，在缺乏显式自我监控的情况下，LLMs 倾向于表现出类似人类的认知偏差，如锚定效应和过度自信，这可能会破坏推理的稳定性和可解释性 [14], [15]。综上所述，当前的框架尚未在推理的可控性和可解释性之间实现令人满意的平衡，凸显了对一种结合显式任务锚定、质量监控和自适应调节能力的新推理范式的需求。

为了解决这些挑战，本文提出了 ANCHOR（用于协作整体优化推理的锚定导航），一个多智能体协作推理框架。基于认知心理学中的元认知调节理论 [16]，ANCHOR 建立了一个具有任务导向、自我监控和动态调节特征的推理系统。在推理开始时，框架建立任务锚点，显式定义目标和评估维度，引导模型在多轮生成过程中保持与任务目标一致的语义连贯性和逻辑一致性。该框架由四个专门化的智能体组成：章程（Charter）、舵手（Helm）、观察者（Watch）和船长（Skipper），分别负责任务锚定、解决方案生成、质量评估和迭代控制。这些智能体共同形成了一个自反馈闭环机制。

我们的主要贡献包括：
•我们提出了 ANCHOR，一个多智能体协作推理框架，将规划、执行、监控和控制集成到基于认知科学理论的闭环元认知架构中。该框架为大型语言模型提供了结构化的推理指导，增强了复杂多步推理过程中的目标一致性和推理链完整性。
•我们引入了一种自适应迭代控制机制，根据任务复杂度和推理状态动态调整迭代深度和轮次，在效率和性能之间实现平衡。实验结果表明，ANCHOR 在不同任务类型上表现出差异化的迭代模式，验证了其对认知任务特征的敏感性。
•我们揭示了多智能体协作推理的内在机制和失败模式。消融研究表明，非干扰评估机制和偏差预防机制在模型性能中起着关键作用。此外，我们发现了锚定误指定收敛现象，即系统在错误的任务锚定下可能实现高一致性但低正确性，这为 LLMs 的元认知局限性和多智能体推理系统的稳定性提供了新的见解。
•我们在涵盖数学、逻辑、常识和世界知识领域的 12 个基准测试上验证了该框架的有效性。ANCHOR 显著优于不同架构 LLMs 上的思维链、自洽性和先进的基于搜索的思维树基线方法，展示了强大的跨模型适用性和机制鲁棒性。

章节片段大型语言模型的推理提示技术大型语言模型（LLMs）在自然语言理解和生成方面展现出了强大的泛化能力 [17]。然而，当面临需要多步逻辑推理、数学计算或常识整合的复杂任务时，这些模型往往缺乏显式和稳健的推理结构 [1], [18]。为了解决这一局限性，提出了 CoT 提示技术，通过使模型能够生成中间推理步骤来增强模型的可解释性和逻辑连贯性。

框架概述ANCHOR（用于协作整体优化推理的锚定导航）是一个多智能体协作框架，旨在增强大型语言模型（LLMs）在复杂任务中的推理能力。该框架解决了多步推理中常见的关键挑战，包括任务漂移、评估干扰和认知偏差。与依赖外部工具或知识库的现有方法不同，ANCHOR 完全基于内在...

实验设置我们在从 GSM8K、StrategyQA 和 Big-Bench Hard (BBH) 基准测试套件中选取的 12 个推理任务上评估了 ANCHOR 的性能。遵循既定的分类框架 [47]，我们将这 12 个任务分为四种推理类型：数学推理、常识推理、逻辑推理和世界知识。表 1 展示了实验任务的分布以及相应的数据集信息。GSM8K 评估算术能力和逐步推理...

讨论在我们的基准测试套件的 12 个任务中，有三个是专门设计用于评估在具有现实世界问题特征的模糊性下的推理。消歧问答测试语义歧义消解，其中仅靠句子上下文不足以进行消歧。讽刺语识别（Snarks）测试讽刺检测，其中字面意义与意图意义存在分歧。因果判断需要在没有显式逻辑运算符的情况下对因果关系进行推理。这些任务作为原则性的...

结论本研究提出了 ANCHOR（用于协作整体优化推理的锚定导航），一个基于认知科学元认知调节理论的多智能体协作推理框架，旨在增强大型语言模型在复杂任务中的推理能力和稳定性。ANCHOR 通过四个专门化的智能体：章程（任务锚定）、舵手...构建了一个具有任务导向、自我监控和动态调节特征的推理系统。

CRediT 作者贡献声明王金水：写作 – 审查与编辑，软件，方法论，概念化。郑陈智：写作 – 初稿，可视化，方法论。唐正毅：写作 – 审查与编辑，调查，数据整理。谢晓珠：写作 – 审查与编辑，监督，项目管理。

竞争利益声明作者声明，他们没有已知的竞争性经济利益或个人关系可能影响本报告中所述工作的客观性。

致谢本研究得到了中国福建省自然科学基金（项目编号：2026J0011028）、中国福建省教育科学规划招生考试重点项目（项目编号：FJJKKS24-21）以及中国厦门软件供应链安全公共技术服务平台开放基金（项目编号：3502Z20231042）的支持。

王金水于 2013 年获得中国复旦大学计算机软件与理论博士学位。他是福建理工大学计算机科学与数学学院的副教授。他曾作为访问学者在澳大利亚国立大学工作。他的主要研究方向包括大规模语言模型、自然语言处理、深度学习和智能教育。

王金水|郑陈智|唐正毅|谢晓珠
福建理工大学 计算机科学与数学学院，中国福州