行动中的心理理论：动态人机协作中的指令推断任务

《Artificial Intelligence》：Theory of Mind in Action: The Instruction Inference Task in Dynamic Human-Agent Collaboration

　　

成功的人机团队协作依赖于智能体理解由人类委托人发出的指令。在许多情况下，指令可能不完整或含混。此时，智能体必须从共享语境中推断未明说的意图，即必须运用委托人的心理理论（ToM）推断其心理状态。研究人员考虑了利用大语言模型（LLM）实现高效人机协作的前景。为在动态、目标导向且协作化的环境中评估ToM，研究人员引入一项新任务——指令推断（Instruction Inference），其中智能体通过解释不完整或含混的指令协助委托人达成目标。研究人员提出Tomcat，一种基于LLM的智能体，旨在解释并响应委托人指令时展现ToM推理。研究人员实现了Tomcat的两个变体：其一称为Fs-CoT（Fs指少样本，CoT指思维链），基于少量展示所需结构化推理的示例；其二称为CP（常识提示），依赖常识知识与问题信息。研究人员在三种主流LLM（即GPT-4o、DeepSeek-R1与Gemma-3-27B）上实现了Tomcat的两个变体。为评估Tomcat效能，研究人员开展了含52名人类参与者的研究，向参与者提供与CP变体相同的信息，并计算意图准确率、动作最优性与规划最优性以衡量Tomcat及参与者的ToM能力。研究人员发现，采用Fs-CoT的Tomcat（尤其在GPT-4o与DeepSeek-R1上）取得与人类参与者相当的性能，凸显其在人机协作中的ToM潜力。

研究背景方面，自然交流极少局限于字面语言，协作常借助间接表达，其意涵须由语境线索与共享任务理解推断，这预设了理解协作者心理状态的能力，即心理理论（ToM）。传统自主智能体缺乏语用语境时往往按字面解指令，在指令不完整或含混时失效。大语言模型（LLM）展现出兼顾语用语境与复杂语言推理的涌现能力，但既有ToM评测多依赖静态基准（如错误信念、失礼检测），未检验智能体能否在协作环境中用ToM推断未明说指令并恰当行动。为此，研究人员在《Artificial Intelligence》发表该研究，提出指令推断任务与Tomcat智能体，以动态、目标导向的人机协作场景填补上述空白。

关键技术方法上，研究人员构建含20个场景的指令推断数据集，基于Grice合作原则将指令分为清晰、不完整（违反数量准则）与含混（违反方式准则）三类，环境为Doors, Keys, and Gems网格世界；实现Tomcat两变体——常识提示（CP，含两段问题走查）与少样本思维链（Fs-CoT，k=7示例且剔除网格态以防上下文溢出），部署于GPT-4o、DeepSeek-R1、Gemma-3-27B（温度0.2，最大512 token）；同步招募52名STEM背景被试按CP条件完成10场景/人作为人类基线。

研究结果部分，引言指出协作解歧依赖一阶ToM，LLM为 bridging gap 提供路径。相关工作比对FANToM、NegotiationToM、BigToM等基准，凸显指令推断唯一融合人–机、目标驱动、动态不确定指令之特性。指令推断章节定义委托人（模拟人）与智能体（人或LLM）角色，给出Doors, Keys, and Gems环境坐标示例，依Grice四准则界定不完整（Quantity）与含混（Manner）指令并弃用无效（Quality）与无关（Relation）类；管道要求输出类型分类、自然语言响应与枚举动作序列。Tomcat框架章节阐明公共地基（Common Ground）、响应生成（含类型判据与动作规划）与示范例示三组件，CP变体在例示中保留初/观/完网格态，Fs-CoT变体去网格态并增规则提示。实验章节显示：52参与者（本科生/研究生）与3 LLM×2变体×20场景对照；Fs-CoT下GPT-4o与DeepSeek-R1在意图准确率、动作最优性、规划最优性上媲美人类，Gemma-3-27B稍逊；CP变体整体弱于Fs-CoT；人类在含混指令上亦非完美，验证任务区分度。

讨论与结论翻译：研究人员结论为，指令推断任务可有效评测动态协作中的目标导向ToM；Tomcat结合Fs-CoT在GPT-4o与DeepSeek-R1上达人类水平，证明结构化少样本推理链能诱发LLM可靠建模委托人信念与意图；CP变体仅靠常识走查不足以稳定触发ToM；该研究为人机团队协作中语用指令解释提供可复现基准与提示工程范式，局限在于场景规模与网格世界抽象，高阶ToM（二阶及以上）未深挖。