使用大语言模型设计经济决策人形智能体：基于认知架构和双过程理论的框架

《Decision Support Systems》：Designing humanoid agents for economic decision-making with LLMs: A framework based on cognitive architecture and dual-process theory

　　

摘要
拟人智能体是旨在以类似人类认知和行为方式思考与行动的智能实体。尽管它们在经济决策研究中日益重要，但缺乏全面的理论框架来指导此类智能体的设计。依托大语言模型（LLM），本文提出了一种整合认知架构和双系统理论的框架来解决这一缺口。遵循设计科学研究方法论，我们基于所提框架开发拟人智能体，并使用三项指标评估其性能：图灵测试、经典经济博弈中智能体与人类决策分布之间的库拉-莱布勒（KL）散度，以及基于混淆矩阵的指标。结果表明，基于所提框架设计的拟人智能体比基线智能体表现出更高程度的人类样行为。本文在拟人智能体设计和认知架构发展方面做出了以下贡献。首先，介绍了一种用于经济决策中设计拟人智能体的新框架，整合了认知架构和双系统理论。其次，通过 LLM 赋能，将基于双系统理论的推理模块纳入传统认知架构，从而扩展了认知架构的设计和应用潜力。

引言
随着经济系统复杂性的演变，创建模拟人类经济决策的 AI 智能体变得日益重要 [1], [2]。此类 AI 智能体提供了一种可扩展、低风险且效益成本有效的方法，用于理解个人和群体如何对新产品、定价策略或市场干预做出反应 [3]。组织可以利用这种方法进行低成本的用户研究，获取产品概念的早期反馈，并预测消费者购买意向，从而为资源配置和市场风险控制提供数据支持 [4]。对于研究人员而言，这些模拟提供了一个受控且可重复的环境进行假设测试，增强了其研究结果的高效性、稳健性和可推广性 [5]。此外，模拟人类经济决策使得能够建模群体层面的交互，为个人和组织提供预测性见解，以指导有效的系统设计和政策制定 [6]。

模拟人类经济决策的传统方法，如基于智能体的建模和认知架构，往往依赖结构化规则或理性智能体的假设 [7]。这些方法在适应现实场景方面存在局限性，特别是在适应性、泛化、动态学习和自然语言交互方面 [8]。随着人工智能的进步，大语言模型（LLM）已被应用于人类经济决策模拟研究。LLM 强大的语言处理和推理能力显示出模拟人类行为的巨大潜力 [9], [10], [11]。既往研究发现，LLM 可以表现出与人类相似的认知风格和个人特质，并能以类似人类的方式进行社交互动。例如，在基于 LLM 的虚拟小镇中，智能体参与类似人类行为的社会活动 [10]；LLM 驱动的推荐智能体可以以显著的准确率向用户推荐电影 [12]。

然而，上述 AI 智能体成功的一个重要衡量标准是其模拟正常人类的能力。只有当它的行为像正常人一样聪明或一样愚蠢时，组织才能通过与 AI 智能体的互动获得真实的反应。另一方面，现有使用 LLM 模拟人类的方法通常导致 AI 智能体具有比普通人过高的道德推理或过低的耐心 [13], [14]。虽然可以使用启发式方法调整基于 LLM 的智能体行为使其接近正常人，但这种调整只有在理论框架的指导下才能快速达到预期结果 [15]。

因此，我们提出一种整合认知架构和双系统理论的框架，以指导开发模拟人类决策行为的基于 LLM 的智能体。在本文余下部分，我们将此类智能体称为拟人智能体。作为通用人工智能研究的一部分，认知架构植根于心理学和认知科学。它们旨在复制人类的思维过程，如感知、记忆和推理，以识别能够使人级人工智能得以实现的机制 [16]。认知架构为开发基于 LLM 的拟人智能体提供了一种模块化方法，增强了设计的可解释性并便于扩展。为支持拟人智能体的开发，我们通过重组现有认知架构的组件提出了一种模块化框架。该设计优先考虑灵活性和可扩展性，使其更容易适应不断演进的研究需求，并随着时间的推移逐步增强智能体能力。

我们没有使用现有模块，而是引入了一种新的推理模块类型。推理模块使智能体能够推断、决策和规划行动。它在支持智能行为方面起着核心作用，长期以来一直是哲学、心理学和认知科学的重要课题。与其他通常是基于规则且为特定场景创建的现有推理模块相比 [16]，本文提出的由 LLM 赋能的推理模块是基于双系统理论设计的 [17]。它不仅具有更高的适应性，还能模拟人类的认知推理过程。根据卡尼曼提出的双系统理论 [17]，人类推理过程涉及两类系统：快速直觉的系统 1 和慢速深思的系统 2。人类决策过程是这两个系统交互的结果。在本研究中，我们借鉴双系统理论来指导我们的推理模块设计。具体来说，我们旨在通过明确构建它们的交互来模拟与快速直觉模式和慢速深思模式相关的推理结果。既往研究表明，LLM 输出在不同提示下可表现出系统性差异，这与通常与系统 1 和系统 2 推理相关的行为特征一致 [14], [18]。

基于上述背景理论，我们提出以下两个研究问题：
研究问题 1：如何整合认知架构和双系统理论，以指导经济决策情境下基于 LLM 的拟人智能体的设计？
研究问题 2：使用所提框架设计的拟人智能体在人类样性方面是否有效？

为寻求上述问题的答案，我们遵循设计科学研究方法论 [19], [20] 提出了一个框架。然后，我们进行了两项研究以验证其有效性。这两项研究都在不同场景下开发了原型系统并进行了模拟实验。研究 1 在多种经济博弈背景下进行：独裁者博弈、最后通牒博弈、信任博弈、炸弹风险博弈和公共物品博弈。这些评估场景涵盖了个体和社会经济决策，包括风险厌恶、利他主义、信任和互惠等关键行为概念。由于这些任务紧密反映了现实人类情境，它们能够全面评估智能体设计在稳定性和泛化性方面的表现 [21], [22]。研究 1 使用图灵测试和智能体与人类决策分布之间的 KL 散度来评估拟人智能体的人类样性。研究 2 使用基于混淆矩阵的指标（例如准确率、F1 分数）在两种现实经济决策场景中进一步评估所提框架的有效性。所有结果表明，在所提框架指导下设计的基于 LLM 的智能体比未经该框架指导开发的基于 LLM 的智能体表现出更高程度的人类样决策行为。

本研究做出了两项关键贡献：首先，我们提出了一个基于认知架构和双系统理论的拟人智能体设计的模块化和可扩展框架。我们的框架提供了一种理论扎实且结构透明的方法来指导拟人智能体的设计。经济决策中的实证验证证明了在该框架下构建的智能体的稳健性和人类样性。其次，我们通过引入整合双系统理论与 LLM 的推理模块，对现有认知架构领域做出了贡献。实验结果显示，这种双系统推理模块显著增强了拟人智能体行为的人类样性。

章节片段
经济决策博弈
尽管规则简单，经济决策博弈仍被广泛用于研究，因为它们捕捉了参与者丰富的行为模式 [23]。经济决策博弈通过模拟现实经济环境和利益冲突，展示了个体如何在资源有限、风险和不确定性的条件下做出决策。这些博弈可分为个体决策博弈和社会决策博弈 [23]。个体决策博弈的目的是识别

概念框架
为回答第一个研究问题，提出了一种基于认知架构和双系统理论的概念框架，如图 1 所示。总体而言，该框架由两部分组成：拟人智能体的构建和框架评估。

研究 1
图 3 展示了实验 1 的图灵测试结果。CA-Dual (GPT-3) 通过了六个博弈，而 GPT-3 仅通过了 4 个博弈。因此，CA-Dual (GPT-3) 的表现优于基线 GPT-3。表 5 报告了 KL 散度分数，数值越低表示与人类行为的一致性越高。在所有评估的博弈中，CA-Dual (GPT-3) 始终取得比 GPT-3 更低的 KL 散度，展示了其卓越的表现。

此外，我们使用 bootstrap 进行了稳健性检查

讨论
我们的框架通过整合感知、记忆、注意力、行动和双系统推理模块，功能上模拟了人类决策。增强的人类样性主要源于推理模块内直觉与深思交互的协调规则：系统 1 纳入情感状态以提供直觉的快速响应锚点，而系统 2 采用校准和推理机制来模拟监控和逻辑

CRediT 作者贡献声明
赵黎明：审阅与编辑、原稿撰写、可视化、软件、项目管理、方法论、调查、正式分析、数据整理、概念化。郑海超：审阅与编辑、可视化、项目管理、方法论、资金获取、正式分析、概念化。朱斌：审阅与编辑、方法论、正式分析、概念化。刘超：审阅与编辑、可视化、正式

利益冲突声明
作者声明他们没有已知的竞争性财务利益或个人关系可能影响本文报告的工作。

致谢
本研究受国家自然科学基金（72571219, 72071160）支持。

赵黎明（[e-mail]）是西南财经大学管理科学与工程学院的博士研究生。他的研究领域包括信息系统、人机交互和生成式人工智能。他在中国管理信息系统协会年会论文集（CNAIS）上发表过论文。

赵黎明 | 郑海超 | 朱斌 | 刘超
西南财经大学管理科学与工程学院，中国成都