用于金融领域知识工作增强的生成式人工智能代理

《Annual Review of Control, Robotics, and Autonomous Systems》：Generative AI Agents for Knowledge Work Augmentation in Finance

金融知识工作中生成式AI代理的挑战、框架与协作机制

　　在人工智能领域，开发能够自主行动以实现目标的软件代理一直是一个核心的研究目标。随着生成式人工智能的快速发展，一种新型的代理系统逐渐出现，它们不仅具备强大的信息处理能力，还能在复杂任务中辅助人类完成知识型工作。本文旨在将生成式人工智能代理与金融领域的知识工作结合起来，探讨其在金融任务中的应用潜力，并分析当前的研究进展与未来的研究方向。此外，我们还提出了一种代理自主性的分类框架，以及一种支持人类与人工智能协作的架构，以实现代理自主性的逐步提升。

### 金融领域的知识工作

金融行业本质上是知识型工作，主要依赖于专业人员对信息的深入理解和处理能力。这种工作不仅涉及从结构化和非结构化数据源中提取和处理信息，还要求代理具备推理、分析和决策能力，以便生成报告、提案、分析和建议等多模态内容。同时，代理还需要与人类进行有效的沟通，以共享信息、请求帮助或分配任务。这种复杂的任务结构决定了金融知识工作在自动化和增强方面面临诸多挑战。

首先，金融任务具有高度的复杂性。它不仅涉及多个步骤，还要求代理在不同环境中灵活应对。其次，任务通常需要较高的判断力，尤其是在涉及客户特定需求、市场变化或监管要求时，没有单一的正确答案。第三，任务的执行往往依赖于跨团队和跨职能的协作，因此，代理必须具备在多个角色之间协调的能力。这些特点使得金融领域的知识工作在设计和实施人工智能代理时需要特别关注。

### 生成式人工智能代理的定义与框架

生成式人工智能代理是一种基于大型语言模型（LLMs）和其他基础模型的智能系统，它们能够感知环境、进行推理并自主执行任务。这些代理不仅依赖于LLMs的语言理解能力，还结合了核心的人工智能方法，如规划、搜索和学习。代理的运作可以分为几个关键部分：

- **短期记忆**：包括工作记忆和事件记忆。工作记忆是代理在当前任务中使用的实时信息，而事件记忆用于存储与当前任务相关的上下文信息或推理结果，以便在后续步骤中参考。
- **长期记忆**：涵盖了代理在多个任务和环境中积累的知识、模型和流程。这些记忆可以帮助代理更高效地实现其目标，并在执行过程中进行自我调整和优化。
- **决策机制**：基于工作记忆中的信息，代理决定下一步要采取哪些行动。这可能涉及基于LLMs的推理、预设规则、AI规划，或两者的结合。
- **执行监控与修正**：代理需要跟踪其执行的步骤和环境反馈，并在必要时进行自我修正。修正过程可能包括评估当前状态、生成反馈或建议，并将其反馈到工作记忆中，以优化下一步的决策。
- **内部与外部行动**：代理可以执行内部行动，如更新其工作记忆或调整长期记忆，也可以执行外部行动，如与软件系统进行交互或改变环境状态。

这些组件共同构成了生成式人工智能代理的核心架构，使得它们能够在复杂的金融任务中有效地运行和学习。

### 生成式人工智能代理在金融领域的应用潜力

当前的研究表明，生成式人工智能代理在多个方面展现出巨大的应用潜力。首先，**推理与规划**是代理在处理复杂任务时的关键能力。AI规划技术可以确保代理在执行任务时考虑所有约束条件，并生成最优的解决方案。然而，直接使用LLMs进行规划仍存在一些挑战，例如对约束条件的处理不够精确或缺乏反馈机制。因此，研究者们正在探索将LLMs与AI规划技术结合的**混合方法**，以提供更可靠的保证和更高效的执行。

其次，**执行监控与自我修正**是确保代理可靠性的关键。通过引入评估机制，代理可以不断反思其决策过程，并在需要时进行调整。然而，当前的研究表明，仅依赖内部反馈可能不足以提高代理的性能，因此，引入外部反馈机制变得尤为重要。例如，某些研究中使用了环境提供的反馈，如稀疏二进制奖励或自由语言反馈，以增强代理的自我修正能力。

第三，**学习能力**是代理适应动态环境和提升任务执行效率的重要手段。在金融领域，代理需要不断学习新的知识和技能，以应对不断变化的市场条件和监管要求。通过从指令和演示中学习，代理可以更快地掌握任务的执行方式。此外，基于观察的学习方法也可以帮助代理在执行任务时，根据环境反馈调整其行为。

第四，**工具的使用**是代理实现自动化的重要途径。LLMs可以通过调用工具与软件系统进行交互，如查询数据库、执行代码或进行网络搜索。这使得代理能够在处理复杂任务时，获取最新的信息并完成更精确的操作。然而，代理在使用工具时仍需考虑信息的准确性和安全性，以避免因错误信息或不当操作而引发问题。

第五，**多代理通信与协作**是解决复杂任务的重要手段。在金融领域，任务往往涉及多个团队和组织，因此，多代理系统可以更好地模拟现实中的协作场景。研究表明，通过角色分配和任务分解，代理可以更有效地进行信息交换和任务执行。然而，如何在不同代理之间建立有效的沟通机制，仍然是一个需要进一步探索的问题。

### 代理自主性与人类-人工智能协作架构

代理的自主性是其在复杂任务中发挥重要作用的核心。自主性不仅涉及代理在任务执行中的独立程度，还决定了其在不同环境下的适应能力。本文提出了一个**自主性分类框架**，从**灵活性、主动性**和**监督程度**三个维度来评估代理的自主性水平。灵活性指的是代理在处理模糊或部分指定任务时的能力；主动性指的是代理能够自主设定目标并执行的能力；监督程度则决定了代理在执行任务时是否需要人类的介入或指导。

在构建人类-人工智能协作架构时，我们提出了一种**分阶段的协作模式**。这种模式下，代理首先进行**输入可行性测试**，以判断任务是否适合由AI代理执行。如果任务适合，代理将进入**AI主导流程**，并尝试完成任务。如果任务不适合AI执行，它将被转交给人类处理。在AI主导流程中，代理还需要进行**信心测试**，以评估其执行结果的可靠性。如果结果不满足一定的信心阈值，任务将被转回人类处理。最后，**记忆模块**将存储代理在执行任务过程中的经验，以便在未来的任务中加以利用。

### 未来研究方向与挑战

尽管生成式人工智能代理在金融领域展现出巨大的潜力，但仍然存在一些关键的研究挑战。首先，**如何构建和优化代理的长期记忆**，以确保其在面对复杂任务时能够准确地使用历史知识和经验，仍然是一个重要的研究方向。其次，**如何在多代理系统中实现有效的沟通与协作**，尤其是在涉及不同利益方的混合场景中，需要进一步探索。此外，**如何在金融任务中实现更高水平的自主性**，同时确保其在执行过程中符合监管要求和风险控制标准，也是未来研究的重要课题。

最后，**如何在代理的自主性提升过程中保持透明和可控**，是确保其在金融领域被广泛接受的关键。这不仅涉及到技术上的改进，还需要在设计和实施过程中充分考虑人类的监督和反馈机制。通过建立合理的架构和框架，生成式人工智能代理有望在未来成为金融知识工作的重要辅助工具，从而提高效率、降低错误率，并增强系统的适应能力。