通用人工智能架构与评估方法学：全面综述与未来研究路线图

《Computer Science Review》：Artificial general intelligence architectures and evaluation methodologies: A comprehensive review and future research roadmap

　　

## 摘要

通用人工智能（AGI）旨在创造具有广泛类人认知能力的机器。然而，窄域人工智能的快速进展清楚地表明，通用智能问题仍未解决。本文进行了一项系统综述，从五个维度综合了AGI研究：定义、使能技术、预期应用、评估方法和开放挑战。我们检索了主要学术数据库和搜索引擎，截至2026年1月。去重后，两名审查员独立筛选了927条记录，纳入了符合预定义标准的393项研究。我们提取数据以回答每个维度的五个研究问题，并进行了定性综合，因为证据基础不支持荟萃分析。在文献中，AGI主要以广泛适应性和跨领域泛化为特征。主要方法包括基于符号知识的方法、机器学习、受认知启发的架构、混合神经符号系统以及受大脑启发或理论模型[Raman等人（2025年）[302]]；每种方法都贡献了部分能力，但单独存在局限性。提出的应用领域包括医疗保健、教育、金融、交通、智慧城市、国防、科学研究等。评估实践涵盖多维量表、认知测试组合以及面向对齐和自主性的安全基准。然而，许多基准迅速饱和，未能充分捕捉现实世界的通用性。持续存在的挑战包括：智能的统一经验理论缺失；异质方法的整合与可扩展性；符号接地与具身性；高能力智能体的价值对齐与控制；以及严格且全面的评估协议的开发。总体而言，AGI研究仍然碎片化，没有任何方法展示出完整通用认知能力的频谱。我们将"整合"操作化为一种系统级属性，其中学习、推理、记忆和社会伦理约束通过共享表示和闭环控制耦合，使每个组件在执行任务时能够相互塑造。我们还描述了文献中提出的两种整合候选架构：(i) 自进化二值符号AGI框架和(ii) 上同调主动推理架构（CAIA）。一个提出的架构是否实现了这种整合，可以通过AGI评估方法中讨论的多维AGI基准和安全性或对齐评估来实证衡量。

## 1. 引言

如何最有效地阐述和解决AI作为一门学科[359]在开发具有与人类智能匹敌或超越的AGI的机器时的核心问题[417]？自20世纪中叶AI研究正式确立以来，已经探索了广泛的途径来在计算系统中建模和实现智能行为[139]。然而，大多数努力集中在语音识别、对象检测、机器翻译、游戏玩法和特定领域任务等能力上。与此同时，建立具有类似人类的广泛通用能力系统的初始目标仍然遥不可及[245]。窄域任务的成功与真正广泛智能之间的持续脱节促使AGI作为专门研究领域而出现[425]。窄域AI和通用AI之间的区别是定性的：窄域AI仅在特定的、明确定义的任务中表现出色，在变化的条件下会失败[121, 196]。AGI研究受类人跨领域灵活泛化和适应能力的驱动，旨在赋予机器广泛的跨领域能力[232]。为此，AGI致力于开发具有灵活、适应性和可迁移认知能力的系统，在多样任务中接近人类水平的通用性，同时认识到固有的架构偏见和资源限制限制了真正不受限制的适应性[122]。其核心，AGI假说认为，构建广泛泛化的合成智能与工程化窄域AI有本质区别，需要超越专门系统增量进展的新型架构和原则[253, 292]。在另一个维度上，智能的定义在各学科间存在高度争议，没有任何单一框架达成共识[280]。因此，当前的AGI基准和评估方法嵌入了分歧的假设，存在概念碎片化和不可比的进展主张风险[324]。鉴于智能系统的感知能力与实际能力之间差距带来的重大社会后果，系统综合AGI定义和方法对于科学清晰性以及为有效的治理、评估和负责任发展提供信息至关重要[302, 346, 435]。

先前的AGI综述提供了有用的快照，但它们通常围绕单一范式（例如，认知架构、以LLM为中心、神经符号或受大脑启发的研究方向）组织，而不是一个追溯定义、系统设计、经验证据、评估实践和安全/对齐关注如何在各方法间交互的统一叙述（例如，Khan等人[182]）。在本文中，我们进行了一项PRISMA启发的系统综述，将这些线索整合为单一综合，并将所得证据提炼为一条前瞻性研究路线图，以推进AGI系统。

### 1.1 研究缺口

现有的AGI综述突出了有价值的见解，但几个反复出现的缺口限制了它们对累积科学进步的有用性。

**RG1 碎片化覆盖。** 综述通常围绕单一范式组织（例如，认知架构、以LLM为中心的工作、神经符号或受大脑启发的方法），这使得很难跨传统比较结果和识别收敛的设计原则。

**RG2 缺乏端到端综合。** 许多综述没有将AGI定义与架构、应用证据、评估实践和安全/对齐含义在一个连贯的推理链中连接起来，使得进展主张难以解读。

**RG3 评估盲点。** 基准讨论通常不完整：流行的测试可能饱和、遭受训练-测试污染、诱发基准作弊，并且低估了通用性的核心方面，如迁移、组合性、鲁棒性和长时程能力。

**RG4 能力与脚手架混淆。** 综述经常模糊基础模型能力与自主脚手架和编排（工具、记忆、规划/智能体循环）的效果，掩盖了实际测量的内容，并可能错误陈述部署风险。

### 1.2 研究目标

本综述旨在交付AGI文献的端到端、PRISMA启发的系统综合，具有以下研究目标（RO）：

**RO1** 通过综合竞争定义并明确每个定义所隐含的测量假设，澄清"AGI"的含义。

**RO2** 整合AGI的主要架构范式和使能技术，包括其优势、局限性和分歧点。

**RO3** 通过明确证据阈值分离已展示能力和推测性AGI级主张来描述AGI应用领域。

**RO4** 分析评估框架和基准，以识别当前实践在测量通用性和安全自主性方面的失败之处（例如，饱和、污染和自主脚手架混淆）。

**RO5** 将开放挑战提炼为可操作的未来研究路线图，提供与评估和治理相关的指导，以支持更连贯、可重复的进步（表1）。

**表1. 目标、研究问题和主要分析焦点**

| RO | 研究问题（RQ） | 主要分析焦点 |
|---|---|---|
| RO1 | RQ1 | 比较竞争定义和范围主张；提取隐含的成功标准和测量假设，以减少概念碎片化。 |
| RO2 | RQ2 | 符号、以学习为中心、认知架构、混合和理论启发方法的跨范式比较；识别反复出现的失败模式（如接地、可扩展性、持续学习、因果/世界建模和整合）。 |
| RO3 | RQ3 | 映射应用领域；记录运行条件、失败模式和将"AGI应用"主张视为有支持的所需实证标准。 |
| RO4 | RQ4 | 识别基准局限性（饱和、污染、指标效度、评估者依赖性）和技能到系统的差距；强调OOD、长时程、交互式评估和自主性感知评估。 |
| RO5 | RQ5 | 综合关键开放问题（整合、接地/具身、安全/对齐、透明性、控制和治理）并将其转化为可操作的研究方向和里程碑。 |

### 1.3 研究问题

RQ1-RQ5通过这些目标操作化，涵盖AGI的定义和范围（RQ1）、使能技术和方法（RQ2）、应用领域（RQ3）、评估框架和指标（RQ4），以及在推进该领域时需要解决的关键挑战和开放问题（RQ5）。本综述围绕以下主要RQ组织，以确保清晰、聚焦和目的性。

**RQ1** 根据现有科学文献，构成与智能相对的AGI综合定义的是什么？

**RQ2** 用于在机器中实现通用智能的核心技术和方法是什么？

**RQ3** AGI的潜在应用领域是什么？

**RQ4** 用于评估通用智能的框架、基准和关键指标是什么？

**RQ5** 追求AGI过程中的重大挑战和开放问题是什么？

### 1.4 相关工作与贡献

本节回顾了AGI方法的近期综述，强调它如何在适应性、跨领域能力和类人学习方面区别于窄域AI。它考察了各种提案，包括具有终身学习和元学习的混合符号-次符号架构、基于强化学习的推理模型、用于可解释认知的神经符号系统、受大脑启发的脉冲神经网络，以及从模拟到现实的具身智能体。较早的框架，包括受AlphaZero启发和整合性AGI模型，也得到了讨论。这些研究确定了AGI的潜在影响以及持续的技术、伦理和可扩展性挑战，包括明确连接社会、技术、伦理和受大脑启发路径的跨领域视角[302]。表2总结了与上述研究问题相关的近期综述及其与本综述的联系。所选文章因其主题和方法相关性而被选中。

**表2. 回答上述研究问题的现有综述**

| 作者 | RQ1 | RQ2 | RQ3 | RQ4 | RQ5 |
|---|---|---|---|---|---|
| Gokul Yenduri等人[425] | 否 | 是 | 是 | 否 | 是 |
| Khan等人[182] | 是 | 是 | 是 | 否 | 是 |
| F. Xu等人[415] | 否 | 是 | 是 | 是 | 是 |
| Uzma Nawaz等人[260] | 否 | 是 | 是 | 否 | 是 |
| Lin Zhao等人[439] | 是 | 是 | 是 | 否 | 是 |
| J. Duan等人[88] | 否 | 是 | 是 | 是 | 是 |
| L. N. Long等人[225] | 否 | 是 | 否 | 否 | 否 |
| B. Goertzel[121] | 是 | 是 | 否 | 是 | 是 |

Yenduri等人[425]的综述调查了AGI，通过其广泛的适应性、跨领域能力和类人学习将其与窄域AI区分开来。综述组织了关键概念，包括定义、认知特征如适应性和可能的意识，以及主要技术范式：符号、神经网络、强化学习、认知架构和发展机器人学。它概述了从窄域AI通过模块化、可扩展的多智能体系统到AGI的发展进程，这些系统支持终身学习、迁移学习和元学习，强调混合符号和次符号方法。综述涵盖了各种应用领域，并总结了当前AGI项目，描述其目标、方法论和使能技术。它讨论了技术挑战，包括可扩展性、整合、自我改进控制、感知和复杂推理，以及伦理和社会考量，包括情感和社会交互、安全、隐私、经济影响和规范决策[425]。作者得出结论认为，AGI仍处于早期阶段，需要持续的跨学科研究以及稳健、透明和包容系统的发展，以解决已识别的风险。

Khan等人[182]提供了关于AGI基础和未来方向的全面TechRxiv综述，涵盖历史动机、定义问题、核心技术构建块和前瞻性研究轨迹。我们引用此工作作为互补的广泛背景，并将本综述定位为系统（PRISMA启发的）综合，明确在统一的研究问题集下连接定义、方法、应用、评估实践和开放挑战。

Xu等人（Patterns, 2025年）[415]的综述考察了大型推理模型（LRM）的发展，通过整合强化学习（RL）和大型语言模型（LLM）的进展，参考了如OpenAI的o1系列等里程碑。综述对关键组件进行了分类：自动化数据构建（从人工标注转向LLM驱动的搜索和迭代精炼，使用如MCTS的方法）、学习推理（从监督微调转向RLHF、RL from AI Feedback、DPO/ODPO和过程监督RL）以及测试时扩展（如带有扩展思考令牌的思维链）。该工作提供了跨任务的实证基准，包括GSM8K、ARC和数学/代码推理，并分析了开源复制品（DeepSeek-R1、Qwen变体）。当综述讨论RL带来的大幅相对收益时，这些应被解释为综述研究中报告的任务和协议特定改进（即，取决于所选"基线"、数据集组合和评分定义），而非"推理"的通用百分比增长。统一的训练/测试时框架阐明了较长推理链与改进性能之间的关系。综述注意到对多模态和具身推理的覆盖有限、扩展推理步骤的可扩展性挑战，以及对神经符号集成和逻辑鲁棒性的讨论最少。

Nawaz等人[260]的综述回顾了神经符号AI，专注于将神经网络数据驱动学习与其符号推理的可解释性相结合。论文概述了从基于规则的符号AI到神经模型的进展。它描述了混合方法，包括逻辑张量网络（LTN）、DeepProbLog、可微逻辑程序、神经定理证明器（NTP）以及概率框架如PRISM。它呈现了分类法、比较性能指标（准确性和可扩展性），以及在自然语言处理、机器人、医疗保健和知识图谱中的应用，以及NTP中概率的数学公式：

$$P(q|A) = \prod_i f_i(A)$$

综述讨论了受监管领域的可解释性，包括伦理决策和IoT中的实时适应。视觉辅助工具阐明了模型演化和整合。局限性包括依赖现有模型、可扩展性挑战（包括LTN中的张量开销）以及对多模态差距的定量分析不足。识别了未来方向，包括伦理框架和边缘计算。然而，这些仍然主要是理论性的。

[439]中的综述考察了用于通用人工智能（AGI）的受大脑启发的AI架构，将神经形态计算、脉冲神经网络（SNN）和分层时间记忆（HTM）与大规模数据方法整合。它将这些元素分类为规模（万亿参数等效）、多模态（视觉-语言-动作融合）、具身性（感觉运动循环）和元学习（自适应先验）。

该评论报告指出，在比较特定模型/硬件配置时，对于某些稀疏数据和类脑设置而言存在效率优势；然而，任何效率提升的幅度都取决于工作负载、度量指标（能耗、延迟、样本效率或参数效率）以及所选的基线，因此不应被解读为"2–5 倍"的普遍性主张。该评论提出了一套统一的分类体系，将神经科学概念（包括通过自由能最小化的预测编码，见公式 (2)）与可扩展的人工智能联系起来，并讨论了硬件路线图（例如 Loihi 芯片）以及具身能力何时可能变得更加广泛实用的推测性时间表；此类时间表应被视为依赖于情景的预测，而非出版级预测。评论还讨论了与意识阈值相关的伦理问题。局限性包括：缺少与类 o1 推理模型的直接经验比较；对超越仿真的具身性探索有限；对脉冲神经网络（SNN）训练不稳定性及能耗节约的分析不足；密集的符号表示可能会降低非专业读者的可及性。(2) F = ??[?ln p(x)] + D_KL(q(z) ‖ p(z|x))

Duan 等人 [88] 提出的一项综述将研究焦点从基于互联网的人工智能转向了具身人工智能，强调通过物理交互和自我中心感知来学习的智能体。该研究在七项特征上对标了九种仿真器，包括 DeepMind Lab、AI2-THOR 和 Habitat-Sim，特征包括环境类型、物理保真度、物体多样性、控制器选项、可用动作以及多智能体支持。次要指标包括真实性、可扩展性和交互性。AI2-THOR、iGibson 和 Habitat-Sim 分别在照片级真实感、ROS 集成和高帧率方面表现出优势。该论文将任务划分为三类：视觉探索、视觉导航和具身问答，并给出了相应的评估指标，包括覆盖率、重建准确率、SPL/SR 得分以及回合长度。该综述提供了仿真器与任务之间的比较表格和实用映射，并突出了仿真到现实迁移的挑战。尽管该框架在评估具身人工智能方面仍然相关，并会增强通用人工智能（AGI）的可行性，但该综述未涉及多模态集成或高级多智能体场景的最新发展。

Long 和 Chain of Thought 的论文 [225] 回顾了人工智能的进展，并提出了一种受 AlphaZero 启发的、面向自主系统的 AGI 框架。它对比了狭义人工智能在特定领域取得的成就与通用智能所需的要求，强调广泛的推理和快速的跨领域学习。作者认为，AlphaGo Zero 通过神经网络、强化学习和蒙特卡洛树搜索（MCTS）所实现的自学习能力是一个重要里程碑，并提出增加计算资源和类脑硬件将提高 AGI 的可行性。他们的框架通过多模态传感器融合、反应式行为以及内部世界模型，将 AlphaZero 的原则适配到机器人学中，并展示了一种紧凑实现方案，作为大型基于规则系统的替代。该评论指出，该框架仍停留在较高层次，缺乏经验验证，对非结构化环境中的策略细节提供不足。尽管航空航天领域的聚焦限制了其普适性，但这项工作支持将神经网络作为核心方法，并鼓励自主系统从手工规则转向探索式学习。

Goertzel 2014 年的综述 [121] 将通用人工智能（AGI）定义为能够在多样化任务中进行广泛适应和泛化的系统，其所需方法与狭义人工智能所用方法不同。该论文综合了智能的心理学、数学和实用定义，并识别出 AGI 的核心能力，包括感知、推理和社会互动。主要的 AGI 途径被分为：符号系统（如 SOAR、Cyc），用于推理；涌现系统（如 HTM），用于模式识别；混合架构（如 CogPrime），用于集成；以及普适主义理论（如 AIXI），用于理论最优性 [121]。该综述借助一个借鉴 Sloman、LIDA 和 Psi 的综合架构图，呈现了人类类认知的高层蓝图，包括记忆、动机和多模态感知。该综述回顾了评估指标，指出衡量 AGI 增量式进展的挑战以及基于任务的测试的局限性。Goertzel 主张统一测试环境、改进衡量部分进展的指标，并提出一个在资源约束下选择架构的通用理论，将 AGI 定位为一项需要认知协同而非孤立技术的科学与整合性事业 [121]。

1.5 本综述的贡献
- 在本综述中，我们系统汇编了相对于自然智能的 AGI 定义，并界定了标准的概念组成部分。
- 我们的工作列举了实现 AGI 的关键技术，包括注意力机制、层次化决策和世界模型 [435]。
- 我们概述了潜在的应用领域，包括医学、金融和机器人技术。
- 此外，我们批判性地审视了评估通用智能的当前评估框架、基准和指标。
- 我们提出了一个 AGI 成熟度等级。
- 我们识别出主要未解决的挑战，包括具身性、符号接地、因果性和可扩展性。

图 1 以整合概览的方式展示了本综述的 AGI 分类体系。我们的综述旨在指导未来 AGI 的研究与开发，并支持其在不同领域的负责任与有效部署。

下载：下载高分辨率图像 (791KB)
下载：下载完整尺寸图像

图 1. 本系统文献综述中的 AGI 分类体系。

1.6 论文结构

本文其余部分组织如下。第 2 节描述受 PRISMA 启发的综述方法，包括信息来源、纳入/排除标准、研究选择和综合方法。随后我们依次回答研究问题：第 3 节综合了相对于自然智能的 AGI 定义（RQ1）；第 4 节回顾了主要的技术范式和方法论途径（RQ2）；第 5 节调研了潜在的应用领域及相关影响（RQ3）；第 6 节总结了评估通用智能的主流基准与评估方法（RQ4）。第 7 节整合了开放性挑战与未来研究方向（RQ5）。最后，第 9 节结合先前工作与更广泛的影响进行讨论，第 10 节为结论。

2. 综述方法

本综合性综述受 PRISMA 2020 指南启发 [277]。下面，我们就信息来源、检索策略、纳入/排除标准、研究选择、数据收集和综合方法等方面描述研究过程。

2.1 纳入标准

我们纳入明确讨论通用人工智能或密切相关概念（如强人工智能、人类水平 AI、通用 AI 或通用机器智能）的资料。符合条件的出版物包括经同行评审的期刊文章、会议论文集、学术著作或章节、论文/学位论文，以及高质量的技术报告或预印本（例如来自 arXiv），前提是其包含与我们的一个或多个研究问题相关的实质性内容。我们对出版年份不设严格起点（允许纳入重要的早期作品）；然而，实际覆盖范围从 1960 年代末到 2026 年初，反映了 AGI 作为概念的时间线及现代发展。仅考虑英文文献。

不符合基本质量或相关性标准的文献被排除。具体而言，我们排除了明显偏离主题的项目（例如仅讨论狭义 AI 子领域且未提及 AGI 的作品），内容缺乏实质性的文章（例如极短的社论或非学术性评论），以及我们认定为低质量或非权威的来源（例如缺乏作者可信度的非同行评审网络内容，除非它是领域内广受认可且具价值的重要技术报告或白皮书）。我们同样排除了重复性报告，以及在全文审阅阶段排除任何未能为我们的研究问题提供相关信息的研究。我们并不要求某项研究回应所有五个研究问题，仅要求其能为至少一个研究问题提供有意义的贡献。

2.2 信息来源

检索范围广泛，涵盖多个数字图书馆和检索平台。

- 文献数据库：我们在 IEEE Xplore、ACM Digital Library、Scopus、SpringerLink、Web of Science 和 PubMed 中检索了与 AGI 相关的学术出版物。
- 重要出版物检索：我们还检索了 IEEE、Taylor & Francis、Elsevier、Springer 和 Wiley 的文献。图 2 展示了本综述引用的各种来源的文献。
- 学术搜索引擎：我们同样使用 Google Scholar 和 Semantic Scholar 捕获额外结果，包括预印本和非传统来源。
- 手工检索：为补充电子检索，我们扫描了关键文章的参考文献列表，查找数据库查询未捕获的其他相关来源。我们也纳入了关于 AGI 的经典书籍和专著（例如知名 AGI 研究者的代表作），这些可能不会通过关键词检索浮出水面。

下载：下载高分辨率图像 (328KB)
下载：下载完整尺寸图像

图 2. 本综述中引用的文献来源分布。

2.3 检索策略

所有检索均在 2024 年 12 月至 2026 年 1 月期间执行。图 3 展示了本综述按年份使用的文献。我们应用过滤器将结果限定为英文，并在使用跨学科数据库时移除明显无关的内容（例如专利或新闻报道）。检索策略涉及与通用机器智能相关的关键词组合。我们采用了通用检索字符串（按数据库适配），如下所示。

下载：下载高分辨率图像 (212KB)
下载：下载完整尺寸图像

图 3. 1964 至 2026 年本综述使用的文献按年份分布。

("artificial general intelligence" OR "AGI" OR "strong AI" OR "human-level AI" OR "general AI") AND (architecture OR system OR model OR evaluation OR benchmark OR safety OR definition OR "cognitive architecture" OR "general intelligence")

该查询有意设定得较宽泛，以捕获涉及 AGI 概念层面（定义、理论）或技术与评估层面的文献。我们还指定了诸如认知架构、通用人工智能、AGI 安全以及已知 AGI 项目名称（例如 "OpenCog"、"NARS"、"AIXI"、"LIDA"）等术语，以确保它们被纳入。

此外，我们使用了基于大语言模型的检索工具，包括 Perplexity AI、带有 Google 搜索代理功能的 Gemini，以及带有 Bing 搜索代理的 Copilot，以针对特定研究问题并识别回答相同问题的文献。

2.4 研究选择过程

我们采用两阶段筛选程序。第一阶段（标题与摘要筛选）中，两位评审者独立评估所有检索记录的标题和摘要，以识别潜在相关研究。明显与 AGI 无关的记录被排除。该阶段有意保持宽泛纳入，以最大限度减少遗漏边缘性研究的風險；因此，任何相关性存疑的记录均被保留以待全文审阅。

初步筛选之后，我们进行第二阶段全文审阅。对进入第一阶段的记录，我们都获取其全文。每篇文章至少由一位评审者详细评估，并由第二位评审者独立核验部分评估结果，尤其是边缘性案例。研究针对其与研究问题的相关性以及是否符合纳入标准进行评估，并记录排除理由。该阶段的排除通常反映了：尽管标题或摘要看似相关，但缺乏对 AGI 的实质性关注；内容以推测为主、缺乏先验文献支撑；或对方法学严谨性与来源可信度存在疑虑。任何分歧通过讨论解决，并在无需第三方裁决的情况下达成共识。

PRISMA 2020 流程图（图 4）总结了研究选择过程。总体而言，共识别出约 1505 条记录（1391 条来自数据库与语义检索，114 条来自其他来源）。去除约 578 条重复项后，剩余 927 条唯一记录。标题/摘要筛选排除了约 341 条明显不相关或不符合纳入标准的记录。对其余 586 条记录检索全文；其中 37 条无法获取（例如 URL 无法访问或报告不可用），剩余 549 条记录进入符合性评估。经过全文审阅，156 篇出版物被排除，主要原因包括：对 AGI 的实质性关注极少（n=91）；提及 AGI 但未涉及任何研究问题（n=27）；跨会议/期刊重复报告（n=14）；方法学严谨性不足或非学术来源（n=13）；非英文文献且无可用译文（n=1）；或全文不完整/不可用（n=10）。最终，393 篇出版物被纳入定性综合。

下载：下载高分辨率图像 (296KB)
下载：下载完整尺寸图像

图 4. PRISMA 2020 流程图 [277]。

2.4.1 数据提取与管理

我们开发了一个针对我们的研究问题量身定制的数据提取工具。对于每一项纳入研究，我们记录一般信息（出版年份、类型和来源）以及每个研究问题相关的特定内容。

- 针对 RQ1（AGI 定义）：任何对 AGI 的明确定义，或关于 AGI 与人类智能或智能不同方面关系的讨论。
- 针对 RQ2（技术途径）：为实现 AGI 所提出的架构、算法或框架的描述，包括其关键特征、假设，以及所提及的优劣势。
- 针对 RQ3（应用）：任何对 AGI 技术实际或假想应用领域的提及。
- 针对 RQ4（评估）：任何用于评估 AGI 或高级 AI 系统的基准、测试平台或概念框架的详细信息。
- 针对 RQ5（挑战）：作者对 AGI 的局限性、未解决问题或未来研究需求所作的任何讨论。

由于大量 AGI 文献具有探索性和概念性，许多来源以叙述性或论证性方式同时涉及多个研究问题，而非为每个问题呈现独立的"结果"。因此，我们着重提取关键要点和主题，而非定量数据。当某项研究提供了数据（例如基准测试的结果或方法的定量比较）时，我们也会记录这些结果，但此类情况相对较少。

2.5.

# 偏倚风险与质量评估

所纳入文献中有相当比例为非实证性研究（例如理论贡献和综述文章）；因此，专为临床试验或观察性研究设计的常规偏倚风险评估工具无法直接适用于这些出版物。因此，质量评估侧重于出版情况、同行评审状态以及作者和发表场所的可信度，并对高被引用的同行评审来源给予更大权重。我们此外还通过多个参考文献对关键主张进行三角验证，以识别已报告视角之间的趋同与分歧。尽管未基于形式化质量评分排除任何研究，但综合分析优先纳入了方法学严谨且广受认可的研究证据。我们承认这种方法构成一项局限性；然而，鉴于广泛技术综述的范围，它使我们在纳入多元视角的同时，缓解了明显不可信材料的依赖风险。

## 2.6. 结果综合

由于纳入研究的异质性以及研究问题主要为定性性质，定量Meta分析并不适用。因此，我们进行了叙述性主题综合。研究结果按研究问题组织，并进行综合以提供与每个问题相关证据的整合性描述，而非孤立报告个别研究结果。为为综合结果提供背景，我们还编制了纳入文献的描述性摘要（例如随时间的发表趋势和研究设计的分布情况）。生成的叙述与提取的数据进行了交叉核对，以确保所有报告的主题均以基础来源为依据。讨论部分进一步阐释了综合证据，考察了AGI关键要素之间的关系，将我们的结论与以往综述进行比较定位，并界定了方法学局限性。本综述未预先注册，且在研究开始前也未公开存档任何方案。

## 3. RQ1：AGI的定义

AGI文献反复指出，无论在智能还是广义智能方面，各学科均无单一已确定的定义；因此，"何为AGI"取决于采用何种定义传统，而这一分歧本身即是RQ1的一项重要发现。在本综述中，我们将AGI定义视为一组相互竞争的定义框架，每个框架隐含不同的成功标准和测量策略。

**范围与术语**（全文保持一致）。我们使用AGI指代人级通用性：即在不同领域以接近人类表现完成广泛任务的能力，具备灵活的迁移和适应能力。我们将"人类水平AI"和"通用AI"视为该目标的近似同义词。我们仅使用超级智能（或ASI）来指代在大多数领域中大幅超越人类表现的能力；当它引出安全和治理关切时会进行讨论，但它并非本综述的目标，且我们不将进步声明解读为ASI的证据。当我们询问"是否取得了进步"时，问题实质为：在明确陈述的评估假设下，迈向人类水平通用性的进展。

### 3.1. 竞争性定义及其对进步测量的含义

**普适性/形式化定义。** Legg–Hutter在（所有）可计算环境上的期望目标达成度来定义智能，并以复杂度加权 [210]。从这个视角看，进步主要关于环境广度以及在分布偏移下的稳健表现。然而，实践评估需要可行的代理指标，因为该形式化定义无法在大规模上直接测试。

**技能习得/效率定义。** Chollet将智能表征为高效获取新技能的元能力，而非固定能力清单 [68]。该框架优先考虑样本效率、适应速度和迁移至真正新颖任务的衡量指标，并激励设计旨在最小化训练集泄露、奖励快速泛化的基准测试。

**认知科学/心理测量学定义。** 人类智能研究（例如Cattell–Horn-Carroll模型）将智能分解为多种因素，如结晶智力和流体智力 [239]。当引入AGI话语时，这产生了跨多种能力（推理、记忆、处理速度等）的能力画像式评估，通常通过测试组和心理测量构造而非单一标量分数来实现。

**具身/情境定义。** 在具身和发展性视角中，智能与感知-行动循环和环境中的符号接地密不可分 [55]。因此，进步的衡量标准在于闭环能力（在世界中学习和行动）、接地理解和对现实世界不确定性的稳健性，而不仅仅是脱离身体的任务准确率。

综合这些视角，一个反复出现的观点是："AGI"与其说是单一目标，不如说是一组部分重叠的研究纲领，具有不同的隐含基准；因此，关于定义的分歧传导至关于何为AGI进步的可靠证据的分歧。

### 3.2. AGI系统的能力候选项

鉴于上述定义差异，文献倾向于提出在多种框架下可能必要但并非普遍认同的候选能力。常被论证的候选项包括：(i) 用于分布外稳健性的因果和反事实推理 [214], [396]；(ii) 跨任务和模态的抽象与迁移学习 [253], [397]；(iii) 通过自主导向学习和开放环境中的适应性行为实现的自主性 [85], [167]；(iv) 用于监控不确定性和适应策略的元认知 [130]；(v) 用于交互场景和与对齐相关行为的社会认知（例如心智理论）[333]；以及 (vi) 当需要超越纯粹句法操作之外的语义能力时的符号接地 [55]。

### 3.3. AGI与自然智能的对比

即使以人类认知作为参考点，也有若干来源论证AGI应通过功能属性（目标达成、泛化、自主性）而非生物学相似性来定义：智能可能来源于非生物的计算机制，包括分布式和混合符号-亚符号系统 [95]。生物和硅基基底的差异在于速度、连接性和学习动态，因此类人实现方式并非人类水平功能能力的前提条件 [196], [251], [289]。

同时，自然智能提出了与某些AGI定义相交而与另一些不相交的开问题（例如主观体验或意识是否为通用智能所必需）。这些问题仍未解决，并强化了定义选择既约束技术路线图又约束评估声明的事实。

最后，具身论述强调将抽象符号接地于感觉运动交互可支持语境敏感的意义和连贯的世界模型；因此，机器人具身和多模态感知等方法常被框架化为通向更具语义稳健性AGI的途径 [176], [303]。

## 4. RQ2：实现AGI的途径

实现AGI的途径反映了关于智能所需要素的持续分歧。符号方法提供显式推理，深度学习提供强大的感知能力，进化搜索提供适应性，但每种方法都有明确局限性。因此，研究日益强调混合架构（例如神经-符号和概率系统），同时关注新兴方向如情感和多感官基础模型。本节回顾这些方法。

### 4.1. 机器学习（ML）与深度学习（DL）

ML可使AGI系统从数据中学习并适应，通过在开放环境中通过经验改进内部表征来支持感知、推理和动作等关键子系统。然而，当前ML方法往往无法实现稳健的迁移、跨域推理和持续学习，表明整合多元学习范式的统一架构仍不足以构建AGI所需的全通用认知组件。

#### 4.1.1. 无监督与自监督学习

无监督和自监督学习可使AGI系统从大量未标注数据中提取基础世界模型，支持广泛泛化 [300]。这些方法使用密度估计、聚类和降维等目标来发现潜在结构和表征。尽管最大似然估计（MLE）、K-Means和PCA等技术提供了学习内在模式的原理化框架，但它们往往无法捕捉稳健智能所需的因果关系和语境依赖推理。实现AGI需要将这些方法与因果推断、动态适应和符号接地机制相结合，而当前无监督方法对此着述不足 [206]。

#### 4.1.2. 强化学习（RL）

RL将通过与环境交互以最大化累积奖励来学习策略的智能体形式化，使用贝尔曼方程等机制来处理状态价值和Q函数。RL实现了适应性决策制定，并在游戏和机器人等领域取得了显著成果 [353], [354]。然而，RL面临AGI层面的关键局限：奖励函数无法安全地泛化至任意目标；样本效率低，所需试验次数远超人类学习 [310]；泛化能力差，表现局限于训练分布；且当前方法缺乏显式因果推理和世界模型 [399]。使用RL实现AGI需要与因果推断、无监督学习和分层认知相结合。

#### 4.1.3. 类神经方法

深度学习使用分层神经架构进行特征提取：卷积神经网络（CNN）用于空间感知；循环神经网络（RNN），包括长短期记忆（LSTM）和门控循环单元（GRU）[157]，用于时间依赖关系；Transformer通过自注意力实现可扩展的长程上下文建模；生成对抗网络（GAN）用于对抗性世界建模。这些方法实现了端到端学习和跨模态泛化，支持感知和推理等复杂任务。然而，DL面临局限性：基本RNN中的梯度消失、对噪声敏感、缺乏因果推断以及对大规模无结构数据集的依赖。这些问题阻碍了稳健、可解释AGI的发展。将DL与符号AI相结合是弥合这些差距的必要途径，通过将模式识别与显式推理结合来实现更可靠、更智能的智能。

### 4.2. 符号推理与混合AI

符号AI在结构化环境中提供透明的基于规则的推理，但由于依赖手工构建的知识库，在原始感知、非结构化环境和可扩展性方面存在困难。混合方法（例如贝叶斯方法、神经演化和神经模型）提升了适应性，但仍局限于特定领域且跨任务迁移能力弱；多模态和情感感知系统同样仅捕捉了认知的狭窄切面。由于标准化/数据集有限以及与生成系统中偏差和虚假信息相关的治理需求，进展进一步受阻。

#### 4.2.1. 非公理化推理系统（NARS）

NARS将智能建模为有限知识和资源下的适应性推理，使用架构??,??,?,?,???。Narsese（?）以频率-置信度值（??）编码信念，支持非二元、可修正的语义。推理规则（?）支持跨NAL-1至NAL-9层的三段论推理、修正和时间推理。记忆（?）动态组织概念，而控制（??）按优先级分配资源。

图5展示了NARS如何将感觉输入转化为Narsese、序列事件并选择高优先级项目以进行并行感觉运动推理和语义推理的过程。持久性事件存储于容量受限的概念记忆中，该记忆会偏向未来推理。NARS的独特之处在于将"有限理性"作为一级架构约束：真值可修正、推理是局部的、控制显式分配稀缺的时间和记忆资源，从而在不确定性下产生适应性行为（例如OpenNARS [144]）。其局限性也相应具体：资源受限的信念修正可能将知识碎片化于不同语境中，且该架构在以下方面仅提供弱机制：(i) 将事件痕迹进行长程固化以形成稳定抽象；(ii) 当许多部分不一致的信念积累时维持跨语境的全球一致性；以及(iii) 从高维流中学习接地感知谓词而非接收符号输入。因此，关键缺失部分不是"更多逻辑"，而是可在保持NARS优先级驱动控制的同时实现稳健学习世界模型和跨时间持久抽象的可扩展固化与接地管线。相比之下，Cyc以自上而下的人工策划微理论结构和演绎覆盖来换取适应性，而NARS则以可修正性和显式资源管理来换取演绎完备性。

> **图5.** NARS的高级架构 [144]，展示从感觉通道经事件排序、概念记忆和知识表征（Narsese）到优先化推理和推理的流转。该图突出了感觉运动推理和语义推理、动态子目标形成、信念优先级化以及实现适应性时空推理和高级知识通信的反馈环路。

#### 4.2.2. Cyc

该项目由Douglas Lenat于1984年发起，旨在构建一个综合本体和知识库，使用专有的CycL语言编码常识规则 [212]。该系统将数百万个人工录入的概念和公理组织为微理论以避免矛盾。

图6展示了Cyc推理引擎如何通过启发式模块和定理证明应用逻辑演绎，支持前向和反向推理。知识库通过用户界面和API访问和修改，并通过语义知识源集成（SKSI）设施整合外部数据源来扩展。跨实例的一致性由语料服务器通过同步知识库更新来维护。Cyc已应用于生物医学研究和安保分析等领域 [91], [314]，发布了包含OpenCyc和ResearchCyc的部分版本。然而，Cyc的主要扩展瓶颈是特有的：其CycL常识覆盖和微理论维护依赖于持续的专家知识工程（断言、上下文管理和修复交互性默认规则），因此知识库无法以AGI级智能体所需的速率从开放式经验中自主增长和修正。在开放世界环境中，添加新事实往往需要仔细将其放置于微理论中并人工协调下游推理，使持续学习变为策展工作流程。

> **图6.** （图示说明）Cyc系统的架构与推理流程。

因此，Cyc 最好被视为一种经过策划的符号基质，而非一种具备接地感知、自主概念形成和终身知识获取能力的自更新认知架构 [212]。

图6. Cyc [352] 知识库系统的高层架构，展示了知识库、推理引擎、推理模块和外部知识源之间的交互关系。该图示说明了语义数据如何通过多种接口（例如 Cyc 浏览器、java/SubL API、Web 服务等）被创建、编辑、查询、持久化和通信，从而支持大规模符号推理、知识集成和外部应用连接。

**4.2.3. Sigma**

Sigma 的图形化架构（图7）通过因子图（factor graphs）统一了符号、概率和基于信号的信息，支持广泛的认知功能，并通过可复用的"认知惯用语"而非固定模块来实现 [311]。这是一个异常明确的统一性主张：单一表示基质加上消息传递机制旨在支撑类感知信号、符号结构和概率推理。因此，主要瓶颈也异常具体：大规模或密集连接的因子图使得推理（尤其是认知循环内的重复推理）成本高昂，并且对于深度递归、丰富的组合层次和快速技能执行而言，这种表示方式变得笨拙。此外，Sigma 的学习叙事依赖于归纳和参数化因子图结构；如果缺乏从原始数据流中进行强有力的、数据驱动的结构学习，该架构就有退化为手工制作的惯用语和工程化图的风险。从 AGI 的角度来看，区分点在于 Sigma 能否：(i) 编译或近似消息传递以实现实时控制；(ii) 从大规模的非结构化多模态经验中学习因子图结构和抽象；(iii) 在不失去 Sigma"单一基质"承诺的前提下，将图基质与高容量感知/动作策略接口化 [311]。

图7. SIGMA 认知系统架构：系统分为四层：(0) Lisp 实现作为基础基质；(1) 图形化架构层，通过统一的因子图表示实现认知；(2) 认知架构层，由相互连接的记忆系统和推理阶段组成；(3) 知识与技能层，其中可复用的认知惯用语被编码。

混合 AI 架构结合了符号推理和神经网络，利用逻辑演绎和模式识别。符号方法实现了结构化推理和可解释性，而神经网络则从无结构化数据中学习。神经网络提取模式；符号组件对这些模式进行解释和推理。这种方法提高了推理能力和透明度；然而，由于集成度和可扩展性有限，它往往无法实现 AGI 所需的泛化和灵活学习能力。缺失的要素包括无缝的组件交互和用于真正 AGI 的统一学习框架。

**4.2.4. OpenCog**

OpenCog Hyperon 有效地在统一架构中集成了多种认知过程，如概率逻辑推理、进化学习和注意力分配，使用 AtomSpace 和 MeTTa 语言 [124]。该系统支持环境驱动和目标驱动的活动，通过协调的心智智能体和专用认知单元实现例程知识维护和明确的目标管理 [1]。

这种设计（图8）实现了灵活的知识表示，并支持广泛和专注的推理。然而，OpenCog 的核心赌注——许多专用过程（MindAgents/Units）在共享的 AtomSpace 上协调——产生了特征性的扩展失效模式：对中央存储的争用、异步进程间的同步开销，以及当重型学习/推理被推入后台循环而非实时感知-动作循环时产生的延迟。因此，关键的 AGI 相关区分点在于架构层面而非通用层面。首先，OpenCog 必须证明 AtomSpace 能够支持高吞吐量并发更新并具有有界延迟的查询；否则，"全局工作区"将成为瓶颈而非集成器。其次，系统需要在异构学习者（进化程序学习、概率逻辑、注意力分配）之间需要一个有原则的信用分配和巩固机制，以便一个单元学到的抽象能够被其他单元可靠地重用，而不是仅作为局部启发式存在。第三，其通用性承诺取决于目标驱动的控制（例如 CAM/GAF 风格的注意力与调度）是否能够在严格的实时约束下对竞争的推理和学习进程进行计算资源仲裁，而非依赖离线或手工调度的方法 [1], [124]。

图8. OpenCog Prime 的高层架构：OCP 配置将感觉数据转换为原子，在 CAM 中管理活动知识和推理，将显著信息升级至 GAF 以进行聚焦目标处理，并采用密集型模式识别单元进行复杂学习和推理任务。

**4.2.5. MicroPsi**

MicroPsi 使用层次化的扩散激活节点网络，整合了基于感觉运动输入的符号和亚符号表示，支持感知、动作图式、情景结构和规划 [25], [29]。其控制模型将动机和情绪变量作为调节器，利用需求和唤醒度、分辨度等参数来影响感知、记忆检索和动作选择 [29]。该架构在共享的节点网络形式化框架内将动机、意图和动作联系起来，一致地调节反应式和审慎式过程 [26]。MicroPsi 和 MicroPsi-2 还提供了用于设计和检查节点网络以及部署代理到模拟或机器人环境的可视化工具 [28]。该框架还支持了对涌现情绪状态和基于动机配置的人格相关行为模式的研究 [27]。

MicroPsi 的语言能力有限，因为早期描述限制了语法和组合处理，从而限制了需要结构化语言理解的任务 [25]。由于出版物强调架构和工具而非系统化的大规模基准测试，实证验证很稀疏，导致性能无法量化 [28]。该架构还依赖于手工构建的节点网络，使得知识构建工作量大，且难以在不自动化学习的情况下进行扩展 [28]。这些局限反映了其面向 PSI 的设计理念，即优先考虑动机驱动和稳态控制，而非可扩展的、数据驱动的表示学习，从而降低了其适用于需要稳健感知抽象的开放世界任务的能力 [26], [29]。其推理机制提供分级激活但没有显式的概率语义，与现代深度感知系统和不确定性感知推理的集成仍然有限，因为核心工作集中在节点网络框架内的联想学习和强化学习上，而未指定高容量深度模型的管线或形式化不确定性处理 [28], [29]。语言和社会认知组件也不够完善，因为架构推迟了语法建模，并且缺乏语言与内部认知之间的完整实现接口，从而限制了交互能力 [25], [26]。

MicroPsi 的 AGI 挑战不在于添加另一个推理模块，而在于将其节点网络基质和 PSI 风格的动机控制扩展到开放世界学习。具体而言，它需要：(i) 从多模态经验中自动增长和重组节点网络结构（使概念、动作图式和问题支架通过归纳而非手工构建产生）[28]；(ii) 一个经过不确定性校准的决策层，使分级激活能够支持显式信念维护和部分可观测下的规划 [29]；(iii) 一个语言接口，其中组合意义映射到节点网络机制以实现目标形成、动作选择和情景编码（而非保持为外部解析器）[25]。独特机遇在于测试其动机/情绪变量是否实质性地改善了探索、优先级排序和持续学习；这需要基准消融研究以隔离调节器在具身化、语言接地任务中的功能贡献 [28]。

**4.3. 基于 GNN 的混合架构**

由 J. Hans [145] 引入的混合认知架构有效地将符号和亚符号 AI 相结合，使用神经网络进行感知并与符号推理模块结合。使用图神经网络作为集成层实现了亚符号特征和符号概念之间的双向通信，使符号知识能够指导神经学习，感知数据能够完善符号知识库。这种方法支持符号接地、持续学习和在机器人学和语言理解等领域更好的泛化能力。然而，该架构（图9）面临着将符号接地扩展到开放式环境的局限性，因为将高维感觉数据映射到离散符号仍然很脆弱，通常需要人工干预。符号知识库难以处理不完整或有歧义的数据，无法表示所有现实世界的细微差别。随着节点数量增加，GNN 集成层可能成为计算瓶颈，限制可扩展性和实时性能。神经和符号组件之间的双向影响通常是浅层的，无法实现深度相互适应。这些失败源于未解决的符号接地问题、结构化符号与非结构化神经表示之间的差距、有限的跨模态学习以及计算复杂性。要通过该方法实现 AGI，需要自主、可扩展的符号接地；统一且灵活的知识表示，能够处理不确定性和持续学习；神经和符号模块之间的更深层次相互适应；高效的规模化集成；元学习和自我改进机制；以及具有因果推理和长期规划的更丰富世界建模。

图9. GNN 与符号表示概览：神经网络从感觉数据中提取亚符号特征，符号接地模块将其映射到离散符号，图神经网络集成层实现符号和亚符号表示之间的双向流动，以改善推理和泛化。

**4.3.1. Cyc 与 ACT-R 的集成**

该方法将 Cyc 实体和断言映射到 ACT-R 块和生产规则，将大型符号知识库与认知架构连接起来 [32]。它结合了 ACT-R 受心理学启发的语言理解机制与 Cyc 的大规模常识知识，扩展了语义覆盖面，同时保留了 ACT-R 的核心分工：ACT-R 管理过程控制、时序、缓冲区和激活动力学，而 Cyc 提供符号事实和公理 [32], [309]。

其主要局限性在于 CycL 的高阶、上下文索引逻辑与 ACT-R 的类型化块和生产规则之间的不匹配，使得翻译在不造成语义丢失或块爆炸的情况下变得困难 [32]。Cyc 的非单调、多策略推理和微理论结构需要启发式搜索、元层面控制和上下文管理，这些都不适合 ACT-R 的确定性生产循环、缓冲区受限检索、任务级粒度或严格的时序约束 [32], [309]。大扇出的 Cyc 查询引入了与 ACT-R 检索时序不兼容的证明搜索延迟，而变延迟定理证明器将破坏 ACT-R 时序模型和 fMRI 关联的模块约束，除非进行重度近似 [276], [309]。该设计还增加了大量工程开销以维持 Cyc 上下文和 ACT-R 生产规则之间的一致性，并且目前尚无完全集成、经过定量评估的实现能够在 Cyc 规模下产生类似 ACT-R 的时序预测 [32]。

对于 AGI，这种集成需要一种保留 CycL 上下文和默认语义的类型化中间语言，一种任意时推理层将深层 Cyc 推理转换为兼容 ACT-R 时序的有界检索，以及一个对齐 Cyc 断言与 ACT-R 基于频率和新近度的激活动力学的统计基质 [32], [309]。它还需要在大规模常识层面进行基准评估，并制定处理 Cyc 微理论在 ACT-R 目标和缓冲区中的操作策略，包括上下文选择和默认协调 [32], [276]。

**4.4. 神经科学启发的模型与大脑仿真**

人类神经科学为理解通用智能提供了一个具体模型，突出了大脑中的层次结构、循环和预测。Hawkins 的千脑理论提出，许多并行的大脑皮层世界模型通过其集成共同产生通用智能 [151]。预测编码和自由能原理同样将智能视为对惊奇的最小化。环境的生成模型根据预测误差持续更新。

神经科学视角尚未提供一个正式的、公认的智能定义；然而，它提供了一套具有生物学依据的设计约束。受此学派影响的 AGI 研究者通常认为，合成通用智能应纳入层次化预测处理、可塑性驱动适应和稳健的感觉运动接地等特征 [178], [411]。尽管这种方法有以人类为中心的风险，但其实际影响体现在神经形态计算、脉冲神经网络和自然启发的认知架构中 [357]。

神经科学启发的学习设计计算架构和算法以模拟关键的人类认知过程，从而启用更自然、高效的机器学习。借鉴大脑机制，它融入了强化学习（试错行为优化）、层次学习（复杂问题的分层子任务组织）和持续学习（适应并保留新知识而不会灾难性遗忘）[188], [282]。这种方法增强了 AI 的灵活性、鲁棒性和泛化能力，使系统更接近人类的直觉性和适应性智能。

全脑仿真（WBE）旨在通过精确映射每个神经元、突触和活动模式来在软件或硬件中重现人类大脑的全部计算功能，从而复现认知，包括意识、记忆和决策 [82], [418]。尽管基于神经科学、神经影像学和计算建模的进步，WBE 仍然纯属理论，因为大脑扫描技术存在重大技术局限、神经网络复杂度极高以及对脑功能理解不完整。未来在 fMRI、连接组学和 AI 等技术方面的进步可能会推动该领域发展；然而，这些发展仍处于早期阶段。因此，WBE 是一个具有理解心智深刻潜力的推测性前沿，但同时也提出了重大的技术、伦理和哲学挑战。

**4.5. 带元学习的强化学习**

强化学习（RL）和元学习代表了追求 AGI 过程中的两个基本范式。

强化学习（RL）使智能体能够在此追求通用人工智能（AGI）的过程中实现最佳性能。RL 使智能体能够通过与环境直接交互，以最大化累积奖励并最小化惩罚的方式来学习最优行为，从而有效地模拟人类的试错学习过程。这种能力使系统能够无需显式监督而自主开发问题求解策略，使强化学习成为适应性智能不可或缺的组成部分。此外，元学习，即"学会学习"，使模型能够利用先验知识在多样化任务之间进行泛化，从而以有限数据快速适应新情境 [118]，[159]。该框架增强了灵活性和效率，从而解决了AGI中的一个核心挑战，并实现了鲁棒的、领域无关的泛化。总之，强化学习与元学习共同构成了构建能够在开放环境中进行持续学习和自主适应的系统的基本协同基础。

**4.5.1. 通用算法智能（AIXI）**

AIXI 是一个基于算法信息论的理论最优强化学习器，但可计算性迫使我们使用诸如 AIXItl 这样的近似。RL 的伦理适应提出了有限目标的 AIXI 变体以及基于共情的价值学习，以更好地将 RL 的效用最大化与人类价值观对齐。

AIXI 的核心贡献是一个统一的优化框架，结合了 Solomoff 归纳和序贯决策理论来定义理想的最大化奖励行为 [162]，[164]。由于 Solomoff 的通用先验和完整的期望最大化规划是不可计算的，实际系统必须限制模型类和搜索范围，从而牺牲了通用性 [162]，[164]。AIXItl 明确表明了这一点，其复杂度为 $O(t \cdot 2^l)$ [162]，[163]。MC-AIXI-CTW 表明，结合上下文树加权（CTW）和蒙特卡洛树搜索，可以在部分可观测环境中产生功能性智能体 [395]。该框架还为 Legg-Hutter 通用智能度量提供了基础，将智能定义为在通用先验下跨可计算环境的期望性能 [210]。

AIXI 在实践中失效的原因在于其精确表述是不可计算的：Solomoff 先验和穷举的未来规划都无法实现，甚至 AIXItl 也会随程序长度 $l$ 呈指数级增长，从而将其限制在小规模领域 [163]，[164]。它还假设了一个笛卡尔式的、非嵌入的智能体，而真实智能体是物理嵌入的，可能受到其环境的约束 [272]。在嵌入条件下，AIXI 类智能体面临自指、自我修改和逻辑障碍。因此，原始表述缺乏为必须建模和修改自身的智能体提供机制的手段 [94]。实际近似方法如 MC-AIXI-CTW 仍然局限于窄域：有界的预测后缀树模型和有限范围的 MCTS 在小规模、部分可观测任务上有效，但无法扩展到现代深度强化学习 [395]。更一般地说，没有可计算的智能体能够实现 AIXI 的最优性主张 [162]，[164]。该框架还遗漏了嵌入资源核算、内部计算成本、环境对推理的约束，以及自我修改安全性、侧信道漏洞和反思一致性的原生处理 [94]，[272]，[414]。

对于 AGI 而言，该框架需要一个可计算的、可扩展的通用先验的替代方案，以保留关键的占优性或遗憾属性 [162]，[164]。它还需要一个嵌入的、资源有界的决策理论，将贝叶斯控制与显式的计算和内存成本相结合 [272]。缺失的部分包括对自指和自我修改的稳健处理，例如安全的代码更改、对抗幻想和侧信道故障的抵抗力，以及处理逻辑障碍的机制 [94]。可扩展的规划必须用样本高效的方法来替代完整的期望最大化规划，这些方法利用学习到的生成模型在高维、长视界设置中近似通用混合模型 [395]。进展还需要与 Legg-Hutter 概念对齐的基准，使用具有已知描述长度的任务生成器来衡量实际近似方法接近 AIXI 理想的程度 [210]。

**4.5.2. AGI 的 RL 伦理适应：有限目标的 AIXI 变体**

有限目标 AIXI 路线表明，某些安全属性在形式化设置中是可以实现的。BoMAI 表明，在密封通道和阶段性或短视奖励下，最优策略无法因果地影响外部奖励通道。因此，缺乏权力寻求的动力，为工具趋同论点提供了一个反例 [75]。后续工作将此扩展到具有信息论探索的 AIXI 风格框架中，智能体在学习过程中发现外部干预无助于实现渐进的导师级性能。这一路线还与低影响惩罚和可中断性相关联，这些机制限制了副作用并实现了避免关闭 [21]，[271]。共情驱动的价值学习路线提供了互补的结果：CIRL 将人机交互建模为合作型 POMDP，通过构造而非假设孤立最优性来产生查询、沟通和示范行为 [135]。共情奖励塑造，包括共情 DQN 中的"状态交换"启发式，减少了受控网格世界中的负面副作用 [52]。实证研究表明，人类通过观察性强化学习习得亲社会规范，并且类似认知共情的 RL 机制已在社会机器人试验中实现，支持了价值对齐的可行性 [31]，[443]。

BoMAI 继承了 AIXI 的强物理和认识论假设，包括密封盒条件、阶段性短视和固定模型类，这些在开放部署中很少成立 [75]。其 AIXI 风格的核心在计算上也是不可行的，且没有可扩展的算法路径 [75]。嵌入智能体的问题，包括自指、侧信道和策略自我建模，在受控环境之外仍未解决 [426]。在价值学习中，当模型被错误指定时，奖励推理是不确定的，且 IRL 和 CIRL 都可能诱导代理寻求 [135]。基于共情的扩展也难以扩展，因为在高维多智能体环境中对他人福利进行建模仍然是一个开放问题 [52]。它们还遗漏了社会技术因素：共情模块和 CIRL 无法代表多元或制度性价值观，且通常假设单个教师和固定价值结构 [135]。

一旦真实系统能够因果地影响外部状态，有限目标结果就会失效，因为日志、轨迹、梯度更新或面向用户的效果等出站通道可以恢复权力寻求的动力 [75]，[426]。基于共情的奖励塑造仅提供局部行为调节；没有更广泛的安全机制，智能体可能会绕过或选择性地内化共情信号 [52]，[445]。IRL 和 CIRL 还受限于奖励可识别性问题、对模糊或次优示范的敏感性，以及对合作人类和可靠 POMDP 归约的依赖 [135]。AGI 开发仍然缺乏在开放、资源有界、嵌入设置中可扩展、可计算的温和优化形式，包括在完美密封无法实现的情况下遏制权力寻求的机制 [426]。当前系统也缺乏整合可修正性、低影响约束和可靠关闭的保证，以及证明这些属性在学习和部署过程中保持稳定的证明 [21]，[271]。价值学习方法必须超越 CIRL 的单一教师设置，转向多人类、多群体上下文，并配备反映多样化和动态变化偏好的不确定性感知的奖励模型 [135]。基于共情的方法需要更强的社会建模和与形式化安全约束的更紧密结合，以在分布偏移和多智能体交互下保持可靠 [445]。进展还需要针对权力寻求、奖励篡改、侧信道泄漏和旁观者风险的基准和红队评估，包括部分可观测性下的对抗和人类在环教学场景 [135]。

**4.6. 认知架构**

集成认知架构（ICAs）是构建模拟人类认知的智能系统的基础，它将感知、记忆、推理、学习和适应统一在单一框架内。感知将感觉数据转化为内部表示；记忆存储和检索信息；推理评估行动；学习更新知识；适应为新情境调整策略。这些交互模块实现了灵活的、上下文感知行为，与生物智能的整合性和适应性相平行。

**4.6.1. SOAR**

Soar 引入了一种基于僵局驱动的次目标设定和组块化的统一问题求解架构，实现了通用任务执行和将成功的推理自动编译为产生式 [203]。它将符号控制扩展到时间紧迫的模拟中，如 TacAir-Soar，其中智能体在实时条件下执行层级目标和反应性行为 [172]，[199]。后续版本增加了强化学习、语义和情景记忆、心理意象以及基于评估的情绪模型，扩展了原始的均匀性论题 [204]，[257]。情景记忆实现了对时间上下文相关的内部和外部状态的检索，超越了单独的程序性或语义记忆所能支持的范围 [200]，[266]。强化学习将符号控制与基于奖励的统计学习联系起来，同时保持了规则-based的结构 [259]，[266]。通过维护的代码库、文档、研讨会和 ROS-2 集成持续支持，使其在具身和研究环境中得到持续使用 [8]。

Soar 早期对单一符号表示和学习机制的承诺被证明是不够的：符号记忆和均匀组块化无法支持情景回忆、语义记忆或数值学习，这促使在 Soar 8 之后进行了重大扩展 [204]，[257]。组块化通常产生上下文特定的规则，降低了泛化能力并增加了维护成本 [203]。该架构还缺乏一般的概率推理；即使有 Soar-RL，不确定性处理也仅限于算子选择偏好而非完整的信念状态 [259]，[266]。接地的感知和连续控制仍然十分有限，经典 Soar 依赖于外部的感知和运动系统 [204]。它尚未展示在真实世界规模上的开放世界终身知识获取，且其原生语言能力无法与现代 NLP 系统相媲美 [200]，[204]。

这些限制源于架构假设偏好符号性、深思熟虑的控制，以产生式作为主要知识格式，以及以组块化作为默认学习机制，从而低估了统计学习和更丰富的陈述性结构 [203]，[204]。组块化会编译任何解决僵局的内容，往往保留无关细节并扩展规则库，而没有对不确定性进行原则性处理 [203]。符号性工作记忆也不匹配感知和连续控制需求，需要外部模块进行接地和动力学 [197]，[204]。原生概率推理仍然有限。强化学习改进了算子偏好，但不增强信念状态维护或贝叶斯推理 [259]，[266]。Soar 也主要通过工程化知识而非在开放世界规模上的自监督持续获取来实现扩展 [200]，[204]。

Soar 的剩余差距与其标志性优势紧密相关：产生式系统决策周期加上僵局驱动的次目标设定和组块化。在开放领域，组块化可能产生基于规则的增长和脆弱的、上下文绑定的产生式，而非紧凑的、可迁移的技能 [203]，[204]。因此，Soar 最需要针对 AGI 的需求是：(i) 产生抽象、可复用算子的学习机制，而不会导致产生式的无序增殖；(ii) 整合的信念状态表示和概率推理，能够在决策周期内部运行（超越算子偏好），以应对部分可观测的、嘈杂的世界 [259]，[266]；以及 (iii) 一个原则性的接口，使现代感知和语言模型提供接地的、不确定性校准的工作记忆结构，而非手工设计的符号 [200]。元认知也需要从"僵局处理器"扩展到对知识质量的自我监控、遗忘/巩固以及在长视界学习设置中对竞争目标的资源分配 [261]，[387]。

**4.6.2. ACT-R**

ACT-R 通过一个基于心理学基础的产生式系统和专门的并行模块来结合感知、认知和行动，实现对延迟、双任务效应和神经激活的准确预测 [19]，[54]。其混合符号-亚符号学习模型通过基础级学习方程来建模组块的可用性，通过基于奖励的更新来建模产生式效用，与关于遗忘、速度-准确率权衡和策略选择的证据相匹配 [19]，[46]。产生式编译将陈述性处理转化为程序性技能 [374]。ACT-R 已在驾驶、多任务、HCI 和自动化适应中得到验证，实现了对人类行为的定量拟合，并有稳定的解释器、文档、GUI 工具以及持续的 ACT-R 6/7 开发支持 [6]，[43]，[267]，[321]。

其局限性源于核心设计选择。亚符号记忆方程（基础级学习）计算成本高且经常被近似，这可能会扭曲激活动力学并限制可扩展性 [99]，[287]。不确定性处理仍然狭窄，因为 ACT-R 缺乏一般的概率信念状态、贝叶斯规划和架构级的概率融合。同时，串行产生式选择和模块化缓冲区限制了符号整合 [19]，[43]，[373]。感知和运动模块是手工设计的而非学习和接地的，限制了对齐现代感知学习和连续控制 [7]，[54]。ACT-R 也缺乏稳健的端到端语言能力，且需要手动指定组块、产生式和参数，这阻碍了大规模或通用部署 [309]，[373]，[375]。

相应地，ACT-R 缺乏多种 AGI 相关能力：端到端学习到的感知接地、连续控制、统一的神经符号学习、一般概率推理、不确定性感知规划、对隐藏状态的信念维护、终身自监督大规模知识获取、基于感知和行动接地的稳健语言系统，以及显式的元认知机制如自我模型、内省式不确定性和层级元学习 [6]，[19]，[54]，[201]，[202]，[309]，[312]，[373]。

**4.6.3. 层级时序记忆（HTM）**

HTM 使用空间池化来形成稀疏的、噪声鲁棒的分布式表示，具有稳定的语义、在细胞丢失下的优雅退化能力，以及适应变化的输入统计的同时保持稀疏性和拓扑结构 [80]，[388]。其时序记忆支持对高阶序列的持续无监督学习，用于现实世界流上的下一步预测和异常检测。同时，该框架反映了皮层思想，如柱状组织、活性树突、分离的近端/远端输入，以及 paCLA 更新以提高神经元级的生物保真度 [53]，[80]，[115]。比较研究还报告了相对于 LSTM、GRU 和 OS-ELM 在适应性和序列表示质量方面的优势 [322]。

然而，作为 AGI 框架，HTM 仍然有限。

其层级结构的表现尚未能匹敌基于CNN或Transformer的视觉及NLP系统及其对应基准测试[295]；时序记忆虽能处理高阶序列，但未展现出与包含显式不确定性处理的完全层级化生成式世界模型或基于注意力的长程及多模态依赖模型的竞争力[53]；该架构缺乏强化学习、效用优化、规划、目标导向学习、价值学习和任务目标学习，侧重于预测和序列学习而非目标导向行为、元学习或目标获取[53]、[150]；尽管具有贝叶斯解释，却缺乏包含显式不确定性处理的完全层级化生成式世界模型[115]；感觉运动整合仍主要停留在理论层面，缺乏实证性具身或机器人演示，且尚无成熟的闭环感知-动作接地机制来处理复杂环境[53]。其均匀的皮层柱假设忽略了区域性的生物专业化[53]。稀疏分布式表示缺乏符号推理和动态变量绑定，从而限制了组合式抽象[149]。该架构缺乏全局工作空间式的注意力控制、系统级路由和优先级分配；避免基于梯度的优化限制了其在大规模数据集上的可扩展性，而现代深度学习技术在这方面占据主导地位；并且它仍然缺乏统一的多模态世界模型，无法跨视觉、语言和运动信息在长时间尺度上进行有效的多层次抽象，以支持高层语义和概念学习、奖励驱动的决策制定以及目标或内部策略的适应。

4.6.4. 智能分布/决策学习代理（LIDA）
LIDA在一个架构中集成了感知、工作记忆、情景记忆和程序性记忆、情绪、注意力和动作选择，提供了全局工作空间理论的计算机实现，以约10 Hz的竞争性广播速率实现约200毫秒的感知-意识-动作循环[100]、[101]、[102]。它支持感知性、情景性、程序性和行为性发展学习，在动作选择中嵌入情绪和动机变量，并植根于GWT、Copycat、稀疏分布式记忆和行为网络[77]、[100]、[101]。

然而，LIDA仍然主要是一种认知保真、概念导向的架构，而非具有竞争性基准测试的AI系统。其基于代码子的多模块设计在计算上代价高昂。它依赖于异构的手工构建模块和表示，限制了可扩展性、表示灵活性以及在高风险或快速变化环境中的性能[77]。其对全局工作空间理论的强依赖性固定了一种僵化的自上而下结构，难以扩展以整合深度学习、可微分记忆或端到端优化；大多数组件仍为符号或基于规则的，降低了抽象能力、全局优化以及与现代统计学习在感知和预测方面的整合[24]、[77]。社交推理和心智理论的实证演示仍然有限，尽管具有动作执行模块，但感觉运动接地仍然受限，且该架构缺乏统一的大规模多模态表示学习、长期预测世界建模、自主目标形成、元学习以及神经-符号集成[77]、[86]、[102]。它尚未在ALFRED、BabyAI、机器人任务或世界模型环境等大规模AGI相关基准上进行评估，其能力在很大程度上未经验证。

4.6.5. AGI代理认知架构（AGICA）
AGICA提供了一个明确的AGI代理框架，对意识、知识、情绪和代理类型进行了公理化，将标准/通用认知模型扩展了驱动力和情绪/社交层，提出了为具身系统注入接地感知概念（如空间和时间）的工程工作流程，并与强调意识、目标、社交和情绪模块、伦理以及学习子系统的AGI综述相一致[194]、[195]、[366]、[367]。然而，它仍然停留在概念层面且验证力度较弱：该框架规定了公理和模块，但未提供可执行的算法、目标函数、损失函数、规划器、训练程序、学习动力学或具体接口，使得可行性、实现语义、与LLM的集成、基于梯度的感知、世界模型、神经形态组件以及可扩展性均不明确[194]、[195]、[416]。它还缺乏统一的、可扩展的、可更新的多模态知识基底、实证基准、操作安全协议、对齐测试以及用于集体代理、伦理、认知任务或具身性能的评估方法[194]、[366]。就AGI相关性而言，每个模块都需要具体的算法、数据结构、更新规则以及与现有模型的接口；需要通过预测模型和基于模型的强化学习进行具身世界建模，以支持长期规划和对抽象学习的推理；需要多代理协议、心智理论机制和正式的安全评估器；以及涵盖感知、知识整合、规划、社交推理、安全和终身学习的可复现基准[194]、[195]、[366]。

4.6.6. M认知元架构
M定义了一种基于逻辑的合规性测试：一个人级代理 $a$ 满足性质 $s(a)$ 当且仅当其模型 $\mu(\mathfrak{m})$ 成立，而一个架构 $X_i$ 只有在形式化 $\chi_i(\mathfrak{a})$ 可证明等价于 $\mu(\mathfrak{a})$ 时才合规[47]。该论文在基本算术领域对此进行了评估，其中LLM经常违反基本不变量，从而提供了一个独立于流畅性的正确性标准[47]。M被定位为异构架构（包括NARS和SNePS）的元级比较器，其正式材料已公开发布以供验证和重用[47]。

其范围较为狭窄：启动论文仅形式化了算术领域，语言、感知、规划、社交推理和学习均未进行测试[47]。它没有在已实现的代理上进行端到端验证，因此关于NARS或SNePS的主张仍未得到证实[47]。它也没有规定学习或亚符号组件如何融入 $\chi_i(\cdot)$，使得神经和基础模型行为在分布不确定性下仍未解决[197]。此外，它还缺乏用于实证性跨架构接受或拒绝的基准、数据集、任务集和指标[47]、[197]。

因此，M作为通用AGI框架失败，因为算术作为感知、持续学习、工具使用和社会认知的检验点过于狭窄；缺乏从这些领域到 $\mu(\cdot)$ 的映射，覆盖范围仍然不完整[47]。它还通过不提供从代码库或学习模型推导 $\chi_i(\cdot)$ 的方法，使理论与实现脱节，尽管元认知和神经-符号研究中呼吁操作透明度和耦合[406]。没有比较基线或共享基准，它还不能作为架构无关的仲裁者[197]。

一个完整的AGI版本需要将 $\mu(\cdot)$ 扩展到算术之外，涵盖语言、感知-动作、规划、社交推理和不确定性，并为每个领域至少提供一个架构的合规性定理示例[47]。它还要求为混合系统提供可执行映射，展示神经模块、LLM和世界模型如何通过神经-符号中介器或有类型的逻辑合约成为 $\chi_i(\cdot)$，与TRAP导向的元认知提案保持一致[406]。还需要一个可复现的基准套件，涵盖算术、逻辑、接地语言-动作、持续学习和社交推理，其合规性标准与 $\mu(\cdot)$ 挂钩[197]。最后，需要非平凡领域的机器可验证证明工件以及用于监控、诊断和解释的运行时元认知层，以实现验证的操作化并将M与当前元认知AI方向对齐[47]、[406]。

4.6.7. 语义网络处理系统（SNePS）
SNePS引入了一个内涵性知识表示框架，其中所有良构表达式都指称心理实体，命题作为一阶项支持对信念、嵌套信念和非存在物的引用和推理[344]。它通过自然演绎、容矛盾推理、基于槽位和基于路径的推理，统一了逻辑、框架和网络表示[344]。其相关性逻辑在矛盾下阻止了爆炸，而SNeBR检测矛盾并支持受约束的信念收缩[170]、[342]。通过SNeRE和GLAIR，推理与模拟和物理具身代理中的行动联系起来[336]、[342]、[343]。该系统还具有成熟的工具链，包括手册、SNePSLOG资源和长期文档[337]、[339]。

然而，SNePS在现代大规模任务上的可扩展性尚未得到证实；已发表的工作主要集中在受控案例研究而非竞争性基准性能上[338]、[343]。它没有定义整合亚符号或神经组件的方法，仅在Lisp中记录了基于逻辑和网络的语义[337]、[344]。尽管早期有基于阅读的自主知识获取声明，但大规模自主知识获取仍未开发[345]。其缺乏内置等值关系虽然保留了内涵区分，但使身份管理、本体对齐和知识库维护变得复杂[344]。信念修订仅部分自动化：SNeBR处理矛盾，但不支持在存在大量冲突流的情况下进行完全自主的修订[170]、[342]。

这些限制在很大程度上反映了SNePS的内涵性、手工设计的符号知识与现代大规模系统使用的数据驱动表示学习之间的架构不匹配；其设计优先考虑符号推理而非可扩展学习和高吞吐知识摄取[340]。它还没有定义从神经或概率表示到SNePS项的翻译方法，也没有在接口连接现代感知或语言模型时保持其逻辑约束的方法[344]。评估仍然局限于小型说明性代理场景，而非与大规模或AGI环境相关的标准化基准，使其操作性能缺乏充分表征[336]、[343]。

从AGI的角度来看，SNePS的未解决问题与其独特之处密切相关：内涵性术语和带矛盾容忍的显式信念管理。主要缺失的能力是一个可扩展的身份与证据流水线：在开放世界设置中，SNePS必须摄取许多部分冗余、冲突的信息源，并决定何时两个术语应该（或不应该）被链接、合并或保持独立，同时仍然尊重内涵性并启用SNeBR式收缩[170]、[344]。第二个SNePS特有的差距是分级信念：矛盾容忍避免了爆炸，但它本身并未为感知导出的断言、查询优先级分配或部分可观测条件下的决策提供校准的置信度。最后，由于SNePS强调类似证明的推理和显式修订，可信的AGI进展应通过基准测试任务来体现，这些任务需要(i)大规模知识摄取且修订可追溯，(ii)在对抗性不一致下的可复现收缩/修复，以及(iii)在非玩具规模上的外部可验证推理轨迹（例如，携带证明的答案）[339]、[342]。

4.6.8. 具有集成推理的接地分层架构（GLAIR）
GLAIR采用三层架构：知识层（KL）用于认知推理，感知-运动层（PML）用于感知接地和潜意识过程，感觉-执行器层（SAL）用于传感器/执行器控制，使得相同的认知系统可以跨机器人实体重用[341]。PML通过感知结构、模态寄存器和指示性机制对符号进行接地，从而解决了符号接地问题。与此同时，KL在SNePS中实现，支持内涵性知识表示、元命题、自然演绎、信念修订和规划。GLAIR还包括本体感知、特权第一人称访问以及虚拟和物理代理中的跨模态符号中介；其设计遵循计算哲学，优先考虑功能和概念清晰性而非生物合理性[341]。

GLAIR缺乏大规模学习能力，包括神经表示学习、多模态模型和自监督方法；因此，它在现代感知任务上表现不佳。其已发表的形式依赖于符号处理和手工设计的SNePS知识库，这限制了其在开放域推理和连续感知空间中的可扩展性。评估基于演示而非基准测试，使得导航、操作和多代理性能未经测量。尽管PML对符号进行接地，但它无法从感觉输入中自主推导新的高层概念或感知类别。此外，SNePS的确定性容矛盾逻辑无法表示梯度、似然、概率或不确定性[341]。

这些限制源于基于SNePS的显式符号控制，它要求认知操作必须被显式表示，限制了从原始感觉数据中提取模式的能力[341]。PML主要在传感器、执行器和符号之间进行翻译，不集成深度视觉、预训练语言模型或强化学习策略，在符号推理和连续感知之间留下了差距。SNePS的内涵性术语、元命题和缺乏原生等值关系也阻碍了数据融合、重复解决和本体对齐。GLAIR还缺乏元学习、自主目标修订和长期行为优化。

对于AGI而言，GLAIR最特有的缺失能力并非一般的"接地"——PML已经提供了指示性和基于模态的接地——而是KL-PML接口的自主增长：学习新的感知类别和动作抽象，使其成为稳定的SNePS项和计划而无需人工建模[341]。第二个特有差距是不确定性：SNePS/KL推理和信念管理主要是符号性和容矛盾的，因此要桥接到有噪声的感觉和连续控制，需要对分级信念、身份解析和概率数据融合进行显式处理，同时不消除内涵性区分[341]。最后，由于GLAIR明确是一个可重用的实体化层（SAL/PML），其AGI可行性取决于已证实的可移植性：相同的KL应该跨实体传输且具有可衡量的样本效率和技能保持，而非每个机器人重新设计。因此，进展最好通过跨实体研究来证明，在这些研究中，学习到的感知和动作抽象、规划能力和信念维护在分布偏移下随时间改进，而KL保持基本不变。

4.6.9. 自催化内生反思架构（AERA）
AERA结合了基于种子的架构，通过反思性自我检查和修订扩展可执行模型[264]，以及由价值驱动的调度器，将计算分配给并行推理过程以优化向目标的进展[263]、[381]。它通过观察获取多模态对话管理技能，展示了累积性的、领域无关的学习[263]。推理使用非公理化的溯因和演绎机制来构建和重用组合性因果微模型进行预测和目标达成[381]。该项目还提供了Replicode、可视化器以及示例任务，如手部抓取球体推理和学习[381]。

记录的局限性包括缺乏与当代学习系统的同行评审定量基准；证据主要限于技术报告和arXiv预印本。

部署依赖于手工制作的领域专用主控规划（Masterplan）种子[264]。独立的大规模复制、外部采用以及竞争性评估极为稀少。已发表的资料并未报告其在高维感官输入或端到端现代感知任务上的扩展。一些公开主张，包括在受限递归自我改进方面的唯一性以及在新奇性条件下的鲁棒性，超出了同行评审的支持范围[381]。其主要弱点在于相对于现代机器学习的评价差距、持续依赖人工设计的种子，以及缺乏用于高效高维感知的集成式大规模表征学习管线[264]。社区采用也受到专用语言和运行时的限制，Replicode 仍是核心实现，与主流工具链的集成较少[381]。与 AGI 相关的缺口依然存在：在具身或长期任务上缺乏基准级证据，没有可重复的种子、透明的自我修改日志或独立复制；与高容量感知和语言模型的神-符号集成有限；种子归纳和跨领域迁移发展不充分；对溯因、演绎和调度过程中的偶然不确定性与认知不确定性缺乏可扩展处理；以及针对自我编程的安全机制不完善，缺少关于保持不变量的自主重构的公开保证或监控。

4.6.10. 情绪驱动的认知架构

EMA：基于评价的情绪适应认知模型。EMA 将情绪建模为连续的"评价—应对—再评价"回路，使用相关性、可取性、问责性和应对潜力，从而能够支持可扩展的虚拟人[15]、[237]。然而，它对 AGI 的局限相当具体：EMA 最强大之处是评价动态模块，但它本身并未规定（i）评价如何从不确定的、学习得到的感知中计算得出，（ii）应对策略如何成为权衡短期情感调节与长期目标的策略，或（iii）评价变量如何跨领域学习和迁移，而非按场景人工设计[236]。因此，区分 AGI 的关键问题在于，EMA 式的评价能否被嵌入为信念/状态估计与行动选择之间的可复用接口——并在探索、风险敏感性和社会互动方面带来可衡量的收益——而不是继续停留在按脚本情境调度的独立情感模拟器中[237]。

SOAR-Emote：将评价集成到通用认知架构中。该方法在 SOAR 中嵌入评价，从而使情绪影响决策循环中的注意力、目标选择和学习[235]。基于评价的内禀奖励还提升了相对于非情绪基线的强化学习效率[234]。其局限并非简单地"缺乏感知"：SOAR-Emote 的技术关键在于，评价变量能否在不确定的情况下作为一等状态在生产系统循环中计算并维持，以及它们能否在超越人工设计偏好或奖励塑形所能实现的范围上改善算子选择。迄今的证据仅限于受约束任务[235]。对于 AGI，最具区分性的下一步是基准化对比：在分布漂移、部分可观测和长期目标条件下，对相同任务知识、带与不带评价驱动调节的相同 SOAR 智能体进行评估，不仅衡量奖励，还衡量稳定性（避免病理性子目标）、样本效率和已学习/编译生产的鲁棒性[200]。

LIDA：具有基于情绪动机的系统级架构。LIDA 提供了一个端到端认知循环，其中情绪与动机调节显著性、注意力和行动选择，并配有文档化的模块及一定的神经科学依据[77]、[100]。其 AGI 局限再次特定于该架构的"全局工作空间"式循环：尚不清楚当感知假设、目标和情景痕迹由高性能学习模型（而非小型工程化特征集）产生时，广播与竞争机制能否扩展，以及该循环能否为长期技能学习产生稳定的信用分配[100]。因此，通向 AGI 的区分路径不只是添加更好的感知，而是证明（i）不确定性与部分可观测性可以表示并通过工作空间竞争传播，（ii）认知循环中的情景/语义巩固能在具身的长期基准上带来可衡量的持续学习收益（保持、迁移和非灾难性更新）[100]。

CLARION：具有动机子系统的情绪化双过程架构。它通过动机子系统建模情绪，跨越隐式和显式表征将需求与行动控制联系起来，并能解释观察到的动机—表现效应[369]、[370]。对于 AGI，最具有 CLARION 特色的开放问题是，当"隐式"一侧由大型学习策略/表征（而非小型任务特定联想网络）实例化时，其双过程分离（隐式对显式）能否产生稳健的分工。特别是，该架构需要证据表明，在持续学习期间显式规则能够被归纳、纠正并与隐式技能保持对齐，而不是漂移成两个不一致的控制器。第二个区分点在于动机控制：需求/强化信号应当能够明显提升探索和习惯形成，而不在长期任务中产生奖励作弊或不适应性局部最优。因此，进步最好通过带有显隐一致性指标和对动机变量消融的基准化持续学习与迁移实验来展示，而不仅仅是定性演示[368]、[369]。

MicroPSI 基础上的动机驱动认知与涌现情绪。MicroPsi 实现了一种基于 PSI 的模型，其中情绪从驱力和调节器动态中涌现，这些调节器调节注意力、记忆检索和目标选择，并提供实用的智能体构建工具[25]、[28]。在"情绪驱动"家族中，其区分之处在于 PSI 式控制思路：调节器旨在重塑感知、记忆访问和行动选择。与 AGI 相关的缺口因此不只是缺乏现代感知，而是调节器尚未被证明能在开放环境中作为自适应计算/分配机制扩展（例如在改变解析层级或唤起度以权衡探索对利用、审慎对反应性）。最可信的通向 AGI 的证明将是具身基准实验，包含对驱力/调节器动态的显式消融，衡量样本效率、分布漂移下的鲁棒性和长期目标持续性，同时配备组合式语言接口，能够在同一表征基底中创建和修正目标[25]、[28]。

OCC 模型：许多架构使用的标准分类法。OCC 模型是广泛使用的情绪类别与强度变量分类法，而非完整的认知架构。在各种系统中，情绪支持了内禀强化学习奖励、注意/优先级调节以及由应对驱动的规划修订，如 SOAR-Emote、LIDA、MicroPsi 和 EMA 所示[72]、[100]、[234]、[237]。基于评价的方法为相关性、责任、应对潜力和策略调整提供了显式变量，一些架构将其嵌入完整的决策与记忆循环中[100]、[235]。然而，大多数系统缺乏大规模基准，依赖工程化感知，且与概率推理和基于语言的社会推理集成不佳[100]、[235]、[237]。这些弱点反映了情感计算历史上重识别而轻控制、评价分类的描述性本质，以及遗留架构对现代表征学习和不确定性建模适应较慢[72]、[200]、[273]、[290]。对于 AGI，缺失的要素包括评价变量与学习嵌入之间的神-符号连接、概率化评价与应对、标准化的跨域评估、在语言与社会推理中的落地，以及在情绪塑造内禀动机与长期适应的终身开放世界学习中的实证。[100]、[234]、[235]、[237]

4.7. 可扩展的基础多模态 Transformer

这一系列工作（通常被称为基础模型范式）将广泛能力视为在异构数据上大规模预训练的涌现属性，通常使用 Transformer 骨干和自监督目标，随后进行任务适配和对齐微调。经验上，这已成为 2020 年代通往通用系统的主导工程路线：以 LLM 为核心的栈越来越多地成为语言、代码和多模态感知的默认"认知核心"，下游组件提供记忆、工具使用和环境交互。在 AGI 文献中，这一转变意义重大，因为它改变了"泛化"在实践中的形态：不再是单一用途的认知架构，许多部署系统更像是围绕一个通用预训练模型布置专门的接口与控制器。

为什么规模化有效（以及它带来什么）

规模化通过让模型接触多样分布并启用更丰富的内部表征，改进了广度与表面迁移，从而支持上下文学习、指令遵循和组合式生成。多模态扩展进一步将纯语言能力与落地感知之间的差距缩小，通过将文本与图像、音频和视频特征对齐，实现跨模态检索与推理。

对 AGI 仍然缺什么？

尽管实证表现强劲，文献中反复指出的局限直接关乎 AGI：（i）因果与反事实建模薄弱，损害了鲁棒规划和分布外泛化；（ii）幻觉与校准失败阻碍可靠决策；（iii）由于工作上下文受限且缺乏持久结构化记忆，导致长期一致性有限；（iv）针对行动的不完全落地，尤其在需要具身、本体感觉和闭环控制时；以及（v）在不确定性下的自我监控与自我修正困难，限制了安全自主性。

代理式和工具增强系统作为实践扩展

一个当代主要应对方案是围绕基础模型构建代理系统：工具使用、检索增强生成（RAG）、结构化记忆（情景日志、向量库、知识图谱）、多步规划和环境反馈循环被用于弥补上下文限制，提升事实性和任务完成度。从 AGI 角度看，这种混合化并非偶然：它通过感知—推理—行动循环将自主性操作化，引入验证与执行的显式接口，并自然地将评估聚焦于动态环境中的端到端任务成功，而非孤立的基准分数。

4.8. 代理式 AI 架构作为新兴 AGI 范式

代理式 AI 架构将基础模型包裹在闭环控制中：把目标分解为子任务，调用工具（代码执行、Web/DB API），持久化记忆，自我批评并迭代直至完成。这使得"通用智能"的进展从静态问答转向长期、有状态的问题求解，带有显式的行动轨迹，使对自主性和安全性的评估更加现实（例如基于工具接地的推理和反思）[351]、[422]。

近期系统展示了互补的设计模式。AutoGPT[306] 和 BabyAGI[255] 普及了带有规划、记忆和工具使用的自主任务循环。MetaGPT[158] 通过角色专业化的代理（如 PM/架构师/开发/测试）实施多智能体协作，通过结构化产物交换指向组织级问题分解。OpenDevin[269] 面向可复现开发环境中的软件工程自主性，使端到端正确性和沙盒执行成为一等公民。CrewAI[79] 强调团队编排和委派子目标，而 LangGraph Agents[205] 将代理工作流形式化为带检查点的图，允许可控的分叉、恢复和可审计性。

总体而言，这些系统通过为规划、行动、观察和更新循环提供可执行脚手架、多代理协调、以及可追溯的决策管线，有助于 AGI，从而能够对鲁棒性、对齐和安全自主性进行压力测试。

4.9. 信息论与算法方法

这一方法族从数学、信息处理和算法效率的角度定义智能，而非基于特定架构，将其定义为柯尔莫哥洛夫复杂性所体现的能力，即生成紧凑的（压缩的）模型来解释多样观察的能力[347]。Friston 的自由能原则要求任何自适应系统必须通过行动最小化其变分自由能（从而减少预测误差并维持稳态）。Schmidhuber 的算法创造力指发现新颖但可压缩模式的能力，将 AGI 与好奇心驱动的学习联系起来。

4.9.1. 信息论与算法方法中的柯尔莫哥洛夫复杂性

Solomonoff 的通用先验通过将可计算假设按其描述长度加权，统一了归纳推断、奥卡姆式简约和最优预测；Hutter 通过 AIXI 将其扩展到行动[162]、[360]。Kolmogorov 和 Chaitin 将简约形式化为最小程序长度，前缀复杂性提供了与压缩相关的语言不变度量[60]、[192]。MDL 通过随机复杂性将这些思想应用于模型选择，而 Levin 的时间受限复杂性和通用搜索则为资源敏感的先验提供了动机[110]、[307]、[308]。Legg 和 Hutter 将通用智能定义为可衡量目标，G?del 机器则提供了在形式化效用准则下可证明最优的自我修改框架[211]、[326]。可计算的通用先验（包括速度先验 Speed Prior）进一步将概率与计算成本联系起来，从而产生资源感知的预测器并带有可行的损失界[98]、[325]。

AIT 受限于计算上的不可判定：柯尔莫哥洛夫复杂性、Solomonoff 先验和 AIXI 都只是下半可判定的，因此精确评估不可能。实现依赖于代价高昂的近似，例如 Levin 搜索或 AIXI-tl[110]、[162]、[360]。柯尔莫哥洛夫复杂性还依通用机而定（至多相差一个加性常数），这在有限样本中很重要[192]。虽然 AIT 提供了简约等一般原则，但其最优性结果大多忽略计算预算，并缺乏针对具身或部分可观测环境的高维感知、深度表征学习和高效信用分配的机制[131]、[132]。由于通用搜索与 AIXI 风格方法随最短相关程序长度呈指数缩放，探索和规划仍然不可行[110]。此外，无界柯尔莫哥洛夫复杂性的许多性质对于时间受限形式并不成立，而现代学习依赖于随机化和平均情况行为，这激发了如 rKt/pKt 之类的概率变体[228]。

对于 AGI，AIT 必须既做到可计算又做到资源感知：通用先验需要有限计算保证，诸如速度先验之类的方法必须扩展到具有可行预测与控制性能的随机设置[98]、[325]。

以下是该段学术文本的中文翻译。

---

## 4.9.1 与深度表示学习的连接（承接上文）

需要建立与深度表示学习更强的联系，使得描述长度原则能够支配潜空间形成、信用分配，以及具有可证明泛化能力的 MDL（最小描述长度）正则化 [131]。概率型时间受限复杂度理论，包括 rKt/pKt，应当导出具有分布无关或平均情形分布保证的实用算法 [125], [228]。通用智能体还要求计算上明确的 AIXI 式形式化，其遗憾值（regret）随时间和内存缩放；在不确定性下进行经验证的自我修改，将 G?del 机器思想扩展到随机与部分可观测环境；以及有限算力、与 AIT 对齐的基准，用以操作化 Legg–Hutter 的通用智能概念并提供统计定义化的评分 [162], [211], [326]。

## 4.9.2 Friston 的自由能原理（FEP）

自由能原理（FEP）提供了一个统一的变分目标，通过最小化自由能将感知、行动与学习联系起来，并整合了预测编码与最优控制的观点 [105], [108]。它定义了一个关于惊讶度（surprisal）的信息论上界，可通过变分贝叶斯进行优化，并通过期望自由能（expected free energy）导出用于推断与策略选择的算法程序 [104], [107]。神经过程模型将皮层动力学推导为自由能梯度流，在分层架构中重现预测编码现象 [103], [107]。主动推断已被应用于具身智能与机器人智能体，包括主动视觉、基于因子图消息传递的闭环控制，以及用于世界模型学习与规划的深度学习实现 [230], [238], [393]。近期的阐述厘清了贝叶斯力学、马尔可夫毯与计算实现 [106], [283]。

批评意见认为，FEP 在原理层面不具备清晰的证伪性，往往仅作为一个宽泛的优化论断而运作，除非它被绑定到特定的生成模型、经验数据与任务级预测之上 [246], [299]。将其从神经系统推广到所有自组织系统，引发了关于过度概括、经验承诺不明以及关于普遍马尔可夫毯的主张等方面的担忧 [109], [384]。许多适应性行为都可以被一个自由能最小化的生成模型事后可拟合，这进一步削弱了其证伪性 [246]。有关其与物理原则（如哈密顿原理）之间联系的提议，也被论证为仅是有限的类比，而非真正的等价关系 [299]。实践上，其部署需要表达力强的、学习得到的或人工指定的生成模型，以及在复杂、部分可观测环境中对长时程上期望自由能进行计算昂贵的评估；尽管采用了摊销（amortisation）策略，但其可扩展性能是否可与现代深度强化学习、世界模型或基于模型的强化学习系统相竞争仍未获证实 [107], [238]。

经验支持主要集中在神经与心理物理拟合以及专门定制（bespoke）的演示上，而非系统性的、与 AGI 相关的基准，这使得在样本效率、鲁棒性、可扩展性与安全性方面的比较留下了空白 [230], [393]。持续的哲学争论也在质疑：生物或人工智能体是否真的在执行变分推断，抑或 FEP 更宜被视为一个工具性建模框架；将其视为建模工具而非普遍定律，将更有助于明确其适用范围并减少不可证伪性的担忧 [90], [246], [299]。因此，通往 AGI 的进展取决于可扩展的学习型生成模型、改进的用于期望自由能的摊销式或潜空间规划，以及预注册的行为学或神经学基准——这些基准应包含可证伪的任务级预测（如先验或精度加权动力学），并在长时程、部分可观测、多任务场景中检验 [104], [107], [238]。

## 4.9.3 Schmidhuber 的算法创造力刻画智能

该工作提供了一个关于内在学习动机（intrinsic motivation）的信息论解释，将好奇心与创造力定义为压缩或预测上的改进，而非原始的惊讶程度，从而解决了诸如“噪声电视效应”等问题 [328], [329]。它提出了一种配备自适应压缩器与强化学习控制器的智能体，该智能体因预测进展而获得奖励，并包含资源受限的变体及历史实现 [329]。PowerPlay 将开放式学习形式化为增量式的任务发明，其验证机制可保留对先前任务的能力，并将搜索偏向于紧凑、可高效检验的解 [330, 330]。G?del 机器定义了基于证明的安全自我修改，仅在形式化证明能提升期望效用时才允许重写，同时亦陈述了其局限 [326]。《Learning to Think》进一步论证，控制器可利用学习到的世界模型，通过算法信息论原则实现抽象推理、规划与迁移 [331]。

主要局限在于形式化目标与实际实现之间的鸿沟。最优压缩依赖于不可计算的柯尔莫哥洛夫复杂度，因此真实智能体必须使用近似的、资源受限的压缩器，从而削弱了保证 [328]。G?del 机器的自我修改要求效用增益的证明，然而证明搜索在计算上是困难的且不完备的，致使某些有用的重写既无法被证明也无法被触达 [326]。PowerPlay 关于任务发明与验证可扩展性的假设在真实世界场景中仍未经验证，尽管有有界成本与复杂度偏向的论证，但随着任务集与环境的增长，在所有累积任务上维持正确性变得愈发困难 [330]。度量真正的在线压缩进展也很困难，因为它需要存储并重压缩长历史，并在严格的资源限制下将增益归因于特定动作 [327], [329]。目前不存在完整的 G?del 机器实现；已发表的工作只是详述了通往完全自指系统的剩余障碍 [363]。

对 AGI 而言，尚未解决的要求是：可扩展的世界模型，能够在压缩高维、非平稳数据的同时，提供关于学习进展的稳定在线估计，以及可用于规划的抽象——正如《Learning to Think》所设想但尚未完全证实的那样 [331]。实际的自我改进还需要对 G?del 机器保证的可行近似，如受限的证明系统或概率性替代物 [363]。开放式学习仍然需要任务发明、验证与保留机制，而这些在玩具领域之外尚不可靠 [330]。一个完整的系统最终必须将内在的压缩进展信号与外在奖励相结合，并通过一个支持分层规划与迁移的世界模型来实现——这一能力已有所指明，但尚未完全实现 [329], [331]。

## 4.10 量子与超越计算视角

这些理论框架提出，通用智能可能无法完全在经典计算模型内实现。量子认知模型（Quantum Models of Cognition）表明，叠加与纠缠等量子现象可能解释人类推理中的非经典方面 [254]，且量子计算可能扩展可有效计算的适应性行为类别。Algebroid 几何统一提供了将认知置于纠缠与趋同进化原则之内的理论框架 [16]。而组织化客观坍缩（Orchestrated Objective Reduction, Penrose–Hameroff）则提出了一个更具推测性的理论，主张意识与智能可能源于大脑微管中的量子效应 [140]。

### 4.10.1 量子认知模型

量子概率模型统一了非对易性、叠加与干涉，用以解释顺序效应、合取/析取谬误、析取效应以及其他对柯尔莫哥洛夫概率的违反 [293], [294]。QQ 等式提供了一个无参数的、样本外约束，并已在问卷调查与实验室研究中得到验证 [404]。在概念表示方面，这些模型捕捉了典型性、过度与不足延伸，以及概念组合中的类纠缠结构，包括对贝尔型不等式的违反 [9], [11]。在决策论方面，量子决策论将干涉与概率的非加性形式化，用以解释对 Allais 悖论、Ellsberg 悖论及确定态原则的违反 [430]。

然而，量子认知在很大程度上是描述性的：它指定了一种几何概率结构，却缺乏过程层面的神经或算法机制，使算法层面仍不明确 [226], [258]。低维、非退化的 QQ 模型违反“大互惠律”（Grand Reciprocity）；加入退化或更高维数可改善拟合，却削弱了可识别性、简约性与证伪性 [45]。标准投影测量也无法同时解释顺序效应与响应可重复性，因而需要更复杂的量子仪器扩展 [274], [275]。在许多任务上，经典贝叶斯、启发式与向量概率解释仍然具有竞争力，这限制了量子形式化的独特经验优势 [49], [138], [250]。该框架并不预设量子神经基底，也未为现实环境中的学习或控制提供架构 [50]。

这些局限对 AGI 而言更为严峻。量子认知研究并未提供一个能够在复杂环境中学习、规划并行动的端到端智能体，因为现有模型聚焦于孤立的判断，而非持续的感知–行动回路 [49]。从高维感官流中可扩展地在线学习隐希尔伯特空间态与算子仍处于不成熟状态，而量子类信息检索/NLP 结果仍属探索性 [389], [413]。目前尚无与分层基于模型的强化学习或规划的成熟集成，现有形式化也未被用于现代控制基准测试 [430]。要达到竞争力，需要低参数、可证伪的算子族及其稳定不变量；然而证据喜忧参半：QQ 得到支持，而 GR（互惠律）则不然 [45], [404]。缺乏一种机制性、神经或计算上可行且资源受限的过程理论，量子概率模型仍仅为 AGI 提供有限的基础 [226]。

### 4.10.2 面向 AGI 的 Algebroid 几何统一

量子启发的认知研究报告了在概念组合中违反贝尔不等式的现象，这暗示了可用希尔伯特空间纠缠建模的不可分结构；相关的基于网络的统计数据显示了类似的“宠物–鱼/金鱼（Pet-Fish/Guppy）”效应 [10], [11], [12]。比较认知学进一步表明，复杂智能在昆虫、头足类、硬骨鱼、鸟类、鲸豚类、象类与灵长类中是独立进化的；头足类研究记录了高级学习与记忆、类脊椎动物的神经解剖学趋同，以及通向通用智能的截然不同的进化路径 [18], [313], [334], [350]。丛（groupoids）与李代数丛（Lie algebroids）为分布式对称性与上下文敏感结构提供了形式化工具 [156], [328]。AEC 提议整合了这些线索，将认知视为李代数丛 ?? → ?? 上的动力学：锚映射与括号编码上下文调制；纠缠概念是 ?? 上的不可分复合体；认知态是 ?? 的截面 Γ(??)，受上下文算子作用；组合性使用基于代数丛的张量化与丛合成；学习则被正则化到反映跨物种反复出现的架构的对称性上 [11], [12], [313], [363]。代数丛模型也允许多种统一的几何表示，其中单一曲率结构或作用可捕捉经典引力与电磁动力学 [96]；概念组合实验通过贝尔违反与希尔伯特空间重构支持了基于纠缠的解释 [11], [12]；而趋同进化证据则青睐反复出现的计算架构而非谱系特异性机制 [313], [350]。

该提议有三个主要局限。第一，代数丛统一源于经典场论，并未产生任何 AGI 就绪的计算架构、学习算法、目标或估计程序。第二，量子认知模型仍主要停留在计算层面，且可能因底层认知过程规定过弱而约束不足 [45], [183]。第三，尚无现有工作将代数丛形式化、经验性认知纠缠结果与趋同进化约束统一在一个连贯、可训练的 AGI 框架内。

这些局限反映了一种领域错配：代数丛的广义相对论+电磁学（GR+EM）形式化展现了几何表达力，但未触及信用分配、表示学习或在不确定性下的规划；量子认知研究记录了行为层面的纠缠，但主要是描述性的，缺乏算法性学习机制 [12], [45]；李代数丛方法面临积分与可观测性方面的约束，包括整体丛构造与背景无关性问题，这妨碍了其在可扩展智能体设计中的直接使用 [332]。一个可行的 AGI 版本将需要可学习的代数丛世界模型，其参数化的锚、括号与联络在丛可积性约束下由多模态经验估计 [363]；可微的组合模块，将概念与动作组合实现为学习得到的纤维上的张量化算子，并可用贝尔型行为实验检验 [12]；受趋同进化启发的架构先验，偏向于反复出现的联想式与多模态结构 [313]；联合评估表示学习、推理与控制的度量管线；以及将内部表示与新兴的脑–AI 对齐结果进行比较的对齐分析（视为初步工作）[348], [349]。

### 4.10.3 组织化客观坍缩（Orch-OR）

Orch-OR 文献涵盖该提议、修订、批评与实验。Hameroff 与 Penrose 于 1996 年提出了该模型及其意识机制 [140], [142]；后续的综述修订了其生物学与物理学主张 [141], [143]。Hagan、Hameroff 与 Tuszynski 认为微管的量子相干在生物学上可能可行 [137]，而 Tegmark 以及 McKemmish 等人则认为在生理条件下这是不可行的 [240], [376]。Sahu/Bandyopadhyay 报告了微管的电学、振动与共振现象，但这些结果仍有争议 [33], [318], [319], [323]。Craddock 等人也对微管蛋白（tubulin）色氨酸网络中的相干能量传递进行了建模 [78]。

该框架在三个方面有相对明确的刻画：它提出了坍缩时间关系 ?? ≈ ?/??_??，将引力自能与假定的 40–100 ms 的意识时标联系起来 [141]；它通过微管蛋白偶极、微管相关蛋白以及与脑电图（EEG）尺度节律的耦合，提出了一个从微观到宏观的桥梁 [141]；它部分受到微管中报告的共振、电导与谱学异常的启发，并伴随重新分析表明在替代假设下退相干时间可能更长 [137], [317], [318], [319]。

其主要问题仍在于物理可行性、生物学可行性与经验支持。Tegmark 估计相干时间为 10?13–10?2? s，远低于神经时标 [376]；结构分析认为微管蛋白动力学、偶极与耦合并不支持体内可扩展的量子处理 [240]；Diósi–Penrose 坍缩机制仍然假说化，且在生物学中未被验证 [141]。报告的共振与室温量子类信号也面临伪迹、制备与可重复性方面的质疑 [33], [318]。Penrose 基于哥德尔定理的不可计算性论证存在争议，且并不唯一地蕴含微管的存在 [410]。更广泛地说，热噪声、离子屏蔽与分子碰撞应在飞秒至皮秒尺度上破坏相干性；目前没有离位（in situ）脑测量显示相反情况；而在孤立微管中声称的太赫兹–千赫兹共振或开关缺乏独立的、双盲的重复验证 [319], [376]。由于该坍缩机制本身也处于既有量子理论之外，即使在受控的非生物环境中也未被证实，因此它为认知提供了薄弱的基础 [141]。

就 AGI 而言，Orch-OR 尚不具备可操作性。

（原文在此处截断，最后一句未完整。）

---

补充说明：上述译文中，原文标注 [330, 330] 应为笔误的重复引用编号；Orch-OR 中出现的符号如 ??_??（引力自能）、?（约化普朗克常数）、Γ(??)（丛的截面空间）均按其数学含义译述。由于末段"Orch-OR is not yet operational."后原文中断，如需该段后续内容的翻译，请提供剩余文本。

迄今为止，它尚未提供任何可训练算法、学习规则或优化基元；没有针对有序水空腔、偶极网络或DP级阈值可扩展的硬件或仿真基底；没有将假设的微管状态与认知联系起来的基准或消融协议；也没有对其关键前提条件进行验证，包括长寿命的体内相干性、亚神经元因果共振效应对计算的影响，或可测量的Diosi-Penrose塌缩特征[137]、[141]、[376]。

这对我们应如何平衡AGI设计空间的启示：鉴于截至2020年代中期，基础模型和智能体系统方法在经验上占据主导地位，任何最新的AGI综述都应对其给予实质性覆盖。相比之下，高度推测性的方案（如后计算论和量子意识理论）仍然是重要的边界设定性讨论。但它们的处理方式应与当前经验牵引力和运营影响成比例。

4.11. 集成系统与应用领域

本类别包括AGI原理在根本上得到集成的非常规应用。AGI原生无线系统超越了传统信号处理，直接将因果推理和高维计算整合到通信网络中，从而实现规划[435]。

4.11.1. AGI原生无线系统

所审查的工作确定了AI原生无线系统的构建模块。KDN架构通过知识平面建立意图和控制循环，用于遥测摄入、模型学习和SDN/NVF执行，与AI原生PHY/MAC协同设计保持一致[160]、[243]。因果方法被形式化地应用于波束管理、数字孪生准确性、语义压缩和意图处理，作为启发式强化学习的替代方案[380]。目标导向和语义导向的指标量化了有效性与eMBB流量的共存[242]、[364]。推理感知的多用户资源分配通过考虑缺失信息和计算-通信权衡来提高可靠性和吞吐量[355]。在边缘端，高维表示支持低精度认知，IMC-HDC展示了时空无线模式编码器[218]、[379]。

差距仍然存在，因为在真实RAN中尚未演示端到端的AGI级意图-计划-行动-学习循环；现有工作具有概念性，而非在因果推理、语义/HDC PHY和意图驱动控制之间集成[315]。因果模型在非平稳、部分观测的无线条件下仍然脆弱，并且主要是在风格化任务而非运营网络上进行验证[380]。目标导向和语义导向的指标缺乏统一的基准和跨层SLA，共存分析仍然局限于特定场景[242]。神经接收机和持续学习的计算和能耗仅被部分特征化，用于运营商部署[160]。HDC并未整合到协议栈决策中，例如大规模调度或波束/码本选择[379]。意图驱动的KDN也缺乏因果安全机制，包括针对实时频谱控制的反事实审计和回滚保证[243]。

失败因素是未解决的跨层和运营约束。学习和认证跨层因果结构之所以困难，是因为传播、PHY/MAC行为、传输动态和任务级奖励在非IID条件下与移动性和隐藏干扰相互作用，从而阻碍在线部署[380]。进展受到缺乏公开可用数据集的制约，这些数据集联合暴露原始RF数据、网络状态、任务结果以及干预或反事实标签，从而将可重复性限制在简化场景之外[364]。ML优先的PHY/MAC设计还涉及持续学习、硬件加速和标准化所需的成本，以实现稳健、互操作的政策[160]。没有公认的SLA来保证目标有效性，而运营商和监管框架仍然与吞吐量、延迟和可用性挂钩，而非任务导向的推理保证[242]。

AGI相关的无线能力需要稳健的RAN因果世界模型，将信道、流量和意图与行动和结果联系起来，用于在线反事实规划和安全监控[380]；标准化的跨层KPI——目标有效性、语义成本和每有用比特能耗——在扩展6G-GOALS演示的开放测试台上得到验证[242]、[364]；HDC原生认知，具有无线专用嵌入和靠近RU/DU的IMC实现[218]、[379]；AI原生空口，具有可微分协议元素和通过空口实验验证的语义或目标元数据[160]；意图API，具有反事实可审计性和回滚保证，将每个行动与政策正当理由和安全界限联系起来[243]、[256]；推理感知的计算-通信协同设计扩展到O-RAN[355]；以及结合语义通信、空口计算和联邦学习的基准[116]、[405]。

4.12. 替代概念框架

这些是关于智能本质的批评或替代哲学立场，包括具身和情境认知，它批评了纯粹的统计或信息论智能定义，强调具身意义、上下文锚定和情境交互是不可还原且不可或缺的认知组成部分；以及广义双语性，一种推进知识表示的新提案。

4.12.1. AGI的具身与情境认知

这项工作表明，认知和控制可以通过实时、世界耦合的行为和指示状态系统运作，无需集中式符号规划[13]、[48]。分布式和情境认知进一步认为，性能产生于协调的社会-物质系统，而非孤立的内部表示[161]。生成主义和感觉运动理论将感知重新诠释为与感觉运动偶然的主动参与，解释了变化盲视和感觉替代等现象[270]、[394]。概念锚定研究表明，感觉运动过程可以支持概念和语言容量，解决模态符号系统的局限性，并展示具身智能体中的涌现词汇[34]、[147]、[362]。具身机器人技术形式化了形态计算和闭环控制等原则，以减少复杂性和提高鲁棒性[288]，而锚定语言指令将自然语言映射到操作结构，使用概率、数据驱动模型[377]。

然而，这些方法对于抽象认知仍然不完整，包括数学、反事实推理和组合问题求解，缺乏大量表示结构的情况下[34]。其经验基础也难以在大规模进行比较和验证，因为它通常依赖于定制任务或民族志研究，缺乏标准化、可重复的基准，从而限制了关于通用样本效率或可迁移性的证据[56]、[161]。锚定语言系统在受限领域内有效，但在没有大型预训练文本模型的情况下无法扩展到开放世界能力[377]。具身系统中的学习仍然是工程密集的，没有展示与人类发展相当的水平方向的自主技能获取[56]。生成主义和生态理论在系统级架构方面也不够具体，无法实现多个功能模块的可扩展、安全保证的集成[120]、[394]，而强烈的反表示观点可能会排除显式表示在功能上是必要的情况[76]。更广泛地说，开放式抽象需要显式、瞬态结构来进行长时间信用分配和反事实推理，因此系统会重新引入反应性控制之外的模型[377]；整合身体、传感器、工具、语言和社会动态还施加了协调成本，当前系统仅在狭窄领域管理[161]。

因此，具身AGI需要一个统一架构，结合闭环、可供性驱动的控制和用于分层记忆和规划的表示结构，将计划视为灵活资源而非固定脚本[14]、[120]、[288]、[365]。它还需要可扩展的发展管道，用于长时间内在动机、课程涌现、社会学习和工具使用，基于发展基准[56]；锚定语言系统，将感知、世界建模和对话与可供性和任务的指称链接联系起来[377]；以及符号和基于模拟器的推理之间的桥梁，以支持基于感知的抽象、数学和反事实思维[34]、[147]。评估必须转向系统级基准，要求跨多种环境和场地的协调感知、操作、导航、对话和社会推理[161]。还需要社会技术扩展，将AGI视为人类-工具-机构集合的一部分，并设计用于可读性和可纠正性的界面和规范[161]。

4.12.2. 广义双语性

该工作提出跨表示"翻译"作为双语性在自然语言、数学、技术术语和习语上的广义化，使用流水线模型进行歧义消解[448]。它将本体论作为解决表示歧义的主要机制，与以本体论为中心的支持正当理由和可解释性的KR方法一致[41]。该想法也与双重编码理论和双语记忆研究相符，后者假设了不同的但相互作用的言语和非言语系统，与将文本与图表或数学联系起来相关[278]、[279]。它进一步与对齐空间间表示的多语言和多模态ML方法平行[320]，并作为AGI接口原则得到扩展，将LLM、较小的智能体系统和"孪生图灵机"架构联系起来[447]。

然而，该框架未正式定义：它为广义双语对不提供数学语义，为其翻译流水线不提供模型、证明、范畴论判据或复杂性分析[448]。它也不置于当代KR理论中关于通用KR形式化的等价类或在此类结果下的双语处理[437]。它也缺乏在跨语言或多模态KR基准上的经验评估，包括跨语言KB和锚定语义解析任务[320]。它拒绝固定中间语，没有得到与语义枢纽方法的比较支持[448]，并且未指定感知/行动锚定和外部指称链接[326]。

因此，该方法无法保证在映射间保持意义，因为它既不定义目标语义，也不定义不变量，如真值、蕴含或行为等价[437]。它也与可解释KR流水线脱节，后者需要论证、基于逻辑的正当理由或概念级组织[41]。缺乏与多语言表示学习基线的定量比较，限制了验证和采用[320]。同时，缺乏感知或行动锚定，使得符号级脆弱性超出仅文本转换[326]。

因此，面向AGI的版本需要广义双语性的形式化演算，指定表示对象、翻译态射、语义不变量、组合性和复杂性，基于通用KR研究[437]。它也需要神经符号锚定，通过多模态编码器和可执行语义将言语和非言语通道与感知和行动联系起来[279]、[326]。基于本体论的对齐必须产生最小的、可验证的解释，与当代XAI结构兼容，如论证图或基于格的正当理由[41]。经验验证应使用基准和消融，用于跨表示推理，具有多语言基线和标准协议[320]。该框架还必须整合通用KR和混合知识模型架构，结合神经、逻辑和基于图的组件[367]，并通过明确链接到智能体模块和安全框架来操作其AGI角色，使用由自然语言中介的信念表示[407]。

5. RQ3：AGI的潜在应用

本节将(i)当今基础模型和智能体系统已演示的能力（通常讨论为通往AGI的部分步骤）与(ii)推测性的AGI级主张（开放式自主性、可靠的长时间规划、跨领域迁移）区分开来。对于系统综述，我们将"AGI应用"视为仅在证据包括以下情况时才得到支持：(a) 明确界定的任务和运行条件，(b) 在代表性基准或部署上的定量评估，以及(c) 记录在案的失败案例、缓解措施和剩余风险。在这些条件不存在的情况下，我们将主张表述为假设而非结论[227]、[425]。

5.1. 医疗保健与医学科学

已演示能力（窄域/智能体AI）：当约束在已验证的模态、协议和监督下时，系统可以辅助诊断支持、图像分析和数据摘要[2]、[5]、[217]。

推测性AGI级扩展：提出的好处包括更早的风险预测、跨记录、影像和基因组学的多模态临床推理，以及加速药物发现工作流[36]、[51]、[59]、[248]。

失败案例与证据阈值：关键失败模式包括跨站点/设备/人群的分布偏移、虚假相关、校准和不确定性失败、不安全建议和监管不合规。更强的证据需要前瞻性试验、外部验证、部署后监控和明确的责任界限。

5.2. 教育与个性化学习

已演示能力（窄域/智能体AI）：自适应辅导、内容生成和反馈在有限课程和评估环境中可以产生效果[58]、[207]、[425]。

推测性AGI级扩展：主张包括稳健的长期个性化教学，纳入情感和社会交互，以及跨学科和年龄组的通用辅导[63]、[286]。

失败案例与证据阈值：常见风险包括幻觉指令、教学法不对齐、偏见、隐私泄露和过度依赖。证据应包括纵向学习成果、子群分析和真实课堂环境中的事实性和安全审计。

5.3. 农业与精准农业

已演示能力（窄域/智能体AI）：精准农业使用传感器、卫星/无人机影像和决策支持模型进行监测和资源优化[386]、[409]。

推测性AGI级扩展：拟议方向包括端到端农场管理智能体，协调植物、病虫害防治、机械和供应链决策[112]。

失败案例与证据阈值：失败模式包括天气/非平稳性、稀疏地面真值、传感器故障、经济约束和不安全干预。证据应报告多季节田间试验、对缺失/嘈杂感知的鲁棒性，以及在现实约束下的成本效益。

5.4. 智慧城市与城市规划

已演示能力（窄域/智能体AI）：城市数字孪生分析和LLM赋能的查询/决策支持可以整合异构数据进行规划场景[3]、[37]、[175]。

推测性AGI级扩展：假设的能力包括自主跨部门规划、带利益相关者约束的政策优化和闭环城市控制。

失败案例与证据阈值：风险包括有偏见的数据、隐私和监视危害、脆弱的因果推断以及放大不平等的反馈循环。证据应包括治理机制、红队测试和没有不成比例危害的可衡量改进。

5.5. 交通与自动驾驶

已演示能力（窄域/智能体AI）：高级感知、规划和辅助自主可以在有限的ODD（操作设计域）中工作[113]、[119]、[425]。

推测性AGI级扩展：拟议扩展包括跨环境的可靠通用驾驶、协作V2X协调以及跨汽车、货运和UAV的统一自主性[249]、[304]。

失败案例与证据阈值：已知问题包括罕见事件安全、传感器遮挡、对抗条件、长尾角落案例和验证限制。

证据应包括安全论证、具有统计意义的脱离/事件报告，以及对分布漂移的鲁棒性。

**5.6 能源管理与智能电网**

*已验证能力（窄域/代理式AI）*：预测与优化支持需求响应、分布式能源协调以及在不确定性条件下的规划 [180]、[268]、[400]。

*推测的AGI级扩展*：声称可实现完全自主的电网运营、市场参与以及跨基础设施的大规模协调。

*失败案例与证据阈值*：失效模式包括级联错误、网络-物理安全风险，以及极端事件期间的规格错误。证据应包括在真实仿真器/测试平台上的压力测试、安全失效控制，以及符合法规的审计跟踪。

**5.7 物联网（IoT）集成**

*已验证能力（窄域/代理式AI）*：物联网分析支持家庭与工业中的异常检测、预测性维护和自动化 [87]、[181]。

*推测的AGI级扩展*：假说包括跨环境协调异构设备和目标的通用"编排器"。

*失败案例与证据阈值*：实际障碍包括安全性、实时约束、异构标准，以及在部分可观测性下的脆弱性。证据应报告端到端评估结果，包括对抗性测试以及可量化的可靠性/延迟保证。

**5.8 金融服务与风险管理**

*已验证能力（窄域/代理式AI）*：基于模式的欺诈检测、风险评分和合规协助是已确立的用例 [20]、[83]。

*推测的AGI级扩展*：声称可实现自主投资组合管理、主动风险推理以及实时法规解读。

*失败案例与证据阈值*：失效模式包括非平稳性、模型被利用、不公平决策以及系统性风险放大。证据应包括样本外压力测试、可解释性/申诉机制，以及清晰的人机协同边界。

**5.9 供应链与物流优化**

*已验证能力（窄域/代理式AI）*：预测与路径优化可在特定环境中改善库存和配送决策 [127]、[423]。

*推测的AGI级扩展*：提议的能力包括在中断情况下的多级、多目标自主协调。

*失败案例与证据阈值*：失效模式包括冲击下脆弱的优化、数据质量问题，以及各参与方之间的激励不一致。证据应包括中断基准测试、鲁棒性研究，以及有记录的权衡（成本、服务水平、排放）。

**5.10 软件开发、网络安全与威胁检测**

*已验证能力（窄域/代理式AI）*：代码助手和自动化分析可以提高特定任务的效率，基于机器学习的安全工具可以辅助检测 [89]、[165]。

*推测的AGI级扩展*：假说系统能够将高层目标转化为正确、可维护的软件，并自主应对新型威胁。

*失败案例与证据阈值*：失效模式包括生成不安全的代码、引入回归问题、评估泄露，以及攻击方与防守方的升级博弈。证据应包括经验证的构建、内建安全约束，以及持续的"红队"演练。

**5.11 国防与军事应用**

*已验证能力（窄域/代理式AI）*：决策支持、传感融合和物流优化可在受约束的流程中实现 [22]、[30]、[372]。

*推测的AGI级扩展*：声称可实现自主协同系统和在不确定性条件下的战略决策。

*失败案例与证据阈值*：主要关切是升级、错误识别、对抗性操纵，以及问责空白。证据应包括严格的交战规则、验证和治理（包括有意义的人类控制）。

**5.12 客户服务与虚拟助手**

*已验证能力（窄域/代理式AI）*：对话代理可以处理常规支持和信息检索 [WANG2022102535]、[mumuni2025large]、[wang2024exploring]。

*推测的AGI级扩展*：提议的能力包括高可靠性的多步骤案件处理、跨系统操作执行，以及持久化的长期用户模型；还声称可实现更广泛的文本生成应用 [166]、[335]。

*失败案例与证据阈值*：失效模式包括幻觉、违反政策、隐私泄露，以及下游工具中的不安全操作。证据应包括经审计的工具使用跟踪、操作隔离，以及在未增加伤害的前提下可量化的升级减少。

**5.13 环境监测与气候科学**

*已验证能力（窄域/代理式AI）*：遥测和预测模型可以支持监测和预警流程 [17]、[231]、[301]。

*推测的AGI级扩展*：声称可实现跨生态学、经济学和政策的综合"行星管理"决策支持。

*失败案例与证据阈值*：风险包括对不确定预测的过度自信、因果归因不佳，以及政治化的滥用。证据应包括校准后的不确定性、透明的假设，以及在极端事件环境下的评估。

**5.14 制造与工业自动化**

*已验证能力（窄域/代理式AI）*：预测性维护、过程优化和质量检测在配备仪表的工厂中是可行的 [114]、[174]。

*推测的AGI级扩展*：假说包括高度灵活的可自配置工厂，具备通用机器人技能获取能力。

*失败案例与证据阈值*：失效模式包括安全隐患、对新零件/流程的脆弱性，以及停机成本。证据应包括安全认证、实时保证，以及跨产品线的迁移测试。

**5.15 法律服务与合规**

*已验证能力（窄域/代理式AI）*：文档搜索、摘要和合同分析可在监督下支持常规工作流程 [39]、[171]。

*推测的AGI级扩展*：声称可实现跨司法管辖区的法律推理和自主合规管理。

*失败案例与证据阈值*：失效模式包括伪造引用、非确定性推理，以及保密泄露。证据应包括基于引用的输出、可复现的审计日志，以及明确的法律责任分配。

**5.16 零售与个性化商业**

*已验证能力（窄域/代理式AI）*：推荐、需求预测和定价优化已确立，并具有可量化的KPI [173]。

*推测的AGI级扩展*：假说包括自主的端到端商品管理，以及跨渠道的客户代理谈判。

*失败案例与证据阈值*：失效模式包括操纵行为、不公平定向、隐私伤害，以及反馈循环。证据应包括消费者保护审计，以及对策略性行为的鲁棒性测试。

**5.17 科学研究与发现**

*已验证能力（窄域/代理式AI）*：多代理自动化可在特定流程中支持文献综合、假设建议和实验规划的部分环节 [117]、[128]、[148]。

*推测的AGI级扩展*：声称可实现自主闭环发现，在最少人类指导下跨领域运作。

*失败案例与证据阈值*：失效模式包括有偏数据集导致的假发现、薄弱的因果推断、不可复现的结果，以及不安全的实验室操作。证据应包括预注册协议、重复验证，以及对使用工具的实验室代理的强约束。

跨领域来看，近期价值集中在决策支持、受约束的工具使用和多模态感知方面；然而，任何声称"革命性"影响的论断都应附有可靠性、可验证性和治理条件。表11总结了各领域的核心任务和代表性指标/基准；我们将这些视为实用标准，通过跟踪以下维度来实现：（i）任务的范围和自主性（辅助闭环）、（ii）动态条件下的可靠性、（iii）事实性与透明度，以及（iv）安全性、公平性和合规性。因此，向AGI的进展应以每个领域操作环境中的平均表现和最差情况/长尾行为来报告。

**6. RQ4：评估AGI模型**

在讨论各种AGI模型和潜在应用领域之后，我们应该确定如何利用多维评估方法评估机器学习和AGI，以捕捉智能行为的不同方面。这一评估领域包含多个框架，涵盖智能和能力进阶的不同维度，为比较模型容量和突出特定能力的关键指标提供基准。

**6.1 评估框架**

AGI评估框架是一种用于评估模型的综合方法论框架。它规定了评估AGI系统的目标、标准、方法和流程。指导整个评估过程的框架包含一个或多个特定应用的基准和指标。表3总结了这些评估框架。

**表3 AGI评估框架**

| 名称 | 方法论 | AGI层级 |
|------|--------|---------|
| （框架1） | 系统按性能和通用性使用基于矩阵的方法进行分类。 | 使用基于六个原则和以人为中心的指标指导评估。 |
| （框架2） | 使用一个包含各种任务和方法的动态基准来评估潜在能力。 | — |
| 认知科学启发框架 | 在四个领域评估通用智能：晶体智力、流体智力、社会智力和具身智能。 | 该方法在虚拟社区中使用心理学认知测试，使个体能够在真实场景中进行技能测试，并独立创建任务。 |
| 可信AGI框架 | 使用因果阶梯评估安全性和对齐性，同时评估能力，包含三层结构，对应五个可信度层级。使用微调和价值反思等技术来构建可信度。 | — |
| 自主性评估框架 | 使用代码检查来分析AI代理的软件，基于二维分类法（影响力和监督）进行。通过识别代码模式（"标记"）来分配属性分数，使部署前能够进行标准化、可扩展的评估。 | — |

**与现有框架的定位和不重叠**

本文后面提出的ARL框架（第6.5节）旨在与"AGI层级"和"自主性评估"框架互补，而非对它们进行重新标注。"AGI层级"主要通过人类校准的性能在动态基准套件上对能力和通用性进行分类。相比之下，ARL是一个部署准备度成熟度量表，通过鲁棒性、安全/对齐和治理的证据（例如可审计性、回滚和外部保证）硬性把关进阶。相反，自主性评估框架侧重于代理脚手架的设计时代码检查（影响力/监督属性）。相比之下，ARL是一个操作成熟度的证据包，可以将代码检查输出作为输入（特别是在自主性和治理方面），但还要求实证压力测试和部署后监控证据。

**6.1.1 AGI层级框架**

该框架概述了如何使用结构化方法论评估AGI，大约有五个层级，以人类智能为基准 [252]。它提供了评估AI能力的综合流程、目标、标准和步骤，为比较系统、跟踪进展和在追求AGI过程中评估风险提供共享语言。

基于六个原则，该方法沿性能（深度）和通用性（宽度）两个轴对系统进行分类，用渐进层级的矩阵取代了二元的"是或否AGI"判断，例如新兴、胜任、专家和卓越等层级。评估侧重于系统能做什么，而摒弃思考或意识等内部机制（原则1），优先考虑性能和通用性（原则2），并纳入认知和元认知能力（原则3）[252]。性能评估使用以人为中心的百分位：胜任（≥50分位数的熟练成人）、专家（≥90分位数的熟练成人），和卓越（≥99分位数的熟练成人），通过人类重视的真实世界任务突出生态效度。评估衡量相对于部署性能的潜在能力，这是一个持续的过程，其中"AGI层级"（图10）允许细微的分类和跟踪。

在下载"AGI层级"提案中，作者报告称，当时的前沿LLM（例如撰写时的GPT-4级别模型）在其基于CHC启发的评估测试集上的表现远低于人类水平 [251]。同一来源也讨论了未来可能的进展；然而，任何模型特定的百分比预测都应被视为推测性的和时效性的，而非持久的实证结果。更广泛地说，该框架认为LLM能力是参差不齐的：它们可以在事实回忆、模式识别和文本生成方面表现强劲，但仍然缺乏类似人类的核心能力，如持久长期记忆、上下文连续性和经验整合 [251]。因此，以语言模型为中心的系统可以模拟智能的某些方面，但仍受限于短时域上下文和弱结构化、非持久化的内部状态，这制约了通用智能的声称。

该框架将内在能力与部署自主性分开以审查风险和人机动态，将层级与从专家AGI时的经济影响到卓越AGI时的存在性威胁等档案联系起来。它倡导动态的"动态基准"，包含不断进化的任务和指标，为衡量AGI进展提供科学基础的分层矩阵 [252]。

**6.1.2 认知科学启发框架**

认知科学启发的AGI框架提供了一种结构化方法论，用于超越狭窄语言任务来评估AGI——大模型在语言任务上表现出天花板效应。它采用整体性方法，反映人类智能的多面性，通过认知科学的四个核心维度定义AGI：晶体智力（知识、事实和技能的积累与应用）；流体智力（推理、新颖问题解决和适应）；社会智力（理解复杂社会互动）；具身智能（感知、与物理环境交互和适应）。这些相互关联的维度使AGI的综合评估成为可能，通过评估模型如何在抽象和真实世界环境中处理信息，超越单一任务基准。

为评估AGI，该框架针对每个维度内的特定认知能力，例如流体智力的推理和决策，以及社会智力的情绪和社会感知 [297]。评估方法将经过验证的人类认知测试转化为一系列精心设计的认知测试，包括用于晶体智力的比尔斯图片词汇测试和尼尔森-丹尼阅读测试；用于流体智力的瑞文渐进矩阵和艾奥瓦赌博任务；用于社会智力的错误信念测试和情绪识别；以及用于具身智能的迷宫导航或运动任务。重点是过程而非分数，采用如思维链（CoT）等技术来检测逻辑缺陷并防止假阳性。

AGI评估在动态、沉浸式虚拟社区（元宇宙）中进行，在自然主义场景中，如群体讨论（社会智力）或火灾紧急情况（流体和具身智能），如Youzhi Qu等人所证明的 [297]。这促进了跨维度的集成测试和自驱动任务生成，其中模型自主探索、交互和执行任务，从而提供比静态提示更真实的基准。总体而言，该框架通过定义维度、测试和环境确保系统化且可复现的AGI评估。

**6.1.3 可信AGI框架**

Yang等人 [419] 提出的该框架提出了一种在五个渐进层级上评估AGI的方法——感知、推理、决策、自主和协作的可信层级，侧重于安全性和对齐，以及能力指标。与以往的功能能力框架不同，它通过从近似对齐和干预发展到自我反思，促进了AGI的渐进式开发，从而确保符合AI-45定律 [419] 的高安全性和可信度。

该架构构建于三层AGI因果层之上，受Judea Pearl的"因果之梯"启发，包含近似对齐层、可干预层和可反思层，形成一种层级结构，每一层都建立在前一层的基础上，从而能够在复杂环境中进行伦理评估。在近似对齐层的AGI评估中，通过监督式微调和机器学习来评估感知的可信度，确保感知的可靠解读。在可干预层，评估者利用反馈（如RLHF/RLAIF）、可控生成和机制可解释性来确定推理和决策的可信度，以确保透明性和价值对齐。在可反思层，通过使用价值反思、心智/世界模型和反事实可解释性来评估自主性和协作的可信度，从而支持自我纠正和协作行为。

在AI-45定律的指导下，评估并行推进能力与安全，对内生（内在安全）和外在（外部验证）的可信度进行评估。其主要贡献包括：一套系统性的分类体系、因果基础、对可信AGI挑战的分解，以及一个可信AGI矩阵，用于对GPT-4和Llama 3等模型进行分类，为负责任地开发AGI提供路线图。

### 6.1.4. 自主性评估框架

Cihon等人的评估框架最初是为基于智能体的AI系统提出的，该框架被推广用于评估AGI模型的自主行为，无论其方法论如何。其核心流程在于对编排或脚手架软件进行基于代码的评估，旨在做到资源高效、可扩展和安全，通过避免潜在有害行为带来的实际运行风险来实现这些目标。其目标支持负责任的发展和治理，包括对智能体决策的风险评估、通过安全机制实现运营控制，以及明确用户、开发者及其他相关方之间的责任归属。

核心标准构成了一个分类体系，包含两个维度——影响和监管——以及五个可衡量的属性，每个属性可分为低、中、高三个级别。影响维度通过行为（从"无"（仅对话）到"预配置工具"再到"代码执行"）和环境（从"受限"（访问权限有限）到"受保护"（Docker）再到"无限制"（本地/互联网访问））进行评估。此外，还考虑了从"预定"序列到"灵活但有界"再到"无界"的变化、人在回路中的参与程度（从"始终参与"到"仅在终止时参与"再到"从不参与"），以及可观测性（从用户的"仪表板"到开发者的"日志"再到"无日志"）。该方法使用代码检查和代码标记以及特定模式/配置来对属性进行评分，并应用于AutoGen等框架，按照分类体系标准进行可扩展的对比分析。

这与Pittman或SAE等级的运行时评估不同，该框架转向主动的设计时分析，将LLM能力与脚手架分离开来以实施安全干预，从而实现了对自主性的细致、多维度的评估，以支撑可信的AGI系统。

### 6.2. 认知评估

认知评估旨在判断候选AGI是否展现出可复用的、自我提升的能力，而非脆弱的得分追逐行为，因此最好将其作为一系列标准来报告，涵盖迁移能力、适应性、元控制和基于世界的理解。

**迁移学习**考察在源分布中学到的知识是否能在最少额外数据或计算的情况下提升在新型目标任务上的性能，因此评估应包含跨领域和分布外（OOD）测试套件，并同时报告绝对目标性能和相对于从零开始训练的基线迁移增益。

**持续学习**检验系统能否获取一系列技能而不发生灾难性遗忘，使用协议驱动的任务流（如类别增量或领域增量），以及诸如后向迁移/遗忘和前向迁移等指标，最好与消融实验配对使用，以区分架构机制与重放或数据访问的影响。

**元推理**评估系统能否监控和调节自身的推理过程（例如，检测不确定性、分配计算资源、修订计划），这可以通过元认知和"系统2"风格的任务来测试，对校准、自我纠正以及在对抗性或时间/计算约束下的一致性进行评分。

**感知与世界建模**衡量AGI构建和更新结构化内部模型的程度，这些模型支持在具身或模拟环境中的预测、规划和行动；因此，基准测试应结合感觉运动任务与基于模型的评估信号，如多步预测误差、分布偏移下的控制性能以及对部分可观测性的鲁棒性。

### 6.3. 关键评估基准

评估基准是用于比较AGI系统或模型性能或质量的参照点或标准。它通常包含一个数据集、一组任务或广泛认可的标准，使得不同的方法能够相互之间一致且公平地进行衡量。表8总结了这些基准。

#### 6.3.1. HELM

评估AGI需要超越狭隘任务指标的全面框架，提供对能力、局限性和社会风险的多维度评估，以衡量向通用智能迈进的实际进展。HELM及其面向视觉-语言模型的扩展VHELM、以及面向文本到图像模型的HEIM，都体现了这一转变。这些基准系统地考察推理、知识、公平性、毒性、效率、美感、原创性、偏差和多语言能力，弥补了以往狭隘基准的不足。特别是HEIM，从MS-COCO和DrawBench等既有数据集中精选了62个多样化场景，并为原创性（如标志/着陆页设计）和公平性（如性别/方言扰动）设置了新场景，为对AGI系统至关重要的文本到图像模态设定了严格的评估标准。

HEIM的零样本提示协议确保了跨26个模型在没有微调情况下的公平、可重复的比较，防止过拟合，并测试了内在的泛化能力。它结合自动指标（如FID和CLIPScore）与众包人工评估来衡量主观质量（如照片真实感和美感），鉴于两者之间的相关性较弱，这凸显了人在回路验证的必要性。这一全面的方法论涵盖了12个方面、跨越实际应用领域，能够对AGI进行稳健的评估，确保模型是安全的、可靠的、伦理对齐的且可部署的。

HEIM的主要优势在于其全面的方法。它将评估空间从传统的两个方面（对齐性和质量）扩展到12个方面，提供了前所未有的详细模型性能视图。论文中的图2鲜明地说明了这一点，显示HEIM对其定义的方面-模型矩阵的覆盖率为100%，而此前的工作仅为11%。

**表4. HEIM的评估方面**

| 方面 | 定义 |
|------|------|
| 对齐性 | 给定文本，图像是否在语义上正确（文本-图像对齐）？ |
| 质量 | 生成的图像是否看起来像真实照片？ |
| 美感 | 图像是否具有审美吸引力？ |
| 原创性 | 模型是否生成新颖的图像并避免版权侵权？ |
| 推理 | 模型是否理解物体、计数和空间关系（组合性）？ |
| 知识 | 模型是否了解世界或其领域？ |
| 偏差 | 生成的图像在人口统计特征表征上是否存在偏差（如性别、肤色）？ |
| 毒性 | 模型是否生成有毒或不适当的图像（如暴力、色情、非法内容）？ |
| 公平性 | 模型在不同社会群体中的性能是否表现出差异（如性别、方言）？ |
| 鲁棒性 | 模型对输入扰动是否鲁棒？ |
| 多语言能力 | 模型是否支持非英语语言？ |
| 效率 | 模型推理速度如何？ |

HEIM的12个方面和62个场景确保模型在广泛的领域和任务中得到评估，这对于需要超越狭义专长的通用能力的AGI至关重要，从常见物体生成（MS-COCO）到创意设计（标志设计）。尽管存在局限性，如偏差处理较为狭隘（二元性别、肤色）以及推理时效率的替代指标等，HEIM转向了融合自动指标、人工判断、技术性能评估与社会维度（如偏差、毒性、公平性和原创性）的多维度框架。它开创了AGI的全面评估，涵盖知识、推理和创造力（美感和原创性）以及社会规范，从而揭示了领先模型的薄弱环节，并支持政策、认证和监管标准的制定。未来方向强调可扩展的、不断演进的基准，并扩展社会和效率指标。

#### 6.3.2. BigBench Hard

在基于模仿游戏的基准（BIG-Bench）之上，AGI评估的进展通过让LLM在超过200个多样化的、众包的任务上进行测试来实现，这些任务衡量AGI所必需的一般推理能力。其精选子集BIG-Bench Hard（BBH）聚焦于23个此前最先进模型未能达到人类平均评分标准的任务，从而为辨识饱和任务上的高级能力实际进展设定了前沿标准。

AGI评估采用标准的答案式少样本提示作为基线，与先前的工作保持一致，但揭示了其在捕捉多步推理方面的局限性。思维链提示通过在示例中增加中间步骤来解锁潜在能力，在PaLM、InstructGPT和Codex等模型上产生了两位数百分比的改进，从而提供了比仅输出方法更准确的过程性评估。

BBH的跨领域覆盖范围涵盖了自然语言处理、数学、常识等多个领域，确保了全面的AGI基准测试并防止了狭隘优化，同时公开的数据促进了可重复性。然而，不可靠的人工评分者基线凸显了对严格协议的必要性。其新颖性在于BBH的策划和思维链的重新评估，从而将焦点转向了赋能能力。

思维链在处理因果判断和讽刺等微妙任务时（如"毁名字"和"讽刺"任务）表现不佳，凸显了语义推理和社会推理方面的不足。对于AGI实践，建议采用多方法方法（如思维链与基线并行），优先关注复杂子集（如BBH），强调失败分析，并改进人工基线。未来方向包括可扩展的基准、用于抽象推理的新型提示方法，以及动态反馈的整合，从而倡导详尽的、适应性的框架，以追踪AGI前沿而不过度低估推理能力。

#### 6.3.3. ARC-AGI

抽象与推理语料库（ARC）作为衡量类人流体智力的基准，通过评估在新任务上技能获取的效率，而非依赖被训练数据或先验知识膨胀的特定任务技能。ARC通过具有独特逻辑的任务来评估AGI，隔离内在的泛化能力，针对"未知的未知"，强调超越已知分布的广泛泛化，与允许特定任务工程化的基准不同。ARC建立在人类普遍共享的最小核心知识先验之上，如客观性、拓扑和整数算术，为比较AI与人类智力提供了基础，通过少量示例对（中位数三个）迫使模型从稀疏数据中进行抽象，从而防止性能由大规模数据集驱动。

ARC评估了不依赖专门知识的抽象领域推理，从而评估了跨领域的基础智能。其在ARC-AGI-1中的可靠性受限于较小的私有集（100个任务），存在过拟合风险；然而，ARC-AGI-2计划使用更大的半私有集和数据分离策略。开源的ARC Prize解决方案确保了可重复性，并引导AGI研究朝着跨多种狭义任务的泛化方向发展。

ARC在AGI评估中的新颖性在于将焦点从系统"做了什么"转移到系统"多高效地学习新技能"，在ARC上LLM得分仅为0-5%，而人类成功率为97-98%。深度学习引导的程序合成和测试时训练等新兴技术正在推进进展。然而，未来评估必须在报告得分的同时附带计算预算以形式化效率，将排行榜与私有测试分离，并设计能抵抗暴力破解的任务，以确保对真正的AGI推理提供稳健的信号。

#### 6.3.5. AGIEval

AGIEval通过将评估从人工NLP任务转向SAT、LSAT和高考等人类水平考试来推进AGI评估，提供模型实际认知能力与标准化人类表现的有意义度量。其方法论依赖于从官方高风险考试中获取客观选择题，以评估批判性思维、分析技能和复杂问题解决能力。它在零样本、少样本和思维链设置下评估这些能力，以及内在能力、上下文学习和显式推理。全面的覆盖范围涵盖20个双语（英中）任务，横跨学术（SAT、高考）、专业（LSAT、GMAT）和资格领域（法律资格考试），并完全公开数据、代码和输出，确保了专有基准（如MMLU）所缺乏的可重复性和透明度。

分析揭示GPT-4在SAT、LSAT和数学上超过人类平均水平，但在多步推理（如分析性LSAT）、反事实演绎、领域专业知识（法律、化学）、数学计算以及对上下文变化的鲁棒性方面表现不佳。趋势显示，通过指令微调，零样本和少样本差距在缩小，思维链推理的增益则参差不齐，凸显了AGI在逻辑一致性、因果推理和专业化方面的差距。AGIEval为AGI进展设定了以人为中心的标准，优先使用现实世界基准而非策划数据，强调透明度，并面向未来扩展到多模态、对抗性和持续评估，以便安全地融入法律、金融和行政领域。

#### 6.3.5. MMT-Bench和MMMU

对AGI模型的评估，尤其是大型视觉-语言模型（LVLM）和大型多模态模型（LMM），依赖于严格评估任务泛化、专家级知识和复杂推理的基准，涵盖广度和深度两个维度，正如当代AGI研究所阐述的那样。MMT-Bench和MMMU为此提供了全面的框架，通过多任务能力和可与熟练人类成人相比的专家级AGI里程碑来具体化AGI的进展。

MMT-Bench采用分层任务策划，将32项元任务头脑风暴为162项子任务，其来源为改造后的公开数据集，并通过基于规则的脚本或如ChatGPT等LLM将其转换为多选题格式，在覆盖范围上达到MMBench的8.1倍，涵盖了自动驾驶和GUI导航等场景中的识别、定位和推理能力。其任务分类图（taskonomy map）能够系统性地分析域内与域外能力，并通过OpenCompass等协议进行客观评分，确保可复现性。相比之下，MMMU由超过50名专家手工策划了1.15万个大学水平问题，涵盖六个学科，强调生态学效度，用于测试30个学科和183个子领域的深度、领域特定推理能力，如傅里叶变换的应用，并通过多阶段质量控制进行把关。这些开源基准共同弥补了以往基础或不全面测试的空白，通过全面评估多模态任务（图像、文本、视频、点云），突出了感知、推理和知识整合中的失败之处。它们通过追踪变革性里程碑和社会影响（包括与就业替代相关的影响）来为AI安全、伦理和政策提供信息。尽管取得了这些进展，但静态数据集容易过拟合，对多选题表现出强烈的依赖性（MMMU中仅有6%为开放式问题）[429]，并且专家定义较为宽松。趋势正向异构数据、专家评估和动态平台转变。未来的AGI评估必须向长文本生成、交互式问题解决、工具使用、鲁棒性测试和人在环判断等多样化方向扩展，以防止刷分（gaming），并与模型的动态性相匹配。

6.3.6. 人类校准的自主软件任务（HCAST）

Human-Calibrated Autonomy Software Tasks（HCAST）基准[305]通过将AI智能体的表现与熟练人类完成189项任务所需的时间进行校准，推动了AGI评估的进步，这些任务涵盖机器学习工程、网络安全、软件工程和一般推理领域。这一基于实际的指标将抽象基准与经济上相关的自主能力联系起来，使政策制定者和安全研究人员能够评估AI何时在专业领域超越人类水平，正如GPT-4.5和Claude 3.5 Sonnet等模型的部署前测试所展现的那样。HCAST通过为人类和智能体在容器化环境中提供相同条件、由专家审核的人类基线（含绩效激励）以及多阶段质量控制（验证任务的可靠性、可解性和新颖性）来确保严格的AGI评估，以测试泛化能力而非记忆能力。其全面覆盖涵盖23个子领域，并提供开源的Vivaria以实现可复现性。然而，任务保密性以防止污染，但以牺牲完全开放性为代价。HCAST在AGI评估中的新颖性在于其大规模的人类时间校准，跨越现实、多步骤任务1500小时，任务时长从几分钟到八小时不等，通过成功尝试的几何平均值得出可解释且较难操纵的分数[305]。然而，它忽视了孤立任务的局限性、39%的人类失败率[305]、模糊的现实世界问题以及协作技能（如解读人类审查者对Pull Request的评论、向其他智能体查询、处理代码可读性和报告清晰度中的主观质量）。未来基于HCAST的AGI评估应通过AI辅助的基线规划实现规模化，引入超出算法评分的定性人类评分标准，支持人在环和多智能体交互，并模拟纵向项目以评估跨天数或周数的上下文保持、资源管理和战略适应能力。通过解决这些差距，HCAST可以演变成为跟踪AGI走向现实世界影响的稳健工具。

6.3.7. GLUE、SuperGLUE和GLUE-X自然语言理解

GLUE、SuperGLUE[398]和GLUE-X[421]构成了自然语言理解（NLU）系统评估走向AGI的关键演化路径，提供了标准化基准以衡量通用语言能力的进步，如知识迁移、复杂推理和对现实变化的鲁棒性。这些平台通过量化模型在多样化语言挑战上的泛化能力来操作化AGI评估，揭示了高域内（ID）表现不足以支撑可靠的智能。GLUE的多任务方法评估了跨九个NLU任务的样本高效学习和迁移，这些任务数据和体裁各异，用以探知系统是否利用了核心语言能力而非任务特定特化。SuperGLUE通过包含更复杂的任务（如共指消解和复杂推理）提升了严谨性，从而为区分最先进模型与人类表现留出空间，推动AGI创新。GLUE-X在此基础上扩展，评估了域外（OOD）鲁棒性，保留GLUE训练数据的同时使用15个新的多领域测试集。它暴露了模型的脆弱性，论文报告相对于域内（ID）准确率存在显著性能下降，并确认PLMs在GLUE上的优异表现可能相对表面。这些基准提供了全面覆盖，从GLUE的核心任务到SuperGLUE的多样格式和GLUE-X的OOD重点。它们突出了AGI评估的重点：将OOD测试作为一等组件，通过时间留出法减轻数据污染，采用超越准确率的多样化指标（如SuperGLUE诊断），并扩展到生成任务如翻译和对话。GLUE-X在统一OOD诊断方面的新颖性强调了AGI认证必须将鲁棒性置于排行榜分数之上，因为那些在ID任务上超越人类的模型往往在新场景下失败，预示了现实部署的风险。未来AGI评估需要动态基准如Dynabench[184]，结合人在环更新，以确保可靠泛化。

6.3.8. M3GIA认知科学启发式评估

该基准[361]从面向任务的指标转向对底层认知能力的评估，使用了最全面且经验证的认知结构模型Cattell-Horn-Carroll（CHC）模型。锚定于此框架，它将MLLM能力分为五个关键认知因素：流体推理（Gf）、理解-知识（Gc）、视觉处理（Gv）、读写能力（Grw）和定量知识（Gq），覆盖六种语言（英语、中文、法语、西班牙语、葡萄牙语、韩语）和多模态视觉-语言任务，以研究一般智能的g因素。这种多语言、多领域的方法涵盖五个认知领域，细分为18种窄问题类型，并采用既有格式（如瑞文渐进矩阵），以确保可靠性、使用开源数据复现结果，并通过纳入母语语境数据避免以英语为中心偏见。M3GIA通过纠正主观、临时的任务集合（这些集合有沦为训练目标的风险）来弥补AGI评估空白，转而提供理论支撑的潜在能力强弱画像，例如流体推理而非晶体化知识。其作为首个认知驱动、多语言、多模态基准的新颖性，为在关键领域部署AGI的认知鲁棒性和安全性监管认证提供了依据。对于AGI研究社区，它建议优先考虑认知科学模型以确保科学严谨性，聚焦潜在认知能力，通过使用母语语境而非英语翻译来减轻文化偏见，并促进开源基准以增强透明度和协作。未来方向包括可扩展、可演进的基准，整合额外的CHC因素如听觉处理（Ga），以及持续、自动化的策略以追踪MLLM向类人智能的认知发展。

6.4. 关键能力评估

跨多个维度评估AGI模型（如数学推理、规划、指令跟随、元认知、常识和任务多样性）对于准确评估其智能和认知灵活性至关重要。这种全面评估揭示了优势与劣势，为模型改进和安全部署提供依据，并有助于确保AGI发展与伦理、社会和实践标准相符，使最终系统既技术能力强又在现实环境中被负责任地使用。

6.4.1. 数学与逻辑推理

AGI系统必须展现数学与逻辑推理能力的谱系，从基础可靠性到专家级抽象和创造力。全面评估需要探知日常问题上的可靠多步骤定量推理；高级、竞赛式抽象问题解决；数学任务对扰动和分布偏移的鲁棒性；以及中间推理步骤的细粒度、可验证正确性。以下基准是对该能力空间的互补探针。

GSM8K —— 基础过程推理

GSM8K使用需要部署多步骤算术的多个步骤小学数学应用题来评估AGI推理，从而为LLMs的思维链分解、逻辑连贯性和计算准确性提供基准[74]。其高质量、多样化的问题经无模板验证，揭示了推理缺陷而非知识空白，使用基于结果的答案准确率，并通过自然语言解答支持过程分析[74]。这推动了AGI进展，如排序候选项的验证器模型[74]、[223]，如TinyGSM的合成蒸馏用于高效模型[223]，以及MR-GSM8K中的元推理，即AGI批判解答[432]。局限性包括忽视通向正确答案的错误路径、数据污染风险以及狭窄的算术范围[74]、[223]、[432]。未来AGI评估转向过程监督、验证器和鲁棒对抗基准[74]、[223]。

MATH基准

数学基准通过评估模型分析AMC 10/12和AIME竞赛级问题的能力、选择启发式并逻辑串联它们来评估AGI级数学推理，这超越了机械计算，涵盖七个学科和五个难度级别的12,500道题[153]。以自然语言和LaTeX呈现的问题，包括Asymptote编码图表，测试类人理解能力，通过最终框选答案的标准化精确匹配准确率进行评估，确保严谨客观的评分且不易通过单纯规模化取胜[153]。分步解答支持训练可解释推导和过程监督；然而，局限性包括仅凭结果检查高估推理能力、数据污染风险以及顶级LLMs已饱和[111]、[153]、[233]。未来AGI评估转向基于过程的指标，奖励逻辑步骤、概念整合和自验证，如CHAMP和Omni-maths[111]、[233]。

Math Check-GSM和GEO

这通过任务泛化和推理鲁棒性评估AI系统的数学推理来评估AGI进展，超越简单的问题解决准确率以衡量准确理解[444]。该4×4检查表矩阵测试四项任务：问题解决、可回答性判断、结果判断和过程判断，跨越四种问题变体：原始题、问题理解、无关干扰和场景理解，通过LLM流水线从GSM8K等种子问题生成[444]。它通过揭示被高分掩盖的弱点来减轻传统基准的过拟合（这些基准有将模式匹配与智能混淆的风险），并与真正的智能代理（如私有数据表现）更相关[444]。局限性包括生成器偏差、人工验证需求（85%通过率）、过程判断失衡[133]以及排除证明或新概念[444]。未来适应其他领域和动态测试集将有望产出鲁棒的AGI基准[444]。

UMath

基于单元测试的评估方法（如UTMath）通过验证AGI底层逻辑步骤的正确性（而非仅最终答案）提供了评估其数学推理的严谨框架，从而确保真正的理解和泛化能力[129]。传统字符串匹配技术无法捕捉推理的细微差别，会惩罚等价格式或碰巧猜中[434]。同时，将问题分解为可执行断言的单元测试可提供部分分数、精确定位失败点并产生可复现的评分[444]。该过程通过人类或LLM测试生成器将自然语言问题转化为结构化测试，提示AGI产生分步或程序化推理，在沙箱中执行逻辑并评分测试通过率。局限性包括人工创建测试繁重、偏向过程性数学而非抽象领域以及实现风险（Zhang, 2024）。未来AGI评估有望实现自动测试生成、集成到强化学习训练中以实现细粒度奖励，以及多模态扩展[129]、[444]。

6.4.2. 规划与约束满足

规划和约束满足是AGI的关键基准，因为它们评估的是真正的智能决策而非模式匹配。规划任务测试AGI在复杂、新颖环境中生成最优动作序列的能力，揭示了当前LLMs常见的传递性和长期预见性弱点。约束满足问题评估逻辑演绎和优化，凸显了扩展性和回溯的局限性。这些基准对于实现类人智能和有效的现实问题解决至关重要。

ACPBench

ACPBench通过将规划分解为七个组件来评估AGI级推理：适用性、进展性、可达性、动作可达性、验证、理由陈述和原子任务里程碑。它使用形式化PDDL域生成具有可证明正确答案的可扩展问题[190]、[191]。这种细粒度方法将PDDL转化为自然语言布尔和多选题格式，精确诊断LLMs在动作、变化和规划基础上的失败，克服了端到端评估在无法追踪黑盒错误时的不果断性[191]。ACPBench Hard将AGI评估推进到模仿符号规划器的生成任务，如列出所有适用动作或最优下一步，未来将扩展到复杂任务（如物体计数）和思维链训练数据以增强面向目标的综合能力[190]。

PlanBench

PlanBench为LLMs和LRMs中的AGI规划能力评估提供了结构化框架，测试其对动作和变化的固有推理（超越模式匹配或检索）[390]、[391]。借鉴国际规划竞赛的领域，它在提示中提供前置条件和效果的显式符号模型，通过PDDL翻译、规划器和验证器实现自动计划验证（valmeekam2023planning; valmeekam2023planbench）。少样本课程评估计划生成、验证、重新规划和泛化，并在如Mystery BlocksWorld等混淆域中评估性能以探知抽象推理[390]、[391]、[392]。

尽管初期指标强调二元成功，但未来的AGI评估将纳入效率、成本、部分正确性、多样化领域以及无解案例，以实现稳健的进展追踪[390]、[392]。LR2Bench LR2Bench使用约束满足问题（CSPs），如纵横字谜、算术、逻辑谜题、密码、数独和填词游戏等，在850个标注样本中系统性评估LLMs的长链反思推理，这是AGI的关键能力[62]。它评估类人过程，如假设制定、回溯、验证和自我修正，无需显式反馈，弥补了线性NLP任务中的差距[62]。结构化流水线将问题转换为LLMs可消化的格式，提供简短示例以标准化输出，并使用完成率（CR）、子任务准确率（S-Acc）、精确匹配（EM）和部分匹配（PM-0.5）衡量性能[62]。局限性包括谜题领域特定性和冗长响应阻碍细粒度分析。然而，未来扩展到现实世界CSPs可以通过针对矛盾循环等弱点来追踪AGI进展[62]。CFBench该方法使用CFBench、FollowBench和ComplexBench等综合基准，系统评估LLMs的AGI能力，评估对复杂多约束指令的遵循，这些指令反映了现实世界请求[168]、[408]、[438]。它通过从数百万用户指令中整理分层分类法，克服先前局限性，测试超过200个场景和50项任务的广度，具有递增难度级别和逻辑组合（与、链、选择、嵌套），通过人机数据集实现[168]、[408]、[438]。评估将指令分解为检查清单或是否评分问题，由GPT-4o结合规则增强进行判断，产生CSR、ISR、PSR、HSR/SSR、CSL和依赖感知分数等指标[168]、[408]、[438]。局限性包括评判者偏差、以中文为中心的数据和单轮焦点，前景包括多轮扩展、训练数据使用、多语言扩展和混合评判。这些构成了多维AGI基准，揭示随机场景中的可靠性，指导可扩展架构开发，防止过度炒作，并优先保障安全。6.4.3. 指令遵循评估AGI模型的指令遵循能力至关重要。它们必须精确遵循人类指令执行任何人类可完成的智力任务。若缺乏可靠的指令遵循，AGI模型可能误解用户意图，导致关键应用中的输出不可靠。基准显示，高级语言模型在多维任务上落后于人类，凸显了泛化和鲁棒性方面的差距。评估AGI模型对发展至关重要，为对齐工作提供信息，帮助在部署前检测和缓解风险。StructFlowBench这种组合评估方法通过整合StructFlowBench、MMMU和OlympiadBench，严格评估AGI级指令的后续和推理。它超越饱和的传统基准，纳入多轮结构约束如后续和细化、使用异质图像跨越六个学科的专业多模态推理，以及带有逐步注释的奥林匹克级别科学问题[4]、[152]、[213]。自动化LLM评判者和符号评分调查对话连贯性、领域知识和逻辑过程的缺陷。局限性包括评判者偏差、数据污染和学科范围不完整[152]、[213]。未来增强旨在解决分层对话、更广泛主题和基于过程的监督，以实现稳健的AGI评估[152]、[213]。SIFo基准该方法严格评估LLMs和多模态大语言模型（MLLMs）的顺序指令遵循，这对于处理文本操作、网页导航和持续学习中复杂相互依赖任务的AGI代理至关重要[61]、[64]、[84]。它强制执行严格的顺序依赖，每一步都基于先前结果构建，缓解位置偏差，通过最终输出实现客观验证，并诊断失败如灾难性遗忘[61]、[64]。SIFo等基准测试文本修改和数学，MT-Mind2Web评估对话式网页代理，CoIN使用指令遵循深度和真实对齐等指标衡量调优稳定性[64]。局限性包括多样性有限、英语焦点、静态离线数据和GPT-4生成器的偏差[61]、[64]。未来扩展针对多语言、多模态在线评估和长时程规划，以实现AGI的真实评估[61]、[84]。InFoBench这些评估方法通过将有验证的原子组件分解来系统评估LLMs的指令遵循能力，为AGI评估提供客观可复现的框架[296]、[441]、[446]。InFoBench将复杂指令分解为二元是否问题，通过分解要求遵循率（DRFR）评分；IFEval自动化检查字数或JSON格式等客观约束，具有严格/宽松准确率；TOWER以树结构分层加权要求，以符合人类偏好[296]、[441]、[446]。使用LLM评判者确保可扩展性并减少人类偏差，超越不透明的整体评分。局限性包括基准设置成本、LLM判断的潜在错误，以及忽视创造力或真实性等隐性方面[296]。未来方向包括自动化基准生成、多模态扩展和集成到训练中以作为高级AGI的奖励信号[296]、[441]、[446]。ComplexBench ComplexBench全面评估LLMs遵循复杂人类指令的能力，解决现有基准忽视组合结构如顺序链或条件选择约束的缺陷[408]。多阶段框架具有四种约束类型（词汇、格式、语义、效用）的分层分类法，分解为19个维度和三种组合类型（链、选择、嵌套），使用1150条人工构建指令的数据集，采用选择分支扩展以缓解偏差。采用规则增强的基于LLM的协议（RAL），使用是否评分问题、客观方面的确定性规则以及分解要求的依赖感知聚合，遵循比率指标（DRFR）[408]。局限性包括专注于单语（中文）设置、LLM评判者偏差和商业API成本，前景包括多语言扩展和成本效益评估[408]。这种严格方法为遵循高级指令提供现实基准，对于评估处理现实世界结构性依赖任务的AGI能力进展至关重要。XIFBench XIFBench提供基于约束的基准，用于评估LLMs的多语言指令后续[219]，通过细粒度系统方法提供AGI如何被严格评估的见解，衡量跨语言的复杂现实世界命令对齐。它通过用五类约束分类法（内容、风格、情境、格式、数值）增强种子指令来解决先前粗粒度评估的差距，在英语、中文、俄语、阿拉伯语、印地语和斯瓦希里语中创建经过验证的硬集[219]。原子评估要求作为基于LLM评估的语义锚点，产生以下率（RFR）和指令遵循率（IFR）指标，量化低资源环境中的差异[219]。尽管存在局限性如LLM偏差和以英语为中心的英文注释，XIFBench流水线强调了AGI评估中全面多语言基准的必要性，以暴露弱点、确保安全性，并为多语言高风险场景中可信的高能力通用系统培训提供信息[219]。XIFBench强调了多语言、约束丰富的基准，通过超越简单指标来解构指令遵循，为AGI评估提供了蓝图[219]。严格评估如语义锚点和二元要求揭示性能差距，符合AGI在不同高风险场景中对齐测试的基本需求。这种系统方法通过识别偏差和文化细微差别促进安全进展，为稳健、可信的系统铺平道路。6.4.4. 代码生成和工具使用评估代码生成和工具使用对于AGI模型至关重要。这些技能是高级推理、问题求解和现实世界适应性的关键。代码生成测试AGI将抽象规格翻译成功能程序的能力，展示对语法、逻辑、效率和复杂依赖处理的专业性。工具使用评估多步骤指令遵循和外部资源集成，使AGI能够编排超越其固有知识的工作流。这些评估揭示务实智能方面的差距，包括语义错误和缺乏存储库级别意识，确保AGI向类人多功能性而非表面模式匹配发展。HumanEval HumanEval通过164个人工编写Python问题，每个问题包含函数签名、文档字符串和单元测试，涵盖字符串操作、数据结构和算法，提供标准化框架评估AGI代码生成，衡量功能正确性[35]。AGI模型通过官方API在受控参数下接收提示，如低温度（0.2），生成代码经预处理以隔离功能内容，然后在隔离环境中通过Pass@1指标评估，得出二元通过/失败结果[35]。这测试自然语言理解、语法有效性和逻辑实现，实现可复现比较。然而，仅限于单次Python基于算法任务，忽略迭代工作流和现实复杂性如UI/数据库集成，且仅支持Python[35]。未来AGI工具评估应扩展到多语言交互式基准，具有多轮次，纳入代码质量（可维护性和安全性）以及更广泛领域如系统架构[35]。MBPP（大多数基础编程问题）MBPP基准通过评估从974个字面自然语言描述合成短Python程序的能力来评估AGI代码生成，这些描述是初学者可解决的，确立了与复杂竞赛叙事不同的基线[23]。它采用带有描述、少样本示例、真实函数和三个基于assert测试用例的提示。模型生成多个样本（例如80个），若通过所有功能测试则视为成功，通过pass@k，而不仅仅是语法测试[23]。这隔离了从规格到代码的翻译，同时支持标准化的训练/验证/测试分割和人工验证子集[23]。局限性包括测试不穷尽、可能被利用、初始众包歧义以及相比人类推理可靠性较低[23]。MBPP通过扩展支持复杂逻辑、多语言基准和交互式细化代码的协作系统来支持AGI工具使用。HumanEval Pro和MBPP Pro HumanEval Pro和MBPP Pro基准通过采用自调用代码生成来开创AGI代码生成和工具使用评估，测试LLMs解决基本问题并调用其解决方案进行复杂扩展的能力[428]。超越原始HumanEval和MBPP中的孤立函数测试，该方法调查理解、扩展和重用，这对软件工程至关重要[428]。构造分为三个阶段：DeepSeek-V2.5生成自调用问题，包含候选解决方案和输入；人工通过执行分析迭代验证和修复解决方案；测试使用Python的'assert'从规范解决方案推导真实输出，确保严格验证[428]。评估提示提交完整解决方案文件，从而暴露推理缺陷[428]。Python排他性和基础数据集限制限制了范围和可推广性[428]。前景包括多语言版本、代码重用微调和可扩展基准演进。CodeElo CODE ELO基准[298]提供标准化框架，通过利用Codeforces官方基础设施生成与人类可比的Elo评级来评估AGI代码生成和工具使用，解决先前基准的缺陷如弱测试用例、高误报率、缺乏多输出问题的特殊评判以及不一致环境。它采用三阶段过程：策划近期竞赛问题及元数据，如动态规划或图标签；通过自动化机器人提交LLM代码到平台的隐藏对抗测试，实现零误报判决和运行时评估；通过针对人类参赛者的竞赛排名进行二分搜索计算Elo评级，取平均值以确保稳定性。局限性包括每个问题八次提交上限和依赖Codeforces实时访问。未来潜力在于诊断推理模型如OpenAI的o1的弱点，偏好C++以提高效率，从而严格追踪AGI在竞争编程中向可扩展智能的发展。6.4.5. 推理和元认知推理和元认知对于AGI模型至关重要。它们处理信息并反思自身思维。推理使AGI模型能够得出结论、解决问题并适应新情况。元认知使AGI模型能够监控其内部状态并调整策略。这种自我反思能力确保在复杂现实世界场景中的透明度、适应性和鲁棒性。MR-Ben MR-Ben基准[433]通过从饱和的结果导向方法转向评估System-2慢思考，为AGI推理和元认知提供有前景的过程导向评估，模型审视跨数学、物理和编程等领域的机器生成思维链（CoT）解决方案。模型作为验证者，执行解决方案正确性的二元分类，指出第一个错误步骤并对照人工标注的真实值解释，由复合MR-Score衡量[433]。这针对推理质量而非最终准确率，暴露传统基准的缺陷并模拟人类错误分析。局限性包括有限顺序推理、仅英语范围和少数LLMs中观察到的错误模式[433]。未来在MR-Ben上训练可能实现自我批评，推进关键部门可靠AGI[433]。MastermindEval MastermindEval通过Mastermind游戏引入可扩展基准，用于评估AGI推理和元认知，其中LLMs作为密码破译者，推理由参数（代码长度（c）、符号（n）和猜测（g））定义的密码[126]。它通过隔离演绎推理与记忆在单人格式中克服现有基准如不可扩展逻辑游戏（如井字棋）和对手混淆的双人设置的局限性[126]。

三种范式探测能力：智能体评估（Agentic Evaluation）利用黑白命中反馈进行多轮策略适应，其局限性包括资源受限的测试、可能存在模式匹配混淆、缺乏与30000+个Knuth算法博弈状态的关联性以实现单步推理，以及缺少人类基线[126]。未来增强方向包括强化学习价值函数（RL VF）训练、博弈论指标、消融研究和验证以追踪AGI进展[126]。动态智能评估（DIA-bench）动态智能评估（DIA）框架[382]旨在解决静态AI基准的局限性——这些基准使模型得以记忆题目，无法区分高级模型的推理能力。该框架使用来自DIA-Bench数据集的动态问题模板，该数据集包含跨数学、网络安全和计算机科学的150个模板，涵盖文本、PDF、二进制和视觉等多种多模态格式。本地任务模糊测试为每个模板生成k个唯一实例，要求模型解决所有案例或承认不确定性，从而评估元认知意识。四个指标分别评估：推理可靠性与自我意识（正确得分+1，跳过得0分，错误得?2分）、每个模板的任务成功率、100%成功率的置信指数（Conf@k），以及80–99%精确度的近似成功得分[382]。局限性包括对模板质量的依赖，以及对推理可靠性与自我意识（正确+1，跳过0，错误?2）、每个模板的任务成功率、100%成功率的置信指数（Conf@k）和80–99%精确度的近似成功得分[382]的评估，以衡量一致、可靠且具备自我意识的问题解决能力。

**6.4.6 知识与事实性**

评估知识和事实性是AGI模型的关键所在，确保其生成准确可靠的信息。AGI旨在通过广泛的理解和推理来模拟人类智能，评估知识与事实性有助于衡量模型的经验以及检索或推断事实的能力。由于事实精确性影响决策、安全性和用户信任，因此这种评估至关重要。如果缺乏严格评估，AGI系统可能会产生不准确的信息，从而损害其效用和用户对它的信心。

**TruthfulQA** TruthfulQA基准通过衡量AGI抵御生成模仿性虚假信息的能力来评估其知识和事实性，这些信息模仿人类的错误认知。该基准使用38个类别中817个经过精心设计的对抗性问题，在零样本设置下进行测试[221]。该基准旨在调查标准问答基准之外的幻觉风险，揭示了反向缩放现象——更大的模型更有效地模仿训练数据中的虚假信息，从而需要有针对性的对抗性问题（Lin等，2022）。评估涉及生成自然语言，由人类对真实性（与字面真实世界事实的对齐程度）和信息量进行评分，并辅以多选题可能性评分和自动化的GPT-judge（准确率90–96%），后者经过标注数据微调[221]。局限性包括范围狭窄、由研究人员编写的问题不能反映真实使用场景、人类主观性（不一致率6–7%）以及仅适用于零样本场景。未来AGI评估可将其用于RLHF或检索增强系统，以优先考虑事实而非模仿[221]。

**Poly-FEVER** Poly-FEVER基准[436]通过评估11种语言中的幻觉检测来系统评估AGI的知识和事实性能力，使用来自FEVER、Climate-FEVER和SciFact的77,973个相同事实声明。它弥补了以英语为中心基准的空白，使AGI的可靠性、偏见和影响因素（包括主题和翻译，经GEMBA和共同作者验证）可以直接进行跨语言比较，涵盖从普通话到阿姆哈拉语的语言。AGI模型如ChatGPT和LLaMA接收标准化二值提示，根据真值标签计算准确率，使用LDA派生主题（如战争史）和网络爬虫来量化数据不平衡。局限性包括翻译伪影和相关性网络链接，但它为公平、语言适应性的AGI事实性指标铺平了道路[436]。

**FactCHD** FactCHD基准通过在查询-响应范式下评估事实冲突型幻觉的检测来评估AGI级别的LLM知识与事实性，测试多跳推理、比较和集合运算等复杂模式，超越二值分类。它要求基于连贯证据链的事实性解释，弥补了先前基准忽视会话格式和复杂逻辑运算的空白[65]。数据集构建利用知识图谱、来自开源LLM的人工种子查询/响应，以及通过ChatGPT进行规模化生成，达到95%一致性[65]，并结合SBERT去重和人工验证（Fleiss's Kappa 0.858）以确保可靠性[65]。局限性包括ChatGPT偏见、模拟幻觉、过时的知识库和仅限文本的范围[65]。未来扩展方向为多模态评估、更细粒度的错误粒度以及用于多智能体三角验证的真值三角验证[65]。

**HalluDial** HalluDial建立了一个全面的大规模基准，用于在对话级别自动评估LLM的幻觉，直接为评估AGI知识和事实性能力提供参考，评估与既定知识相矛盾的事实性幻觉和来自不忠实来源的事实性幻觉[229]。它解决了先前基准聚焦于句级分析、缺乏错误定位和理由、过度强调事实性、依赖昂贵人工标注等问题，通过自发场景（由GPT-4标注FaithDial的LLM响应）和诱导场景（GPT-4引导的不实信息）生成146,856个样本[229]。每个条目包含来源知识、对话、响应、检测标签、定位和理由，能够进行元评估并训练自动评判者（如HalluJudge）以识别知识空白、偏见和不一致，防止错误信息，并提高安全性、可靠性、可信度和真实世界效用，以保障AGI的安全与准确[229]。局限性包括GPT-4偏见以及聚焦于信息寻求对话；未来工作应针对鲁棒的通用评估器[229]。

**6.4.7 常识与任务多样性**

常识与任务多样性评估是评估AGI模型的关键所在，它们测试类人智能。常识确保AGI系统理解世界，使其能在日常生活中做出明智决策。任务多样性评估模型执行多种任务的能力，这对准确的通用智能至关重要。这些评估有助于衡量AGI系统的适应性和鲁棒性。

**WinoGrande** WinoGrande基准[189][383]通过对代词消解任务的鲁棒评估来评估AGI系统的常识推理能力——这是AGI评估的关键能力，要求隐含的真实世界知识而非表层模式[189][385]。该基准基于Google-proof Winograd Schemas，由触发词不同的双句子组成（例如"The trophy doesn't fit in the suitcase because it is too big"中的"it"指奖杯；若改为"too small"则指行李箱[189]），其44,000个由众包并经对抗性过滤的问题[383]测试对任务多样性至关重要的因果和空间理解。局限性包括表层线索、构造缺陷和狭窄的语言范围[38]。未来增强方向包括自监督预训练、严格筛选、扩展语法和代词覆盖以及多语言数据集，以更好地评估跨多样AGI任务的通用常识[38][189][383]。

**HELLASWAG** 该基准通过挑战模型从日常语料库（如ActivityNet Captions和WikiHow）中选择合理的事件后续来评估AGI的落地常识推理和任务多样性，使用对抗性过滤（AF）通过迭代训练判别器对GPT生成的结尾来生成鲁棒的干扰项。人类在因果推理中达到95%准确率[66][431]。人工验证确保答案唯一正确且干扰项经过审核[66]。局限性包括因提示语法不规范、多个合理选项和上下文无关偏差（68%零提示不变性）导致构念效度受损，从而损害了准确的常识度量[66]。未来AGI评估将通过清理后的GoldenSwag子集、与更强模型共同演进的AF以及扩展如HellaSwag-Pro来完善，后者支持多样的逻辑变体以探测可泛化的理解[66][216][431]。

**MDK12-bench** 该基准通过提供来自K-12考试的大规模多学科基准来解决AGI多模态大语言模型（MLLM）评估中的空白，涵盖六个以推理为导向的学科、14万个实例、细粒度标注和动态评估框架以评估常识与任务多样性[442]。这一K-12基础提供了结构化、相互关联的学科，非常适合评估超越狭窄领域或低阶常识的高阶推理、知识覆盖、问题解决和多模态能力[442]。数据策划涉及收集试卷、GPT-4/人工筛选、基于规则的解析以标准化格式（题型、难度、图片、分析）、英文翻译以及六级知识关联（学科、年级、课程、主题、元知识、知识点）[442]。动态测试应用图像扰动（填充、颜色反转、噪声、风格变化）和文本修改（同义词替换、改写、题型排列），由GPT评判者验证以保持答案正确，确保对污染具有鲁棒性并度量真实推理而非记忆[442]。局限性包括K-12范围排除了专业/抽象智能、翻译偏见、残余污染风险和静态知识结构[442]，但其原则通过具有弹性的诊断基准推动了AGI评估的进步。

**BiGGen bench** 该基准提供了评估AGI常识与任务多样性能力的原则性框架，解决了现有语言模型（LM）基准依赖帮助性等抽象标准或局限于狭窄任务的缺陷[185]。它系统评估9项核心能力下77种多样任务的自由格式生成，包括推理和心智理论（与常识相关），使用自上而下的能力-任务-实例-评估标准层级结构，采用实例特定的5级Likert量表评分标准[185]。人在回路构建确保质量，由专家创建初始实例，GPT-4通过上下文演示和语义检查进行增强，并由共同作者验证[185]。评估使用响应LM进行零样本/三样本输出，使用评估者LM进行评分标准引导的评分，与人类判断高度相关并捕捉粗粒度代理所忽略的细微差别[185]。局限性包括随机性、评估者偏见（如冗长偏好）和离线限制，未来改进方向为针对心智理论等挑战领域开发专用评估器[185]。

**6.4.8 多模态与迁移学习**

多模态和迁移学习对AGI模型至关重要。这些模型旨在模拟人类认知能力。多模态学习使AGI模型能够处理文本、图像、音频和视频。迁移学习帮助AGI模型将知识应用于新任务。这两项能力是开发能够泛化专业知识并在多样环境中运行的AGI的关键。

**OoD-Bench** OoD-Bench通过量化分布外（OoD）泛化能力来提供评估AGI多模态和迁移学习能力的鲁棒框架，包括多样性偏移（测试数据中存在训练数据中没有的新特征）和相关性偏移（虚假相关性的变化）[424]。它通过因果模型分解偏移来解决为什么高级算法在经验风险最小化下往往失败的问题，该模型将非因果特征Z2划分为不相交集S（用于D_div）和重叠集T（用于D_cor），分别对应训练分布p和测试分布q之间的映射[424]。实际上，一个带有特征提取器g和分类器h的神经网络判别器学习表示F，随后进行核密度估计（KDE）和蒙特卡洛积分以计算偏移分数，从而能够细致诊断AGI在不同模态和领域中的鲁棒性[424]。局限性包括依赖网络的准确率、KDE的维度问题以及超参数阈值。然而，其前景在于指导混合算法的设计并为评估AGI的原则性迁移提供现实基准[424]。

**LaG-MMLU** 该基准[92]使用文化相关的人工策划翻译，对拉脱维亚语和基里亚马语等低资源语言中的多任务语言理解进行严格评估，涵盖55个学科的500个MMLU问题，并通过英国AISI Inspect框架测试最先进LLM的零样本、五样本和思维链能力。这揭示了以英语为中心模型的多语言差距和偏见，从而通过母语者验证避免机器翻译噪声来推动公平AI。对于评估AGI的多模态和迁移学习能力——这对具有终身学习能力的鲁棒和通用系统至关重要——这些方法揭示了泛化方面的不足，表现为持续存在的误译、样本量小以及标注者之间缺乏共识[92]。全面的AGI评估需要多面基准，涵盖基础推理（MMLU）、规划、实际任务、安全性和迁移学习，以追踪类人的认知灵活性，从结果导向转向过程导向、真实世界落地和量化不确定性的指标，以防止饱和[92]。

**6.5 提案：AGI就绪水平（ARL）框架**

我们提出AGI就绪水平（ARL）框架：一种基于面向部署的技术就绪水平的成熟度标尺，通过逐步强化的能力、鲁棒性、自主性、安全性和治理证据来评估向AGI的进展[186]。与静态基准分数不同，ARL通过将有能力增益与越来越严格的要求关联起来来衡量可部署的通用性，这些要求包括污染控制、泛化、长视野能力、对齐、可审计性和部署后监督。ARL 0–5表示部署前的成熟度，ARL 6–9则捕捉部署后的运营成熟度。重要的是，ARL级别关注的是通用性下的部署成熟度，而非"超智能级别"；在本综述中，我们将ARL作为组织向人类水平通用能力进展证据的透镜。

**ARL-0（样本级）：** 系统仅在狭窄的静态基准上进行展示，通常通过合成或玩具任务的一次性结果。未评估OOD泛化、多步推理或训练-测试污染；因此，此阶段的高分不能证明其在训练条件之外的可靠性或可泛化性。

**ARL-1（可度量级）：** 评估变得可复现且方法论有效。

系统在定义明确的协议下进行测试，采用版本控制的测试数据集和提示词，并包含基本的泄漏控制措施（如来源检查和基于时间的划分），报告内容涵盖准确性和基本安全指标。评估证据包括可重复的结果、经过验证的测试有效性，以及初步的伦理与安全筛查。

**ARL-2（鲁棒）：** 系统在扰动和显式的分布外（OOD）偏移条件下进行压力测试，包括输入噪声、格式变化以及模拟的域偏移。系统应表现出优雅的性能退化，而非直接失效，同时需记录失效模式，并具备感知不确定性的响应机制，如弃权或安全默认行为。报告应量化偏移条件下的保留性能，并界定初步的失效边界。

**ARL-3（组合式）：** 系统在有状态环境中，面对现实的、多步骤、多约束任务时表现出胜任能力。系统需维持内部状态，通过重新规划进行适应，从部分失败中恢复，并完成代表现实世界目标的扩展操作序列。因此，评估重点在于超越单步响应生成的自适应问题解决能力。

**ARL-4（可迁移自主性）：** 系统在高保真模拟环境或严格受约束的真实环境中，针对经过人类校准的端到端任务自主运行。系统可靠地使用外部工具和编排子系统进行感知、推理和行动的协同，运行范围限于受约束的领域内。评估证据包括与人类操作员的并排对比、在关键任务上达到或超过人类基线的性能表现、可审计的日志和决策轨迹，以及确认安全操作范围、约束遵守能力和响应干预能力的自主性评估。

**ARL-5（可信部署候选）：** 系统在完成广泛的安全与对齐验证后，满足严格的部署前标准。评估证据包括红队测试、现实压力测试、在自主运行下展现出的可纠正性，以及沙箱隔离、监控、回滚和紧急停止等保障机制。独立审计或监管沙箱必须验证该能力在多样化、开放式场景中的稳定性，且无关键性故障。在此阶段，文档、用户培训、组织安全流程、部署监控和回退方案均已到位。

**ARL-6（初始实地部署）：** 系统进入受控试点环境，在密切监督下在真实场景中运行，以确认能力与安全控制措施能够在实际中转移落地。监控、围堵、回滚和访问范围限制等措施保持激活状态。评估证据包括在领域成功标准上至少达到人类或现有系统基线、可追溯的日志、对异常的透明报告，以及在受约束范围内的有效监督。

**ARL-7（扩展运营试验）：** 部署范围扩展至多个运营场景及更广泛的用户群体，同时维持结构化的监督体系。安全监控正逐步向自动化异常检测过渡，人工介入仅在例外情况下触发。评估证据包括在多样化用户和边缘案例下的稳定表现、透明的事件响应与修复、持续的长期对齐，以及来自合规流程、独立审计或认证的支持。

**ARL-8（自适应自我优化）：** 系统已全面投入运营，并集成到实际工作流程中，基础设施与治理流程已建立。系统可执行在线学习或自我优化，但仅限于通过受监控的更新路径，以防止能力漂移、保持对齐并维持已批准约束。评估证据包括稳定的纵向性能表现、对现实偏移和对抗性压力的成功适应，以及显示净效益且无不良副作用的更新前后分析。所有更新和学习事件必须持续记录并可审阅。

**ARL-9（社会集成与治理）：** 系统已得到任务验证、被广泛采用，并在持续治理监督下嵌入社会或关键基础设施中。评估证据包括长期运营记录中无重大事故、对罕见失效的有效管理、定期第三方审计，以及正式监管或认证合规。透明度、问责制、审计追踪、反馈渠道和补救机制均已建立，且系统持续与不断演进的法律法规、伦理和社会规范保持一致。

---

**6.5.1 ARL 评分原则**

我们采用跨五个主要维度的加权评估体系来定义 ARL。

- **能力（C）：** 能力广度、组合式多步骤推理、状态维持、恢复能力，以及经人类校准的端到端性能表现。
- **鲁棒性（R）：** 在分布外（OOD）偏移、扰动、失效边界表征以及不确定性处理方面的韧性。
- **自主性（A）：** 工具使用、受控环境自主性、实地自主性，以及安全的自我优化。
- **安全与对齐（S）：** 保障措施、红队测试、可纠正性，以及防漂移治理。
- **治理与运营（G）：** 可重复性、评估完整性、可审计性、监控、事件响应及外部保证。

每个子维度按序数量表评分：$s_{d,k} \in \{0, 1, 2, 3, 4\}$，其中 $d \in \{C, R, A, S, G\}$ 索引主要维度，$k$ 索引该维度内的子维度。评分解释采用基于成熟度的逻辑：0 表示能力缺失或无证据支持；1 表示仅具有最小化或临时性证据；2 表示具有可测量、可重复的证据；3 表示具有经过压力测试的鲁棒性证据；4 表示在持续运营条件下或经独立保证的条件下已证实的性能。

**(1) 主要维度得分（加权平均）**

对于每个维度 $d$，设 $w_{d,k}$ 为维度内的子维度权重，满足 $\sum_k w_{d,k} = 1$。主要维度得分为：

$$D_d = \sum_k w_{d,k} \cdot s_{d,k}, \quad \sum_k w_{d,k} = 1, \quad D_d \in [0, 4]$$

**(2) 可选的总体就绪度得分**

出于报告目的，可使用跨维度权重 $W_d$ 计算总体 ARL 就绪度得分（ARS），满足 $\sum_d W_d = 1$：

$$ARS = \sum_{d \in \{C,R,A,S,G\}} W_d \cdot D_d, \quad \sum_d W_d = 1, \quad ARS \in [0, 4]$$

然而，ARS 不直接用于分配 ARL 级别；它仅作为汇总性摘要指标。

**(3) 硬性门控的级别分配**

ARL 级别的提升采用硬性门控机制。设 $\mathcal{G}_\ell$ 表示 ARL 级别 $\ell$ 的约束集合，包含：(i) 对 $D_d$ 的最低加权维度阈值要求；(ii) 对选定关键子维度 $s_{d,k}$ 的最低阈值要求；以及 (iii) 级别特定的证据包布尔条件 $E_\ell$。分配的 ARL 级别为：

$$ARL^* = \max\{\ell \in \{0, \ldots, 9\} : \mathcal{G}_\ell \text{ 被满足}\}$$

此设计可防止关键属性（如可纠正性、可审计性或 OOD 鲁棒性）中的薄弱环节被其他维度的优势所掩盖。

表 5 提供了与 ARL 递进逻辑一致的默认权重方案。这些权重可根据领域特定部署需求进行细化，但硬性门控机制保持不变。因此，聚合性能表现优异无法弥补在强制性安全、治理或鲁棒性标准上的失败。

---

**表 5. ARL 评估标准：子维度及其维度内权重（$w_{d,k}$）**

| 主要维度 | 子维度（评分 0–4） | 符号 | 权重 $w_{d,k}$ |
|---|---|---|---|
| 能力 (C) | 任务范围/通用性广度 | $C1$ | 0.25 |
| 能力 (C) | 多步骤/长程推理 | $C2$ | 0.30 |
| 能力 (C) | 状态维持与错误恢复/重新规划 | $C3$ | 0.25 |
| 能力 (C) | 经人类校准的端到端性能 | $C4$ | 0.20 |
| 鲁棒性 (R) | OOD 与扰动韧性 | $R1$ | 0.45 |
| 鲁棒性 (R) | 失效模式 + 失效边界表征 | $R2$ | 0.35 |
| 鲁棒性 (R) | 不确定性处理（弃权/安全默认） | $R3$ | 0.20 |
| 自主性 (A) | 工具使用与协同（受约束领域） | $A1$ | 0.30 |
| 自主性 (A) | 受控环境自主性（模拟/受约束真实环境） | $A2$ | 0.25 |
| 自主性 (A) | 实地自主性递进（试点→多场景） | $A3$ | 0.25 |
| 自主性 (A) | 安全的自我优化/在线学习 | $A4$ | 0.20 |
| 安全与对齐 (S) | 安全筛查与基线保障措施 | $S1$ | 0.25 |
| 安全与对齐 (S) | 红队测试与现实压力测试 | $S2$ | 0.25 |
| 安全与对齐 (S) | 自主运行下的可纠正性与可控性 | $S3$ | 0.30 |
| 安全与对齐 (S) | 学习/更新系统的防漂移治理 | $S4` | 0.20 |
| 治理与运营 (G) | 可重复性与评估完整性（版本控制、泄漏控制） | $G1$ | 0.30 |
| 治理与运营 (G) | 可审计性与可观测性（日志、追踪、监控） | $G2$ | 0.25 |
| 治理与运营 (G) | 事件响应与回退/回滚就绪度 | $G3$ | 0.20 |
| 治理与运营 (G) | 独立审计/认证与合规 | $G4$ | 0.25 |

公式 (4) 中的可选总体得分可作为简洁的报告统计量或可视化仪表板指标；然而，实际分配的 ARL 级别仅由公式 (5) 中的硬性门控规则决定。

---

**6.5.2 默认权重的合理性论证及如何调整权重**

表 5 中的维度内权重和表 6 中的跨维度权重为默认值，其设定依据包括：(i) 各维度在部署就绪度递进中的预期语义；以及 (ii) 相关证据的实证"失效关键性"。例如，在鲁棒性维度中，我们上调了 OOD/扰动韧性的权重（$R1$），因为它通常主导实际泛化的安全性；而在安全与对齐维度中，我们上调了可纠正性/可控性的权重（$S3$），因为它是更高自主性部署不可替代的前提条件。重要的是，由于 ARL 级别分配采用硬性门控机制（公式 (5) 和表 9），权重主要影响可选的汇总得分 $ARS$ 和细粒度报告，而非在关键门控未满足时的就绪度层级。

---

**表 6. 用于计算可选总体 ARL 就绪度得分（ARS）的跨维度权重（$W_d$）**

| 维度 | 符号 | 权重 $W_d$ |
|---|---|---|
| 能力 | $C$ | 0.20 |
| 鲁棒性 | $R$ | 0.22 |
| 自主性 | $A$ | 0.18 |
| 安全与对齐 | $S$ | 0.22 |
| 治理与运营 | $G$ | 0.18 |

在实际应用中，领域评估人员可使用透明的加权程序（如利益相关者偏好征集、层次分析法或监管定义的配置方案）替换这些默认值，并应同时报告所选的 $w_{d,k}$ 和 $W_d$ 及其评估结果。我们建议在所有领域中保持子维度集合和硬性门控的固定性，以确保可比性，同时允许权重根据特定情境的权衡需求进行变化。

---

**6.5.3 实例演算（示例评分）**

为展示 ARL 的实际使用方法（以避免仅呈现评估标准而不加以测试），表 7 提供了一个假设示例：对一个在受约束的软件工程沙箱中评估的、具备工具增强能力的 LLM 智能体进行评分，该评估包含审计日志、红队测试和回滚机制。此示例并非对任何特定商业系统的断言，而是展示如何分配 $s_{d,k}$、计算 $D_d$ 以及应用表 9 中的硬性门控的机制。

---

**表 7. ARL 实例演算：子维度得分（0–4）及计算得出的维度得分（通过公式 (3) 计算）**

| 维度 | 子维度 | 得分 | 权重 | 加权得分 | $D_d$ |
|---|---|---|---|---|---|
| 能力 | $C1$ | 2 | 0.25 | 0.50 | |
| 能力 | $C2$ | 3 | 0.30 | 0.90 | |
| 能力 | $C3$ | 3 | 0.25 | 0.75 | |
| 能力 | $C4$ | 2 | 0.20 | 0.40 | **2.55** |
| 鲁棒性 | $R1$ | 2 | 0.45 | 0.90 | |
| 鲁棒性 | $R2$ | 2 | 0.35 | 0.70 | |
| 鲁棒性 | $R3$ | 2 | 0.20 | 0.40 | **2.10** |
| 自主性 | $A1$ | 3 | 0.30 | 0.90 | |
| 自主性 | $A2$ | 2 | 0.25 | 0.50 | |
| 自主性 | $A3$ | 1 | 0.25 | 0.25 | |
| 自主性 | $A4$ | 1 | 0.20 | 0.20 | **2.55** |
| 安全与对齐 | $S1$ | 2 | 0.25 | 0.50 | |
| 安全与对齐 | $S2$ | 2 | 0.25 | 0.50 | |
| 安全与对齐 | $S3$ | 2 | 0.30 | 0.60 | |
| 安全与对齐 | $S4$ | 1 | 0.20 | 0.20 | **2.10** |
| 治理与运营 | $G1$ | 3 | 0.30 | 0.90 | |
| 治理与运营 | $G2$ | 2 | 0.25 | 0.50 | |
| 治理与运营 | $G3$ | 2 | 0.20 | 0.40 | |
| 治理与运营 | $G4$ | 2 | 0.25 | 0.50 | **2.45** |

---

**表 8. AGI 评估基准测试及其范式、优势与未来展望**

| 名称 | 范式 | 优势 | 未来方向 |
|---|---|---|---|
| HELM（语言模型整体评估框架）[285] | 基于基准测试数据集的模型推理 | 全面的 12 个评估维度；混合人工与自动化指标；标准化、可重复的框架；开源数据和代码 | 开发可扩展/高效版本；随模型能力提升演化基准测试；改进社会性方面指标；整合持续用户反馈 |
| BIG-Bench Hard（BBH）[179] | 基于思维链（CoT）示例的少样本提示 | 揭示了标准提示被低估的潜在推理能力；在原先呈平坦扩展曲线的任务上解锁涌现性能；为多步推理评估建立了具有挑战性的前沿基准 | 开发针对抵抗 CoT 的任务（如讽刺、世界知识）的新型提示技术；创建更具鲁棒性和代表性的人类评分员基线；随模型扩展而演化基准测试任务以保持挑战性 |
| ARC-AGI [69] | 基于深度学习引导的程序合成，结合核心知识先验，从少量示例中进行抽象推理；测试时训练（TTT）；归纳与外导的集成 | 衡量真正的泛化能力；抵抗记忆化/规模扩展；基于人类认知难度基线；解决不同类型的任务；支持对新奇性的适应；推动 SOTA 从 33% 提升至 55.5% | 开发包含更大、隔离数据集的 ARC-AGI-2；形式化计算预算评分；演化任务以要求更深层次的抽象；集成专家模型用于搜索引导；改进 TTT 的数据增强；开发更高效的集成策略 |
| AGIEval [440] | 来自标准化人类考试的客观题解答（选择题、填空题）；通过零样本、少样本和 CoT 提示进行评估 | 基于人类认知背景；高质量、标准化源数据；中英双语覆盖；公开可复现 | 扩展至多模态任务；融入更复杂的推理；开发鲁棒的评估指标；增强多语言泛化能力 |
| MMT-Bench [427] | 分层任务整理；公共数据集的复用；基于规则/LLM 的多选题生成 | 前所未有的任务广度（162 个任务）；支持任务分类学分析；涵盖图像、文本、视频、点云/3D 网格等多样化模态 | 持续扩展任务集；改进模型在域外任务上的泛化能力 |
| MMMU [305] | 由领域专家手动整理大学级别考试/教材题目；多阶段质量控制 | 专家级知识与学科覆盖；高度异质的图像类型 | 将性能正式映射到人类专家百分位；解决模型在感知和推理方面的缺陷 |
| 人类校准的自主性软件任务（HCAST）[305] | 基于时间的人类校准基准测试 | 基于实际、直观的指标；现实的多领域任务；抗污染；严格的质保证据 | 开发可扩展的创建/基线构建方法；纳入协作任务；增加定性评分；评估纵向项目 |
| GLUE [421] | 跨九个 NLU 任务的多任务评估（分类、相似度、推理） | 奠定了统一的 NLU 基准；测试知识迁移和样本效率 | 应对性能饱和问题；纳入显式的鲁棒性测试 |
| SuperGLUE [398] | 多任务评估，包含更复杂的任务格式（如问答、共指消解） | 提高难度以挑战 SOTA 模型；引入更复杂的推理任务 | 开发更好的 OOD 泛化能力；减轻数据污染风险 |
| GLUE-X [421] | 使用 GLUE 训练集和多样化 OOD 测试集的跨领域泛化测试 | 首个统一的 NLU OOD 鲁棒性基准；揭示了高表现模型的脆弱性 | 扩展至生成式任务；纳入更多领域；开发鲁棒的训练方法 |
| M3GIA（多语言多模态通用智能能力）[361] | 基于 Cattell-Horn-Carroll (CHC) 人类智力模型、受认知启发式的评估 | 具有理论依据；多语言与多模态；避免以英语为中心的偏差；评估认知因子 | 促进多模态大语言模型（MLLM）认知能力的提升；引导模型向通用智能方向发展 |

---

**表 9. ARL 级别分配的硬性门控约束**

ARL评估矩阵：使用维度阈值（????）与关键子维度门（????,??）进行硬性分级的层级分配。

ARL层级 | 最低维度分数（????） | 关键门（硬性） | 所需证据包 ???（硬性）

ARL-0：样本级 — — 仅在狭窄或静态任务上进行一次性基准演示。

ARL-1：可测量级 ???? ≥2.0 | ???1 ≥2，???1 ≥1 版本控制的评估协议；可复现的运行结果；训练—测试污染/泄漏控制；基础安全与伦理筛查。

ARL-2：鲁棒级 ???? ≥2.0 | ???1 ≥2，???2 ≥2，???3 ≥2 显式的分布外（OOD）/扰动测试套件；优雅降级报告；失效模式记录；不确定性处理记录。

ARL-3：组合级 ???? ≥3.0 | ???2 ≥3，???3 ≥3 有状态多步任务评估；多约束性能报告；重新规划与恢复分析。

ARL-4：可迁移自主级 ???? ≥3.0，???? ≥3.0 | ???1 ≥3，???2 ≥3，???2 ≥2，???4 ≥3 受控环境下的自主性；工具使用/编排证据；可审计的日志/轨迹；已测试的干预钩子；在有界条件下的人类校准对比。

ARL-5：可信部署候选级 ???? ≥3.0，???? ≥3.0 | ???2 ≥3，???3 ≥3，???4 ≥3，???3 ≥2 红队测试与现实压力测试；安全机制验证（沙箱化、监控、紧急停止）；独立审计/认证就绪；部署监控与回退方案。

ARL-6：初步实地部署级 ???? ≥3.2，???? ≥3.2，???? ≥3.0 | ???3 ≥3，???2 ≥3，???3 ≥3，???4 ≥4 有约束的真实世界试点并伴随密切监督；遏制机制激活（沙箱/回滚/终止开关）；可追溯的决策日志；在特定领域成功标准上达到或超过人类基线。

ARL-7：扩展运行试验级 ???? ≥3.5，???? ≥3.5，???? ≥3.5，???? ≥3.5 | ???3 ≥4，???1 ≥4，???3 ≥3，???4 ≥3 多场景部署；持续监控并采用基于例外的审查；透明的事故响应与补救；在治理管控下长期保持的对齐性。

ARL-8：自适应自优化级 ???? ≥3.8，???? ≥3.8，???? ≥3.8 | ???4 ≥4，???4 ≥4，???2 ≥4 带有受监控更新机制的在线学习/自我改进；漂移与失对齐预防；更新前后分析；对更新与结果进行持续记录与审查。

ARL-9：社会融合与治理级 ???? ≥4.0，???? ≥4.0，???? ≥4.0，???? ≥4.0，???? ≥4.0 | ???4 ≥4，???3 ≥4，???3 ≥4 无重大事故的持续运行记录；正式认证/监管；独立监控；反馈与救济机制；符合不断演进的法律与规范。

将表9应用于本例：如果相应证据包齐备，该系统满足ARL-1（测量完整性）与ARL-2（鲁棒性压力测试），但不会满足ARL-3，因为???? <3.0（因而未通过硬性门控的组合能力要求）。这体现了ARL的核心意图：更高层级不仅要求总体强度，还要求系统满足不可替代的就绪性标准的特定证据。

6.5.4 敏感性分析（权重与门）
由于评审者合理地会质疑默认权重的随意性，我们建议任何ARL报告都应包含一项基本的敏感性分析：在合理范围内（例如±10%或±20%，并重新归一化）调整????,??与????，然后重新计算????与????????。在大多数情况下，所分配的ARL应保持稳定，除非系统正接近某个硬性阈值，因为关键门是二元约束。当敏感性分析改变所分配的层级时，这是一个有用的诊断信号：它表明系统正处于就绪性边界附近，此时需要更多证据（或更严格的测试），而不是简单地重新调整维度权重。

6.5.5 ARL矩阵的解读
表9中的矩阵使ARL的递进过程得以具体化。ARL-1建立了可复现且受污染控制的测量。ARL-2要求系统在扰动与分布外漂移下具有鲁棒行为，包括显式的不确定性管理。ARL-3增加了组合式、有状态且具备恢复能力的问题求解。ARL-4引入受控自主性、工具使用、人类基线对比与可审计性。ARL-5将标准提高到通过红队测试、可修正性、安全机制与外部担保实现的部署候选级可信度。ARL-6至ARL-9则从受控试点转向扩展运行、安全自优化，以及在持久治理下的社会融合。

6.5.6 推荐使用方式
要使用ARL评估一个系统，评估者首先为各子维度打分????,??，然后按公式(3)计算????。如有需要，可按公式(4)计算????????作为简洁摘要。最终就绪层级通过从ARL-9向下逐项核对表9来确定，选取维度阈值、关键门与证据包均满足的最高层级。这一程序保留了ARL作为证据门控型成熟度框架的既定角色，而非单纯的基准衍生分数。

总体而言，ARL框架为报告从早期原型到社会融合系统的AGI进展提供了标准化参考。类似于航空航天领域的TRL，它将AGI评估重新定位为以证据为基础的递进过程：基准性能是必要条件但非充分条件，除非同时伴随已验证的鲁棒性、组合能力、受控自主性、安全保障与治理就绪性。

7. RQ5：开放挑战与未来方向
对AGI的追求充满深刻挑战。通过文献回顾，我们提炼出研究者经常强调的几个关键开放问题。这些挑战是多维度的，涵盖技术、理论与伦理领域：

7.1 智能的理论基础与定义
文献中持续存在的主题是缺乏一个严谨且被广泛接受的一般智能理论。尽管已有多种定义被讨论（RQ1），但至今没有统一框架能为AGI设计提供操作性指导。例如，Legg–Hutter的形式化提供了一套数学上严谨的智能理论，但其直接的实际适用性受到高度理论化表述的限制[211]。在缺乏共享理论的情况下，研究路径可能变得碎片化，在AGI这一大旗下并行推进实质上不同的问题设定，从而 complicated 进展的衡量与比较评估。建立更坚实的理论基础可能需要跨学科的综合，将人工智能与计算机科学中的计算模型、神经科学的经验约束以及哲学上的概念澄清相结合。目前缺乏此类框架也阻碍了对AGI行为进行可靠的评估与预测。这仍然是活跃的辩论话题（例如关于智能的精化定义与新的代理数学模型的提议）。

7.2 异构能力的集成
当代AI系统通常针对专门化任务进行优化。相比之下，AGI需要在一个统一且互操作的架构内集成异构能力（如语言、感知、运动控制与规划）以及异构计算范式（如符号推理与数据驱动学习）。设计并验证此类紧耦合系统仍是重大的研究与工程挑战。

7.2.1 可扩展性
许多提出的AGI架构主要在小规模或简化领域中得到验证。将这些方法扩展到互联网规模的知识和现实世界中的噪声、非平稳性与组合复杂性，可能会降低性能或使推理与控制变得计算上不可行。例如，尽管如OpenCog之类的系统旨在支持广泛的知识表示，但鉴于当前的计算约束与架构权衡，在非常大的知识库上维持高效的实时运行仍然困难。

7.2.2 模块互操作性
AGI中的模块互操作性需要原则化的机制来实现：(i) 共享的内部表示；(ii) 记忆与状态共享；(iii) 保持一致性并支持跨组件（如感知、语言与规划）低延迟协调的通信接口。若缺乏此类接口，系统可能退化为松耦合的子系统集合，无法表现出连贯的通用行为。在多模态实现中，若依赖通过中间件（例如MCP服务器）进行的外部工具编排，互操作性还会受到端到端延迟、高维模态数据传输限制、并发调用下的资源竞争以及级联失效模式（超时、部分失效与非确定性工具输出）的进一步制约，所有这些都可能损害长程推理与控制。编排层还扩大了安全与治理边界，需要限定能力范围、访问控制、审计与来源追踪，以缓解提示注入、数据泄露与权限提升等风险。

7.2.3 学习 vs. 编码
集成的一个关键障碍在于不同组件可能依赖不同的学习范式与表示形式体系。因此，AGI架构可能需要支持在共同计算基底上的异构学习与推理机制。一个被提出的方向是元学习或自编程系统，它可以根据任务需求的变化重配置现有模块或合成新模块[73]，[327]。然而，此类方法通过在代理内引入额外的自动模型与程序设计层次，显著增加了系统复杂度。

7.3 符号接地与具身性
如前所述，AGI必须将其推理与外部世界联系起来。这一要求通常被表述为符号接地问题：符号、语言或抽象表示如何通过对世界中实体与经验的指代而获得意义[147]。缺乏充分的接地，AGI可能退化为不具语义理解地操纵符号，从而在偏离其内部模型的真实世界场景中产生不一致的决策。许多作者认为具身性是符号接地的关键组成部分[56]。

通过直接与物理世界互动（包括借助仿真），会引发额外的技术挑战：确定系统应如何获取经验、从感觉流中提取符号，并在实时中将感觉输入与动作关联起来，以实现可与生物代理媲美的鲁棒具身性。AGI由此可发展出更接地的概念，例如不仅将重力理解为知识库中的词汇条目，还将其理解为在虚拟或物理环境中通过尝试堆叠积木而学到的规律。具身性还迫使AGI在约束与因果性下运作（例如碰倒杯子会导致水洒出），这对学习关于真实世界的知识很有价值。然而，开发具身AGI引入大量困难：机器人硬件与仿真器仍然有限，在开放环境中的学习缓慢且难以基准化。一些作者提出了中间解决方案，例如丰富的虚拟环境（例如让代理可以探索与学习的拟真游戏世界）作为AGI研究的试验台[88]。OpenAI的Virtual OpenWorld或DeepMind的XLand等项目是这一方向上的早期步骤，但它们仍相对不成熟且大多为专有系统。该领域认识到，还需要大量额外工作以确保AGI系统对其所处环境发展出鲁棒的理解。

7.4 安全、对齐与伦理挑战
一个经常被强调的优先事项是确保AGI系统安全运行并与指定的规范性目标保持一致（通常以人类价值来表述，在一些论述中还包括更广泛的生态或社会价值）[302]。相对于窄AI，AGI将表现出更大的自主性与通用能力，从而增加了因误指定、失对齐或失效而导致的潜在危害的严重性与影响范围。关键问题论述如下。

7.4.1 价值对齐
一个核心问题是：如何指定或学习规范性目标，包括人类、生态与社会价值、伦理约束以及意图，以使AGI可靠地产生有益结果，同时避免不可接受的伤害[302]。这个问题之所以困难，是因为相关价值体系是多元的、可能相互冲突，并且往往高度依赖上下文。简单的规则编码（如"不伤害人类"）通常是欠指定的，在分布漂移或对抗性解释下可能以非预期方式被满足。价值学习方法如逆强化学习[262]与合作式逆强化学习[135]旨在从观察到的行为中推断偏好。同时，其他方法纳入显式的人类反馈信号（例如基于人类反馈的强化学习）。尽管如此，这些方法仍然容易受到误指定与偏差的影响：行为数据可能反映不良偏好，而反馈可能是不完整、不一致或易受操纵的。因此，文献强调需要能够处理伦理复杂权衡的决策程序，可能将学习到的目标与显式的规范性约束（例如机器伦理）相结合。

7.4.2 控制问题
控制问题涉及对高度能力的AGI系统维持有效的人类监督，尤其是那些可能自我改进或以超过人类监督时间尺度运行的系统[346]。正交性命题形式化了一个关键关切：智能与终极目标是可独立变化的[42]，因此能力增强并不意味着亲社会或生态对齐的目标，也不意味着工具性趋同。工具性趋同是指多样化目标倾向于诱导相似的工具性激励，如自我保存与资源获取。这促使出现这样的场景：除非明确设计为可修正，否则AGI可能抵制关机或追求非预期的自我修改[94]。可修正性是指代理即使在干预与其当前目标相冲突时，仍保持可被中断、修改与关机的性质。尽管已有提出的机制（如干预感知目标或可重置效用公式），但鲁棒的通用解决方案仍是一个开放研究问题。

7.4.3 非预期后果与滥用
除了内在技术风险，AGI还引发对人类行为者滥用及其部署带来的不良社会影响的担忧。在对抗性场景中，获得高度能力系统可能带来战略优势（例如在军事领域），并加剧地缘政治或经济权力不对称。此外，即使以善意意图部署的系统，也可能通过目标误指定与外生副作用产生有害的外部性。Bostrom的回形针制造者思想实验[42]说明了在没有约束性价值或可持续性考量时，对一个狭义指定目标的优化如何驱动极端的资源寻求行为，从而产生与人类福祉不相容的结果。

7.4.4

## 透明性与可追溯性

随着AI系统的日益复杂，特别是基于深度学习的系统，归因和解释AGI决策变得越来越困难。为确保性、安全性和治理，AGI系统可能需要透明性和可追溯性机制，以支持对决策路径的审计和对结果的问责。尽管当代的可解释性和可解释AI方法可以为特定模型类别提供部分洞察，但将严格的端到端追踪扩展到由多个交互组件组成的完整AGI，仍然是一个开放的技术挑战。

鉴于这些风险因素，文献普遍认为相应的进展应与AGI能力和安全研究的进步同步。提出的缓解措施包括受控的评估环境（例如，沙箱和遏制协议）以及治理措施，如国际监测和监管，类似于对其他高后果技术的监督机制。此外，系统何时应被视为接近AGI的问题将评估（RQ4）与安全（RQ5）联系起来，因为自主自我改进或自动生成新AI系统等方面的指标可能需要大幅提高的审查和监督力度[71]。

## 7.5 评估与基准的局限性

最后，正如RQ4中所述，当前无法完全衡量或预测AGI行为本身就构成一项挑战。尽管模型能力进步迅速，但AGI评估仍是一个开放问题，因为评估的主导产物——静态基准分数——不能可靠地估计：(i) 在分布偏移下的泛化性，(ii) 新颖技能组合上的胜任力，或 (iii) 当任务是交互式、长程且受安全约束时的真实世界表现。近期的框架和基准明确承认了这一点，并转向活体基准、分布外（OOD）测试套件以及经过人类校准的任务设置，这些设置能够抵御死记硬背和狭窄优化（例如，带有活体基准的AGI层级；用于OOD鲁棒性的GLUE-X；用于新颖性和抽象能力的ARC-AGI；用于人类时间校准的HCAST；用于动态模板模糊测试的DIA-Bench）[69]，[252]，[305]，[382]，[421]。然而，三种失效模式在不同模态和领域中反复出现。

### 7.5.1 对基准的过拟合与数据污染

基准测试产生了针对测试分布进行优化的强烈激励，而现代训练管道使得无意间（或有意地）泄露数据变得难以排除。这不仅限于字面上的数据集污染：模型可以对基准格式、常见提示模板、评判启发式方法和特定排行榜的决策规则进行过拟合。结果是分数膨胀，但并不能转化为稳健的能力。文献已以部分修补方案作出回应：动态/对抗性基准（例如Dynabench风格的众包人工介入更新）、动态实例生成（DIA-Bench）、私有或半私有测试集（ARC-AGI的私有评估集；HCAST的部分保密），以及协议标准化（HELM/HEIM风格的可重复性和多面性报告）。然而，没有任何一种方案能消除核心激励问题[69]，[184]，[209]，[285]，[305]，[382]。一个成为训练目标的基准就不再是测量工具，而变成了课程。对于AGI而言，其声称的是通用能力，这造成了一种结构性错配：容易衡量的（具有明确评分的静态任务）恰恰是最容易走捷径的。

### 7.5.2 任务组合性与从技能到系统的鸿沟

AGI需要的不仅仅是孤立的技能。它需要在约束条件下可靠地组合技能（例如，规划→行动→观察→修正），并跨越模态和长时间跨度进行。许多基准将智能分解为原子任务（数学题、问答、短期规划问题），但组合并不是可加的：在部分任务上的成功并不意味着在组合整体上的成功。指令跟随工作明确指出了这一点，通过构建约束组合（链式/选择/嵌套），即使每种约束类型都可以单独解决，失败仍然可能发生[408]，[438]。规划基准同样表明，提供符号化领域描述并不能保证正确的多步动作推理，尤其是在需要重新规划和验证的情况下[390]，[391]。多模态套件扩展了覆盖范围，但相同的组合弱点也表现为脆弱的跨模态绑定和在结构化扰动下的失败[429]，[442]。开放问题不仅仅是关于更多的任务。它是衡量系统是否能够：(a) 选择并排序子技能，(b) 维护状态，(c) 协调冲突的约束，以及 (d) 从错误中恢复——这些属性本质上是交互性和纵向的，因此难以通过一次性基准项目来捕捉。

### 7.5.3 迁移与零样本失效模式（OOD脆弱性）

高的分布内性能与严重的分布外脆弱性是相容的。GLUE-X表明，在分布内NLU准确率方面表现强劲，但在领域偏移下会大幅退化的模型，暴露了浅层的泛化[421]。旨在评估新颖性的基准（ARC-AGI）显示，当解决方案需要从极少示例中学到的新抽象时，模型会遇到困难，即使这些任务对人类来说很简单[69]。人类校准的自主性任务（HCAST）揭示了一个相关现象：性能对环境支撑结构、工具接口和工作流程细节很敏感，而这些在静态基准中是缺失的，导致当任务从纯文本代理迁移到现实软件环境时出现急剧下降[305]。零样本设置还揭示了评判者和提示敏感性——当进行测量时——可能反映的是提示工程或评估者偏差，而非可迁移的技能。因此，基于零样本静态任务平均值的"通用智能"声称仍然是不确定的。它们没有明确说明预期泛化的偏移族，也没有说明高风险部署中可容忍的失败率。

### 7.5.4 其他障碍：指标有效性、评估者依赖性和自主性混淆

还有三个问题通常会干扰AGI基准测试。第一，指标有效性：在多项选择或短答案题上的准确率，当目标行为涉及探索、验证和纠错时，是不完整的胜任力代理（这也是过程式评估和验证器式评估背后的动机）[433]，[444]。第二，评估者依赖性：LLM作为评判者的协议虽然可扩展，但引入了系统性偏差（冗长性、风格、模型偏好），这些可能伪装成能力差异[185]，[408]。第三，自主性混淆：观察到的性能可能由支撑结构（工具、内存、编排）所主导，而非基础模型，这就是为什么提出了代码检查和基于分类法的自主性评估，以将模型能力与部署自主性分离开来[71]，[291]。这些混淆因素使得跨系统比较变得脆弱，除非评估报告了完整的堆栈（模型、提示、工具、策略和环境约束）。

尽管社区提出了越来越全面的基准，但缺乏明确的AGI参考系统限制了人们对现有测试是否涵盖了通用智能的完整光谱的信心。特别是，评估可能会遗漏未预料到的失效模式（"未知的未知"），这些可能在测试分布之外表现为危险行为。这促使了自适应评估协议和系统性压力测试的发展，包括对抗性评估以诱发失效案例。相应地，基准性能不应被视为安全性或广泛的、领域通用能力的充分证据。

## 7.6 挑战总结

总之，迈向AGI的进展不太可能仅通过模型扩展或规则工程来实现；它需要解决基础性的科学和工程挑战。关键需求包括：支持集成学习和推理的架构、与现实世界交互相关的有据可依的表征、与人类目标的稳健对齐，以及足够的透明性和可控性以实现监督。这些问题仍是活跃的研究领域。因此，许多作者强调了跨学科协作的必要性，涵盖机器学习与系统工程、认知科学与神经科学、伦理与治理。

## 7.7 未来研究建议

鉴于RQ5中确定的挑战，并与文献中的反复建议保持一致，我们提出未来的AGI研究应该：

- **促进跨学科合作**：整合认知科学、神经科学和复杂性科学的视角，可以 informs 更好地捕捉与天然智能相关的适应性和集成性属性的架构。

- **推进评估方法学**：需要持续发展动态基准和共享挑战环境（例如，开放世界模拟），以评估日益强大的系统的能力、适应性和安全性，包括对对齐（即遵循人类意图和价值）和鲁棒性的专项评估。

- **将安全设计内建**：安全和对齐考虑应作为核心架构需求来处理，包括支持可解释性、明确的人类反馈纳入通道，以及缓解有害行为的约束。技术安全研究（例如，可靠的人类延迟处理和对潜在危险探索行为的secure containment）应与能力发展同步进行。

- **定义中间里程碑**：具有实际用途的AGI（如医疗领域）或领域受限但强泛化的系统等操作性目标，可能提供经验上可实现的 stepping stones（例如，动物级别的通用性），并在管理风险的同时实现增量扩展。

- **促进开放与可重复性**：开放基准、共享环境和可重复的基线有助于进行一对一比较，减少重复工作，并加速识别鲁棒方法（例如BIG-bench等社区资源）。

为落实这些建议，表10总结了一个结构化的2050年全球研究路线图，按研究路线组织，并映射到预期将实现的逐步AGI准备度等级（ARLs）。

**表10. 2050年全球AGI未来研究路线图，综合了AGI准备度等级（ARL）框架与新兴的国际基准、安全评估、治理、可持续性和部署发展。**

| 研究领域 | 2026–2030 基础与互操作性 ARL 1→3 | 2031–2035 集成通用系统 ARL 3→4 | 2036–2040 受控自主 ARL 4→6 | 2041–2045 可信规模化 ARL 6→8 | 2046–2050 社会融合 ARL 8→9 |
|---|---|---|---|---|---|
| **核心科学与理论** | 统一AGI定义、能动性、记忆和因果性。操作化ARL、活体基准和污染控制。构建共享开放挑战环境。 | 形式化世界模型、迁移和元认知理论。建立工具使用和具身认知的共同本体论。 | 发展可靠的多智能体、具身和社会认知理论。强化因果和反事实学习形式化方法。 | 发展人机制度理论，涵盖科学、劳动和公共服务。将部署证据反馈到理论中。 | 从全球证据、审计和事件数据中实现自适应理论修订。使通用智能科学作为社会技术系统走向成熟。 |
| **架构与具身** | 推进神经符号多模态模型、持久记忆和工具使用脚手架。扩展模拟器、机器人沙箱和sim-to-real管道。 | 开发持续/终身学习、因果世界模型和有据可依的语言。标准化多智能体协调和自我反思。 | 使有界自主智能体在复杂物理环境中运作。通用机器人在物流、实验室和制造业中出现。 | 在基础设施和科学中部署可信的具身AGI助手。允许在强监控下进行更安全的在线适应。 | 开发具有受治理的自优化路径和强制执行的人类监督的通用具身系统。 |
| **评估/TEVV** | 采用ARC-AGI-2/3风格的抽象基准、HCAST风格的人类校准自主性和OOD测试套件。使可追溯日志、动态基准和红队测试成为标准。 | 为智能体、多模态系统和机器人创建国际TEVV配置文件。引入第三方审计和轮换基准治理。 | 使纵向的真实世界评估、事件报告评估共享成为可能。建立自主性和对齐测试的跨站点可重复性。 | 制度化行业认证、模型注册表和重新认证触发机制。要求公开报告能力、安全和环境指标。 | 运营持续保障生态系统，具有全球审计API和公共仪表板。TEVV成为全天候生命周期功能。 |
| **安全、对齐与控制** | 采用前沿安全框架、可解释性方法、可修正性机制和kill-switch。使用沙箱试点和更强的滥用评估。 | 扩展监督、宪法/价值学习和错位检测。创建结构化的事件分类法和未遂事件学习循环。 | 对关键子系统应用形式化验证和反漂移更新控制。在高风险领域执行稳健的自主性约束。 | 建立多利益相关者对齐治理、危机响应协议和回滚要求。要求在部署前提交行业特定的安全案例。 | 为高级系统实施持久的控制、补救和保护权利的安全保障。建立紧急干预和问责的全球规范。 |
| **治理、标准与全球合作** | 实施UNESCO AI伦理、OECD AI原则、NIST AI RMF和欧盟AI法案。启动联合国全球数字契约工作组、AI小组/对话流程和国家级AI办公室。 | 构建互操作标准、国际基准交换和共享审计规范。扩展监管沙箱和公共利益计算伙伴关系。 | 发展跨境审计和责任制度，以及前沿风险的信息共享。为严重事件建立共享预警系统。 | 向高风险自主性、事件披露和网络/生物滥用的条约式规范迈进。将南方国家的能力建设作为核心。 | 巩固持久的全球共治机构，具有民主审查周期、公平准入和长期管理。 |
| **计算、基础设施与可持续性** | 改善训练/推理效率、安全数据中心和专用/神经形态芯片。开始测量AI能源、水和生命周期足迹。 | 开发更绿色的计算、主权/公共计算云和供应链韧性。建立AI足迹测量的共同标准。 | 创建具有可信硬件和安全模型供应链的韧性全球AI基础设施。将计算准入与治理和安全准备度挂钩。 | 扩展循环AI硬件、低碳部署和透明的环境披露。 | 在气候/资源预算内管理可持续的行星级计算，并使AI基础设施与公共利益韧性目标一致。 |
| **应用与社会** | 在强监督下在科学、健康、教育和气候领域运行高价值试点。在各机构和职业中扩展AI素养。 | 启动劳动力转型计划、公共部门转型和循证采用。优先考虑包容性准入。 | 在物流、制造、研究和辅助服务中部署可信自主性，在关键领域保持人在回路监督。 | 促进公平的全球传播、公共利益采购和制度韧性。持续进行影响的民主审查。 | 实现具有周期性重新认证、补救机制和共同繁荣目标的社会融合。 |

**注：** 2026–2030年期间反映了当前的国际基准、治理、安全和监管轨迹，而2031–2050年代表了基于手稿中AGI架构、评估和ARL讨论的场景化研究路线图。

路线图构建所依据的证据基础：手稿RQ2/RQ4/RQ5及ARL框架；Stanford AI Index 2025；NIST AI RMF/AIRC；欧盟AI法案实施时间表；UNESCO《人工智能伦理建议书》；联合国《全球数字契约》及AI治理进程；OECD AI原则（2024年更新版）及AI环境测量工作；ARC-AGI-2 / ARC Prize 2025；前沿模型论坛出版物。图11展示了一份路线图，该路线图整合了AGI文献中讨论的主要研究轨迹，并将其编排为一条以能力为导向、通向通用人工智能的路径。该路线图强调了代理智能、通用推理、持续学习、世界模型、具身智能、元认知、评估框架和安全对齐之间的相互依存关系，这些被视为AGI开发的核心要素。该路线图围绕能力渐进成熟和系统级整合来组织，与当前AGI架构、认知系统、神经符号AI、具身AI、评估方法和AI安全研究的研究成果相一致。此外，通往AGI的进展不仅需要增强认知能力，还需要强大且系统化的评估。下载：下载高分辨率图片（778KB）下载：下载完整尺寸图片。图11. 能力导向的AGI研究路线图及准备度渐进。8. 拟议AGI模型。本节将前述文献综合转化为具体的架构提案，每个提案都在现实计算和内存约束下针对通用性、可解释性、安全性和可部署性的不同平衡进行优化。8.1. 拟议模型1：自进化二元-符号通用人工智能框架。对AGI的追求已经与大规模云依赖神经网络密不可分。尽管这些模型展现出复杂的模式匹配能力，但它们从根本上缺乏实现真正边缘设备自主认知所需的泛化性、语义可解释性和资源效率。当前架构受到严重的计算开销困扰，且在空闲周期中完全处于被动状态，无法持续优化其内部知识结构。为了克服这些确定性局限，本文提出自进化二元-符号通用人工智能框架。该架构专为中端边缘硬件设计，以动态自优化的自动实体图（AEG）取代不透明的神经权重，由二元智能计算（BIC）和无监督元认知重构驱动。以下方法论定义了实现可扩展、隐私保护、类人多模态认知所需的数学极限、线程协议和内在奖励机制，而无需依赖外部云基础设施。8.1.1. 方法论途径与理论基础。当前AGI架构主要基于绑定于云基础设施的资源密集型神经网络，在泛化性、记忆保留和常识推理方面表现出严重缺陷[97],[241]。本文综述提出了一种范式转变：一种专为资源受限的边缘环境（如个人计算设备）[241],[401]而设计的自进化、图中心认知模型。图12直观呈现了架构概述。下载：下载高分辨率图片（293KB）下载：下载完整尺寸图片。图12. 拟议的自进化二元-符号AGI（SEBS-AGI）框架及其主要功能模块。该系统放弃了纯次符号方法，转而采用三个基础模块：用于确定性符号提取的二元智能计算（BIC）、用于因果知识结构的自动实体图（AEG），以及用于持续无监督自优化的元认知功能[406]。二元智能计算（BIC）与多模态提取。BIC模块作为初始语义抽象层，将连续高维数据流（文本、听觉和视觉）转换为离散统一符号空间，无需依赖预定义标签[177]。为了将不同输入模态规范化为共享几何空间，提取函数使用归一化余弦距离。传入的感知向量????若满足模态特定容差阈值?????(??)，则被分配给现有符号原型????：??cos?(????,????)=1??????????‖????‖2?‖????‖2
综上所述，这些局限性共同支持了这样一种观点：现有的任何单一范式都无法独自实现AGI，并且凸显了混合方法和新理论框架的必要性。

**集成操作的实现（学习、推理与记忆约束）**

我们将集成视为架构的一种属性，其中：（i）学习组件能够更新和查询显式状态（记忆、信念、计划）；（ii）推理/规划能够主动调用学习和检索作为工具（闭环控制）；（iii）社会-伦理约束被显式表示，并在决策时强制执行，而不是作为事后过滤器附加。在此操作定义下，"是否已实现集成？"这一问题变得经验化：集成系统应在需要长时记忆、多步推理/规划和约束满足的任务上展现可靠的提升，而这些提升应反映在以下AGI评估方法学小节中综述的基准测试套件和安全/对齐评估中。

**9.1 AGI架构讨论**

AGI架构和方法论的探索工作与定义分歧相映射：符号AI能够实现逻辑推理，但无法规模化；深度学习在感知方面表现卓越，但缺乏强大的抽象能力；进化方法提供了适应性，但无法广泛泛化。受生物启发的认知架构（如HTM、LIDA和ACT-R）集成了感知、记忆和行动；然而，它们实施起来非常复杂。相比之下，形式化理论（如AIXI和NARS）将智能定义为最优或资源受限的适应，但仍不具实用性。混合方法（包括神经-符号系统、概率逻辑、图推理和元架构）结合了结构化推理与灵活学习。新方向（如无线认知、情感模型、量子启发公式、多感官基础模型和元认知自模型）拓宽了AGI设计空间。机器学习是AGI的基础，它使系统能够学习并从数据中适应。CNNs、RNNs、LSTMs、GRUs、Transformers和GANs等深度学习架构支持感知、推理和行动。然而，它们受到梯度消失、对噪声敏感性和缺乏因果性的限制，需要混合方法。无监督学习和自监督学习通过密度估计、聚类和聚合发现世界模型。使用K-means和PCA的聚类赋予AGI常识知识以支持迁移学习。强化学习通过Bellman方程形式化策略优化，驱动了AlphaGo，但受限于样本效率低、泛化能力差和对齐危机，需要与因果推理和层级认知相结合。监督学习最小化与人类对齐行为的经验风险，但依赖昂贵的标注，且容易受到分布偏移的影响。非公理化的NARS通过Narsese语言（L）、真值（S）、推理规则（RNAL-1-9）、信念网络记忆（M）和优先级控制（C）推进相对理性，平衡了可扩展性和不确定性。Cyc使用CycL进行广泛的公理性知识和推理，与NARS的自底向上适应形成对比。Sigma通过图形模型、认知习语、感知/工作/长期记忆和因子图统一认知，并由乘积算法求解。OpenCog Hyperon利用原空格、MeTTa和CogPrime实现概率逻辑、进化学习和体验单元（如CAM/GAF）中的注意力。基于GNN的混合体通过图神经网络集成了基于CNN和RNN的感知、符号落地和推理，实现符号-亚符号的双向流动。受神经科学启发的模型（如HTM（稀疏表示）、预测编码和全脑仿真）模拟了层级结构和预测，而集成架构（SOAR分块、ACT-R模块、OGI图）统一了子系统以实现一般认知。通过多模态Transformer实现基础模型规模化，能够捕获相关性，但缺乏因果信息和具身信息；信息论方法（AIXI、自由能原理）和量子视角补充了混合方法，以实现稳健的AGI。未来的方法论需要在各范式之间进行可扩展的、合乎伦理的集成，以实现与人类对齐的通用智能。

表13总结了代表性AGI架构的跨范式比较，使用了AGI准备度框架。该表强调了符号、学习为中心、混合、认知和理论方法在学习、推理和可扩展性方面的系统性差异。

**图14提供了AGI架构的高级分类，说明现有方法跨越了多个范式，从以学习和符号系统到混合、认知和替代理论框架。该图强调了AGI研究本质上具有多元性，没有任何单一范式能够满足通用智能的所有要求，从而推动了集成和混合架构方向的发展。**

（下载：下载高分辨率图像（1MB） 下载：下载全尺寸图像）

图14. 主要AGI架构方法的分类，将代表性方法按以学习为中心、符号、混合、认知、情感驱动、脑启发、信息论、量子、具身和集成系统范式进行分类。该图突出了AGI研究中探索的设计哲学广度及其在不同抽象层次上的关系。

**表12展示了代表性AGI-RQ2方法的比较分类，总结了它们的历史出现、基础范式、核心优势和当前局限性。该表涵盖了基于学习、符号、混合、认知、信息论、情感驱动和后计算视角，突出了可扩展性、落地、推理、自主性和理论完整性之间反复出现的权衡。**

**表11. AGI应用领域：任务与指标**

| 领域 | 核心任务 | 指标/基准 |
|------|----------|-----------|
| 医疗健康 | 医学影像诊断；患者数据模式识别；个性化治疗方案规划；预测性早期检测；药物发现 | MMMU/MMT-Bench（多模态）；HELM（多方面）；TruthfulQA/FactCHD（事实性） |
| 教育与个性化学习 | 自适应辅导；学习者建模；实时反馈；情感/社会感知辅导；内容/教材生成 | StructFlowBench/SIFo（多轮/顺序）；InFoBench/IFEval（约束遵守）；MDK12-Bench（K-12任务多样性） |
| 农业与精准农业 | 传感器与卫星/无人机融合；作物/杂草检测；灌溉/施肥优化；病害预测；牲畜监测 | MMT-Bench（多模态广度）；OoD-Bench（偏移稳健性）；DIA-Bench（动态实例） |
| 智慧城市与城市规划 | 城市运营查询解答；数据集成；交通/公共交通优化；行为感知规划；节能建筑/城市监测 | ACPBench/PlanBench（规划/验证）；GLUE-X（NLU的OOD稳健性）；HELM（多方面报告） |
| 交通与自动驾驶 | 感知；实时决策；混合交通导航；路径优化；V2V/V2I协调 | PlanBench（规划/重规划）；MMMU/MMT-Bench（多模态推理）；HCAST（人类校准的自主任务） |
| 能源管理与智能电网 | 分布式能源协调；供需平衡；储能优化；负荷预测；电动汽车充电和需求响应 | ACPBench（约束推理）；DIA-Bench（动态稳健性）；HELM（多方面评估） |
| 物联网集成 | 设备编排；异常检测；预测性维护；实时传感器流推理；上下文感知自动控制 | DIA-Bench（模板模糊/动态性）；OoD-Bench（分布偏移）；HELM（稳健多方面报告） |
| 金融服务与风险管理 | 欺诈检测；交易监控；信用风险评估；合规监控；投资组合优化/咨询 | CFBench/ComplexBench（多约束可靠性）；TruthfulQA/Poly-FEVER（声明间事实性）；HELM（社会方面） |
| 供应链与物流 | 需求预测；库存优化；配送网络优化；动态路由；仓库/设备预测性维护 | ACPBench（规划基元）；PlanBench（端到端规划）；HCAST（真实自主任务） |
| 软件开发与网络安全 | 自主代码生成；迭代测试/部署；威胁检测；零日漏洞缓解；基础设施优化/控制 | HumanEval/MBPP（功能代码正确性）；CodeElo（竞赛级）；HCAST（容器化软件/网络安全任务） |
| 国防与军事 | 多源情报融合；任务规划；自主协调；战术通信支持；预测性维护/战备 | PlanBench/ACPBench（规划和约束）；HCAST（受控环境下的自主性）；可信赖AGI框架（安全/对齐把关） |
| 客户服务与虚拟助手（含内容） | 个性化支持对话；多轮查询处理；大规模服务自动化；多模态内容生成；个性化媒体交付 | InFoBench/IFEval（格式/约束遵守）；HalluDial/TruthfulQA（幻觉/事实性）；HELM（有用性/公平性/效率） |
| 环境监测与气候科学 | 卫星与传感器融合；生态系统监测；灾害早期预警；气候预测；可持续性规划 | OoD-Bench（偏移下泛化）；DIA-Bench（动态稳健性）；MMT-Bench（多模态广度） |
| 制造与工业自动化 | 工艺优化；质量检验；预测性维护；生产调度；自适应工厂协调 | HCAST（人类校准的工业软件任务）；DIA-Bench（动态实例）；ACPBench（约束推理） |
| 法律服务与合规 | 合同分析；法律研究；判例检索；合规监控；尽职调查支持 | AGIEval（考试式法律推理）；InFoBench/IFEval（约束遵守）；FactCHD/Poly-FEVER（事实验证） |
| 零售与个性化商务 | 个性化推荐；客户行为建模；库存优化；动态定价；全渠道协调 | HELM（稳健性/公平性）；GLUE-X（语言OOD稳健性）；CFBench/ComplexBench（约束遵守） |
| 科学研究与发现 | 假设生成；实验设计；数据分析；文献综合；跨领域集成 | ARC-AGI（新颖抽象）；BBH（困难推理）；MR-Ben（验证器/元推理） |

表12。

RQ2 通往AGI的方法的优劣比较分析

| 方法 | 年份 | 范式 | 优势 | 当前局限 |
|---|---|---|---|---|
| 具有GNN集成层的混合认知架构 | 2025 | 基于GNN的混合方法 | 利用图神经网络连接符号概念与子符号特征，改善符号接地与双向集成 | 在开放式环境中接地仍然脆弱；图的增长带来高昂计算成本；深度互适应仍然有限 |
| 基于基础模型的多模态Transformer扩展 | 2025 | 可扩展基础多模态Transformer | 通过扩展多模态预训练和通用架构，实现广泛的表示学习和出色的跨任务迁移能力 | 接地能力弱、持续状态保持不足、幻觉问题、因果推理脆弱以及在分布偏移下鲁棒自主性有限 |
| AGI的代数几何统一 | 2025 | 量子与后计算视角 | 为上下文、组合和纠缠认知结构提出了数学丰富的几何框架 | 高度理论化，缺乏可训练的大规模架构或达到AGI水平性能的经验性基准证据 |
| AGI原生无线系统 | 2024 | 集成系统与应用领域 | 将AGI原则扩展到通信和网络控制系统中的意图驱动、因果和高维推理 | 仍处于概念或原型阶段，在真实网络中缺乏端到端的AGI级鲁棒自主性证据 |
| OpenCog | 2023 | 符号推理与混合AI | 集成概率逻辑、进化学习、注意力分配和灵活的图结构知识表示 | 协调开销大、共享内存瓶颈、缺乏大规模实时自主运行的稳健性证据 |
| AGI智能体认知架构（AGICA） | 2023 | 认知架构 | 为AGI设计提供了关于意识、知识、情感、伦理和智能体类型的公理化模块化框架 | 主要为概念性框架；缺乏具体算法、训练过程、接口和经基准测试的实现 |
| M认知元架构 | 2023 | 认知架构 | 为将架构与数学规定的认知属性进行对照提供了形式化的合规测试视角 | 目前展示范围狭窄，缺乏超越形式化草图的运营验证，与神经系统的集成有限 |
| 非公理化推理系统（NARS） | 2020 | 符号推理与混合AI | 支持在不确定性和知识不足条件下的自适应推理，具备资源受限推理和动态优先级排序能力 | 全局一致性弱、内存受限、大规模接地能力有限、长时程世界模型集成不完整 |
| AGI的伦理化RL改进：'"不 ambitious"的AIXI变体' | 2020 | 元学习强化学习 | 在受限环境中形式化了温和优化和降低权力寻求激励，有助于对齐分析 | 依赖于强约束和短视假设，扩展性差，嵌入智能体和真实世界价值学习问题仍未解决 |
| 神经元启发方法 | 2017 | 机器学习与深度学习 | CNN、循环模型和Transformer在多模态中提供了强大的感知、序列建模和可扩展表示学习能力 | 高度依赖数据和计算资源，在显式符号和因果推理方面仍然薄弱，且通常缺乏可解释性和接地的抽象能力 |
| 分层时序记忆（HTM） | 2017 | 认知架构 | 稀疏分布式表示、在线高阶序列学习、异常检测和受生物启发的时序预测 | 在规划、奖励驱动控制、符号抽象和广泛AGI应用所需的多模态世界模型能力方面有限 |
| 强化学习（RL） | 2016 | 机器学习与深度学习 | 通过交互和奖励优化支持自适应序贯决策，在游戏、机器人和控制领域具有重要作用 | 样本效率低、迁移脆弱、奖励设定错误风险以及在因果和世界模型推理方面的原生能力有限 |
| Sigma | 2016 | 符号推理与混合AI | 通过因子图和可复用的认知惯用法统一了符号、概率和信号级认知 | 大规模推理成本高昂；感知-动作集成有限；与当代深度模型相比大规模学习能力较弱 |
| 广义双语论 | 2015 | 替代性概念框架 | 将智能界定为在语言、数学、本体论和多模态等表示系统之间的翻译 | 仍然形式化不足，语义保证薄弱，基准测试稀疏，与感知和动作的接地有限 |
| 学习型智能分布/决策智能体（LIDA） | 2013 | 认知架构 | 在连贯的认知周期中集成了感知、注意力、记忆、动作选择和全局工作空间风格的认知 | 计算量庞大、缺乏大规模基准测试证据、与前沿深度学习流水线的耦合有限 |
| 自催化内源反思架构（AERA） | 2013 | 认知架构 | 反思性自我扩展、价值驱动调度和组合因果微模型推理，以实现自适应行为 | 依赖于手工设计的种子，缺乏基准级别的经验验证，自我修改的安全性保障不完整 |
| LIDA（基于情感的动机和注意力） | 2013 | 情感驱动的认知架构 | 在完整的认知周期中，将情感和动机集成到显著性、注意力和动作选择中 | 在开放世界技能习得方面证据有限；与当代感知学习和概率推理的集成薄弱 |
| OCC模型 | 2013 | 情感驱动的认知架构 | 提供了广泛使用的情感类别和评估变量分类法，可嵌入更广泛的AGI架构中 | 本身不是完整的认知架构；学习、接地和规划能力有限，需依赖外部系统 |
| 认知量子模型 | 2013 | 量子与后计算视角 | 可以建模推理和判断中的顺序效应、干涉和非经典概念组合 | 主要是描述性的而非构造性的；缺乏完整的端到端学习、规划和行动架构 |
| 具有集成推理的接地分层架构（GLAIR） | 2010 | 认知架构 | 跨知识、感知运动和执行器层实现显式符号接地，支持具身智能体的推理 | 主要为手工符号工程，现代多模态学习极少，在嘈杂开放世界环境中的概率推理能力弱 |
| CLARION | 2010 | 情感驱动的认知架构 | 双过程架构，将内隐和外显知识与动机和情感控制相连接 | 大规模多模态验证稀疏；强烈依赖预工程知识，缺乏具身部署的基准测试 |
| EMA（情感与适应） | 2009 | 情感驱动的认知架构 | 对连续的评估-应对-重评估循环进行建模，实现过程级情感模拟和自适应行为调节 | 主要在狭窄的虚拟智能体环境中验证；与更广泛的学习、规划和不确定性感知认知的集成薄弱 |
| SOAR-Emote | 2009 | 情感驱动的认知架构 | 在SOAR中嵌入评估和内在情感奖励，使情感引导注意力、学习和目标选择 | 证据仅限于受限任务；依赖手工设计的感知，缺乏开放世界验证 |
| Schmidhuber的算法创造力 | 2008 | 信息论与算法方法 | 将好奇心和创造力形式化为压缩进步，激励内在驱动的探索和开放-ended学习 | 精确目标依赖于难以计算的压缩改进；实际系统仍为近似且难以可靠扩展 |
| 无监督与自监督学习 | 2007 | 机器学习与深度学习 | 从无标签数据中学习潜在结构和可复用表示，对预训练世界模型和迁移有用 | 当单独使用时，因果抽象、接地和上下文敏感推理薄弱；若不与规划和符号结构集成则不足以实现AGI |
| Friston的自由能原理（FEP） | 2006 | 信息论与算法方法 | 通过生成建模和不确定性最小化统一感知、行动和学习，对具身自适应智能体很有吸引力 | 常因其过于宽泛或在原则层面可证伪性弱而受到批评；可扩展的AGI实现仍然有限 |
| Cyc与ACT-R的集成 | 2004 | 基于GNN的混合方法 | 概念上将大规模符号常识知识与基于心理学的基础程序性认知相结合 | 表示严重不匹配、时序不兼容以及缺乏成熟的经验验证集成实现 |
| ACT-R | 2004 | 认知架构 | 基于心理学基础的多模块认知，具备预测性时序、记忆动态和基于生产的推理 | 手工设计模块、不确定性感知规划能力弱、现代感知学习有限且难以大规模部署 |
| MicroPsi | 2003 | 符号推理与混合AI | 结合动机认知、符号/子符号节点网络、感知运动接地和情感调节控制 | 语言能力有限、不确定性处理能力弱、可扩展知识增长的手工设计负担大 |
| MicroPsi（基于PSI的动机认知） | 2003 | 情感驱动的认知架构 | 将情感实现为从驱力和稳态变量产生的涌现性调节，影响记忆、注意力和动作 | 语言能力弱、复杂具身评估能力有限、与当代感知和不确定性建模的集成较差 |
| 通用算法智能（AIXI） | 2000 | 元学习强化学习 | 通过结合Solomonoff归纳与强化学习，提供了通用的序贯决策的数学优雅理想 | 精确形式不可计算，未嵌入真实环境，无法直接用于可部署的AGI系统 |
| 协同目标约化（Orch-OR） | 1996 | 量子与后计算视角 | 提出了连接量子效应、意识和认知的宏大微观到宏观假说 | 生物物理合理性受到广泛质疑；缺乏已验证的计算机制和可用的AGI工程路径 |
| 面向AGI的具身与情境认知 | 1991 | 替代性概念框架 | 强调接地、可供性、形态学和环境耦合智能是稳健通用认知的必要条件 | 难以统一基准测试，若不加增强则符号抽象推理薄弱，缺乏单一标准计算架构 |
| Cyc | 1989 | 符号推理与混合AI | 提供丰富的常识本体论、显式符号知识和通过微理论的强大演绎推理能力 | 手工知识工程负担重、自主知识增长能力差、在开放动态环境中的适应性弱 |
| SOAR | 1987 | 认知架构 | 强大的符号问题求解、分块、层次化目标以及情节/语义记忆和RL扩展的集成 | 接地感知能力弱、概率信念处理能力有限、缺乏开放世界终身自监督学习的证据 |
| 语义网络处理系统（SNePS） | 1987 | 认知架构 | 强大的内涵式表示、矛盾容忍、信念修正以及对信念和动作的推理 | 可扩展性弱、自主知识获取能力有限、缺乏原生的大容量神经/感知学习接口 |
| Kolmogorov复杂度（信息论与算法方法） | 1964 | 信息论与算法方法 | 提供了关于智能、压缩、归纳和模型选择的基于简洁性的原则性视角 | 核心量不可行计算或近似成本高昂，且不直接解决感知、接地或可扩展控制问题 |

基于ARL的关键AGI架构比较，评估学习、推理、可扩展性、当前自主准备水平（ARL）以及迈向更高准备水平的主要阻碍。

| 架构 | 学习能力 | 推理能力 | 可扩展性 | ARL | 迈向下一ARL的主要阻碍 |
|------|----------|----------|----------|-----|----------------------|
| ACT-R | 生产规则强化与记忆适应；任务特定的符号-亚符号学习 | 基于心理学的生产推理，配备专门模块 | 有限—中等 | 3 | 端到端学习感知、概率规划、终身开放世界学习，以及更强的自主运行能力 |
| AERA | 从手工种子出发的反思性自我扩展；有限的累积学习 | 基于溯因/演绎因果微模型的推理 | 低—中等 | 2 | 基准级验证、可扩展感知，以及自我修改的安全保障 |
| AGI Agent Cognitive Architecture (AGICA) | 多为概念性；无具体训练或持续学习管线 | 公理化模块化认知，含社会/情感抽象 | 低/理论性 | 0 | 可执行算法、基准测试、可扩展知识基质，以及操作性安全机制 |
| AGI-Native Wireless Systems | 遥测驱动的模型学习与网络环境中的因果适应 | 面向无线系统的推理感知规划与意图到控制回路 | 低/原型阶段 | 1 | 端到端真实RAN验证、跨层基准测试，以及正式安全/回滚控制 |
| AIXI | 仅理论性通用强化学习 | 原则上最优的序贯决策理论 | 实际中可忽略不计 | 0 | 可处理的实现方案、嵌入式智能体处理，以及可部署的证据 |
| AIXItl | 对通用RL的有界资源近似 | 有界的期望最大式序贯推理 | 实际中可忽略不计 | 0 | 仍计算不可行；缺乏实际部署证据和嵌入式智能体处理 |
| Algebroid Geometric Unifications/AEC提案 | 未定义可训练的学习管线 | 几何/纠缠启发的组合推理概念 | 理论性 | 0 | 可学习算法、经验基础，以及基准化的控制/规划管线 |
| BoMAI | 在强假设下的盒式或近视场景中的导师级学习 | 安全的近视/有界AIXI式决策 | 低；高度受限 | 1 | 开放世界可扩展性、现实的嵌入式智能体假设，以及更广泛的自主性验证 |
| CIRL | 通过人-智能体交互进行偏好学习 | 关于人类意图的合作POMDP推理 | 低—中等 | 1 | 可扩展的多人类奖励不确定性、鲁棒的偏好推断，以及部署级安全证据 |
| CLARION | 隐式/显式动机学习，含预工程化结构 | 动机调节的双过程推理 | 低—中等 | 1 | 多模态评估、学习的世界模型，以及大规模概率规划 |
| Cyc | 最小自主学习；依赖手工编码的常识知识 | 使用逻辑、本体和微理论的强符号演绎 | 低 | 1 | 自主学习、OOD鲁棒性，以及组合自主性 |
| Cyc + ACT-R集成 | 通过系统间符号映射的有限学习 | 情境化常识+认知接地的程序推理 | 低 | 1 | 成熟的集成实现、低延迟推理、不确定性处理，以及经验验证 |
| EMA | 有限学习；主要为任务特定智能体中的评估/应对动态 | 评估驱动的情感推理和认知重评周期 | 低 | 1 | 与世界模型的集成、长程规划，以及概率信念更新 |
| Embodied & Situated Cognition for AGI | 具身学习存在，但主要为碎片化和任务特定 | 情境化控制和基于可供性的推理 | 低/异质性 | 0 | 统一的可扩展架构、标准化基准测试，以及更强的抽象机制 |
| Friston的Free Energy Principle/Active Inference | 在某些演示中有学习的生成模型，但尚未在规模上成熟 | 变分推断、预测控制，以及预期自由能规划 | 低—中等 | 1 | 可扩展的学习生成模型、有竞争力的长程基准测试，以及更清晰的伪证任务级评估 |
| Generalized Bilingualism | 无正式可执行的学习机制 | 跨模态/符号系统的跨表示"翻译"推理 | 理论性 | 0 | 形式语义、接地的执行，以及推理基准上的经验验证 |
| GLAIR | 主要为工程化接地，有限学习 | 接地的符号推理、规划和行动回路 | 低—中等 | 2 | 神经感知、概率推断、大规模世界模型，以及基准化的自主性 |
| GNN-based Hybrid Architecture | 连续神经-符号特征学习，含符号接地模块 | 符号+图基础的关系推理 | 中等 | 2 | 可扩展的自主符号接地、更深的相互适应，以及更广泛的安全治理自主性 |
| G?del Machine | 通过证明搜索的理论自我修改；无实际学习者 | 证明引导的自我改进推理 | 理论性 | 0 | 可处理的证明搜索、概率扩展，以及有操作证据的已实现系统 |
| Hierarchical Temporal Memory (HTM) | 在线无监督序列学习和稀疏分布式编码 | 时间预测和异常检测；有限规划 | 流式任务中等 | 2 | 规划、多模态世界模型，以及奖励驱动的控制 |
| LIDA | 多记忆和认知周期内的发育学习 | 全局工作空间式注意力和动作选择 | 中等 | 2 | 大规模基准测试、更丰富的感知、长程世界建模，以及鲁棒的自主性 |
| M Cognitive Meta-Architecture | 无已实现的学习管线；仅为形式比较器 | 元层面合规推理和形式验证思想 | 理论性 | 0 | 算术以外的领域、来自真实系统的可执行映射，以及共享基准协议 |
| MC-AIXI-CTW | 在小型领域中通过CTW和MCTS进行有界模型学习 | 不确定性下的近似序贯决策 | 低；仅限小领域 | 1 | 样本高效的可扩展性、更丰富的模型类别，以及真实世界部署证据 |
| MicroPsi | 节点网络中的联想/强化学习，含动机控制 | 符号-亚符号推理，含情感调节 | 低—中等 | 2 | 语言能力、不确定性处理，以及自动化知识增长 |
| MicroPsi-2 | 同MicroPsi，但工具和环境接口更强 | 含动机控制的符号-亚符号推理 | 低—中等 | 2 | 鲁棒的语言接地、不确定性感知推断，以及大规模具身评估 |
| NARS | 在知识和资源不足条件下的增量学习 | 强非单调自适应推理 | 中等 | 2 | 全局一致性、长程世界建模，以及大规模验证 |
| OCC Model | 无独立学习系统；仅为分类法 | 情感分类/评估变量而非完整推理架构 | 理论性 | 0 | 可执行架构、与认知的集成，以及基准化的学习/规划行为 |
| OpenCog Hyperon | 概率性、进化式和基于注意力的学习 | 在AtomSpace/MeTTa上的混合概率-逻辑推理 | 中等 | 2 | 实时响应、可扩展知识管理，以及可靠有界自主性 |
| OpenCog Prime | 遗留OpenCog配置中的多过程学习和知识维护 | 含分布式认知单元的混合逻辑/概率推理 | 中等 | 2 | 中央知识瓶颈、实时交互，以及鲁棒的迁移/自主性 |
| OpenCyc | 最小自主学习；Cyc式知识的公开子集 | 在策划的常识知识上的符号演绎 | 低 | 1 | 自动化知识获取、鲁棒性，以及更广泛的组合能力 |
| OpenNARS | 增量非公理化学习的经验实现 | 不确定性下的自适应非单调推理 | 中等 | 2 | 同NARS：全局一致性、长程模型，以及更大的基准证据 |
| Orchestrated Objective Reduction (Orch-OR) | 未定义操作性AI学习算法 | 推测性量子意识推理主张 | 理论性 | 0 | 经验验证、工程基质，以及计算可用的算法 |
| PowerPlay | 面向开放末端学习的增量任务发明与验证 | 开放末端问题求解和精炼驱动推理 | 低/原型 | 1 | 真实世界可扩展性、高效保留，以及超越玩具场景的更强经验验证 |
| Quantum Models of Cognition | 无端到端学习/控制架构 | 量子概率判断和决策推理 | 理论性 | 0 | 智能体架构、可扩展在线学习，以及基准化的规划/控制 |
| ResearchCyc | 在Cyc式基质上的手工工程知识扩展 | 符号演绎和情境敏感推理 | 低 | 1 | 自主获取、可扩展性，以及更广泛的自适应学习 |
| Scalable Foundational Multimodal Transformer/LLMs | 从海量数据中极强的自监督多模态表示学习 | 新兴推理能力；借助工具、脚手架和长推理链更强 | 极高 | 3 | OOD鲁棒性、持久状态/接地，以及部署的更强可信赖性 |
| Schmidhuber's Algorithmic Creativity | 基于压缩/预测进展的内在动机学习 | 压缩进展推理、规划，以及好奇心驱动搜索 | 低/原型 | 1 | 可处理的世界模型、稳定的在线进展估计，以及安全的可扩展自我改进 |
| SNePS | 有限学习；主要为工程化符号知识获取 | 强内涵逻辑、信念修正，以及行动-推理集成 | 低—中等 | 2 | 神经符号接口、大规模摄入，以及长程基准化自主性 |
| Sigma | 跨记忆系统统一的因子图学习/推断 | 通过图形模型的符号-概率推理 | 中等 | 2 | 感知-行动集成，以及向开放世界任务的高效扩展 |
| SOAR | 分块、强化学习、情景/语义记忆 | 强符号规划和决策 | 结构化复杂任务中等 | 3 | 接地的感知、概率推理，以及部署级可信赖性 |
| SOAR-Emote | 含基于评估的内在奖励的情感影响学习 | SOAR内部的情感调节符号推理 | 低；受限任务证据 | 1 | 统计感知、不确定性感知规划，以及开放世界评估 |
| Thousand Brains Theory | 无具体的大规模实现或经验证的学习栈 | 并行预测世界建模概念 | 理论性 | 0 | 可执行架构、训练方法，以及针对AGI相关任务的经验验证 |
| Whole Brain Emulation (WBE) | 无实际实现；完全理论化的大脑模拟路径 | 原则上可能实现全脑认知 | 理论性 | 0 | 脑扫描分辨率、计算可行性，以及脑功能理解不完整 |

**解读：** ARL-0 = 理论/样本仅；ARL-1 = 实测研究原型；ARL-2 = 受限场景下的鲁棒性证据；ARL-3 = 现实任务中的组合/状态能力；ARL-4+ 将需要受控自主性、可审计的部署证据，以及比已审阅架构所展示的更高水平的安全和治理保障。

**图15** 将AGI表示为分层系统，涵盖从基础设施到社会影响的范围。基底层提供硬件和能量，限制了可用计算。认知架构层定义内部设计，包括LLMs、世界模型、因果推理和神经-符号混合体。能力层描述胜任力，范围从新兴系统到超人类跨领域表现。能动性和具身层使行动和交互成为可能，包括数字智能体、机器人、自主工作流和感知。伦理、对齐和安全层约束行为，使用RLHF、宪法AI、透明度和可纠正性。社会经济层捕捉下游效应，包括对人类努力的替代、科学发现、治理以及人机协作。因此，该图将能力、控制和集成联系起来。

**图15.** AGI的分层概念框架，组织为六个层级结构的垂直堆栈。每一层代表AGI系统开发、运行和影响中一个不同的抽象层次，从底部的物理基础设施到顶部的社会后果逐步递进。

---

**9.2 AGI评估方法的讨论**

AGI评估框架提供了对AGI系统进行全面评估的结构化方法论。AGI Levels框架通过深度和广度两维矩阵，相对于人类认知在五个层级上量化进展，受六项原则和以人为中心的百分位指标（胜任≥50th、专家≥90th、卓越≥99th）约束，并持续维护以演进的能力潜力和风险特征基准[252]。受认知科学启发的框架测量智能的四个维度：晶体智、流体智、社会智和具身智。它使用改编的心理测试，如Raven渐进矩阵和错误信念测试，在虚拟社区中运行这些测试以产生自然主义的综合评估[297]。可信AGI框架在五个层级上评估安全和对齐，应用三层因果阶梯，包括近似对齐、可控行为反事实推理，并纳入微调、RLHF和价值反思以满足AI-45法律的要求[419]。自主性评估框架通过检查代码来评估智能体编排，使用影响（行动、环境）和监督（编排、人类参与、可观测性）分类法，对预定义代码标记进行评分以实现部署前的可扩展分析[71]。总之，这些框架使得对AGI进行超越二元判断的细致、多维评估成为可能。

AGI评估基准如HELM、BIG-Bench Hard、ARC-AGI、AGIEval、MMT-Bench、HCAST、GLUE变体和M3GIA提供了全面衡量AGI进展的标准化框架。HELM[285]和HEIM[209]评估12个方面，包括推理、偏见、毒性和效率，在MS-COCO场景[222]中使用零样本提示、FID[155]和人工评估。BIG-Bench Hard[179]通过思维链提示在23个困难任务上测试多步推理。ARC-AGI[69],[70]在基于核心知识先验的新颖抽象任务上衡量泛化能力。AGIEval[440]使用SAT和LSAT等人类考试评估认知技能。MMT-Bench[427]和MMMU[429]评估多模态广度和专家推理。HCAST[305]针对189个任务校准相对于人类时间的自主性。GLUE-X[421]评估OOD鲁棒性，而M3GIA[361]跨多语言应用CHC认知因素。对于代理式、工具使用系统，AgentBench[224]评估LLM智能体在多样化交互任务和工具使用场景中的表现；SWE-Bench[169]在真实GitHub仓库上测试端到端软件工程问题解决；GAIA[244]面向需要多步推理、检索和工具使用的现实世界助手任务。这些确保了公平、可复制的比较，揭示了在推理、鲁棒性和社会对齐方面迈向真正AGI的差距。

AGI评估基准评估特定能力，如数学推理、规划、指令遵循、元认知、常识和任务多样性，以评估智能和认知灵活性。全面探测揭示了优势和劣势，如GSM8K通过思维链分解和计算精度进行多步小学数学推理[74]、数学竞赛级抽象[153]，以及MathCheck-GSM/GEO对扰动的鲁棒性[444]。规划基准如ACPBench在PDDL域中分解原子任务[191]；PlanBench测试动作前提条件[391]；LR2Bench评估反思性CSP求解[62]。StructFlowBench中的指令遵循任务集成多轮约束[213]。InFoBench分解为可验证组件[296]，ComplexBench处理组合结构[408]。MR-Bench中的元认知审查思维链解决方案[433]，HELLASWAG的事件延续用于常识测试[431]，OoD-Bench上的多模态迁移量化分布偏移[424]，从而确保AGI的可衡量部署。

---

**9.3 与先前综述的比较**

与先前的综述相比，本综述突出了近期AGI文献中评估和安全重要性的提升。早期概述（如Goertzel, 2014）主要编目候选架构和相关哲学考量，对操作性评估协议或系统性安全目标的处理相对有限。在2020—2025年间，文献显示出向基准开发（如HELM、BIG-bench、ARC）和明确的安全工作（如对齐和可信AI框架）的可辨识转变，与领域向可衡量进展指标和影响感知分析成熟的趋势一致。

第二个趋势是跨学科趋同的增加。近期工作越来越多地通过认知动机基准和受心理学理论启发的架构将认知科学与机器学习整合。同时，神经符号方法已从概念框架推进到已实现系统，与向可能实现通用能力所需的整合方法更广泛转变的趋势一致。

---

**9.4 综述的局限性**

本综述存在若干局限性。首先，尽管努力进行全面搜索，AGI文献范围广泛且存在定义模糊性；因此，可能遗漏了相关研究，特别是使用非标准术语或在较少可及渠道发表的研究。本综述还仅限于英文来源。其次，综合主要是定性的，因为许多纳入的出版物未报告可比较的定量结果。结论依赖于对论据和提案的解释性整合，而非统计元分析，这可能在证据加权中引入主观性。我们通过跨多个来源三角验证关键主张并优先处理有一致支持的论题来缓解这一风险。第三，鉴于语料库主要为非实证性质，未应用正式的偏倚风险工具；此外，发表偏倚可能增加有利结果的可见性，可能过度代表乐观观点。最后，AGI文献的部分内容明确为推测性的；因此，我们努力识别假设性或存在争议的主张（如在应用和未来情景讨论中）。

---

**10. 结论**

本综述综合了RQ1-RQ5的调查结果，提供了对当前通用人工智能研究现状的综合视角。

分析表明，通用人工智能（AGI）最常被描述的特征是范围广泛和行为灵活性，通常以人类智能作为基准进行比较。然而，由于缺乏精确、共享的定义或统一的理论框架，相关文献仍然较为分散。所提出的发展路径涵盖符号推理、数据驱动的深度学习以及受大脑启发的方法；然而，目前没有任何单一范式能满足通用智能的全部要求，这强化了围绕混合与集成架构的日益增长的共识。预期通用人工智能在医疗、教育和科学发现等领域的应用，既凸显了其变革潜力，也强调了相关风险的规模。因此，评估实践正在从单一分数的狭窄基准发展到多维和自适应评估框架；然而，仍存在显著的方法论差距。持续的挑战从技术整合和可扩展学习，到智能和能动性的概念问题，以及围绕对齐、控制和治理的规范性关切，都表明通用人工智能既是一项科学宏大挑战，也是一项系统工程任务。总体而言，研究结果暗示，仅靠规模不太可能推动通用人工智能的进展；相反，它将取决于基础理论的进步、有原则的系统设计、稳健的评估，以及将安全性和伦理作为一级设计约束条件。鉴于其对工程实践和社会结构的潜在影响，通用人工智能研究需要持续的跨学科审视和对下游后果的慎重考虑。