重新审视理性和智力:人类与机器的较量

《Cognitive Systems Research》:Rethinking rationality and intelligence: Humans versus machines

【字体: 时间:2025年12月09日 来源:Cognitive Systems Research 2.4

编辑推荐:

  人工智能与人类智能的理性比较研究,通过计算认知架构Clarion分析,揭示传统AI批评未考虑的动态理性、内在动机及多模态学习机制,论证现代AI系统具备超越过去局限性的潜力。

  
罗恩·孙
伦斯勒理工学院,特洛伊,纽约州 12180

摘要

本文探讨了关于机器(即人工智能系统)中的理性和智能的讨论。文章深入研究了一种特定的计算方法,旨在开发一种计算认知架构,以尽可能准确地模拟人类思维。文章讨论了人类理性的各种形式、对人类智能的不同理解、人类活动的概念以及人类动机的作用等,并将这些问题与认知架构联系起来,从而将机器与人类联系起来。通过实例,文章认为,最近的人工智能模型(广义上的人工智能系统)比人工智能的批评者通常认为的要复杂得多:它们完全有能力克服过去对人工智能的许多批评。

引言

人工智能和计算机科学领域的专家以及普通人都面临一个重要问题,那就是人工智能(AI)与人类智能(HI)之间的所谓差异,以及如何缩小这一差距。这不是一个新问题,但在理论和实践上都非常重要:从理论角度来看,它有助于更好地理解人工智能;从实践角度来看,它有助于更好地指导人工智能的应用。这个问题有着悠久的历史,过去几十年来,许多学者都对此进行了探讨,例如德雷福斯(Dreyfus, 1978)、德雷福斯和德雷福斯(Dreyfus & Dreyfus, 1987)、弗洛里迪(Floridi, 2011、Floridi, 2019)、冈萨雷斯(Gonzalez, 2017)、塞尔(Searle, 1980)等,他们提出了许多关于人类理性本质、人类活动本质(例如海德格尔,Heidegger, 1927;梅洛-庞蒂,Merleau-Ponty, 1965)、人类直觉(例如德雷福斯和德雷福斯,Dreyfus & Dreyfus, 1987)以及表征基础(Harnad, 1990)等问题。
从理性的角度来看,这些差异得到了研究,因为理性被认为是智能的一个衡量标准。因此,理性的概念在这方面非常重要。此外,理性在经济学、运筹学、控制工程、认知科学和人工智能等多个领域也非常重要。值得注意的是,这些领域中的传统理性概念通常以一个追求个人利益最大化的自利个体为中心。通常假设个体对所有选项有完整的了解,能够预见选项的后果,并且具备解决数学优化问题的能力,从而通过评估所有可用选项的后果来找到最佳选项。
另一方面,有限理性(例如西蒙,Simon, 1982提出的概念)通过放宽其中一些假设,扩展了理性的概念,并对认知科学和人工智能产生了重大影响。多年来,关于理性的许多其他观点也不断被提出(稍后将进行回顾)。
最近,冈萨雷斯(Gonzalez, 2017)讨论了不同类型的理性及其应用领域,以及不同的智能概念。他根据这些关于理性和智能的观点区分了人类智能和人工智能。正如预期的那样,这样的比较涉及许多问题:人类活动、意图、意志、内在动机、目标、行动、直觉、本能、基础等等(参见例如弗洛里迪,Floridi, 2011;冈萨雷斯,Gonzalez, 2017;孙,Sun, 2016b)。需要注意的是,本文将频繁引用冈萨雷斯(Gonzalez, 2017)的研究。尽管其他对人工智能的批评更为人所知(例如德雷福斯,Dreyfus, 1978;弗洛里迪,Floridi, 2011;塞尔,Searle, 1980),但这些观点已经被广泛讨论过了,因此需要引入新的视角。
虽然本文在某种程度上同意一些关于过去人工智能研究的分析,但它不同意一些关于当前正在进行或未来可能进行的人工智能和认知科学研究的分析。一些当前正在进行的研究挑战了现有的分析,包括计算认知架构(将在后文中讨论),以及发展型人工智能、内在动机驱动的人工智能、大型语言模型(LLMs)等。本文将基于一个实例——一种计算认知架构(广义上的人工智能形式)进行分析,并将其理性和智能与人类理性和智能进行比较。
在本文的剩余部分,首先将讨论一些关键概念的背景。然后介绍一个计算模型(名为Clarion的认知架构),作为后续讨论的重点。接下来将使用该模型来说明人工智能与人类之间的差异。随后将进行进一步的讨论,最后以一些简短的结论性意见结束本文。

部分摘录

现有的不同理性概念

许多不同领域的理论都基于这样一个假设:人类可以被描述为“理性”的生物,意味着他们会根据某种标准来优化自己的决策。这种观点可以称为传统的理性概念,以区别于其他用法。例如,正如前面提到的,许多经济学模型假设个体行为旨在最大化决策的效用,其中效用是根据成本和收益来计算的。

一个认知架构的例子

Clarion旨在成为一个心理上现实的认知架构(孙,Sun, 2016)。也就是说,Clarion旨在成为一个全面的计算理论,能够机械地捕捉和解释各种心理领域及更广泛范围内的人类行为数据。
鉴于这一目标,开发该理论需要满足大量的约束条件——在识别/选择这些约束条件后,尽可能满足尽可能多的实证和理论约束。

基于认知架构的一些分析

现在简要介绍了Clarion之后,本节将结合Clarion,讨论前面提到的关于人工智能的现有分析。它将展示在哪些情况下、何时以及为何需要对某些分析进行修订或调整,以反映最近的进展。本文将详细分析上述一些观点,并将其与Clarion联系起来。

进一步的讨论

Clarion提供了一个更加细致和多方面的关于人类理性和智能的解释。理性不是一个单一的、静态的、固定的属性,而是动态的、多元的,并且经常取决于具体情境,受到心理(例如认知资源)限制、进化适应、学习、环境互动、社会动态、文化规范等因素的影响,这些因素导致了直觉、本能、启发式方法、情感等各种现象。
因此,Clarion探索了……

结论性意见

通过考察智能、理性和人工智能模型的理论分析,本文聚焦于一个具体的计算工作方向——即计算认知架构的开发。在认知架构的背景下,本文讨论了不同类型的理性、不同的智能概念、人类活动的本质、意图、价值、情感等问题。文章认为,某些计算模型(广义上的人工智能模型)……

未引用的参考文献

Macchi等人,2016年;Vernon,2014年。

CRediT作者贡献声明

罗恩·孙:概念化、撰写——原始草稿。

利益冲突声明

作者声明他们没有已知的可能会影响本文所述工作的财务利益或个人关系。

致谢

[匿名]
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普
  • 急聘职位
  • 高薪职位

知名企业招聘

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号