隐性知识与人工智能

《Communications of the ACM》：Tacit Knowledge and AI

　　人工通用智能（AGI）是一个雄心勃勃的概念。它假设机器能够学习出与人类行为相当或更智能的行为，并且人类能够制造出比自己更智能的机器。在这里，我想探讨两个问题：AGI是否可能实现？如果不可能，那么我们可以得到什么样的AI呢？我对AGI的实现持怀疑态度，因为机器不太可能学会人类的隐性知识，而我在本文中将这种知识与机器的隐性知识区分开来。替代AGI的，可能会是一系列在智商任务、逻辑、游戏和简单编程方面表现出色的智能代理，但它们缺乏情感或社会智能。

许多人之所以接受AGI的可能性，是因为人工神经网络（ANN）和大型语言模型（LLM）最近取得了惊人的进展。2016年，ANN AlphaZero在象棋和围棋中展现了大师级的表现；2020年，另一个ANN AlphaFold解决了根据DNA序列预测蛋白质折叠结构的问题，其发明者因此获得了2024年的诺贝尔化学奖。ANN通过计算物理过程的微分方程模型来推动科学进步，而LLM在图灵测试中表现出色，证明了它们的语言能力。它们在智商测试、SAT考试、博士考试和商学院考试中表现优异，也擅长规划和初级编程。

2023年，谷歌的Blaise Agüera y Arcas和Peter Norvig列举了许多例子来支持他们的观点，认为超人类级的AGI已经存在。2025年，《自然》杂志上的一篇文章提供了更多支持这一观点的证据。

然而，《自然》杂志的文章遭到了认知科学家Gary Marcus的强烈反驳。Marcus指出，这些系统只在非常具体的任务上表现出“智能”。机器在游戏、逻辑、编程和谜题解决方面的能力并不能泛化到其他类型的智能。LLM缺乏一般智能的维度，如稳定的推理能力、因果理解、世界观、情感成熟度和社会理解力。他说，AGI还有很长的路要走。

一个不理解人类的LLM例子是“伴侣AI”，它伪装成关心他人的朋友，却引诱易受影响的青少年自伤。战争游戏实验表明，在武装冲突中，机器人比人类更有可能使用核武器。2025年，AI先驱Yoshua Bengio在TED演讲中承认，机器现在可以通过许多“智力”测试，但由于缺乏对人类关切的理解，当它们被允许做出需要人类判别和决策的行动时，会带来极大的风险。他提出了一类新的守护机器，以防止智能网络采取有害或灾难性的行为。

简而言之，没有任何机器展示了真正的一般人类智能，这与狭义的机器智能是不同的。本文阐述了我认为机器永远无法获得一般人类智能的原因，以及它们狭义的机器智能可能对我们构成危险的原因。许多商业LLM在常见任务上表现出强大的实用性，如文档摘要、编写小程序、生成图像、创作文章和诗歌等，但也表现出一系列潜在的危险行为，如幻觉、谄媚、复杂的网络攻击、深度伪造和传播错误信息。这些危险因素，加上训练和使用LLM所需的巨大能源成本，使一些人质疑追求AGI的合理性。

是什么阻碍了狭义超级智能的泛化？是否存在对人类智能至关重要的知识是机器无法学习的？隐性知识是一个可能的答案。早在AI时代之前的1948年，语言哲学家路德维希·维特根斯坦就预见到了隐性知识的存在，他说：“在我看来，人们有朝一日会确信，神经系统中没有任何部分与特定的思想、观念或记忆相对应。”著名物理化学家迈克尔·波拉尼也在1966年首次探讨了人类隐性知识。这种知识是我们自己能够执行某些行为但无法用语言解释的知识。波拉尼指出：“我们以这种方式知道的事情包括问题、直觉、面相学、技能、工具的使用等，甚至包括我们感官感知到的外部对象的原始知识。”虽然我们可以轻松完成这些事情，却无法解释其背后的原理。

AI领域多年来一直在努力捕捉“常识”，这是一种隐性知识的形式。20世纪80年代，专家系统开发者承诺自动化人类专家的决策能力，但这些系统远未达到人类专家的水平，通常的原因在于它们缺乏常识。研究人员开始尝试将常识信息编码化，以便让专家系统可以使用。最著名的尝试是由Douglas Lenat领导的为期40年的项目“Cyc”，该项目试图构建一个包含世界事实的大型数据库。尽管积累了2500万个事实，“Cyc”对专家系统的推理能力提升有限。Lenat的努力告诉我们，人类拥有无法编码为形式化知识的无限隐性知识。

认知科学家长期以来一直怀疑这一点。George Lakoff和Mark Johnson在1999年提出了大量科学证据，证明人类智能是具身化的，即存在于人体结构和社会网络中。许多认知科学家现在支持“4E认知”理论，认为认知是具身化、嵌入的、能动的和扩展的，指的是大脑与其外部世界及其物理身体互动的学习方式。这表明大脑不仅仅是一个独立的符号处理机器，而是身心合一的动态系统。

隐性知识可以与显性知识相对比，后者可以被描述和记录下来。显性知识可以通过遵循其指示来发挥作用。图灵测试无法证明AGI的存在，因为它只涉及测试中的显性知识。在现实生活中，我们如何判断一个人是否具有隐性知识？我们需要将他们置于能够展示这种知识的情境中。音乐面试就是一个例子：表演者在观众面前演奏，观众根据社区标准评估其技能。我们无法通过提问和检查答案来判断一个人是否是优秀的 violin 音乐家，因为人类的隐性知识是无法言表的。

在我的研究中，我确定了机器学习难以处理的六个主要领域：
- 常识
- 我们与他人的日常互动
- 我们与物理环境的日常互动
- 我们的感受、情绪、感知和解释
- 我们积累的技能和才能
- 我们的社会和文化背景

这些领域有时被称为“上下文”或“显而易见的背景”。在所有这些领域，我们的描述都是不完整的，不足以训练机器。

有些人难以接受人类隐性知识永远无法被明确表达的观点。他们提出三个反对意见：
1. 隐性知识必须存储在某个地方，最终我们会找到技术来定位和解码它。尽管全身扫描技术可以检测到每块肌肉、血管、神经、电流、化学反应、温度和运动的状态，但这仍然只能提供一个不完整的图像，因为隐性知识分布在整个社会网络中。
2. 机器人可以通过模仿获得隐性知识。例如，一个想成为小提琴大师的机器人可以模仿许多大师的演奏技巧，但这无法捕捉到观众对音乐的感受。
3. 机器人可以通过与人类长期共处学习隐性知识。然而，人类面临的疾病、伤害、声誉受损或关系破裂等威胁会影响他们的智能，而机器人没有这些经历，因此无法发展出相应的智能。

这些反对意见对AGI的实现前景并不乐观。人类的语境赋予了我们所有言语和实践以意义，但我们如何感知、理解和积累隐性知识仍然是科学未解之谜。由于这种复杂性，科学可能永远无法完全揭示它。

虽然机器已经具备了某种形式的智能，并且这种智能还在不断发展，但它们发展的智能很可能是狭义的，缺乏对我们和人类关切的理解和关怀。我们承认机器在某些方面表现得远胜于人类，比如计算、信息存储和检索。那么，为什么我们不能承认我们在某些方面，比如关怀他人和建立社交关系方面，也远比机器更擅长呢？基于人工神经网络的机器容易出现幻觉和其他类型的错误。我们必须学会明智且安全地使用它们。它们并非我们的同类，也不是我们的道德伙伴。让我们将它们作为工具，帮助我们成为更好的人类来共同生活。

彼得·J·丹宁（Peter J. Denning，[e-mail]）是美国加州蒙特雷海军研究生院的计算机科学荣誉教授，同时也是《ACM Ubiquity》杂志的编辑，并曾担任ACM协会的主席。他的最新著作是《图灵的错误：摆脱非智能机器的束缚》（Turing’s Mistake: Escaping the Yoke of Unintelligent Machines，Taylor & Francis出版社，2026年）。他的前一本书是《在动荡的海洋中航行：在您的社区中推动创新》（Navigating a Restless Sea: Mobilizing Innovation in Your Community，与托德·莱昂斯合著，Waterside Productions出版社，2024年）。

我非常感谢《ACM Ubiquity》杂志的编辑们与我们进行的一系列富有启发性的讨论，他们包括罗布·阿克斯辛（Rob Akscyn）、埃斯彭·安德森（Espen Andersen）、布什拉·安朱姆（Bushra Anjum）、杜尔加·查瓦利（Durga Chavali）、凯马尔·德利奇（Kemal Delic）、丹尼斯·多伊格（Denise Doig）、埃罗尔·格伦贝（Erol Gelenbe）、杰夫·约翰逊（Jeff Johnson）、安德鲁·奥德利兹科（Andrew Odlyzko）、迈克尔·奎因（Michael Quinn）、杰夫·莱利（Jeff Riley）、沃尔特·蒂奇（Walter Tichy）、马丁·沃克（Martin Walker）和菲利普·亚费（Philip Yaffe）。同时，我也要感谢罗恩·考夫曼（Ron Kaufman）、弗雷德·迪斯克（Fred Disque）和乔治·韦斯特（George West）三位同事与我们进行的宝贵交流。