在人工智能时代超越自然进化

《Science China-Information Sciences》：Transcending natural evolution in the age of artificial intelligence

　　

摘要

人工智能（AI）正在经历一个根本性的转变，从数字表示模型向具身化、物理定位的系统发展。本文将这一转变描述为跨越了一个“本体化阈值”——在这个阈值上，AI的运行能力与物理环境和神经基础实现了集成。我们认为，这种转变的特点是算法迭代的快速性与生物进化的千年级惯性之间存在着深刻的进化节奏不匹配。通过整合柔性生物电子学和高带宽神经解码技术的进展，我们探讨了可能实现人机共生的生物物理机制，同时也揭示了这一进程所伴随的热力学和材料限制。特别是，我们将大脑高效的新陈代谢架构与基于硅的计算的资源密集型扩展方式进行了对比，指出了大规模增强所需的基础设施可能带来持久的社会技术分层风险。因此，我们认为这个时代的核心挑战在于管理神经计算的共同进化，而不仅仅是监管独立的AI系统。在这种背景下，治理不仅是一种监管机制，更是一种用于决定人机更深层次整合是否应该进行、如何进行以及在什么条件下进行的审议机制。为应对这一转变，我们提出了一个以基础设施的可理解性、运行安全性和神经隐私为中心的自适应治理框架。该路线图为迈向安全、公平的人机共生形态提供了战略性的架构。