一种集体主义视角下的人工智能经济愿景

《Communications of the ACM》：A Collectivist, Economic Vision for AI

　　摘要
信息技术正经历一场革命，无处不在的数据收集和机器学习以前所未有的方式影响着人类世界。“智能”一词被视为这项技术发展的导向，而人类的认知能力则被视为基准。然而，这种观点忽视了人类是社会性动物的事实，我们的许多智能能力源自社会和文化。此外，未能将智能的各个方面正确地置于社会层面，导致技术在带来社会后果时被忽视。未来的方向不仅在于收集更多数据和计算能力，也不仅仅在于关注认知或象征性表示，而在于在算法设计层面将经济和社会概念与计算和推理概念彻底融合。

当前关于人工智能（AI）的讨论——无论是在媒体、学术界、工业界、政府委员会还是家庭餐桌上——往往脱离现实。讨论往往集中在是否应该支持炒作或恐惧症上：AI要么能解决人类最紧迫的问题并开启一个繁荣时代，要么会毁灭或奴役人类。虽然以往快速的技术发展也伴随着类似的讨论，但当前的炒作和恐惧症的程度似乎是前所未有的。

关键见解
- 智能在很大程度上是一种社会现象，源于具有各自局部数据、知识、目标和视角的自主代理之间的互动。
- 新兴的学习型系统的设计应包括激励代理参与的机制，并确保有效管理多种不确定性来源，从而使整个系统创造价值并提升社会福利。
- 支持这种设计的算法需要结合三种互补的思想：计算思维、经济思维和推理思维。

“人工智能（AI）”这一术语出现于20世纪50年代，尽管这个术语具有挑衅性和吸引力，但随后几十年的计算机科学进展主要集中在硬件、语言、网络、人机交互以及数据收集和机器学习等领域。而“机器学习（ML）”这一术语是由一位AI研究者提出的，但最终被运筹学、控制理论和统计学等领域的研究者采用，他们带来了工程和科学方面的丰富经验和应用。因此，机器学习成为数据密集型时代的思想桥梁，促进了跨学科联系的建立，并将具有数学倾向的研究人员与构建日益庞大计算系统和网络的白帽工程师们联系起来。

随后出现了大型语言模型（LLMs）。LLMs背后的思想和架构完全属于ML传统——使用基于梯度的方法来调整大规模预测系统中的参数，其关键创新在于数据是人类语言，且数量庞大。LLMs的输出是流畅的语言，给人一种类似人类的印象，这使得“人工智能”这一术语重新受到重视。然而，虽然LLM看起来像是一个类似人类的“实体”，但它同样可以被理解为一种“集体性”的产物。实际上，当人们与LLM互动时，实际上是在与通过互联网和其他媒体贡献了微观数据、观点、语言结构和创意作品的众多人类进行互动。当这些人类贡献在某些方面达成一致时，LLM能够将这些共识转化为有用的抽象概念，从而增强了人格的错觉。尽管将LLM比作一个人类似乎很自然，但将其比作一种文化也同样合理。文化是叙述、观点和抽象的宝库，具有独特的个性。

如果我们希望将LLM视为具有类似人类智能的实体，尤其是具备解决实际问题能力的实体，那么我们需要记住人类的智能在很大程度上是社会性的，个人努力的成功往往最好在其所处的整体社会环境中来衡量（即使从个人的角度来看也是如此）。因此，让我们将目光从LLM转向它们所嵌入的生态系统。特别是考虑我们这个时代为解决商业、医疗保健、交通、物流、教育和娱乐等领域问题而出现的全球性网络。这些网络涉及大量异构参与者，其中一些人是人类，一些人不是。参与者通过数据流相互连接，这些数据流使他们能够相互学习。学习可能包括合作、竞争、关联或勾结。参与者可能会共享部分资源，包括全球资源，但他们也可能希望在本地保留某些资源。这种情况的发生有很多原因，最重要的是参与者希望从他们的特定知识、数据或创意产出中获得价值和竞争优势。

因此，我认为，将新兴的AI系统比作市场比比作搜索引擎、聊天机器人或个人秘书更为恰当（后者只是市场中的角色）。这种经济视角使我们能够平衡考虑参与系统的人类作为生产者和消费者的角色。对生产者角色的关注滞后于对消费者角色的关注，人们越来越想知道当他们的创意活动被用于训练LLM时自己能获得什么好处。这类问题并非新鲜事——在搜索引擎时代就已经存在——但在那时，个人作为生产者和消费者都能获得明显的好处。作为生产者，他们获得了知名度和流量；作为消费者，他们获得了信息、知识和服务的访问权。这些好处源于一种隐含的社会和经济契约，即互联网上的数据被视为可以免费获取的，而作为交换，服务则被免费提供。

但开发LLM的公司也在（隐含地）提供同样的契约。然而，LLM和生成式AI的范围远远超越了搜索引擎的作用——目标不再是仅仅提供引导用户到有用网站的链接，而是聚合和转换用户输入的数据，从而开展持续的对话和创造活动。结果是LLM成为了终点，而不再是中介，生产者的知名度和流量优势开始减弱——这不再属于隐含契约的一部分。

这些由数据和ML驱动的新市场会是什么样子呢？与历史市场一样，自下而上的自我组织将成为学习驱动市场增长的主要模式。但这种增长不必失控或超出我们的理解范围。关键在于，这些新市场的出现并非基于对人类智能本质的深入科学理解，而是因为算法概念的兴起——这是20世纪的关键成就之一。算法以硬件、软件和数学模型的形式实现，决定了信息技术系统的发展方向。通过更深入地思考推动技术的算法思想的来源，探讨它们与社会目标的关联程度，并在不足时扩展算法的范围，我们可以更好地利用新兴系统。

在考虑算法思想的本质和来源时，“计算思维”这个术语非常有用。这个术语旨在表达计算机科学中发展出的算法概念（如模块化、抽象化和可扩展性）在科学和工程问题解决中的广泛应用。正是这些概念促成了产生LLM的生态系统。然而，“计算思维”最初是在与外部世界有限且精心设计的交互系统中产生的。现实世界带来了两个主要的新问题：首先，现实世界具有极高的复杂性和部分可观察性，因此应对不确定性成为一个重大问题；其次，需要在与策略性代理互动的社会环境中进行交互。我认为这些问题非常重要，我们不能简单地依赖现有的计算设计原则来解决它们。相反，我们需要认识到还有其他方式来构想算法设计。我将提出两种补充计算思维的思维方式，即“推理思维”和“经济思维”。这些思维方式也是几十年经验的成果。它们的输出可以是具体的算法（和算法分析），尽管术语有所不同：在推理领域，算法通常被称为“程序”，而在经济领域，算法通常被称为“机制”。正是这些算法在计算设备中的实现赋予了它们新的力量，但仅仅关注“计算”本身会忽略重点。真正重要的是算法背后的思想。

在探讨这些思维方式的具体应用之前，让我们回到应对不确定性的问题。与其试图用精确的定义来界定不确定性，不如非正式地考虑在决策过程中某些有用信息不可用时的广泛问题。不同领域提出了各种应对不确定性的算法。简单来说，统计学领域关注的是由于抽样导致的不确定性，即可用于算法处理的数据只是解决问题所需全部数据的一部分。经济学领域也使用了抽样方法，但经济学的独特关注点是另一种不确定性来源——当一个代理与另一个拥有私有信息的代理互动时，后者可能会战略性地透露或隐藏某些信息以获得预期结果。随着样本量的增加，信息不对称性通常不会消失。另一个不确定性来源是数据收集的时间、地点和对象。当数据是在过去、远处或不同于当前来源的地方收集时，不确定性会增加。计算机科学领域通过“出处”这一算法概念提供了解决这一问题的工具，系统地、连贯地追踪数据的来源和类型。这种思路有助于在其他领域非正式处理的相关性概念。

对于现实世界中智能系统可能具备的其他属性（如鲁棒性、应对偏见、理解因果关系以及进行实验的能力），也可以用类似的方法来思考。这三种思维方式在每种情况下都提供了多样且互补的视角。

在接下来的几节中，我将通过一些案例来展示计算思维、经济思维和推理思维的互补性。我特别想展示这些思维方式的结合如何为新兴的数据驱动系统设计提供强大的方法。如图1所示，这些思维方式的二元组合已经形成了学术学科。但每种二元组合都仅部分利用了第三种要素，因此它们只能解决涉及人、机器和数据的系统的一部分问题。我们需要的是三者的结合。

图1. 作为学术学科出现的三种核心思维方式的二元组合。

首先，让我们通过一个简化的数据库问题来介绍推理思维的视角。假设一家银行维护着一个数据库，其中行对应客户，列对应每个客户的财务数据。银行或其他机构（例如审计师）可能希望对数据进行各种操作，从简单的计算（如计算所有客户的平均余额）到更复杂的计算，以发现异常交易。银行还可能希望针对此类查询向客户提供隐私保证，因此可能会采用随机化技术。同时，还需要跟踪数据的来源、为客户提供用户界面，并提供长期的数据存储。简而言之，在部署这样的数据库时需要运用大量的计算思维。

在数据库设计中，我们所说的“推理思维”是什么意思呢？一方面，数据库可以执行统计操作，比如计算标准差或进行线性回归。这类计算属于统计学家所说的“描述性”计算，但不一定是推理思维的例子。为了澄清这一区别，可以考虑另一种数据库模型：其中行代表医院中的患者，列代表患者的生命体征以及治疗和治疗效果的指标。在查询时，我们可能想知道特定患者对某种治疗的反应是否积极。与银行示例不同，我们关注的是来自与原始患者相同人群的“新”患者。即使原始患者已经去世，数据仍然具有价值。推理思维涉及设计和分析能够提取这些信息的算法，这需要考虑潜在的人群、可能的查询类型以及抽样机制的设计。它还包括事后验证设计假设是否合理的步骤。尽管这种设计方法的结果是一组算法，但其背后的思维过程超越了传统的计算思维，因为它关注的是以前未见过的实体。对于这些实体，目标不仅仅是做出预测，还要提供关于该预测的不确定性度量。

更广泛地说，推理思维包括通过生成模型对人群进行描述，试图阐明数据可能产生的机制，并选择适合数据的模型。这类工作通常属于因果推断的范畴，其中一个关键问题是“如果……会怎样”——如果数据库在某些方面与我们收集的数据不同会怎样？如果患者接受了治疗而非对照组的治疗会怎样？能否从样本数据中估计出群体层面的治疗效果？这些问题相当微妙；例如，可以参考Hernán和Robins的相关研究。

现在让我们将经济思维引入讨论。经济学与计算之间有很多联系，最著名的就是算法博弈论领域。此外，在经济学本身中，机制设计和信息设计领域几十年来一直围绕算法分析和设计展开。我的目标是强调当将这些领域的算法思想与推理思维和计算思维结合起来时，特别是在设计大规模集体学习（ML）系统时所出现的机会。

微观经济学关注追求个人目标的战略代理的选择，同时也关注自利代理互动时可以实现的总体社会福利。因此，推动经济学中算法设计的问题包括信息不对称、激励机制、社会目标以及以均衡而非最优解形式表达的解决方案。

首先让我们考虑激励机制，特别是在涉及数据分析的推理问题中。这类问题在实际的ML应用中很常见，尽管它们往往没有得到显式的处理。当数据提供者对数据分析结果有战略利益时，这些问题尤为突出。这可能导致代理的目标与数据分析师的目标不一致，并引起多个代理之间的竞争。在这种情况下，系统设计者需要考虑设计能够影响行为的激励机制，特别是促使代理提供真实数据而非伪造数据或按某种战略方式选择的数据。

激励理论建立在博弈论的基础上，博弈论是对战略行为的数学描述。机制设计领域可以被视为博弈论的逆过程：博弈论旨在预测战略代理互动后的结果（结果以不同类型的均衡表示，如同时进行的纳什均衡或序贯进行的斯塔克伯格均衡），而机制设计则从期望的结果出发，探讨哪种游戏可以实现这一结果。

对于大规模集体系统来说，序贯行为特别值得关注，因为代理在这些系统中往往以异步方式行动。以两个代理为例，一个（称为领导者）先行动，另一个（称为跟随者）随后行动，领导者需要预测跟随者的反应。这种不确定性不同于统计意义上的不确定性，它反映了代理之间的信息不对称性——即各方掌握的信息不同，并且在交易中有策略性地隐瞒某些信息的动机。这种不确定性不能通过简单抽样来解决，而需要设计经济机制来应对。

适用于序贯行为的机制之一是合同。简而言之，领导者的做法不是简单地采取单一行动（例如提供价格），而是向跟随者提供一系列服务和价格的选项菜单。跟随者利用自己的私人信息选择最合适的选项，如果领导者的菜单设计得当，许多跟随者会找到吸引人的选择。与固定价格机制相比，合同可以带来更高的收入，因为有些跟随者愿意支付更高的价格以获取服务。此外，合同还能提高社会福利（即支付意愿与实际支付金额之间的差额总和）。成功实现这一目标体现在均衡概念上，即斯塔克伯格均衡。算法设计涉及指定（通常是去中心化的）机制，以产生良好的斯塔克伯格均衡。

传统的合同理论没有包含从数据中进行推理的部分，但新兴的“统计合同理论”正是为此而存在的。例如，在一个序列环境中，领导者作为买家想要进行假设检验——对一系列产品做出“购买”或“不购买”的决定，这些产品由有自身利益的供应商（即跟随者）提供。买家可以被视为市场，而检验的目的是确定哪些产品应该上市。假设有些产品质量高，有些质量低。买家不知道哪些产品高质量，因此可能需要收集一些数据（例如通过焦点小组）来做出决策。在这个过程中，他们可能会犯统计错误（例如假阳性和假阴性）。买家需要应对信息不对称的问题。

激励理论建立在博弈论的基础上，博弈论是对战略行为的数学描述。机制设计领域可以视为博弈论的逆过程：博弈论旨在预测战略代理互动后的结果（结果以各种均衡表示），而机制设计则从期望的结果出发，探讨哪种游戏可以实现这一结果。

序贯行为对于大规模集体系统尤为重要，因为代理在这些系统中往往以异步方式行动。假设有两个代理，其中一个（称为领导者）先行动，另一个（称为跟随者）随后行动，领导者需要预测跟随者的反应。这种不确定性不同于统计不确定性，它反映了代理之间信息不对称的事实。合同是一种适合序贯行为的机制。领导者不是简单地采取单一行动，而是向跟随者提供一系列服务和价格的选项。如果领导者设计得当，许多跟随者会找到满意的选择。与固定价格机制相比，合同可以带来更高的收入，因为一些跟随者愿意为服务支付更高的价格。此外，合同可以提高社会福利（支付意愿与实际支付金额之间的差额总和）。

经典的合同理论没有包含从数据中进行推理的内容，但新兴的“统计合同理论”正是为此而生。例如，在一个顺序环境中，领导者希望进行假设检验，对一系列产品做出“购买”或“不购买”的决定，产品由有自身利益的供应商（作为跟随者）提供。买家可以被视为市场，检验的目的是确定哪些产品应该上市。假设某些产品质量高，而有些质量低。买家不知道哪些产品高质量，因此可能需要收集一些数据（例如通过焦点小组）来做出决策。在这种情况下，他们会犯统计错误（例如假阳性和假阴性）。买家的目标是尽量减少这些错误的影响。供应商可能知道哪些产品高质量，哪些低质量，或者有一些初步信息（例如他们在某些产品上投入了更多努力），但他们没有动力向买家透露这些信息。他们的希望是让一些低质量的产品被误判为高质量产品，从而获利。

统计合同理论旨在设计激励机制，促使供应商提供更高质量的产品，从而使产品的整体组合具有可控的统计误差。合同是一系列选项，每个选项涉及不同的成本（例如分担数据收集负担）和许可条款（例如对客户的责任）。某些选项的风险和利润不同。供应商根据内部信息做出选择，实际上是在对可能的结果下进行赌博。买家设计的合同必须具有激励性，即如果产品质量低，供应商的预期总利润应为负数，以防止被操纵。

Bates等人证明了，在这个假设检验问题中，统计合同只有在选项可以表示为e值时才具有激励性。e值是指在零假设成立时，数据预期值小于或等于一的函数。它们可以用财富预期增加的乘积因子来解释。当数据按顺序到达时，合适的函数是非负的超鞅，它在任何停止时间都满足e值条件，可以看作是随时间累积的证据。Bates等人的研究表明，重要的推理概念（假设检验中的e值）与重要的经济概念（合同设计中的信息不对称）密切相关。

现在我转向讨论三种思维方式在系统设计中结合的例子。我不会提供这些组合的正式理论处理，而是关注具有现实意义的定性例子。

互联网是一个庞大的文本、图像、视频和链接集合，因此它可以作为数据分析的来源。但互联网也是人类互动的场所，像维基百科这样的创造性集体活动在此发生，市场也在其中形成。许多市场创造了真正的社会价值，但也有许多市场在某个或多个方面存在缺陷——特别是无法有效奖励创作者、无法将数据视为经济价值、无法建立信任以及无法抑制有害行为。问题在于，在构建互联网时很少考虑机制设计。广告市场是一个例外，它带来了收入，但在社会福利方面表现参差不齐。在本节中，我将讨论互联网上存在或可能存在的其他市场，从我们的三种思维方式的角度探讨改进社会福利的机会。

推荐系统是典型的集体学习系统。在一个推荐系统的实现中，考虑一个连接客户和产品之间的图。购买行为由客户与所购买产品之间的边表示，图论方法利用图中的相似性模式进行针对性推荐。尽管推荐系统确实将ML与微观经济考虑联系起来，但作为微观经济实体，它们的局限性在于没有资金流动。好的推荐可能会促使客户购买，但从概念上讲，这只是提高现有实物市场效率的一种方式，不需要强烈考虑激励机制。

让我们考虑一个正在经历技术变革的市场——记录音乐市场。过去，记录音乐是实物，但现在变成了虚拟商品。由于推荐系统中缺乏经济机制设计，创作者的奖励机制不完善，导致他们的市场影响力很小。让我们考虑另一种替代方案。图2展示了录制音乐三方市场的设计。在一个顶点上是音乐家，他们提供歌曲；在另一个顶点是听众。音乐家和听众通过一个基于经典机器学习的推荐系统连接起来。关键的是，还有一个第三个顶点：品牌。品牌经常在产品和服务中使用音乐，他们需要精选的音乐来符合他们的形象，并与目标受众产生良好的共鸣。其他推荐系统也由经过训练的机器学习模型驱动，提供这些连接。此外，至关重要的是，整个设计包含了激励机制。当品牌需要一首歌时，他们会通过机器学习模型获得特定艺术家的作品，而艺术家也会在这个过程中得到报酬。听众的反应会被测量。其他品牌可以看到这些反应，如果这些反应与他们感兴趣的受众群体相符，那么他们就有动力与这位艺术家联系并合作。

图2. 录制音乐三方市场的示意图，连接了音乐家、听众和品牌。

注意这与传统的在线音乐商业模式的不同，在传统模式下，音乐家将他们的音乐上传到云端，听众可以免费收听。平台通过订阅或广告来盈利，但生产者与消费者之间没有直接联系，而且平台也没有将利润返还给音乐家的动力。

对于基于学习的在线服务，对其市场动态的不同理解可能会导致社会福利方面的巨大差异。

现在让我们考虑一个不同的问题领域，它描绘了一个由三个部分组成的市场，这里采用了一种分层结构。图3显示了一个用户与平台互动的场景，平台提供服务并因此获得报酬（具体来说，假设平台提供收费的信贷服务）。我们设想平台可以从用户那里获取的数据中学习，从而改进服务。

到目前为止，我们看到的市场里数据起到了信息传递的作用，但数据本身并不是交易的对象。用户和平台都有动力参与这个市场，这取决于服务的细节和费用。但在许多情况下，平台从收取的费用中获得的收入不足以实现盈利。因此，平台转向了一组希望为自己的目的（例如进行市场研究）获取数据的第三方买家。平台作为供应商，数据变成了可以交易的商品，其价格将根据其对数据买家的价值和其他因素来确定。同样，平台和买家之间的利益是一致的。

但现在考虑整个系统，用户是否有动机参与这个分层市场。一个新的问题出现了——用户在这个市场中失去了对自己隐私的控制。以前平台可以通过合同确保用户的私人数据被有限的用途使用，用户因此愿意接受一定的隐私损失并获取服务；而现在，用户被告知第三方买家正在获取他们的数据，情况就变得不可预测了。隐私损失可能是无限且重大的。因此，用户很可能会选择离开，市场设计需要进一步细化才能正常运作。例如，平台可以决定在向第三方买家发送数据时提供正式的隐私保证。这意味着会在数据中添加一定程度的“噪声”（这是合同规定的，并且可以审计）。尽管噪声水平可能受到政府监管，但我们还是将这个选择留给平台自行决定。平台有动机提供一定程度的噪声，因为用户会在不同平台之间比较，以找到能提供理想隐私保护水平并且服务效果好的平台。另一方面，数据买家则倾向于支付更多的费用来获取隐私保护更强的平台的数据。因此，平台面临着一个冲突。要理解这一冲突如何解决，需要将整个系统视为一个博弈（这是一个泛化的斯塔克伯格博弈），并找到其均衡状态。这需要为各个参与者指定效用函数或偏好。

在这种情况下，平台和数据买家都可能是基于机器学习的系统，它们从接收到的数据中学习。此外，数据是整个系统中的一个内生于其中的部分，学习、数据和人类偏好都在这个系统中相互作用。要理解整个系统的行为——特别是它是否能够有效运作——需要一种集体的视角，将机器学习与经济学结合起来。

基础模型是指那些旨在在重大科学或社会关注领域做出高质量预测的大规模机器学习系统。例如，大型语言模型（LLM）是自然语言的基础模型，而AlphaFold则是蛋白质结构的基础模型。

“高质量预测”这个说法需要一些讨论。首先考虑科学领域，在这些领域中原则上存在可以进行比较的基准真相。例如，与实验室确定的蛋白质结构相比，AlphaFold展现出了很高的准确性。但这并不意味着它在所有情况下都同样准确。它只在来自过去科学研究的训练数据和测试数据上准确。不幸的是，科学家们往往关注的是知识边界上的现象，因此可能缺乏支持准确预测的过去数据。实际上，Angelopoulos等人展示了AlphaFold对于某些涉及量子波动的蛋白质查询可能会给出高度偏异的置信区间（这些区间过于狭窄，无法覆盖基准真相）。他们还证明，在许多其他科学领域也会出现这种偏异的置信区间。

这个问题可以通过Angelopoulos等人开发的一种技术来解决，称为“基于预测的推断”。这是一种推理算法，其中根据本地代理拥有的本地真实数据来调整从全局基础模型获得的不确定性评估。这种本地知识可能包括在基础模型训练中未使用的测量数据，或者仅仅反映了本地代理的某种（期望的）偏见。在标准统计假设下，经过PPI校正的置信区间可以覆盖基准真相估计值。

更一般地说，在涉及人类与非人类之间策略性互动的领域中，查询另一个代理（可能是基础模型）的代理通常需要关注偏见问题。此外，由于互动的策略性，这种偏见可能是故意创建的，以符合另一个代理的目标。在这种情况下，PPI不仅仅是一种去偏技术。如果提供数据的代理或基础模型知道接收数据的一方会使用本地真实数据，那么提供显著偏差数据的代理就会失去动力。代理也会有动机扩大他们的数据或模型的范围，以满足接收方的需求（如果他们希望继续与那个代理互动的话）。

更广泛地说，由于数据和知识往往是局部的、情境化的且短暂的，因此关于“正确响应”是什么的不确定性就会出现。解决本地问题通常需要结合来自外部来源的信息和仅在本地和时间上可用的信息。

在计算机科学中，研究多个代理的情况并不新鲜，多代理机器学习、人机交互和算法博弈论领域的研究人员会认识到这里推广的是他们的工作，社会科学的观点也是如此。此外，我们的论点在“集体智能”的研究中也有先例。这些研究有两个主要分支：一个专注于与群体进行的定性实验工作，另一个专注于具有人工智能代理的集体。我的关注点不同。我希望揭示新兴的现实世界基于机器学习的系统的算法设计原则，其中许多参与者是人类，也有许多是非人类。需要理解和尊重人类的目标和偏好，而不是人为设计它们。这些原则应该是计算上的、经济上的和推理上的。

尽管基于机器学习的市场在许多重要方面可能与传统市场不同，但回顾传统市场的一些吸引人的特点仍然是有价值的。首先，它们提供了一种不确定性降低的方式——买家可以依赖产品的可用性并据此进行计划。其次，它们能够处理异质性。第三，它们根据需要创造新的角色。虽然基于机器学习的市场还处于早期阶段，但很容易想象会出现许多新的角色，类似于过去技术时代基于数据和学习的角色——审计员、经纪人、聚合者、卖家、买家、艺术家、预测师、保险公司和探索者。这些角色将带来个性化服务、规模经济，以及适当的监管控制点，以减轻法律或伦理考虑所规定的偏见。

基于我们三方混合模式的设计原则使得讨论个人和集体关心的问题（如隐私、公平、所有权、一致性和透明度）变得更加容易。这种混合模式将这些问题视为权衡，而不仅仅是非黑即白的区分。例如，差分隐私是一种计算方法，它在数据中添加噪声以根据特定定义来保障隐私。但这只是故事的一部分。个人在互动中要求某种程度的差分隐私会与其他成本和收益进行权衡。此外，每当数据中添加噪声时，就会出现推理问题，并且可以制定出将推理准确性和隐私联系起来的定量权衡。充分利用三方混合模式通常需要以权衡的形式找到解决方案。

最后，为了让人工智能发展成为能够在现实世界中为人类创造价值的成熟工程学科，我们需要远远超过现有算法的混合（以及更多的数据和计算资源）。在这方面，学习化学工程和电气工程的历史是有用的，这些领域通过开发适用于复杂现象的模块化、透明设计概念，成功控制了化学反应和电磁现象。模块化使得大型系统可以分段设计，诊断和修复系统故障，并允许多个利益相关者参与系统的演进和监管。在当前人工智能的发展阶段，我们距离这样的设计概念还有很长的路要走。此外，化学工程和电气工程的基础是薛定谔方程和麦克斯韦方程，这些坚实的基础有助于在面对极其复杂的现象时开发出简化的模块化近似。

对于人工智能来说，我们面临的是极其复杂的现象——认知的、社会的、商业的和科学的——但我们需要的是类似麦克斯韦方程这样的指导原则。我们仍在摸索中。展望未来，我们需要在未来的道路上始终恪守那些经过长期努力总结出来的最卓越的通用科学和人文原则——包括理性、实验精神、对话、开放性、合作、怀疑态度、同理心以及谦逊。更多详细信息请参阅在线补充材料：https://dl.acm.org/doi/10.1145/3785485。

致谢
我衷心感谢Anastasios Angelopoulos、Francis Bach、Stephen Bates、David Blei、Alireza Fallah、Nika Haghtalab、Guido Imbens、Meena Jagadeesan、Barbara Rosario、Ion Stoica、Steve Stoute、Hal Varian、Rakesh Vohra、Serena Wang和Tijana Zrnic在讨论中提供的帮助。本研究的资金来源于欧盟（项目编号：ERC-2022-SYG-OCEAN-101071601）。然而，文中表达的观点仅代表作者个人见解，不一定反映欧盟或欧洲研究委员会执行机构的立场；欧盟及拨款机构对此概不负责。此外，我还要感谢“Inria基金会”的赞助方Air Liquide、BNP PARIBAS ASSET MANAGEMENT Europe、EDF、Orange和SNCF对本研究的支持。

Michael I. Jordan（[e-mail]）是Inria Paris的研究员，同时担任美国加州大学伯克利分校的荣誉教授。他的研究领域涵盖计算科学、统计学、认知科学、生物学和社会科学等多个交叉领域。