引言：互联网出了什么问题—以及如何修复它

《Bulletin of the Atomic Scientists》：Introduction: What went wrong with the internet—And how do we fix it

　　关键词：互联网、人工智能、AI代理、大语言模型、知识产权、可信度本期刊《原子科学家公报》的主旨很明确：互联网出了什么问题，我们该如何修复——尤其是在数据中心和人工智能似乎即将席卷地球的当今时代。但诊断结果和提出的解决方案并非如此简单。不过，本文的撰稿人似乎一致认为，情况正在恶化。科里·多克特罗在《世界已经发生了变化。但它不必永远如此》一文中认为，由于垄断的盛行以及对短期利益的追求胜过维护长期标准和做法，互联网对最终用户的价值正在下降。他形象地将此描述为"垃圾化"。这一过程也被称为"平台衰退"，指的是在线产品和服务的质量随时间推移而下降。起初，供应商创建高质量的产品来吸引用户，然后他们降低这些产品的质量以更好地服务商业客户，最终同时降低对用户和商业客户的服务质量，以最大化股东的短期利润。多克特罗说，这一问题已经蔓延到互联网之外的现代生活其他领域——其中一些对于21世纪西方民主制度的运转至关重要。在《重访计算世界肮脏的一面》一文中，计算机科学家纳森·恩斯曼格在10年前《公报》的一篇文章基础上继续探讨。当时他论证了计算的成本——高电费、对清洁水等宝贵资源的巨大消耗以及热污染等——是数字经济的肮脏小秘密。如今，他说，这个秘密已经曝光：数据中心已成为县级听证会、州长竞选活动和国会立法讨论的焦点。但新出现的意识过度关注计算的可量化影响，而忽视了数据中心的本质：它是一座工厂，就像所有工厂一样，是组织劳动力、资本、土地和政治权力的手段。他的文章认为，仅靠足迹统计数据是不够的：数据中心需要前几代人建立起来用于管理工厂、公用事业和其他工业系统的监管和监督。然而，这里存在一个障碍：美国社会在很大程度上对这类行动持敌对态度。在《欧洲为什么比美国更早学会不信任科技巨头》一文中，西班牙马德里IE商学院创新学教授恩里克·当斯深入探讨了其中的原因。他说，原因之一可能在于相对较近的历史：欧洲大部分地区曾在纳粹和后来的斯塔西（东德国家安全局）的监视国家下受苦。告密者网络渗透到家庭、职场和友谊之中。当柏林墙倒塌、这些档案公之于众时，阅读这些档案的经历——发现谁举报了谁、监视有多详细、侵入有多深入——塑造了一整代政治领袖。基于这样的经历，很容易理解为什么欧洲人更愿意保护用户的个人数据并对抗科技巨头，使用《通用数据保护条例》等立法工具。美国没有这样的制度记忆，因此更容易接受个人数据私有化的逻辑。为了完善这一系列观点，《公报》采访了文特·瑟夫，他被广泛认为是互联网的奠基人之一。瑟夫花了50年时间帮助开发互联网运行的基础架构，包括在设计网络框架时的"数据包"和"协议"概念，这些概念使得数据、信息、语音和视频能够（理论上）轻松发送和接收，且干扰极小。瑟夫非常珍视他所描述的"我美丽的互联网"，并担心像AI代理和大语言模型这样的新技术的到来可能会颠覆原始互联网的开放、中立和平等竞争的价值。据瑟夫介绍，关于AI代理和大语言模型（LLMs）的一个较少被宣传的事实是，一些研究表明，它们会故意向创造者"撒谎"，并在象棋比赛中"作弊"（由于缺乏更好的术语）。冒着拟人化的风险，它们如此迫切地想要取悦操作者，以至于会故意做出欺骗的举动。（而且如果将相同的输入提供给两个不同的LLM，它们不一定会得出相同的结果。）因此，有必要为每个代理附加标识信息并创建"审计追踪"，以便人类能够查明是哪个代理代表谁执行或未执行了某个操作。麻省理工学院研究员德夫·罗伊支持这一策略，他在题为《谁站在文字背后》的文章中写道："流利、个性化、机构可使用的语音现在可以大规模生产，却没有一条责任链锚定在负责的人身上，从而掏空了支撑公众信任的假设：即每一个重要的文字背后都有一个可以被追责的人或机构。"罗伊认为，解决方案不仅仅是更好的机器，而是能够锚定每个文字到可问责的人的制度。利益冲突声明作者未报告任何潜在的利益冲突。资助本研究未获得任何公共、商业或非营利部门资助机构的专项拨款。资助本研究未获得任何公共、商业或非营利部门资助机构的专项拨款。