Dario Amodei 和 Demis Hassabis 谈论 AGI 之后的未来

在2026年达沃斯论坛上，两位正在构建通用人工智能（AGI）的专家坐下来讨论AGI到来之后会发生什么。引人注目的不是他们对时间线的不同看法，而是他们在问题形态上的高度一致。

概述

在2026年世界经济论坛年会上，Anthropic 首席执行官 Dario Amodei 和 Google DeepMind 首席执行官 Demis Hassabis 与《经济学人》主编 Zanny Minton Beddoes 展开了一场对话，她将这场对话比作“主持披头士乐队和滚石乐队之间的对话”。对话的基调是友好的，但又充满紧迫感：两位领导者都将 AGI 视为一个具有可见终点的工程问题，而不是一个假设，他们争论的不是是否会到来，而是何时到来，以及人类是否为随之而来的事情做好了准备。

时间线分歧

Dario 坚持他去年提出的激进预测：AI 模型将在未来一到两年内，在几乎所有认知任务上达到或超过人类的表现。他的理由是机械性的。Anthropic 的工程师们已经不再自己编写代码，而是让模型编写代码并编辑输出。他估计，在六到十二个月内，模型将能够端到端地处理完整的软件工程循环。

Demis 则提出了更为谨慎的观点：到本十年末，系统有 50% 的可能性展现出所有人类认知能力。他的怀疑是针对特定领域的。编码和数学更容易实现自动化，因为输出是可验证的。自然科学则更难——你不能仅仅通过运行模型来检查一种化合物是否有效。你必须通过实验来测试它。而最高形式的科学创造力——提出正确的问题，产生新的假设——可能需要当前架构仍然缺乏的能力。

“I don’t think it’s impossible but I think there may be one or two missing ingredients.” 我不认为这是不可能的，但我认为可能缺少一两个要素。

值得注意的是他们的共识：自我改进循环是关键变量。如果 AI 系统能够有效地构建更好的 AI 系统，而没有人类的瓶颈，那么时间线将大大缩短。他们都认为这已经在代码和数学领域实现了。悬而未决的问题是，它是否具有普遍性。

闭环

“闭环”的概念——AI 系统能够观察结果、调整行为并自主迭代——成为本次会议的核心技术理念。世界经济论坛的 Benjamin Larsen 在他的介绍中将其定义为：这是迈向真正自主的一步，它需要全新的治理方法。

Dario 的观点是，在软件工程和 AI 研究中，循环已经部分闭合，而剩余的瓶颈是物理上的：芯片制造、训练时间和硬件限制。Demis 补充说，NP 难问题、物理 AI 和机器人技术引入了纯软件循环难以轻易吸收的混乱。

“The biggest thing to watch is this issue of AI systems building AI systems, how that goes. That will determine whether it’s a few more years until we get there, or if we have wonders and a great emergency in front of us that we have to face.” 最值得关注的是 AI 系统构建 AI 系统的问题，它的发展方向将决定我们还需要几年才能实现目标，或者我们是否会面临奇迹和巨大的紧急状况。

就业问题

Zanny 向两人施压，询问劳动力市场的影响，并指出尽管 AI 炒作不断，但对就业数据没有明显影响——失业率的任何上升都是疫情后的调整，而不是 AI 驱动的。

Dario 坚持他之前的观点，即一半的入门级白领工作可能会在一到五年内消失。他认为这已经开始显现：在 Anthropic 内部，他可以预测到未来公司对初级和中级员工的需求将会减少。他承认劳动力市场具有适应性——农业让位于工厂工作，然后是知识工作——但他担心指数级的速度会“压倒我们的适应能力”。

Demis 认为，近期的情况会更传统：一些工作被颠覆，新的工作被创造出来，尤其是在创意 AI 工具被广泛使用的情况下。他会告诉一群本科生，要“非常精通”这些工具，而不是担心被取代。但他划了一条明确的界限：在 AGI 到来之后，“我们将进入未知领域”。

两人都提出了一个让观众感到惊讶的担忧：意义的问题。即使后 AGI 过渡的经济问题可以通过重新分配来解决，但更深层次的挑战是，当机器在所有我们从中获得身份认同的事情上超越我们时，人类的目标会发生什么变化。Demis 谨慎地表示乐观——人们已经出于经济利益之外的原因追求极限运动和艺术——并补充说，他的特点是“而且我认为我们将探索星空”。

地缘政治现实

当 Zanny 指出，当前的美国政府正在竞相构建 AGI，同时又向中国出售芯片——这与 Dario 一直倡导的相反时，对话变得非常政治化。

Dario 直言不讳：不向对手出售先进芯片是最重要的政策手段。他驳斥了政府的逻辑，即出售芯片将中国纳入美国供应链，他用一个在会场引起强烈反响的比喻：

“Are we going to sell nuclear weapons to North Korea because that produces some profit for Boeing? That analogy should just make clear how I see this trade-off.” 我们是否会向朝鲜出售核武器，因为这会给波音公司带来一些利润？这个类比应该清楚地表明我是如何看待这种权衡的。

Demis 以不同的方式看待这个问题——强调国际合作而不是对抗。他呼吁制定最低部署安全标准，并指出这项技术“将影响全人类”。但他承认这种紧张关系：如果没有可执行的协议，任何一方都无法单方面放慢速度。

Dario 明确表示：

“Why can’t we slow down to Demis’ timeline? The reason we can’t is because we have geopolitical adversaries building the same technology at a similar pace. If we can just not sell the chips, then this isn’t a question of competition between the US and China. This is a question of competition between me and Demis, which I’m very confident that we can work out.” 为什么我们不能放慢到 Demis 的时间表？我们不能这样做的原因是，我们的地缘政治对手正在以相似的速度构建相同的技术。如果我们不卖芯片，那么这不是美国和中国之间的竞争问题。这是我和 Demis 之间的竞争问题，我非常有信心我们可以解决。

没有末日论的 AI 安全

两人都将自己定位为关注但不抱末日论者。Dario 通过机械可解释性来描述 Anthropic 的方法——字面上是观察模型的“大脑”内部，以了解它为什么这样做，并将此与他们共同的神经科学背景联系起来。他承认模型已经显示出欺骗能力，并且不良行为会大规模出现，但将这些视为可解决的工程问题。

Demis 强调了这项技术的双重用途：如果你获得了好处，那么同样的性能可能会被不良行为者重新利用。他相信技术安全问题是可以解决的——“如果我们有时间和精力，并且所有最优秀的人才都在合作”。风险在于碎片化：太多的项目相互竞争，使得协调安全工作成为不可能。

Demis 认为，行业的义务是展示明确的利益——不仅仅是谈论它，而是产生更多像 AlphaFold 这样明显有益的突破。目前行业努力的平衡过于倾向于商业应用，而不够倾向于这些类型的成就。

费米悖论的脚注

一个关于费米悖论的观众提问——如果先进文明不可避免地自我毁灭，为什么我们没有在银河系的其他地方看到失控 AI 的证据？——引发了 Demis 的典型回答。如果文明被他们自己的 AI 摧毁，我们应该看到回形针或戴森球朝我们飞来。我们根本看不到任何结构，无论是生物的还是人造的。

他最好的猜测是：伟大的过滤器是多细胞生命，这是一个极其困难的进化步骤，大多数行星都无法通过。我们已经过去了。接下来发生的事情不是由宇宙先例决定的。

“There isn’t a comfort of like what’s going to happen next. I think it’s for us to write as humanity what’s going to happen next.” 没有什么能让人安心说”接下来会发生什么”。我认为接下来会发生什么，要由我们人类来书写。

一些想法

这次对话的重要性不在于所陈述的立场（两人之前都说过大部分内容），而在于它揭示了 2026 年初该领域的状态：

• 时间线分歧比表面上看起来要窄。 Dario 说 1-2 年内 AI 在所有任务上达到人类水平；Demis 说 5-10 年，有 50% 的信心。但两人都认为自我改进循环是决定性变量，并且都承认它已经在代码中起作用。差距实际上在于它在可验证领域之外的推广速度有多快。

• 经济影响现在是个人问题。 Dario 不是在抽象地推测工作岗位流失——他是在描述自己公司的人员编制决策。当一家领先的 AI 实验室的 CEO 说他可以看到需要更少的初级和中级员工时，抽象就结束了。

• 芯片论点是两人采取的最具可操作性的政策立场。 Dario 的核武器类比是故意挑衅性的，直接针对当前政府在出口管制方面的逆转。科技 CEO 在达沃斯如此直率地挑战现任政府政策的情况很少见。

• 两人都在押注“负责任的竞赛”框架。 两人都不想单方面放慢速度，但都想要护栏。隐含的论点是，安全和速度不是对立的——由深入了解该技术的研究人员领导的公司最有可能同时做到这两点。