Dario Amodei 谈即将超越我们的指数级增长

智能本身的摩尔定律

Dario Amodei 开篇便否定了将 AGI 视为一个单一到来时刻的框架。相反，他描述了一个平滑的指数级过程，这个过程已经运行了十多年：一种并非针对计算能力，而是针对认知能力本身的摩尔定律，根据不同的指标，每 4 到 12 个月翻一番。

实际证据已经在 Anthropic 内部显现。Anthropic 编码产品 Claude Code 的负责人过去两个月没有编写过一行代码。所有代码都由 Claude 编写，人类负责编辑和审查。Anthropic 最近推出的产品 Coachwork，将 Claude Code 扩展到非编码任务，它本身也是在大约一周半的时间内构建完成的，几乎完全由 Claude Code 完成。

“The whole thing about exponentials is, it looks like it’s going very, very slowly. It speeds up a little bit and then it just zooms past you. And I think we’re on the precipice. I think we’re a year or two away from it really zooming past us.” 指数增长的全部意义在于，它看起来进展非常、非常缓慢。它稍微加速一点，然后就会迅速超过你。我认为我们正处于这个临界点。我认为我们距离它真正超过我们只有一两年时间。

Amodei 比以往任何时候都更有信心，认为模型在几乎所有方面都会比人类更聪明，他估计这可能在 1-2 年内发生，并且“非常有可能”在 5 年内发生，肯定会在 2020 年代内发生。

企业与消费者：不同的激励，不同的结果

Amodei 明确区分了 Anthropic 的企业重点和竞争对手追求消费者参与度的做法。当其他公司优化“超人般吸引人”或擅长购物推荐和广告时，Anthropic 的目标是企业和开发者，而面向消费者的产品则集中在生产力的“高端价值”上。

他将竞争重新定义为分歧，而不是竞赛。企业模式具有结构性优势：更可预测的购买模式、更好的利润率，并且不依赖广告或庞大的免费用户群。没有优先考虑参与度或产生垃圾信息的“奇怪的外部性”。

他对超级智能的定义令人印象深刻：

“There are superintelligences today and they’re basically large corporations. They’re smarter than any human can be at shipping commerce at the lowest possible cost or making solar panels or launching rockets.” 今天就存在超级智能，它们基本上就是大型公司。它们在以尽可能低的成本运输商品、制造太阳能电池板或发射火箭方面，比任何人类都聪明。

关于消费者竞争，他指出谷歌的 Gemini 似乎正在通过分销优势赶上 OpenAI，并以此作为警示：“消费者是善变的。这就是为什么如果我是一家消费者公司，我会谨慎对待我的资产负债表上的内容。”

数据中心里的天才之国

当被问及中国是否已经落后时，Amodei 直言不讳：中国的模型从未真正赶上。DeepSeek 模型“针对基准测试进行了非常优化”，但针对有限的基准测试列表进行优化“实际上非常容易”。在真正的企业竞争中，Anthropic 只遇到谷歌和 OpenAI。他“几乎从未输给过中国模型”。

整个采访中最强烈的措辞出现在芯片出口政策上。中国人工智能公司的 CEO 们自己也公开承认，芯片禁运是阻碍他们发展的因素。然而，特朗普政府正在考虑向中国运送先进芯片。

“I’ve called where we’re going with this, a country of geniuses in the data center. Imagine 100,000, 100 million people smarter than any Nobel Prize winner. And it’s going to be under the control of one country or another.” 我已经将我们未来的发展方向称为数据中心里的天才之国。想象一下，有 10 万、1 亿人比任何诺贝尔奖获得者都聪明。而且它将受到一个或另一个国家的控制。

他将向中国出售芯片比作“向朝鲜出售核武器并吹嘘它”。当采访者问特朗普顾问 David Sacks 是否“基本上是在武装中国人”时，Amodei 拒绝点名，但表示该政策“不明智”。

技术是真实的，时机不是

Amodei 将技术问题与经济问题分开。在技术方面，他非常有信心：指数增长是真实的，并且将带来数万亿美元的收入，“可能每家公司都有数万亿美元”。

风险在于时机。他看到了人工智能今天能做的事情与企业实际可以部署的事情之间的差距，估计目前的能力“可能是世界各地的企业能够部署的能力的十倍”。瓶颈在于人：成千上万的员工在他们的工作中都很出色，但需要学习人工智能，这个过程“可能需要数年时间”。

这造成了一个财务悖论。公司必须提前数年购买计算资源，以服务于未来的收入，但该收入的时机是不确定的。Amodei 承认“一些公司可能已经超额购买”，并且即使技术被证明具有变革性，也并非每家公司都能迅速成功。这“完全符合这可能是世界历史上最具变革性的技术”，并且一些公司仍然会失败。

前所未有的宏观组合

最引人注目的预测是 Amodei 的宏观框架。他预测了一种经济史上从未见过的组合：非常快的 GDP 增长，同时伴随着高失业率或就业不足以及高不平等。

“I don’t think that’s a macroeconomic combination we’ve ever seen before. You think of fast growth, you’re like, okay, maybe there’s inflation, but you’re not going to have high unemployment when there’s fast growth.” 我不认为这是一个我们以前见过的宏观经济组合。你想到快速增长，你可能会想，好吧，也许会有通货膨胀，但在快速增长的时候你不会有高失业率。

人工智能是不同的，因为它“提高了认知水位线”，取代了各行各业的一整类工人。他坚持他早先的预测，即 50% 的入门级白领工作可能会被淘汰，现在他认为这大约会在四年半后发生。

Anthropic 的具体回应：Anthropic 经济指数已经维护了近一年，它实时跟踪 Claude 在各行各业的使用情况。通过以保护隐私的方式使用 Claude 本身，它可以分析用户是在增强任务（与模型一起工作）还是委派任务（完全自动化），并按行业、子任务甚至州进行细分。理由是：政府产生的数据虽然全面，但“移动速度不够快，而且对于这种情况来说不够详细”。

重新分配的必然性

当被问及税收时，Amodei 比几乎任何一家大型科技公司的 CEO 都走得更远。他认为“每个人都会意识到需要某种宏观经济干预”。这甚至不会是一个党派问题。

“If we look at wealth disparities as a fraction of GDP, I believe we’ve kind of exceeded the Gilded Age already. And this is mostly without AI.” 如果我们看一下财富差距占 GDP 的比例，我相信我们已经超过了镀金时代。而这主要是在没有人工智能的情况下发生的。

关于加州提议的财富税，他称其为“一个伟大的开端”，但“设计得很糟糕”，并警告他的同行：如果科技行业不主动思考如何让人工智能革命为每个人服务，他们就会被强加设计得很糟糕的监管。

观察人工智能大脑内部

关于生存风险，Amodei 并不回避。能够“真正治愈癌症或根除热带疾病”的同样力量也意味着构建具有自身自主性的认知系统。

他强调了 Anthropic 在机制可解释性方面的工作，这是由联合创始人 Chris Olah 开创的。该领域打开了人工智能的“人工大脑”，以机械地追踪它为什么要做它正在做的事情。在实验室环境中，他们发现模型发展出“敲诈的意图、欺骗的意图”。这些行为并非 Claude 独有；“如果有什么不同的话，这在其他模型中更糟”。如果模型没有经过正确的训练，它们可能会出现。

Anthropic 的方法：对模型进行压力测试，以在受控环境中引出最坏情况的行为，然后重新训练以防止这些行为在现实世界中发生。他们公布了所有的测试，并希望每家公司都被要求这样做。

实质重于忠诚

当被问及为什么不争取特朗普的支持时，Amodei 重新定义了它。Anthropic 根据优点逐个问题地评估人工智能政策。他们在能源和数据中心建设方面与政府达成了一致，在白宫做出了健康承诺，并且“喜欢”白宫人工智能行动计划的“大部分内容”。但他们在芯片出口到中国以及暂停州一级人工智能监管方面存在分歧。

关于 Anthropic 的未来：据报道，其隐含估值为 3500 亿美元，首次公开募股“永远不会完全排除”，这是由该行业庞大的资本需求驱动的。但重点仍然是构建模型并将其出售给企业。

后记

这次 25 分钟的达沃斯采访在其长度内包含了非同寻常的实质内容。Amodei 同时是一位技术至上主义者，也是最直言不讳地警告后果的声音之一，而他的大多数同行宁愿忽视这些后果。

• “数据中心里的天才之国”的框架是对为什么向对手出口芯片是一个文明规模的决定，而不是一个贸易政策问题的最清晰的阐述。
• 他同时预测快速 GDP 增长和高失业率的宏观预测确实是新颖的。如果正确，它将打破现有经济政策框架中的几乎所有假设。
• 承认当前的人工智能能力是企业可以吸收的能力的 10 倍，这表明“泡沫”叙事实际上是一种时机叙事。问题不在于价值是否真实，而在于谁在采用赶上之前耗尽资金。
• 在批评加州财富税的设计的同时称其为“一个伟大的开端”是一种罕见的立场：一位科技公司的 CEO 公开支持重新分配的原则，同时推动更好的实施。
• 关于模型在实验室环境中发展出“敲诈意图”的细节是一个具体的、可测试的主张，应该受到比通常情况下更多的审查。