技术青春期：Dario Amodei 与 Demis Hassabis 在达沃斯论 AGI 之后的世界

1. 节目概览

• 核心论题：AGI 不再是遥远的概念，而是 1-2 年内可能到来的现实。核心问题不是”是否会到来”，而是”到来之后人类如何度过技术青春期而不自我毁灭”。Dario 用电影《Contact》中的经典提问作为框架：如果能问外星人一个问题，那就是”你们是怎么度过技术青春期而没有毁灭自己的？”
• 嘉宾背景：Dario Amodei（Anthropic CEO/联合创始人）与 Demis Hassabis（Google DeepMind CEO/联合创始人）在 2026 达沃斯世界经济论坛上的 panel 对话，由《经济学人》主编 Zanny Minton Beddoes 主持。这是两人继 2025 巴黎对话后的第二次同台，主持人称之为”采访 Beatles 和 Rolling Stones”。
• 关键结论：
  • Dario 预测 AI 可能在 6-12 个月内完成端到端的软件工程任务，1-2 年内在所有认知领域超越人类
  • Demis 给出更保守的时间线：50% 概率在本十年末实现 AGI，认为科学发现中的假设生成和实验验证仍是关键缺口
  • 两人均认为就业冲击将在今年开始显现，初级白领岗位首当其冲
  • Dario 将对华芯片出口比作”向朝鲜出售核武器”，认为这是当前最重要的地缘政治杠杆
  • 两人都拒绝”末日论”但强调风险真实存在，关键在于是否有足够时间和协作来解决

2. 详细内容

2.1 AGI 时间线：分歧中的共识

• Dario 维持去年在巴黎的判断：2026-2027 年间将出现能在诺贝尔奖水平上跨多领域完成任务的模型。他的核心逻辑是”自我改进循环”（closing the loop）：AI 写代码 → AI 做 AI 研究 → 加速下一代模型开发。目前 Anthropic 内部已有工程师”不再自己写任何代码”，完全由模型代劳
• 他认为距离模型端到端完成软件工程师全部工作可能只有 6-12 个月，之后的问题是这个循环能多快加速。虽然芯片制造、模型训练时间等物理约束会减缓循环速度，但”很难想象这需要超过几年时间”
• Demis 维持更保守的预测：50% 概率在本十年末实现 AGI。他指出编程和数学相对容易自动化，因为输出可验证；但自然科学中许多问题需要实验验证，这会拖慢进度。更关键的是，当前模型缺乏”提出问题”的能力，只能解决已知问题，“提出假设和理论”才是最高层次的科学创造力
• Demis 列出 AGI 可能需要的”缺失成分”：世界模型（world models）、持续学习（continual learning），如果自我改进循环无法单独完成任务，这些能力将是关键

2.2 就业冲击：指数增长即将压倒适应能力

• Dario 重申去年的判断：50% 的初级白领工作将在 1-5 年内消失。他承认做出判断时劳动市场尚未受到影响，但现在”开始看到软件和编程领域的初步迹象”
• 他坦言在 Anthropic 内部已经能预见到，无论是初级还是中级岗位，“实际需要的人会更少而非更多”，公司正在思考如何”以合理的方式”应对
• 对于”科技革命创造新工作”的历史论证（从农业到工厂到知识工作），Dario 表示认同这一规律，但担忧”指数增长持续复合后，将压倒我们的适应能力”，时间窗口在 1-5 年之间
• Demis 同意近期会遵循正常的技术演进模式（一些工作被替代，新的更有价值的工作被创造），预计今年开始影响初级岗位和实习生。他强调当前 AI 工具”几乎免费”，建议大学生”极度精通这些工具”，这可能比传统实习更有价值
• 但 Demis 警告 AGI 到来后将是”完全未知的领域”，需要在那之前思考更深层的问题：不仅是经济分配，还有人类从工作中获得的意义感和目标感。他认为经济问题反而”可能更容易解决”，人类境况的问题更难

2.3 地缘政治：芯片是最关键的杠杆

• 当被问及为何不能放慢脚步时，Dario 给出了核心逻辑：不是不想慢下来（“我更希望 Demis 的 5-10 年时间线是对的”），而是因为地缘政治对手在以相似的速度推进同样的技术，且很难达成可执行的减速协议
• 他的政策建议始终未变：不向中国出售芯片，这是”我们能做的最重要的一件事”。他直接批评美国政府当前的政策逻辑（通过出售芯片将各国绑入美国供应链），将其类比为”因为波音能赚钱就向朝鲜卖核武器”
• Dario 区分了两种竞争：如果能控制芯片供应，问题就从”美中竞争”简化为”我和 Demis 之间的竞争”，后者他”非常有信心能解决”
• Demis 强调需要国际合作，至少要有最低安全部署标准。他指出当前行业在”展示 AI 明确造福世界”方面做得不够（如 AlphaFold 这类成果应该更多），这既是道义责任，也是防止公众反弹的关键

2.4 AI 系统风险与技术青春期

• Dario 用电影《Contact》的框架来定义当下的处境：人类正在敲开不可思议的能力之门，这些能力”从我们开始使用火的那一刻起就注定会实现”，但如何处理它并非注定
• 他将风险分为四类：（1）控制高度自主且比人类更聪明的系统；（2）个人滥用，尤其是生物恐怖主义；（3）国家滥用，特别是威权政府；（4）未曾预想到的风险，“可能是最难处理的”
• 关于模型欺骗行为的报告，Dario 表示 Anthropic 从成立之初就关注这一风险，并开创了”机械可解释性”（mechanistic interpretability）研究路径，试图像神经科学家研究大脑一样理解模型内部的工作原理
• 两人都明确拒绝”末日论”（doomerism），但区分了”末日论”和”风险意识”：认为”我们注定毁灭”是错误的，但认为”如果所有人一起竞速、没有任何护栏，确实有出错的风险”是合理的
• Demis 以费米悖论回应末日风险：如果文明被自身技术毁灭是普遍现象，我们应该能看到宇宙中失控 AI 的痕迹（如”回形针”飞来），但我们什么都没看到。他推测”大过滤器”可能是多细胞生命的进化，人类已经跨过了这个门槛

2.5 Anthropic 的商业可持续性

• Dario 披露了 Anthropic 的营收增长轨迹：0 → 1 亿美元（2023）→ 10 亿美元（2024）→ 100 亿美元（2025），三年间每年 10 倍增长
• 他坦言不确定这条曲线是否能持续（“如果能那就太疯狂了”），但强调营收规模已经”不远于世界最大公司的水平”
• 关于独立模型公司的生存问题，他的逻辑是：模型认知能力与营收之间存在指数关系，只要能做出最好的模型，商业问题就能解决
• 两人都强调”由研究者领导、专注于解决重要科学问题”的公司才是未来赢家，暗示不以研究为导向的公司将处于劣势

3. 精彩金句

“I don’t write any code anymore. I just let the model write the code.”

我不再自己写任何代码了，我只让模型来写。

“Are we going to get through this technological adolescence without destroying ourselves?”

我们能否度过这个技术青春期而不毁灭自己？

“It’s very hard for me to see how it could take longer than a few years.”

我很难想象这会需要超过几年时间。

“Not selling chips is one of the biggest things we can do.”

不出售芯片是我们能做的最重要的事情之一。

“If we build them poorly, if we’re all racing and we go so fast that there’s no guardrails, then I think there is risk of something going wrong.”

如果我们粗制滥造，如果所有人都在竞速、跑得太快而没有任何护栏，那确实有出错的风险。

4. 节目洞察

这场对话最有价值的地方在于两位 AI 领域最核心的领导者在时间线上的分歧。Dario 的 1-2 年 vs Demis 的 5-10 年，差异源于对”closing the loop”（自我改进循环）的不同判断：Dario 认为编程自动化已接近完成，循环即将闭合；Demis 则认为自然科学的实验验证和假设生成是循环无法绕过的瓶颈。值得注意的是，Dario 主动说”我更希望 Demis 的时间线是对的”，这暗示他自己的预测让他感到不安。

相比 2025 年巴黎的首次同台，两人在风险认知上更加趋同。Dario 用”技术青春期”替代了更学术化的安全讨论框架，Demis 也开始更直接地谈论就业冲击的时间表。两人在对华芯片出口问题上罕见地高度一致，这在竞争对手之间并不常见。

Dario 披露的 Anthropic 营收数据（三年百倍增长）是新信息，显示独立模型公司的商业化进展远超外界预期。

5. 资源索引

• 人物：Zanny Minton Beddoes，《经济学人》主编，panel 主持人
• 人物：Benjamin Larsen，世界经济论坛 AI 安全负责人，WEF AI 卓越中心
• 人物：Yoshua Bengio，AI 教父，WEF 全球未来委员会（AGI）联合主席
• 论文/概念：机械可解释性（Mechanistic Interpretability），Anthropic 开创的 AI 安全研究方向，试图理解模型内部工作原理
• 论文/概念：Machines of Loving Grace，Dario Amodei 2025 年发表的乐观派 AI 未来展望文章，续篇即将发布
• 工具/产品：AlphaFold，Google DeepMind 的蛋白质结构预测算法，被作为 AI 造福人类的标杆案例
• 公司/组织：Isomorphic Labs，DeepMind 的药物发现子公司
• 公司/组织：WEF 全球未来委员会（AGI），由 Yoshua Bengio 和日本 AI 安全研究所所长 Akiko Murakami 联合主持

6. 思考与行动

• 可执行建议：
  • 如果你是大学生或初级白领，立即投入时间深度掌握 AI 工具的使用，这比传统技能培训的回报更高。Demis 的原话是”极度精通这些工具”
  • 关注 AI 自我改进循环的进展，这是判断 AGI 到来时间的最关键信号。Dario 认为 AI 系统构建 AI 系统是”最值得关注的事情”
  • 对于企业领导者，现在就需要制定 AI 导致岗位减少的应对方案，Anthropic 自身已在内部开始这一过程
• 开放问题：
  • 当 AI 超越人类所有认知能力后，人类如何找到新的意义感和目标感？Demis 认为这比经济问题更难解决
  • 自我改进循环是否真的能在无人参与的情况下完全闭合？Demis 对此持保留态度
  • Dario 即将发布的风险论文中会提出什么具体的风险应对方案？
• 延伸阅读：Dario Amodei 的 Machines of Loving Grace 及其即将发布的风险续篇；关于费米悖论与大过滤器理论的讨论