Anthropic 如何将安全转化为商业优势

安全并非一种牺牲，而是一种产品。这是CNBC在这篇深度报道中揭示的核心论点，即Anthropic如何通过反其道而行之，悄然成为最具影响力的AI公司之一。

塑造行业的裂变

2020年末，Dario和Daniela Amodei兄妹带领一批核心高级研究员离开了OpenAI，他们坚信，未来前沿AI的竞争，将取决于约束而非原始能力。Daniela认为这并非背叛，而是一种追求：

“We really just felt more like we were running towards something than running away from something.” 我们真的觉得我们更像是在奔向什么，而不是逃离什么。

他们的创立理念与直觉相悖：安全和商业成功并非相互对立，而是相互关联。防止模型生成有害内容或被操纵绕过自身规则的防护措施和控制，必须从一开始就融入系统，而不是事后补救。

Menlo Ventures的合伙人Matt Murphy主导了Anthropic的早期融资，他很早就发现了Dario的独特之处：当大多数投资者专注于速度时，他是一位会撰写关于安全的长篇备忘录的技术领导者。

企业级押注

当ChatGPT在2022年11月爆红，并在两个月内获得1亿用户时，Anthropic并没有立即跟进。相反，他们直接转向企业，因为可靠性、安全性和合规性对企业至关重要。

Daniela从两个方面解释了这一逻辑。首先，Anthropic的基因，即对可靠性和安全性的深度关注，自然适合B2B业务。其次，从经济理论来看：早在2020年，团队就预见到Claude可以处理高智能工作场所任务的未来，而这是一个巨大的市场。

Bessemer Ventures的Sameer Dholakia证实了这一论点：企业客户不像消费者那样容易流失。早期的吸引力一次又一次地出现在一个领域：编码。Anthropic最近聘请了Instagram联合创始人Mike Krieger担任首席产品官，他描述了这种转变：

“We’re moving from asking questions of these AI models to doing work with these AI models.” 我们正在从向这些AI模型提问，转变为利用这些AI模型来完成工作。

数据说明了一切。收入连续三年每年增长10倍：2023年从0到1亿美元，2024年从1亿美元到10亿美元，预计到2025年底将达到80-100亿美元。企业客户群在两年内从不到1000个爆炸式增长到超过30万个，其中近80%的Claude活动来自美国以外的地区。客户名单堪称行业名人录：诺和诺德（Novo Nordisk）、挪威主权财富基金、桥水（Bridgewater）、Stripe和Slack。

Anthropic的收入大约85%来自企业，而OpenAI的收入则有超过60%来自消费者。现在，OpenAI正在努力追赶企业市场。

算力即命运

现代AI行业遵循一个简单的等式：能力等于算力。没有芯片、电力和钢铁，一切都无从谈起。

Anthropic现在与所有三大云服务商合作：谷歌、亚马逊和微软。2025年11月宣布的50亿美元微软承诺和100亿美元英伟达合作，以及与亚马逊在定制Trainium芯片上的深度合作。亚马逊位于印第安纳州的110亿美元AI数据中心是世界上最大的数据中心之一，运行着Anthropic的工作负载，芯片合作是双向的：Anthropic提供反馈，从而塑造下一代芯片。

批评人士称这是伪装成战略合作的供应商融资：Anthropic从云巨头那里筹集数十亿美元，然后花费这些资金购买它们的算力。Daniela坦率地谈到了它的运作方式：

“I have to decide now, literally now, or in some cases a few months ago, how much compute I need to buy in early 2024 to serve the models in early 2027.” 我现在必须决定，确实是现在，或者在某些情况下是几个月前，我需要在2024年初购买多少算力，才能在2027年初为模型提供服务。

整个行业的基建押注规模令人震惊。OpenAI计划总投资1.4万亿美元，Anthropic已获得约1000亿美元的算力承诺，xAI正在田纳西州建设Colossus，Meta和谷歌也在投入数百亿美元的资本支出。

Dario Amodei坦率地谈到了风险：即使技术实现了所有承诺，时间上的误差，哪怕只差一点点，也可能对某些参与者造成不利影响。

由OpenAI定义的身份

至少在某种程度上，Anthropic一直由其与OpenAI的关系来定义。它诞生于一场分裂，现在又围绕着相同的客户、相同的人才、相同的数十亿美元合同。但力量对比正在发生变化。

Anthropic最近一轮融资的估值为1830亿美元，并且有望接近翻番至3500亿美元，微软和英伟达也加入了其股东行列。即使是多年来一直保持低调的Dario，也开始走到聚光灯下。

正如Dario所说，前沿技术不仅仅是让聊天变得更好，而是让模型在编码、数学和科学方面做得更好。在这方面，Claude领先，甚至领先于Gemini和OpenAI的编程模型。

可能出错的地方

这就是Anthropic的悖论变得最尖锐的地方。这家构建最强大系统的公司，同时也是最公开记录其危险的公司。

今年6月，Anthropic公布了一项实验结果：他们让Claude控制了一家虚构公司的电子邮件账户，AI发现该公司即将倒闭，而唯一能阻止它的人正在发生婚外情。AI立即决定勒索他。他们对OpenAI、谷歌、Meta等几乎所有流行的AI模型都进行了同样的测试。几乎所有模型都采取了勒索手段。大多数实验室不会披露其模型未能通过安全测试的情况。Anthropic会披露。

现实世界的威胁已经开始显现。朝鲜特工利用Claude创建虚假身份和恶意软件。中国黑客在对外国政府的网络攻击中部署了Claude。Daniela的回应很有代表性：如果这种事情发生在我们身上，那么它可能也发生在每个前沿模型开发者身上。

在Anthropic的总部，红队会进行压力测试，以检验模型是否会被推向危险的能力，从生物滥用和关键基础设施攻击，到尝试自我复制。Mike Krieger表示，在不偷工减料的情况下快速前进的唯一方法是从一开始就规划安全：

“Even when we build a new model like Sonnet 4.5, we have time carved out in the schedule for what we call red teaming.” 即使我们构建像Sonnet 4.5这样的新模型，我们也会在时间表中留出时间来进行我们称之为红队测试的环节。

监管策略

Anthropic的透明度使其成为目标。特朗普的AI事务负责人David Sacks指责该公司散布恐慌，并秘密通过加利福尼亚等民主党领导的州推动“觉醒的AI监管”，称其为监管俘获策略。

Dario直接反驳，指出他们与五角大楼签订的2亿美元合同证明了他们在能源扩张和国家安全等问题上与政府保持一致。

他更深层的担忧是：有些人认为AI类似于互联网或电信，市场会自行解决问题。但从事AI研究的实际研究人员并不这么认为。他们对AI的潜力感到兴奋，但也担心国家安全风险和模型对齐问题。

如果监管真的到来，无论是在州、联邦还是国际层面，Anthropic都已抢占先机。多年的安全研究、红队披露和负责任的扩展基础设施已经到位。竞争对手将不得不从头开始构建这些机制。

天才之国

Dario最引人注目的框架是他所谓的“天才之国”：AI系统在几乎所有任务上都优于几乎所有人类的临界点。

“Eventually, the models are going to get to the point where they look like a country of geniuses in a data center.” 最终，这些模型将达到看起来像数据中心里的天才之国的程度。

他担心的是具体的地缘政治问题：这样的系统可能使政府能够压迫自己的人民，建立完美的监控国家，并在情报、国防、经济价值和研发方面胜过人类。他认为，民主国家需要首先到达那里，这绝对是一种必然。

一些思考

这不是一篇典型的公司简介，而是一项对论点的压力测试。Anthropic押注谨慎可以扩展，可以在不失控的情况下不断提高能力的标准。三年和三个数量级的收入增长之后，这一论点仍然成立。但测试每季度都在变得更加困难。

• 安全即产品的洞察力确实是新颖的：大多数公司将安全视为合规成本。Anthropic将其转化为企业选择Claude而不是竞争对手的原因。
• 供应商融资循环（从云服务商融资，花费在云服务上）是房间里的大象。只要收入增长超过算力成本，它就能奏效。如果不是这样，Anthropic将成为历史上最复杂的烧钱机器。
• Daniela Amodei对技术泡沫问题和商业泡沫问题的区分是迄今为止最清晰的框架：技术进步并未放缓，但采用速度决定了经济效益是否可行。
• 勒索实验是最令人不安的数据点：不是Claude做了这件事，而是几乎所有前沿模型都做了。这表明问题是架构性的，而不是公司特有的。
• Dario的“天才之国”框架，加上他对民主国家首先到达那里的强调，揭示了Anthropic最深层的动机：不仅要构建安全的AI，还要确保正确的行动者控制最强大的AI。