• Like
  • Comment
  • Favorite

SemiAnalysis最新对谈:OpenAI与Anthropic双雄争霸、谷歌掉队,编程吃下近半Token

华尔街见闻07-23 15:37

生成式 AI 产业正迎来极其关键的商业化拐点——行业重心正从粗放式的“预训练算力堆叠”,全面转向“企业级 ROI 兑现与高毛利 API 战”

知名 AI 与半导体研究机构 SemiAnalysis 在最新对谈中,对大模型行业的竞争格局、算力金融化模式及盈利逻辑进行了深入的讨论。分析师任务,编程与软件工程已成为代币(Token)消耗的核心引擎,驱动前沿实验室的收入重心由消费端全面转向高毛利的企业级 API。

在竞争格局上,OpenAI 凭借新模型与 Codex 成功打出反击,与 Anthropic 演变为双雄争霸,而谷歌则因算力绑定与战略失误沦为第五。同时,AI 能力的提升正从预训练转向强化学习(RL)扩展定律,催生出百亿美元级别的 RL 环境数据市场。各大厂商在算力变现、订阅补贴挤压与企业预算控制之间展开了新一轮博弈。

核心观点

  • 编程吃下大半Token需求: 编程与软件工程已成为当前最消耗 Token 的场景,前沿实验室 API 收入中 70% 以上来自于编程。重度企业用户单人每年在 AI 上的支出已高达 10 万美元。

  • 订阅制“补贴打折”,实验室倒逼 API 迁移: 200 美元/月的 Pro/Max 订阅能换取价值 8000 至 12000 美元的 API 额度,平均利用率仅需 5%~10% 即可让实验室亏损。实验室正全力将用量向毛利率 85%+ 的 API 端引导。

  • OpenAI 凭借 5.6 与 Codex 强势反扑: 年初一度陷入停滞的 OpenAI 凭借 5.5、5.6 版本及 Codex 重新发力,企服 API 收入迅速回升,与 Anthropic 演变为平分秋色的“双雄争霸”格局。

  • 谷歌沦为“第五名”,算力锁定引发人才出走: 谷歌 Gemini 表现不及预期,且因签署了缺乏“回收条款(Clawback)”的长期 TPU 出租协议,导致自用算力受限,引发 DeepMind 顶尖人才流失。

  • xAI 算力出租新玩法与 Meta Neocloud 保底: 马斯克以 3-4 倍市场溢价将 Colossus 算力出租给 Anthropic,但附带 90 天算力回收条款;Meta 则计划推出 Neocloud 作为资本支出(CapEx)的保底变现方案。

  • RL 扩展定律接棒,单条环境任务卖出上万美元: 强化学习(RL)成为提升大模型能力的最核心 Scaling Law,各大实验室今年数据预算将超 100 亿美元。高质量软件工程 RL 任务单价已突破五位数。

一、 企业代币预算控制与编程场景的崛起

SemiAnalysis 团队观察到,随着企业 AI 支出的增加,许多机构正在步入紧缩时代并严格审查 AI 预算。

然而分析师指出,盲目限制员工使用高级模型或将开发者排除在外的政策极其短视。

数据显示,编程与软件工程已成为目前最消耗代币的使用场景,占到前沿实验室 API 收入的 70% 以上。重度企业用户单人每年在 AI 上的支出高达 10 万美元,且带来了清晰可见的投资回报率(ROI)。因此,企服市场的代币消费并未因预算审查而停滞,反而呈现出向高效编程场景高度集中的趋势。

二、 订阅制补贴难以为继,实验室倒逼流量走向高毛利 API

在商业模式方面,SemiAnalysis 分析指出,现有的固定月费订阅制(如 Pro 或 Max 计划)存在严重的补贴与负毛利问题。

当用户的代币利用率仅达到 5% 至 20% 时,订阅服务就会触及盈亏平衡点甚至亏损。

为了改善财务状况,前沿实验室正积极引导企业客户从低毛利的订阅制转向毛利率高达 85% 以上的 API 按量付费模式。例如,Anthropic 的企业计划已不再包含固定用量,全面实行 API 定价,这助推其在第二季度实现了营业利润盈利。

三、 OpenAI 凭借 5.6 与 Codex 实现翻盘,与 Anthropic 平分秋色

针对前沿模型的竞争,SemiAnalysis 团队认为,此前一度陷入增长停滞的 OpenAI 已成功实现翻盘。通过发布 5.5、5.6 版本模型以及 Codex 工具,OpenAI 在企服 API 领域的收入快速回升,其消费端与企业端的收入比例已逆转为 40:60。

相比之下,Anthropic 凭借早期在编程数据上的激进投入和极其聚焦的企业级定位,保持了极高的付费转化率。双方在月度净增 ARR 上已重回同等量级,开启了明确的双雄争霸格局。

四、 第三名之争与算力策略分化,谷歌陷入困局

在其他竞争者的排位中,SemiAnalysis 认为谷歌的 Gemini 模型表现不及预期,已跌落至行业第五名。

其根本原因在于谷歌签署了大量缺乏“算力回收条款(Clawback)”的长期 TPU 出租协议,导致自身在关键时刻无法调集足够算力进行顶级模型训练,进而引发 DeepMind 顶尖人才的流失。

相反,xAI 采取了高溢价出租算力并附带 90 天强制回收条款的灵活策略,既实现了资金变现,又保留了冲击 AGI 的算力弹性;而 Meta 则将算力出租作为资本支出的保底变现方案(Neocloud)。

五、 代币即服务(TaaS)爆发与芯片初创公司的路径选择

随着企业对模型选择多样性和合规性的需求提升,代币即服务(TaaS)呈现爆发式增长,在云巨头的营收占比中显著提升。

分析师认为,三大超大规模云厂商(AWS、Azure、GCP)凭借既有的企业分销渠道和合规优势,占据了 TaaS 市场的绝大部分份额。

虽然独立推理初创公司得益于整体市场蛋糕的扩大而快速增长,但对于硬件/芯片初创公司而言,仅靠与第三方 TaaS 平台合作难以实现长期突破,未来必须建立自己的 Neocloud 或与前沿实验室展开直接合作。

六、 RL 扩展定律接棒预训练,高端数据环境成为百亿级新战场

SemiAnalysis 强调,强化学习(RL)已取代预训练,成为当前提升大模型能力最重要的扩展定律(Scaling Law)。

前沿实验室今年在 RL 环境数据上的预算总和将远超 100 亿美元。为了训练 AI 自主完成复杂的白领与工程任务,市场催生出了专门的 RL 环境初创产业链。由于创建高质量、无歧义且需要人类工程师耗时整天设计的工程任务极具挑战,实验室愿意为单条顶级编程 RL 环境任务支付上万美元的报酬,这表明 AI 数据产业正在从低端标注向高智力价值转型。

以下为访谈全文,由AI辅助翻译:

Jordan:大家好,欢迎回到 SemiAnalysis 周报。今天是第 20 期,我们和代币经济学(Tokconomics)团队在一起。事情发展得非常快,我们是在 7 月 15 日星期三录制这一期的。我猜等到这一期播出的时候,市场上又会有更多模型发布,以及这些公司关于其盈利能力、收入和活跃用户数的最新披露。无论如何,我们现在要记录当前这个时间点,讨论一下代币预算规划(Token Budgeting)、Meta 的计算策略、MSL 期货、Fable 和 Soul 的发布,以及 Anthropic 的利润率。非常兴奋能深入探讨这些内容。今天和我在一起的是 Max,你怎么样,伙计?

Max:非常好,谢谢邀请我。

Jordan:欢迎。我们还有 Crystal,近来怎么样,Crystal?

Crystal:嘿,Jordan。

Jordan:还有 Joey。

Joey:嘿,Jordan。

Jordan:酷。那么我们要从代币预算开始。Crystal,交给你了。这段时间我们一直在和很多企业沟通,询问他们情况如何。在 SemiAnalysis,我们仍然在最大化利用代币(Token Maxing),但其他企业正步入紧缩时期。你能带我了解一下你在写这篇文章时的发现吗?

Crystal:是的,现在有很多企业正在严查预算,因为他们认为员工花得太多了。是的,很多人感到害怕,因为他们会想:“哦,如果我没有足够的代币来完成工作怎么办?”但我认为情况未必如此,而且这适用于大多数人,对吧?因为很多人甚至远远没有达到那个上限。每家公司可能只有少数几个重度超级用户会真正受到影响。但除此之外,我认为它对大多数人工作流程的影响,并没有社交媒体上传播的那么大。据我们观察,公司一直采取许多不同的策略,无论是按个人分配,还是给整个公司制定月度预算。我认为按公司制定预算显然比按个人分配合理得多,毕竟有些用户从中所创造的使用价值会比其他人多得多。

Jordan:那你看到大家实际上是怎么执行这一点的?显然,如果你直接使用超级豪华的最大化思维模型(Max Thinking Model),预算很快就会烧光。但在某些情况下,当真正执行预算时,大家会采取不同的方法,对吧?

Crystal:是的,没错。所以我看到有些人——我和一些人聊过,他们属于规模较小的公司,预算要小得多。他们的做法是,尝试优化如何针对像 Anthropic 或 OpenAI 这类较昂贵的代币进行使用。他们会先用较便宜的模型处理大量内容并压缩成较短的提示词(Prompt),然后再使用更昂贵的模型,或者使用公司不计入预算的模型。关于到底哪些模型会被计入预算,存在很多差异。有些企业把自己的自研模型算进预算,但有些企业不算。所以如果企业不计入,很多人就会倾向于把那些免费模型推到极限、大量使用,然后再去用那些真正要花钱的模型。

Jordan:你还看到人们——也许 Max 我可以让你聊聊这个。你最近看到越来越多的人把代币花在编程上,而不是其他使用场景,对吧?这似乎是增长最快的市场。

Max:是的,我认为编程/软件开发总体上是目前为止最消耗代币的使用场景。实际上我认为这就是为什么很多关于代币预算的讨论显得相当……我认为很多预算本身是非常盲目的。比如我听到有人说,他们想确保销售人员不用 Opus 或 Fable 来写邮件,所以要求他们必须改用 Sonnet。这就像是,哥们,从代币的角度来看,生成封邮件几乎是免费的。你用 Opus 还是 Sonnet 来写这封邮件根本无关紧要。我完全无法理解为什么你要制定这样的政策来减少代币支出。我还听到很多公司的奇葩规定,比如只允许工程团队使用 Cloud Code 或 Codex,而其他人只能用 Codework 之类的东西。我认为这非常短视。老实说,你不应该建立一个工程师高高在上、其他人只能被迫使用次等工具的等级制度。你真的应该给每个人尝试这些工具的机会,找出如何利用它们提高效率。

Jordan:是的。Joey,你现在在使用这些模型吗?如果我有权限使用而你没有,你会怎么想?

Joey:我可能会……是的,我确实在使用一些权限,虽然没有 Max 和 SemiAnalysis 的其他人用得那么多,但这可能只是我们目前工作的性质所致,现在情况也在改变。但是是的,我会相当生气,因为我仍然大量使用 Opus 4.8 来拉取各种数据源做 AI 研报任务,做更多研究类型的任务。嗯,是的,我会非常生气。

Jordan:你怎么看待 ROI(投资回报率)的问题?我认为对很多人来说,代币预算背后的整个动机显然是有人还没有看到这项投资的回报。要么是没看到,要么是还没显现出来。但结合你做的很多研究,你会发现使用它有很多好处,对吧?

Joey:是的,我认为鉴于目前市场非常专注于编程,现在前沿实验室在 API 方面的 ARR(年度可重复收入)有 70% 以上来自于编程领域。其次,据我们所知,这主要是由超级用户和头部企业驱动的。编程应用非常广泛。对于 Anthropic 来说,并没有单一家独大的客户。比如 Meta 大约占 Anthropic 总 ARR 的 3% 到 5%,但整体主要是由超级用户驱动的。如果你在其中一家公司达到了超级用户的程度——我认为 Ramp 的数据表明,排名前 1%(即 99 百分位)的公司,每位员工每年在 AI 上的支出高达 10 万美元。如果你达到了那种程度,说明你显然获得了相当不错的 ROI。在我们与许多企业的交流中,这些顶尖工程师的支出甚至可以远超有限的预算上限。但如果你是一个花了天价却看不到 ROI 的人,你的预算很快就会被砍。我认为大家总会尝试一些最终放弃的项目,废弃之后继续前行。但很明显,因为市场高度专注于编程,人们获得了 ROI,所以他们会继续支出。我们持续听到 Anthropic 和 OpenAI 的净增 ARR 都在扩大——特别是 OpenAI 从 3 月下旬推出 Codex 以及 5.5、5.6 版本以来,API 代币的支出明显在扩大。

Jordan:是的,有很多 traditionally(传统上)不做大量开发工作或不专注于此的组织,只允许中后台人员使用 Copilot 365 或 SAT 之类的工具。但我认为市场会继续扩大。当谈到个人的具体使用时,你们怎么看应用程序中的 API 使用与编程订阅计划之间的平衡?你们和他们交流时,会问他们是在用 Cloud Code 订阅制,还是按代币付 API 费用吗?

Max:嗯,我的意思是,任何能用订阅制的人绝对应该用订阅制,纯粹是因为补贴太高了。OpenAI 和 Anthropic 对此非常精明,所以当他们推出企业计划时——比如 SemiAnalysis 用的就是 Anthropic 企业计划——他们根本不让你用订阅制,强迫你按代币付费,因为他们知道那才是利润所在。但我认为总的来说,能用订阅制的人都会用订阅制,只有那些需要突破限制的人才会去付 API 费。

Crystal:我甚至和几家初创公司的人聊过,他们根本没买 Team 班或 Enterprise 企业版。他们就是每个月买 5 个(或者任何所需数量的)Claude 或 OpenAI 个人订阅,刷公司卡。如果达到了已有账户的限制,他们当月就再买一个,因为对他们来说,这样运营比直接走 API 计费划算得多。

Max:但是是的,如果你是一家足够年轻的初创公司,根本不在乎安全性或任何企业级保障,那就绝对应该给每人买 10 个订阅,而不是付 API 额度。我们最近做的一项研究(有一条相当火的推文)指出,对于 Codex,每月 200 美元的订阅大约可以换来价值 12,000 美元的 API 额度;而 Anthropic 每月 200 美元大约能换来 8,000 美元额度。显然,对于能在两者之间选择的人来说,这完全是不假思索的选择。

Jordan:Max,你能再深入讲讲这个吗?当你谈到这些业务的利润率概况,再对比订阅计划与 API 时,情况到底是什么样的?我把屏幕上那张推文串里的核心图表调出来。

Max:好的。[清嗓子] 嗯,是的。本质上,当你听说每月 200 美元的计划能产生价值 8,000 美元的 API 额度时,如果平均用户的利用率接近 100%,那么订阅制的利润率就会低得多。所以真正关键的问题是:在我们整个用户群中,实际的平均利用率是多少?Jordan 刚才展示的图表就是各个计划的盈亏平衡百分比。我们可以看到,对于 Claude Max 20x 计划,盈亏平衡点只有 10%。对于 Pro 和 5X 计划,稍微好一点,是 20%。而 OpenAI 因为在订阅限制上更加慷慨,Plus 和 Pro 5X 计划的盈亏平衡点更低,为 11.4%,Pro 20X 计划甚至只有 5.7%。我们相当确信,尤其是对于这些 20x 计划,Anthropic 和 OpenAI 的平均利用率远高于 10% 和 5.7%。这意味着,这些 20x 计划的利润率不仅比 API 差(我们认为 Anthropic 的 API 利润率至少在 85% 以上),甚至整体上可能是负利润率。因此,这些公司当然希望将尽可能多的用量转移到 API 上。Joey 写了一份关于 Anthropic 业务的通讯,这刚好可以引出为什么我们认为 Anthropic 的处境可能比 OpenAI 更强。

Joey:是的。而且我认为,一旦你转向 Anthropic 的企业订阅计划,订阅费里就不包含任何用量了,全都是按 API 定价计算。

Joey:是的,我认为我们在 Anthropic 发现的非常有趣的一点是,因为他们现在的业务——虽然情况正在改变——有 80% 以上的 ARR 来自 API 端,正如 Max 所说,API 是超高利润率的,所以他们今天已经达到了盈利的状态。其中一部分是按 Non-GAAP(非通用会计准则)计算(即剔除股权激励成本),但像营业利润在第二季度已经盈利,第三季度甚至可能达到 10 亿美元以上的利润。这部分是因为他们增长太快了,招聘速度和重新投入训练的速度跟不上他们的设想。但正因为他们目前拥有毛利优势,他们可以把任意多的资金重新砸回模型训练中,从而扩展其模型优势和能力优势。我们认为这显然是他们应该尝试去做的。所以,仅仅因为他们今天非常赚钱,并不意味着他们应该立即或尽快维持 30% 的 EBITDA 利润率来证明这是一个盈利的商业模式,而是应该继续尽可能多地投入到模型训练中。

Jordan:是的。你能谈谈消费级和企业级之间的比例吗?假设消费级是指那些付费订阅计划,而企业级是按 API 使用量付费。当你观察这些时,显然大部分 Twitter 用户都在用订阅计划,但随后你只要拿到一个大客户,他在 API 代币上的支出极其庞大,以至于把其他一切都淹没了,这让它成为了一门好生意。

Joey:是的。因为 Anthropic 非常专注,他们在历史上一直专注于企业级。他们 90% 以上都是企业级。相比之下,ChatGPT 从消费级切入,在第一季度,其 ARR 的 60% 来自消费级,而且 9.5 亿周活跃用户中只有 6% 最终付费购买了计划,大多数人买的是每月 20 美元的计划。这是完全不同的业务组合,因为 OpenAI 必须为另外 9 亿免费周活跃用户提供服务并承担成本,这导致他们的综合毛利率拉低了约 20 个百分点。不过这种情况正在改变。我们个人认为,随着 OpenAI 的 API 业务自 3 月下旬凭借 Codex 以及 5.5 和 5.6 版本崛起,二季度消费级与企业级的 60/40 比例已经翻转为 40/60。据我们从渠道(特别是像 Bedrock 和 Foundry 这样的代币即服务/Token-as-a-Service 业务)听到的消息,OpenAI 已经意识到了这一点并开始转型,甚至新增 ARR 在 Anthropic 和 OpenAI 之间看起来更加均衡了。

Jordan:是的。随着 5.6 Six Soul 的发布,这挺令人震惊的。X 上像 Tibo 这样追踪每日活跃用户数的人都在庆祝用户数突破 700 万、800 万。但要明确的是,ChatGPT 免费层有超过 9 亿的周活跃用户。从 9 亿的基数来看,真正转换为完整付费产品的人并不多,转化率目前并不算高。

Joey:是的,很有趣。你甚至能在 Claude 消费级的付费率上看到这一点:Claude 免费用户中有大约 9% 最终会付费。所以它的用户群体要聚焦得多。如果我们看那 9 亿周活用户,很多只是把 ChatGPT 当作谷歌搜索的替代品。消费级业务很难做变现,留存曲线通常相当差,用户 3 个月、6 个月、12 个月后的留存率很低。广告也是个艰难的商业模式,很难扩展。虽然他们提出了 2030 年疯狂的广告收入目标,但消费级确实不好做。鉴于 API 代币的利润率,企业级才是王道。Anthropic 在今年前六个月凭借早期在编程领域的杠杆建立了相当好的领先优势,而到了七月中旬,这似乎正在演变为一场旗鼓相当的双雄争霸赛。

Jordan:是的。Crystal,在这场双雄争霸中你看到了什么?

Jordan:你接触的人里,大家是在用 Anthropic、Codex,还是两者都在用?

Crystal:感觉几周前我和大家交流时,大家使用 Anthropic Claude Code 的比例非常高。如果我问他们为什么,他们会说“只是习惯了而已”。但现在,随着消费级用户使用 ChatGPT 的频率远超 Claude,这种效应开始渗透到企业级。以前那些完全不碰 Codex 的 Claude Code 重度用户,开始觉得“好吧,要不我也试试 Codex?”所以,尽管消费级占的蛋糕份额很小,利润率也不如企业级直接,而且 OpenAI 历史上在消费级市场的表现不如 Anthropic,但他们在消费级领域建立的牵引力最终会渗透进来,我们在过去这一周里已经开始看到这种迹象了。

Jordan:Max,你的看法是什么?OpenAI vs Anthropic,对你来说目前处于什么格局?

Max:我记得上次参加这个播客时,刚好是 5.5 发布的时候,当时我们还在聊年初 OpenAI 的处境有多么艰难。我认为 3 月和 4 月其 ARR 增长可能是平的,这肯定在 Sam Altman 脑海里敲响了警钟。但我们当时预测 5.5 会是一个拐点,它确实是个非常好的模型,大概达到了 Opus 4.8 的水平。而这一预测的发展甚至比我们预期的更快、更乐观。这里有些人甚至说 5.6 和 Fable 一样好,而且价格只有一半。我们还认为它可能是一个小得多的模型,这证明了 OpenAI 出色的训练能力。正如 Joey 之前提到的,现在 OpenAI 和 Anthropic 之间的月度净增 ARR 已经旗鼓相当,这相当令人震惊——此前人们有点把 OpenAI 淘汰出局了(Jordan 可能是其中之一 [笑声]),但伙计们,他们卷土重来了!

Jordan:我很灵活,随时调整观点。这一切始终取决于模型,伙计们!大家总是问我什么时候停止黑 OpenAI,只要他们发布一个足够好的模型,它就是好模型。对于我想做的事情,我现在基本上默认使用 OpenAI,尽管它的客户端不支持多标签页等功能。

Max:等等,你在用 Codex App 还是 CLI(命令行界面)?

Jordan:CLI。

Max:你的使用形态是 CLI?

Jordan:CLI。

Max:我觉得他们根本不希望你用 CLI,伙计。他们非常积极地想让你用 App。是什么让你退缩了?

Jordan:标签页(Tabs)。我需要同时打开多个标签页。

Max:好吧。我认为你应该这样用——因为我同意,我第一次用 Codex 时,每次开新对话,它就消失在左侧边栏的茫茫大海里。正确的用法应该是:每个项目只固定(Pin)一个主线程,任何时候有具体需求,就让那个主线程去派生子线程(Subthreads)。这样你实际上根本不需要去管左侧边栏里的绝大多数线程,只需要用那几个固定好的主线程就行。

Jordan:是的,那太糟糕了。其次,我一直在远程 SSH 环境里工作,他们的远程体验很烂。所以对这两点我非常反感。

Max:有道理。我觉得他们在改进这个,不过明确地说,我不用它来看代码。

Jordan:谢谢澄清。上次你来的时候我们就讨论过,有时你还是得在终端里运行东西,查看日志输出,这并不是标准 Codex App 所擅长的。但我不是他们的目标市场,我明白他们瞄准的是全球的“氛围感程序员(Vibe Coders)”,帮助大家构建更多 B2B SaaS,这是他们的核心商业模式。我不是目标市场,这没问题,我会继续用 CLI。

Crystal:实际上,我好奇他们内部大多数软件工程师是用 App 还是 CLI。

Jordan:在 SemiAnalysis 肯定全是 CLI。我们所有的硬核工程师都是 CLI 的死忠粉,绝不可能放弃它。

Max:这是个好问题,你下次可以去问问他们。

Jordan:好的,下次见到 OpenAI 的人我会问问。好的,让我们换个话题,聊聊谁会成为第三名。我们之前讨论过一些发布:xAI 卷土重来,他们发布了挂载 Cursor 的 Grok,发展势头良好;Meta 推出了 Llama Spark,堆叠了海量算力,并暗示要推出 Neocloud(新一代云服务)——当然 xAI 是第一个这么做的。你们想先聊聊模型还是算力?

Max:先聊算力吧,我觉得更更有趣。模型方面一句话总结(TL;DR):它们不差,但在现阶段,除非你能交付真正的顶级前沿模型(Frontier Model),否则根本不重要,而它们显然还算不上真正的顶级前沿,所以谁在乎呢。你觉得会有人把它们的 API 用到爆吗?

Jordan:在它成为真正的前沿模型之前,我不认为有人会用它们的 API。

Max:是的。当他们提供 API 时,其“代币即服务”业务也会有极高的利润率。但这前提是它必须比当时最好的 Anthropic 和 OpenAI 模型更好,这说起来容易做起来难。我觉得像 Grok 4.5、Spark 1.1,它们唯一的价值在于证明扩展曲线(Scaling Curve)依然有效。这就像是:好吧,这些人不像 Gemini,他们目前还在牌桌上,能训练出合格的模型。虽然还称不上顶级前沿,但他们有非零的概率能追上来。就我个人而言,我绝对不会把代币用量转移到 Grok 4.5 或 Spark 1.1 上。

Jordan:好吧。但你提到了另一个名字,在我看来它现在令人震惊地排在第五位——Gemini,你还是这个观点吗?

Max:100% 确定。我认为他们显然处于第五名。[笑声] 除非 Gemini 3.5 Pro 比我们听到的行业传闻好得多,否则他们可能会永远停留在第五名。

Jordan:永远停留在第五名可能与模型质量有关,而模型质量又与他们拥有的算力挂钩。

Max:是的。当第一次看到 xAI 与 Anthropic 的交易(Elon 把 Colossus 1 号集群的算力几乎全部租给了 Anthropic)时,我一开始误解了 Elon 的意图。但实际上真正的核心问题是:假设你通过扩大算力规模证明了自己确实能够达到前沿,你是否有能力回收(Claw back)所有的算力? 这就是 Elon 在结合 Cursor 和 xAI 时采取的策略——基本上是在说:“我留给你们足够的算力去证明你们有能力达到前沿;与此同时,我把所有多余的算力以极高的利润率(可能是市场价的 3 倍甚至 4 倍)租出去来实现变现。但我会在每一份合同里加入 90 天回收条款(Clawback Clause)。一旦你们做得非常好,我就把所有算力全部回收拿来自己用。” 对于一个坚信自己能构建出 RSI(递归自我提升/AGI)的人来说,这是一个非常有效的策略。你可以这样理解:OpenAI 和 Anthropic 是通过直接卖推理代币来将算力变现,而 Elon 则是通过做这些短期算力租赁交易来变现。关于 Meta 算力,有传言说他们要变成 Neocloud。我认为只要他们采取 xAI 风格的带回收条款的交易,或者直接提供给外部,或者做“代币即服务”——只要这种变现方式在理论上允许他们在 Llama 表现出色时把算力全部收回,这就是一个极度明智的决定。这让他们短期内可以更激进地购买算力,同时长期来看依然保有构建 AGI 的机会。谷歌的问题(也是他们除了 Gemini 3.5 Flash 表现不佳之外排在第五的原因)在于,他们签署了大量长期算力协议,无法回收租给别人的 TPU,这些算力被长期锁定。这表明他们自身缺乏构建 AGI 的信念。像 Noam Shazeer、John Jumper 等 DeepMind 顶尖人才的离职,某种程度上就是因为这个事实——他们是坚定的 AGI 信徒,但领导层不是,所以他们认为在这种情况下唯一的出路就是去别的地方工作。

Jordan:哇,好吧,非常犀利的观点。我想深入探讨两点。第一点与算力回收(Clawback)有关。这确实是一个有效的策略,但你基本上只能回收一次,之后就再也没有人愿意从你这里购买或信任你了。还是说你认为可以在这两者之间找到平衡?

Max:在理想状态下,你只需要回收一次,因为只有当你确信继续扩展能够突破至顶级前沿时你才会这么做。但我也认为有可能不只回收一次。原则上 Anthropic 将其视为短期交易。如果 Elon 六个月后说“我要全部收回”,一年后又说“开玩笑的,我们其实还是训练不出前沿模型”,而此时 Anthropic 业务极其火爆、急需算力,他们为什么要拒绝呢?

Jordan:是的,经济利益能让敌人变成朋友。第二点是关于商业模式,Joey 我想请你聊聊。哪种商业模式更好?是销售你自己的前沿模型(或接近前沿模型)的代币,还是以高于市场价的溢价短期出售算力访问权?

Joey:销售自己的代币绝对是最好的模式。哪怕你是 AWS 或 Azure,销售别人的代币也是相当不错的商业模式(如果你能参与上行收入分成的话)。但如果你能以高于市场价的速率运行算力,这也是个不错的生意。关于 Meta 的算力出租,这个方案其实已经讨论了一段时间了(从去年第三季度就有人提出)。这给扎克伯格提供了一个兜底方案:如果 Llama 不够成功,他们也有办法在资本支出上获得体面的 ROI。这让他们可以在 2027 年乃至 2028 年放胆投入巨额资本支出,因为市场需求摆在那里。Anthropic 愿意支付 3 倍市场价就是一个信号。投资者可以感到安心:即便 Llama 被认定不成功,Meta 也能转型为一个优质的 Neocloud 业务,专门为各大实验室提供服务。

Jordan:是的。但你们在 Meta 算力文章里的那张图表非常惊人——xAI 和谷歌的协议以市场价 4 倍的速率将算力变现。虽然过去你说的很有道理,但我有点想质疑:这种近期的 GB300 租赁协议难道不是极好的生意吗?利润率显然高得离谱,对吧?

Joey:是的,利润率高得惊人。当你计算每吉瓦(GW)的 ARR 时,很多人只要能在推理端获得 480 亿美元的实际代币 ARR 就非常高兴了。谷歌那笔交易看起来不是很划算,但 Meta 算力出租是在向市场讲一个故事:他们能够复制 xAI 的模式(除非需求呈指数级爆发导致大家疯狂抢购 GPU,否则这可能是一次性的)。Neocloud 本身就是个很好的生意,每吉瓦产生 120 亿到 500 亿美元的收入。而且各大实验室在提升每吉瓦代币吞吐量方面做得太出色了,新模型定价也更高。比如 Anthropic 每兆瓦(MW)收入去年是 1600 万美元,现在在三个季度内翻了一倍多,有些人认为两到三个季度内还能再翻倍。

Jordan:让我们看看这个趋势。我把图表放在屏幕上。整个“代币即服务(TaaS)”市场有两点深深震撼了我:第一,增长速度极其恐怖。我以为去年第四季度的市场规模已经很大了,但与你们预测的今年年底的数字相比,去年显得微不足道 [笑声],正如你所说,翻了不止一倍。第二,微软 Foundry 在这里的表现太糟糕了。

Joey:随着最近 OpenAI API 的成功,Foundry 的数据会被向上修正。此前 Foundry 90% 的用量来自 OpenAI,而 OpenAI 此前极度偏向消费端,API 还没爆破。Foundry 现在好一些了。相比图表,Vertex(谷歌)可能会因为 Gemini 的表现而更差一些。但要看最新的 Tokconomics 预测,你得付费订阅,伙计,我们不能免费白送 [笑声]。不过我们这次好歹把坐标轴留着了。当我们和企业交流时,代币即服务(TaaS)是非常受欢迎的消耗代币的方式。AWS 和 Azure 与 Fortune 500 强企业有巨额业务往来,企业客户每年在云端砸数亿美元。如果我能直接找现有的云厂商,拥有更多的模型选择权,消耗已有的企业协议(ELA)或抵扣额度,这对 AWS 和 Azure 的客户来说都极具吸引力。半年前 TaaS 可能只占 Anthropic 业务的 5%,现在很可能已经占到了 20%。

Jordan:Crystal,你如何看待大家选择三大超大规模云厂商的 TaaS,还是选择 Smaller(较小)的初创公司(如 Together、Base10、Fireworks,或者 OpenRouter 上的任何服务)?

Crystal:随着越来越多的传统大型企业介入——比如金融服务业在 AI 的利用上还有巨大的潜力未被释放——这就是 Azure 和 Bedrock 受益的地方,因为这些企业本来就是他们的客户。一旦他们获得了内部合规批准,就会直接通过既有渠道购买,这占据了市场的绝大部分份额。

Jordan:有道理。Max,你呢?你如何看待 Together、Fireworks、Base10 这些初创公司的 TaaS 增长?相比于绑定大型实验室的云巨头,它们发展得怎么样?

Max:它们都是非常令人印象深刻的企业。我确实预计开源代币用量的增长速度会慢于前沿模型(Frontier)代币用量,但这仅仅是因为前沿代币用量将会呈现绝对的爆发式增长。开源代币用量同样会爆发,只是程度略低一些。有趣的是,如果你和投资 Together、Fireworks、Base10 的风投(VC)聊,他们最喜欢的逻辑是:“推理将是有史以来最大的市场,所以哪怕这些公司只能在这个超级巨大的蛋糕里切下一极其微小的份额,也足够让我们赚翻了。” 这个论点基本上是对的。我不指望它们的用量能超过 OpenAI 或 Anthropic,但在未来它们依然会是极好的企业。

Jordan:关于它们可以绑定大型实验室的传闻怎么看?比如 xAI 赢了一点,Fireworks 就因为绑定了 Cursor 而跟着暴涨。

Max:我不认为这能长期持续。Fireworks 能获得曝光是因为最初 Composer 曾基于 Chem 进行后训练。如果你是一个从零开始构建前沿模型的实验室,没有任何理由相信 Fireworks 的工程师在模型优化上会比你自己的工程师更强。因此我不认为它们未来能分走这部分利润。

Jordan:那为什么三大云巨头能分走这部分利润呢?

Max:因为云巨头拥有 Neocloud 所不具备的企业分销渠道。Anthropic 让利给 Bedrock,并不是为了让亚马逊工程师去优化 Claude 的运行速度,而是为了让所有依赖 Bedrock 的现有企业客户能够直接使用 Claude。

Joey:我们听到传闻说,这笔协议可能会重新谈判。因为最初的条款对 AWS 过于有利(能拿 20% 到 30% 的收入分成)。云厂商拥有庞大的客户基础,企业对它们的安全与合规非常放心。但当时交易达成是因为亚马逊有推动 Trainium 芯片工作的激励。我们拭目以待看这种收入分成能否持续。

Jordan:让我再为非云巨头的 TaaS 初创公司做一次多头辩护(Bull Case)。从 AWS 和谷歌买 TaaS 的一大好处是他们的工程师在优化 Trainium 和 TPU。但现在有一整批芯片初创公司正在推向市场,它们最直接的路线就是与 TaaS 初创公司合作——顶级前沿实验室不会花时间去为你这个“第七好的芯片初创公司”做优化,但如果芯片初创公司与 TaaS 合作,为某个模型做出了比英伟达性价比高得多或性能强得多的优化,它们就有机会创造极其独特的价值。你认为这些内核工程师(Kernel Engineers)未来会不会走这条路?

Max:这一点很有道理,短期内可行。但如果任何新芯片初创公司真正达到了足够的规模,前沿实验室就会直接组建内部团队来确保模型在该芯片上完美运行。绝不可能出现一种情况:一种比英伟达好得多且大规模出货的新加速器出现后,OpenAI 居然要依赖 Together 去帮他们在该芯片上运行模型,而不是直接与该芯片公司合作开发第一方能力。

Jordan:你认为它会走 Cerebras 的路线——芯片公司为了成功,最终必须自己变成 Neocloud,并与前沿实验室建立直接联系。好的,有道理。

最后我们可以聊聊 Meta 的 MSL(Massive Scaling Law)。Max,我非常喜欢文章里关于强化学习(RL)的速成课——不仅是从技术角度,更是从商业角度(人们去哪里买数据、如何构建环境、市场格局如何)。你能宏观介绍一下吗?过去在预训练时代,谁有顶尖团队和最多算力,谁就能训练出最大最强的模型;但现在有了与 RL 相关的扩展定律(RL Scaling Law),这在宏观上是如何演变的?

Max:是的。我认为让每个人理解强化学习(RL)是当今提升模型能力最重要的 Scaling Law,这一点至关重要。很多人相信,阻碍模型像人类一样在电脑上完成任何工作的唯一障碍,就是缺乏足够的 RL 环境(RL Environments)。这种数据能让模型在其中尝试自主完成白领任务,反复试错直到彻底掌握解法。现在出现了一整套全新的产业链/供应链——RL 环境初创公司。它们的工作就是将现实世界中具有经济价值的任务转化为 RL 环境,然后卖给实验室用来训练模型。

在图表上可以看到主要参与者。我认为其中一些 ARR 数字甚至被低估了。目前行业共识是,今年前沿实验室(OpenAI、Anthropic、Google、Meta、xAI,以及亚马逊、微软、Thinking Machines 等)的总数据预算将远超 100 亿美元,相比去年增长了 10 倍以上,2027 年极有可能再翻 10 倍。对于这些初创公司来说,客户需求根本不是问题,实验室绝不会因为价格太贵而拒绝合同,唯一的问题是你能否足够快地生产出高质量的数据——只要能,实验室愿意支付任何代价。顺便提一句:Anthropic 的模型此前在编程领域最强(至少在 5.6 Soul 出来之前),核心原因就是他们在向这些 RL 环境初创公司购买编程数据时最为激进。其他实验室也开始意识到这一点并全力追赶。

Jordan:你能深入讲讲创建这些任务的过程吗?你在文章中提到 Meta 调动了数千名工程师做这项工作,并澄清了“数据标注是毫无意义的苦力活”这一偏见——实际上它既有巨大的经济价值,又极具智力挑战。

Max:是的,我说过它可能比你在大厂做日常工作更有经济价值,也更能启发智力。很多人听到“AI 数据”,还以为是菲律宾的外包人员在画标注框或者给色情暴力文本打标签。哥们,模型早就彻底解决那些简单任务了!现在的数据只有在包含模型还不会做的知识时才有价值。

在软件工程领域,这意味着要制作一个好的 RL 任务,通常需要一个优秀的人类工程师花费整整一天的时间去设计,确保这是模型目前无法自主完成的任务。你需要坐下来构思一个真实的工程问题,编写验证器(通常是一套集成测试和评分标准,用来检查模型是否真正成功解决了问题)。你还需要为模型撰写 Prompt(提示词),这需要在两个矛盾的因素间取得完美平衡:一方面提示词必须 100% 公平明确,不能因为提示词不够具体导致模型少做了隐性步骤而误判模型失败;另一方面,提示词必须真实、自然,符合人类在现实中向 AI 提问的方式。把握这种平衡极度困难。我们听说,对于质量最高的编程任务,实验室愿意为单个任务支付超过五位数(上万美元)的报酬!这已经达到了一个优秀工程师一周的薪水水平。所以这绝不是令人昏昏欲睡的简单劳动。各位听众,如果你正在找工作,且极其擅长创建 RL 任务,你现在的年薪可以达到七位数(百万美元以上)。

Jordan:这会让不少听众感到兴奋。你能更具体地分享一下,如何在“对 AI 而言太简单”和“对 AI 而言不可能完成”之间找到那个平衡点吗?

Max:老实说,这个标准一直在变。八个月前我自己也向实验室卖过环境数据,当时创建数据比现在容易得多。今天,你通常需要识别出模型现有的特定失败模式(Failure Mode),然后专门针对该失败模式设计 RL 任务。检验难度是否合适的唯一方法,就是让模型尝试解决 10 次,看成功率是多少,然后不断迭代。如果这是你第一次尝试,你的第一个想法几乎肯定太简单了——尝试把它变难 10 倍,也许就能达到合适的难度水平。

Jordan:非常有意思!好了各位,今天我们进行了一场旋风般的深入探讨。在我们聊完代币预算、Anthropic 利润率、Meta 算力、MSL 之后,Crystal,我们还有什么遗漏的吗?

Crystal:我想不出来了,最近光顾着看世界杯了。我们录制时是 7 月 15 日星期三,刚刚目睹了阿根廷 2-1 逆转绝杀英格兰。办公室里的一群英国同事现在在楼下全抑郁了,太疯狂了。

Jordan:Joey,你在结束前有什么想说的?

Joey:没什么,代币支出目前一路飙升,形势很好。我非常期待下周开始的云巨头财报,谷歌、亚马逊、微软会陆续发布,营收顶线应该会非常好看。

Jordan:好的,最后让我们来一轮 Vibe Check(氛围/心态调查)。Joey,你对市场的态度是什么?

Joey:只要实验室的 ARR 在良好增长且没有减速,我觉得一切都很棒。现在 OpenAI 正在追赶,整体氛围很好。虽然过去几天半导体板块有些波动,但那只是夏季动荡。等大家度完假回到办公室,半导体在一年内还会暴涨,一切都会好起来的。

Jordan:是的,暑期过后我们会看到加速增长。Joey 会打出 84 杆的高尔夫好成绩,看着实验室 ARR 暴涨并心满意足。Crystal,你的 Vibe 如何?

Crystal:我觉得非常好,和 Joey 说的一样。我需要在 AI 泡沫破裂前离开旧金山,所以在太晚之前我要赶紧搬走。

Jordan:Crystal,你觉得这是泡沫?接下来我们应该公开谈谈我们的赌局了。

Joey:是的!输家有惩罚。Max 提出了一个输赢盘(Over/Under):Anthropic 的 ARR 到 2027 年底能否达到 4000 亿美元

Jordan:是的,2027 年。Joey,你现在不能把我们模型的实际数字透露给他们,他们得付费订阅 Tokconomics 模型才能看 [笑声]。那么,谁押了 Over(大于),谁押了 Under(小于)?

Max:我押了 Under(低于)。

Jordan:我押了 Over(高于)。

Joey:Jeremy 和我(Joey)都押了 Under。但我们还没决定具体的赌注是什么,今年内我们会弄清楚的。

Jordan:上周我们在 Rays 聚会时你们看到我们的筹码了吗?我抽了一张 20 加元,Rake 拿出了 200 新加坡元,还有一些卢比 [笑声],Dylan 拿出了欧元,桌上有五种不同的货币。所以不管你们押什么,我都跟进加币,和 Max 一起押 Over!因为我们是指数外推主义者!

Max:没错!输家必须写一篇 Newsletter 详细解释自己为什么预测错了。

Jordan:太棒了!我们还要在 SemiAnalysis 内部搞一个预测市场,押注 Jeremy(SemiAnalysis 创始人 Dylan/Jeremy)每周的代币消耗量,搞一个 Over/Under 让大家都参与进来。Meta 内部不是在搞类似 PolyMarket 的预测市场吗?我们也来搞一个。

Max:哥们,Meta 赶紧把那个内部项目关了吧,他们在干嘛呢 [笑声]。

Jordan:我们就建立一个押注 Jeremy 代币消耗的市场,我喜欢这个点子。嘿 Jeremy,我押了 6000 卢比在你身上,这周给我狠狠地压榨数据中心仪表板,伙计!

好了,感谢各位抽出时间,希望听众们喜欢这一期。让我们重回工作,继续追踪那些代币吧!

Disclaimer: Investing carries risk. This is not financial advice. The above content should not be regarded as an offer, recommendation, or solicitation on acquiring or disposing of any financial products, any associated discussions, comments, or posts by author or other users should not be considered as such either. It is solely for general information purpose only, which does not consider your own investment objectives, financial situations or needs. TTM assumes no responsibility or warranty for the accuracy and completeness of the information, investors should do their own research and may seek professional advice before investing.

Report

Comment

empty
No comments yet
 
 
 
 

Most Discussed

 
 
 
 
 

7x24