原文开篇点题:Google 正在推动把 TPU 卖给或租给其他公司、装进任何人的数据中心——而不再只锁在 Google Cloud 里。这引发了头条新闻、股价震荡,以及英伟达一次「值得玩味的」公开回应。更扎心的是:当今世界最顶尖的两个 AI 模型(Google 的 Gemini 与 Anthropic 的 Claude),完全或部分是用 Google 芯片、而非英伟达 GPU 开发的——英伟达对此心知肚明。
Gemini 与 Claude 完全或部分由 TPU 训练。这一事实直接促使 Meta——英伟达最大客户之一——认真考虑改用 TPU 开发新模型。(原文)
11 月 25 日 Meta 洽购 TPU 的报道发出后,英伟达盘中最深下挫约 7%,收跌约 3%;Alphabet 逆势大涨。(补充背景)
英伟达芯片在各类 AI 任务上的性能依然占优,CUDA 软件同样强势;且 GPU 在任何云上都租得到——TPU 直到最近还只有 Google Cloud 一家有。(原文)
原文判断:只要 Google 继续把芯片卖到自家云之外,就会有更多 AI 开发者把两家的芯片和服务器摆在一起逐项比价。这份报告就是这么做的。
原文解释:GPU 什么都能算,从渲染游戏画面到训练大模型,尤其擅长机器学习最需要的「矩阵乘法」;而 TPU 为矩阵乘法做了更极端的特化——这决定了它们后来的一切。
两大当家旗舰:Google 第七代 TPU「Ironwood」 vs 英伟达「Blackwell」。原文给出的总口径很直接——
——原文援引一位行业高管。但 TPU 的翻盘点不在单芯片:Google 能把数千颗 TPU 连成一个 Pod 协同工作,而英伟达(不借助额外组网线缆时)最多直连 256 颗 GPU。(原文)
原文的答案:连接规模。数千颗 TPU 连成一个 Pod,让开发新模型「格外好用且省钱」;英伟达不加额外组网时最多直连 256 颗。另一个答案是成本结构——芯片造价其实差不多,差的是商业模式。
NVL72 机架内 72 颗全互联,跨机架靠 NVLink/网络扩展,直连上限约 256 颗;再往上需要额外网络线缆组网,带宽与效率随之下降。(图示 128 格,每格 2 颗)
原文:数千颗 TPU 连成一个 Pod,训练新模型格外划算。官方数据:一个 Ironwood Pod ≈ 42.5 ExaFLOPS(FP8)、约 10 MW。(图示 216 格,每格约 43 颗)
是 CUDA 和它背后的软件生态。原文算了笔账:已经用 CUDA 的客户,继续租英伟达反而更省钱;只有那些有时间、有人力把代码重写一遍的开发者,才能真正吃到 TPU 的成本红利。
原文直球问答——JAX、PyTorch XLA 这些新方案弥合软件差距了吗?「短答案:没有。」不过 Google 正在拼命追赶,并向潜在客户搭售自研配套软件,让 TPU 更好用。
Claude 部分基于 TPU 开发;已签约至多百万颗(补充)
长期用 TPU 训练其最大语言模型(前员工 + 论文佐证)
正认真考虑用 TPU 开发新模型,谈判进行中
2023 年公开表示用 TPU 开发模型
Gemini 为 TPU 而生,全家桶原生适配
因早期 TPU 技术问题,去年转投 GPU——提醒:TPU 并非稳赢
原文花了大量篇幅揭秘 TPU 供应链——这也是多数二手报道漏掉的部分。
分析师估算的博通分成。它按 Google 蓝图完成 TPU 物理设计与关键封装、代管台积电产线,还提供命门级 IP——SerDes 高速互联(芯片间高速传数据、实现万卡并行的最佳技术)。(原文)
原文反驳黄仁勋「对手芯片免费也没人要」:台积电刻意不把产能过度倾斜给任何一家——英伟达永远拿不到它想要的全部产能,所以对手芯片永远有需求。(原文)
Google 与博通多次因 TPU 价格「顶牛」,于是引入联发科,即将代产一款低配版 TPU 以摊薄 AI 运行成本。(原文)
原文以 FAQ 形式写成,这里按原文口径浓缩——点击展开。
v1 只做推理、仅供内部(搜索、AlphaGo)。2018 年起在 Google Cloud 开放租用。
ChatGPT 引爆算力抢购,H100 一卡难求,市值冲上数万亿美元。
Google 首次把 TPU 明确定位为「推理时代」武器,9,216 颗一个 Pod。
签约至多 100 万颗 TPU、超 1 GW 算力——史上最大 TPU 订单,证明第三方大规模可用。
Gemini 3(纯 TPU 训练)口碑爆棚之际,The Information 曝出 Meta 洽购 TPU → 英伟达盘中暴跌 7%、官方下场回应「领先一代」,Alphabet 大涨。
The Information 以 FAQ 形式逐项拆解 GPU vs TPU:算力、成本、供应链、软件生态——本报告的主要依据。
CES 宣布 Vera Rubin 七芯片全面投产;GTC 2026 发布 NVL144:单机架 3.6 EF(NVFP4),宣称推理性价比数倍于 Blackwell。
第八代 TPU 一分为二:8t 管训练、8i 管推理(官方称训练最快提速 3 倍、性价比提升 80%);一周后官宣首次向精选客户直接出售 TPU——原文预判的路线成真,Anthropic 再签数 GW 下一代协议。
Rubin 出货撞上 TPU v8 部署潮,产量差从 3 倍向 2 倍收窄——真正的决战才刚开始。
短答案:现在还没有输家——但「英伟达别无对手」的时代结束了。
原文承认:性能覆盖面、CUDA、随处可租的可得性,英伟达全面占优;单芯片算力仍是 TPU 的约 2 倍,产量约 3 倍。它输掉的不是市场,是「唯一性」。
Gemini 与 Claude——世界最顶尖的两个模型,完全或部分由 TPU 训练。这句话在 2024 年还是异端,如今是原文开篇的既定事实。
原文点破:客户哪怕只是「讨论一下用 TPU」,都能逼英伟达降价。竞争让所有算力买家受益——包括没买 TPU 的。
台积电的产能分配决定 TPU 铺货上限(2027 剑指 500 万颗),而软件差距——原文口径「JAX 们还没补上」——决定 TPU 能不能被英伟达客户真正用起来。