英伟达最近头疼的事儿可不止老黄那一件。
本周内,谷歌祭出了两款新TPU芯片,分别瞄准机密推理和长上下文。算上上半年发布的两款TPU芯片,第八代TPU已经扩到四种配置。
今年,谷歌第一次在同一年内推出四款TPU系统。而谷歌对TPU的野心,可能比外界想象得更大——
还是今年,谷歌破天荒开始对外销售TPU系统。
量子位从谷歌内部人士处获悉,谷歌内部信心十足,表示“明年TPU市场份额会快速上升”,届时“会有更多大型企业大规模使用TPU”。
至于性能方面,他们也自信满满。
至少在谷歌高层人士看来,“英伟达一家独步天下的日子快要结束了”。
(苏妈:咩啊?.jpg)
△图片由AI生成
“像英伟达一样”,对外销售TPU系统
今年,谷歌做了一个违背祖宗的决定——
首次向外部客户销售整套TPU系统。
量子位从接近谷歌的人士处获悉,一位加入谷歌不到三年的高管推动了这项决策。
在内部巨大争论声中,他力主改变TPU的商业战略,最终让管理层下定决心,“像英伟达一样”把TPU卖给外部客户。
△图片由AI生成
最早(2013年),TPU只是谷歌为了降低自家AI业务算力成本而自研的专用加速芯片,直到2018年才开始在Google Cloud上开放TPU对外算力租赁。
云上租赁形式意味着TPU相关硬件基础设施均由谷歌管理运营。
然而时间快进到今年Q1财报会,CEO劈柴哥表示谷歌观察到来自AI实验室、资本市场公司以及高性能计算应用领域对TPU的“强劲需求”,宣布将面向部分精选客户,支持在客户自有数据中心内部署TPU。
内部把这轮外售视为一次“以售养研”的结构性置换——用外部订单分摊数据中心的天量资本开支,用规模化需求反哺自研硬件的成本曲线。
Q2开始,谷歌向客户交付完整TPU系统。
系统包含计算、存储、网络硬件及软件等一整套能力,还提供训练和推理相关服务。
△图片由AI生成
这套商业模式已经开始显现收入潜力。
今年以来,Google Cloud的增长一路提速。Q1同比增长63%,Q2增长82%,到了Q3,收入达到307亿美元,同比增长103%;经营利润也由35.94亿美元升至111.21亿美元。
(超小声,Google Cloud应该是Q3财报上唯一让人看了不皱眉的part)
谷歌母公司Alphabet明确表示,TPU系统销售是第三季度Google Cloud增长的重要贡献因素之一。
最新10-Q中,谷歌母公司Alphabet已将“产品销售,主要为TPU系统”明确列入Google Cloud收入。管理层预计TPU系统销售将在Q4继续扩大。
虽然TPU系统销售的绝大部分合同收入要等到2027年才进入报表,目前还没有落实到财报上,但这一趋势恐怕难以逆转。
为什么今年才这么做?
其实谷歌对外销售TPU,是自然演化与外部条件共同作用的必然选择
虽然Q2财报会上,劈柴哥表示,谷歌内部对前沿AGI的算力需求依然是一条不可逾越的红线,但这两年高端GPU持续紧缺,求购英伟达无门的客户不得不另觅他法。
谷歌想要抓住这个窗口。
2025年发布的第七代TPU Ironwood,就已经专门针对推理进行了设计。到了今年的第八代,谷歌进一步把训练、实时推理、机密计算和超长上下文拆分成不同的系统配置。
谷歌芯片业务负责人Amin Vahdat对外透露口风说“未来属于专业化”,其意图正是以专业化芯片路线,撬动英伟达“一颗通用芯片包打天下”的叙事根基。
△图片由AI生成
其次,谷歌抡起小锤一锤四十、一锤八十地在疯狂补课TPU软件生态。
英伟达这些年最大的优势之一就是CUDA生态。英伟达早早把AI开发者的工具箱给配齐了,大量软件都围绕CUDA做过适配和优化。
作为主流AI框架,PyTorch对CUDA支持最成熟。
业界主流路径就是用PyTorch搭建模型,经由CUDA调用英伟达GPU,构筑起难以替代的生态壁垒。
然而很长一段时间里,谷歌TPU深度绑定TensorFlow、JAX,软硬件栈和GPU差异大,迁移门槛很高。
2025年年中,谷歌终于开始拉着Meta的PyTorch团队一起开发TorchTPU,目的就是支持少量改代码即可在TPU上跑PyTorch模型。
上个月底,TorchTPU这项合作成果正式开源。
会带来什么效果,相信不用我在这里废话了。
△图片由AI生成
性能和成本方面,11月5日,SemiAnalysis公布了一组新的Agent推理测试结果。
结果显示在Muse Spark等模型上,谷歌第七代TPU Ironwood已经能在部分测试中实现比英伟达GPU更高的每美元token产出。
此前,英伟达只在少数场景输给AMD;TPU带来的性价比冲击,则是它没见过、也不想接受的局面。
SemiAnalysis称,谷歌提交AgentX测试结果证明TPUv7能够在每美元性能上击败GB300 NVL72 FP4后,英伟达迅速组织了一支工程师团队进行反击。
英伟达的工程师和Agent们不分昼夜、没有周末地高强度加班。
甚至工作到当地时间凌晨2点。
经过四轮优化后,在某个模型的测试上,GB300每美元Token产出终于反超TPU 1.5-2.6倍。
前有AMD在GPU阵营内部追赶。
后有谷歌试图从架构层面撬动GPU作为默认算力选项的地位。
英伟达这回想不自己卷自己都难!
老黄的烦心事还没处理完,没想到AI芯片市场还要给英伟达加一道“左右为难”。
真乃英伟达的多事之秋,多事之秋啊……
参考资料:
[1]https://newsletter.semianalysis.com/p/tpu-strikes-the-king?utm_source=chatgpt.com
一键三连「点赞」「转发」「小心心」
欢迎在评论区留下你的想法!
— 完 —
🌟 点亮星标 🌟
科技前沿进展每日见