101条目
定制芯片(ASIC):即使NVIDIA获胜,为何ASIC依然重要
定制AI芯片——谷歌的TPU、亚马逊的Trainium和Inferentia、Meta的MTIA、微软的Maia,以及由博通(Broadcom)和迈威尔(Marvell)设计的一系列客户定制芯片——常被描述为对NVIDIA的威胁。这种框定是错误的。定制芯片并非赢家通吃,而是针对特定工作负载。NVIDIA凭借CUDA与生态锁定效应赢得训练和通用推理市场。ASIC则在超大规模云服务商能够证明设计成本合理的特定推理工作负载上取胜。两种趋势同时增长,而博通和迈威尔无论哪家超大规模云服务商胜出,都能从ASIC侧收取设计费用。
由英文原文自动翻译。 阅读英文原文 →
定制芯片领域的三类参与者
- 自研芯片的超大规模云服务商:谷歌(TPU v5)、亚马逊(Trainium 2、Inferentia 3)、Meta(MTIA v2)、微软(Maia)。多年期项目,数十亿美元的设计支出。
- 定制芯片代工设计商:博通(规模最大,谷歌TPU即为其客户之一)、迈威尔(AWS等)。它们按客户规格设计并流片(tape out)芯片。
- IP与设计工具供应商:Arm、Cadence、Synopsys。每一款定制芯片都会使用授权IP和设计软件——无论哪款芯片胜出,这些供应商都能获得报酬。
为何ASIC对特定工作负载合理
一个全天候24/7大规模运行的工作负载——搜索排序、广告推理、推荐系统——可以将5亿美元的芯片设计成本分摊到数年的运营中。在特定的窄域工作负载上,ASIC相较GPU可实现3–10倍的性能功耗比提升。一旦超大规模云服务商的内部使用量达到足够规模,自研芯片在纯粹的投资回报率(ROI)基础上就变得具有成本合理性。这个算式很直接,并不依赖于某个特定AI趋势能否持续。
为何ASIC不会扼杀NVIDIA
训练前沿模型需要CUDA+GPU所提供的通用可编程性。新模型架构的出现速度快于ASIC设计周期能够跟上的速度——芯片设计周期为2年,而架构变化周期仅为6个月。CUDA生态效应(开发者心智占有、库的成熟度、兼容性)每年都在复利累积。那些运行混合工作负载的客户——也就是大多数企业——无法为ASIC设计成本找到合理性;他们会购买GPU。“NVIDIA杀手”这一说法已经错了十年,因为它误读了市场结构。
资金流向何处
NVIDIA捕获训练、通用推理以及企业AI工作负载的长尾市场。超大规模云服务商在自身高容量内部推理上获得成本节省。无论哪家超大规模云服务商胜出,博通和迈威尔都能获得设计服务收入。台积电(TSMC)则从NVIDIA和ASIC生态系统两方都获得晶圆份额。AI芯片这块总蛋糕在增长;只是切法不同。
投资含义
杠铃策略——做多NVIDIA以押注训练和通用市场,同时做多博通/迈威尔/Arm以押注ASIC生态——能够捕获这一趋势的两端。自2017年以来,仅凭ASIC威胁做空NVIDIA一直是亏钱的交易。而忽视定制芯片,则会错过半导体行业中最清晰的设计服务增长故事之一。