101条目

内存墙与HBM经济学:AI的下一个瓶颈

内存墙(Memory Wall)描述的是AI算力能力与内存带宽之间日益扩大的差距。每一代AI加速器都需要更高的内存带宽——NVIDIA的Blackwell需要HBM3E,Rubin则将需要HBM4。目前只有两家公司能够实现HBM的规模化生产:SK海力士(SK Hynix)和美光(Micron)(三星正在追赶,但仍落后)。这种事实上的双寡头格局造就了结构性的定价权,只要AI算力扩张持续,这种定价权就会持续存在。HBM的定价与分配数据——通过作为Closelook Sentinel Ticker的美光进行跟踪——是衡量AI基础设施需求最可靠的实时指标。

由英文原文自动翻译。 阅读英文原文 →

为什么内存会成为瓶颈

AI模型规模的增长速度超过了内存带宽的提升速度。GPT-4级别的模型在推理阶段需要数百GB的高带宽内存。训练所需的内存则更多。每一代新的GPU都会提高每个加速器所需的内存量——Blackwell每个GPU使用192GB的HBM3E,高于Hopper的80GB。

HBM(高带宽内存)的生产在技术上极具挑战性:需要通过硅通孔(TSV)将多个DRAM芯片垂直堆叠,再通过先进封装将堆叠体与GPU封装绑定。其良率低于标准DRAM,产能扩张需要12-18个月。由于AI需求的增长速度超过HBM产能的释放速度,这造成了持续性的供给缺口。

SK海力士与美光的双寡头格局

SK海力士率先推出HBM3E,并占据最大市场份额。与NVIDIA的合作关系使其在分配中占据优势地位。

美光(Closelook Sentinel Ticker)进入HBM市场较晚,但正在积极扩产。美光每季度的财报电话会议提供了关于HBM定价、需求与分配的最佳公开数据——使其成为衡量AI内存需求最有用的实时信号。

三星在HBM良率上遇到困难,因而落后。其复苏轨迹是一个关键变量——如果三星追赶上来,双寡头的定价权将被削弱;如果它继续落后,美光与SK海力士将保持异常高的利润率。

这对投资组合意味着什么

内存通过六层模型的第二层进行跟踪。当HBM定价环比保持稳定或上涨时,说明AI需求强劲。当定价走软或库存增加时,这是AI资本支出周期可能降温的早期预警信号——这也会纳入CapEx Cliff分析中。

关键公司

MU ★ Sentinel
美光
Sentinel Ticker——HBM定价作为需求信号
000660.KS
SK海力士
HBM市场领导者——NVIDIA首选供应商
005930.KS
三星
HBM落后者——复苏轨迹是关键变量