101條目
記憶體牆與HBM經濟學:下一個AI瓶頸
記憶體牆(Memory Wall)描述AI運算能力與記憶體頻寬之間日益擴大的差距。每一代AI加速器都需要更多的記憶體頻寬——NVIDIA的Blackwell需要HBM3E,Rubin將需要HBM4。目前只有兩家公司能夠量產HBM:SK海力士(SK Hynix)與美光(Micron)(三星正在追趕但仍落後)。這種實質上的雙寡頭格局,只要AI運算規模持續擴張,便會形成結構性的定價權。透過美光作為Closelook Sentinel Ticker所追蹤的HBM定價與配額數據,是判斷AI基礎設施需求最可靠的即時指標。
由英文原文自動翻譯。 閱讀英文原文 →
記憶體為何成為瓶頸
AI模型規模的成長速度已超過記憶體頻寬的改善速度。GPT-4等級的模型在推理時需要數百GB的高頻寬記憶體,訓練過程所需更多。每一代新GPU都會提高每個加速器所需的記憶體容量——Blackwell每張GPU使用192GB的HBM3E,高於Hopper的80GB。
HBM(高頻寬記憶體)的生產技術門檻極高:需要透過矽穿孔(TSV)技術將多片DRAM晶粒垂直堆疊,再以先進封裝技術將堆疊體與GPU接合。其良率低於標準DRAM,且產能擴充需要12至18個月。這造成了持續性的供給缺口,因為AI需求的成長速度快於HBM產能的擴充速度。
SK海力士/美光的雙寡頭格局
SK海力士最早推出HBM3E產品,並持有最大的市佔率。與NVIDIA的合作關係使其在配額分配上佔有優勢地位。
美光(Closelook Sentinel Ticker)較晚進入HBM市場,但正在積極擴產。美光的季度財報電話會議提供了關於HBM定價、需求與配額的最佳公開數據——使其成為判斷AI記憶體需求最實用的即時訊號。
三星在HBM良率上遭遇困難,因而落後。其復甦軌跡是關鍵變數——若三星追趕上進度,雙寡頭的定價權將會減弱;若持續落後,美光與SK海力士將維持優異的利潤率。
這對投資組合意味著什麼
記憶體屬於六層模型(6-Layer Model)中的第二層。當HBM定價逐季維持或上升時,即證實了AI需求的強度;當定價走軟或庫存增加時,則是AI資本支出週期可能降溫的早期警訊——這一點與CapEx懸崖分析相互呼應。