101エントリー
メモリウォールとHBM経済学:次のAI制約
メモリウォールとは、AIの計算能力とメモリ帯域幅の間で拡大するギャップを指す概念である。AIアクセラレータは世代を重ねるごとに、より多くのメモリ帯域幅を要求している——NVIDIAのBlackwellはHBM3Eを必要とし、RubinはHBM4を必要とする。HBMを量産できる企業は実質的に2社のみである:SK HynixとMicron(Samsungも追随しているが遅れている)。この実質的な複占が、AI計算のスケーリングが続く限り持続する構造的な価格決定力を生み出している。HBMの価格と配分データ——Closelook Sentinel TickerとしてMicronを通じて追跡——は、AIインフラ需要を示す最も信頼できるリアルタイム指標である。
英語原文からの自動翻訳です。 英語の原文を読む →
なぜメモリが制約となるのか
AIモデルのサイズは、メモリ帯域幅の改善速度を上回るペースで拡大している。GPT-4クラスのモデルは推論のために数百ギガバイトの高帯域幅メモリを必要とする。トレーニングにはさらに多くが必要となる。新しいGPU世代ごとにアクセラレータあたりのメモリ要件は増加している——BlackwellはGPUあたり192GBのHBM3Eを使用し、Hopperの80GBから増加している。
HBM(高帯域幅メモリ)の生産は技術的に難易度が高い:シリコン貫通電極(TSV)を用いて複数のDRAMダイを垂直に積層し、そのスタックを先進パッケージング技術でGPUに接合する必要がある。歩留まりは標準的なDRAMより低く、生産能力の拡張には12〜18か月を要する。これにより、AI需要の成長がHBM供給能力の立ち上げを上回るため、持続的な供給不足が生じている。
SK Hynix / Micronの複占
SK HynixはHBM3Eを最初に市場投入し、最大の市場シェアを保持している。NVIDIAとの提携により、配分において優位な立場を得ている。
Micron(Closelook Sentinel Ticker)はHBMへの参入が遅れたが、積極的に増産を進めている。Micronの四半期決算説明会は、HBMの価格・需要・配分に関する最良の公開データを提供しており、AIメモリ需要をリアルタイムで示す最も有用なシグナルとなっている。
SamsungはHBMの歩留まりに苦戦し、後れを取っている。同社の回復軌道は重要な変数である——Samsungが追いつけば複占の価格決定力は弱まる。遅れが続けば、MicronとSK Hynixは高い利益率を維持する。
ポートフォリオへの意味
メモリは6層モデルのレイヤー2で追跡される。HBM価格が前四半期比で維持または上昇する場合、それはAI需要の強さを裏付ける。価格が軟化したり在庫が積み上がったりする場合、それはAIのCapExサイクルが冷え込みつつある可能性を示す早期警告であり、CapExクリフの分析に反映される。