101 항목
메모리 월과 HBM 경제학: 다음 AI 제약 요인
메모리 월(Memory Wall)은 AI 컴퓨팅 성능과 메모리 대역폭 사이의 격차가 점점 커지는 현상을 설명한다. AI 가속기의 세대가 바뀔 때마다 더 많은 메모리 대역폭이 요구된다 — NVIDIA의 Blackwell은 HBM3E를 필요로 하며, Rubin은 HBM4를 필요로 할 것이다. HBM을 대규모로 생산할 수 있는 기업은 SK Hynix와 Micron 두 곳뿐이다(Samsung은 추격하고 있지만 뒤처져 있다). 이러한 사실상의 복점(duopoly)은 AI 컴퓨팅 스케일링이 지속되는 한 유지되는 구조적 가격 결정력을 만들어낸다. HBM 가격 및 배분 데이터는 — Closelook Sentinel Ticker인 Micron을 통해 추적되는 — AI 인프라 수요를 나타내는 가장 신뢰할 수 있는 실시간 지표이다.
영어 원문을 자동 번역한 것입니다. 영어 원문 읽기 →
메모리가 제약 요인이 되는 이유
AI 모델의 규모는 메모리 대역폭의 개선 속도보다 더 빠르게 커지고 있다. GPT-4급 모델은 추론(inference)에 수백 기가바이트의 고대역폭 메모리를 필요로 한다. 학습(training) 과정은 그보다 더 많은 양을 요구한다. 새로운 GPU 세대마다 가속기당 메모리 요구량이 증가한다 — Blackwell은 GPU당 192GB의 HBM3E를 사용하며, 이는 Hopper의 80GB에서 늘어난 것이다.
HBM(고대역폭 메모리, High Bandwidth Memory)의 생산은 기술적으로 까다롭다. 실리콘 관통 비아(TSV)를 이용해 여러 개의 DRAM 다이를 수직으로 적층한 뒤, 첨단 패키징을 통해 이 적층체를 GPU에 접합하는 과정을 포함한다. 수율은 표준 DRAM보다 낮으며, 생산능력 확장에는 12~18개월이 소요된다. 이는 AI 수요가 HBM 생산능력 확충 속도보다 빠르게 증가함에 따라 지속적인 공급 부족을 만들어낸다.
SK Hynix / Micron 복점
SK Hynix는 HBM3E를 가장 먼저 시장에 출시했으며 가장 큰 시장 점유율을 보유하고 있다. NVIDIA와의 파트너십은 배분 측면에서 특권적인 지위를 부여한다.
Micron(Closelook Sentinel Ticker)은 HBM 시장에 더 늦게 진입했지만 공격적으로 증설하고 있다. Micron의 분기별 실적 발표는 HBM 가격, 수요, 배분에 관한 가장 유용한 공개 데이터를 제공하며 — 이는 AI 메모리 수요를 파악하기 위한 가장 유용한 실시간 신호가 된다.
Samsung은 HBM 수율 문제로 어려움을 겪으며 뒤처졌다. 회복 궤적이 핵심 변수이다 — Samsung이 따라잡으면 복점의 가격 결정력이 약화된다. 계속 뒤처진다면, Micron과 SK Hynix는 예외적인 마진을 유지하게 된다.
포트폴리오에 대한 의미
메모리는 6-Layer Model의 Layer 2를 통해 추적된다. HBM 가격이 분기 대비 유지되거나 상승하면, 이는 AI 수요의 견고함을 확인시켜준다. 가격이 약화되거나 재고가 쌓이면, 이는 AI CapEx 사이클이 냉각되고 있을 수 있다는 조기 경고 신호이며 — 이는 CapEx Cliff 분석에 반영된다.