101 항목
네트워킹과 광학 인터커넥트: 컴퓨트 다음의 제약
AI 클러스터의 속도는 결국 가속기 간 연결 속도로 결정된다. 컴퓨트와 메모리 병목이 해소되면 네트워킹이 다음 제약 요인이 되며, 전기적·광학적 차세대 인터커넥트 구축은 구조적 투자 테마가 된다. NVIDIA의 네트워킹 스택(Mellanox 인수를 통해 확보), Broadcom의 스위칭 실리콘, Marvell의 인터커넥트 IP, 그리고 광 트랜시버 생태계(Lumentum, Coherent, Fabrinet)는 모두 동일한 물리적 현실로부터 이익을 얻는다: 클러스터 규모에서는 데이터 이동이 데이터 처리보다 비용이 더 크다는 사실이다.
영어 원문을 자동 번역한 것입니다. 영어 원문 읽기 →
네트워킹이 병목이 되는 이유
프런티어 모델을 훈련하려면 수만 개의 GPU에 걸쳐 가중치를 동기화해야 한다. 클러스터 규모가 커질수록 all-reduce 연산이 훈련 시간을 지배한다. 클러스터 간 통신에서 1밀리초의 지연은 훈련 단계당 수백만 번의 연산에 걸쳐 누적된다. 컴퓨트가 아니라 대역폭이 실질적인 클러스터 활용률을 점점 더 제한한다. 대규모 추론도 동일한 역학에 직면한다 — 다단계 추론 체인을 가진 에이전틱 워크로드는 노드 간 트래픽을 지속적으로 발생시킨다.
스택 구조
- 스위칭 실리콘: Broadcom(Tomahawk, Jericho), Marvell(Teralynx). 랙 간 패킷을 라우팅하는 칩.
- 광 트랜시버: Lumentum, Coherent, Fabrinet, InnoLight, Eoptolink. 전기 신호를 광섬유 전송을 위한 광 신호로 변환한다.
- 네트워킹 시스템: Arista, Cisco, NVIDIA Spectrum, Juniper. 랙 및 클러스터 단위로 조립된 스위치.
- 케이블 및 커넥터: TE Connectivity, Amphenol. 부족 현상이 발생하기 전까지 흔히 간과되는 물리 계층.
광학으로의 전환
구리 인터커넥트는 짧은 거리와 낮은 대역폭에서 작동한다. GPU 클러스터가 확장되고 랙 전력 밀도가 높아지면서 광학이 그 자리를 대신한다 — 먼저 랙 간(inter-rack)에서, 이후에는 공동 패키지 광학(co-packaged optics)을 통해 랙 내부(intra-rack)에서도 마찬가지다. 이러한 전환은 AI 이전에는 규모 있게 존재하지 않았던 순수 광학 종목(LITE, COHR, FN)에 새로운 매출 라인을 열어준다. 광학에서 포트당 매출 비중은 구리 대비 몇 배나 높으며, 램프업은 이제 막 시작되었다.
공동 패키지 광학(CPO)
다음 아키텍처 전환은 광학 엔진을 스위치 칩과 동일한 패키지에 통합하는 것이다 — 이를 통해 긴 전기 트레이스를 없애고 대역폭과 전력 효율을 크게 개선한다. Broadcom과 Marvell은 2026~27년 배치를 목표로 CPO 설계를 양산 단계로 밀어붙이고 있다. CPO는 다음 네트워킹 사이클에서 누가 승자가 될지를 결정하는 전환점이다. 또한 광학 TAM을 구리가 도달할 수 없는 영역까지 확장시킨다.
리스크 요인
고객 집중: NVIDIA, Google, Meta, Microsoft가 수요의 대부분을 차지한다. 기술 전환은 기존 강자를 뛰어넘을 수 있다(CPO의 실패는 Broadcom의 기회가 되며, 그 반대도 마찬가지다). 광학 부문의 재고 사이클은 역사적으로 매우 가혹했다 — 2022~23년에는 AI 램프업이 사이클을 재개시키기 전 급격한 하락이 있었다. 가장 명확한 구조적 성장 설정을 가진 종목들은 동시에 역사적으로 가장 높은 낙폭 변동성을 가진 종목들이기도 하다.