101條目
網路與光通訊互連:運算之後的下一個瓶頸
AI 叢集的速度取決於加速器之間的連接速度。當運算與記憶體瓶頸被解決後,網路便成為下一個限制因素——電性與光學下一代互連的建設也因此成為一個結構性投資主題。NVIDIA 的網路技術堆疊(透過收購 Mellanox 取得)、Broadcom 的交換晶片、Marvell 的互連 IP,以及光學收發器生態系統(Lumentum、Coherent、Fabrinet)都受益於同一個物理現實:在叢集規模下,資料搬移的成本比資料處理更高。
由英文原文自動翻譯。 閱讀英文原文 →
為何網路會成為瓶頸
訓練一個前沿模型需要在數萬個 GPU 之間同步權重。隨著叢集規模擴大,all-reduce 運算會主導訓練時間。跨叢集通訊中 1 毫秒的延遲,會在每個訓練步驟的數百萬次運算中不斷累加。頻寬,而非運算力,正日益成為有效叢集利用率的限制因素。大規模推論也面臨相同的動態——具備多步驟推理鏈的代理式(agentic)工作負載,會產生持續不斷的節點間流量。
技術堆疊
- 交換晶片:Broadcom(Tomahawk、Jericho)、Marvell(Teralynx)。負責在機架之間路由封包的晶片。
- 光學收發器:Lumentum、Coherent、Fabrinet、InnoLight、Eoptolink。將電訊號轉換為光訊號以供光纖傳輸。
- 網路系統:Arista、Cisco、NVIDIA Spectrum、Juniper。機架與叢集層級的組裝式交換器。
- 電纜與連接器:TE Connectivity、Amphenol。實體層往往在短缺出現前被忽視。
光學轉型
銅製互連適用於短距離、較低頻寬的場景。隨著 GPU 叢集規模擴大、機架功率密度提升,光學技術逐漸取代——先是機架間,最終透過共封裝光學(co-packaged optics)進入機架內部。這一轉型為純光學相關股(LITE、COHR、FN)開啟了在 AI 出現前從未存在的大規模營收來源。光學每埠的美元含量是銅製方案的數倍,而這一波成長才剛剛開始。
共封裝光學(CPO)
下一個架構性轉變,是將光學引擎與交換晶片封裝在同一個封裝內——消除長距離電性走線,並大幅提升頻寬與功耗效率。Broadcom 與 Marvell 正推動 CPO 設計進入量產,預計於 2026–27 年部署。CPO 是決定下一個網路週期贏家的關鍵轉折點,也將光學市場總量(TAM)擴展至銅製方案無法觸及的領域。
風險因素
客戶集中度:NVIDIA、Google、Meta、Microsoft 佔需求的大部分。技術轉型可能使既有領先者被超越(CPO 若失敗,就是 Broadcom 的機會,反之亦然)。光學產業的庫存週期歷來相當劇烈——2022–23 年曾出現急遽回落,隨後 AI 成長潮才重新啟動這一週期。基本面最乾淨的長期成長股,往往也是歷史回撤波動最大的股票。