101エントリー

ネットワーキングと光インターコネクト:コンピュートの次の制約

AIクラスターの速度は、アクセラレータ間の接続速度によって決まる。コンピュートとメモリのボトルネックが解消されると、ネットワーキングが次のゲーティング制約となる——そして電気的・光学的な次世代インターコネクトの構築は、構造的な投資テーマとなる。NVIDIAのネットワーキングスタック(Mellanoxの買収により獲得)、Broadcomのスイッチングシリコン、MarvellのインターコネクトIP、そして光トランシーバー・エコシステム(Lumentum、Coherent、Fabrinet)は、いずれも同じ物理的現実から利益を得ている:クラスター規模においては、データ処理よりもデータ移動の方がコストが高いのだ。

英語原文からの自動翻訳です。 英語の原文を読む →

なぜネットワーキングがボトルネックになるのか

フロンティアモデルの学習には、数万基のGPU間で重みを同期させる必要がある。クラスター規模が拡大するにつれ、All-reduce演算が学習時間の大部分を占めるようになる。クラスター間通信における1ミリ秒のレイテンシは、学習ステップごとに数百万回の演算にわたって複利的に積み重なる。実効的なクラスター利用率を制限するのは、ますますコンピュートではなく帯域幅になっている。大規模な推論も同じ力学に直面する——多段階の推論チェーンを持つエージェント的ワークロードは、ノード間で継続的なトラフィックを発生させる。

スタック構成

  • スイッチングシリコン:Broadcom(Tomahawk、Jericho)、Marvell(Teralynx)。ラック間でパケットをルーティングするチップ。
  • 光トランシーバー:Lumentum、Coherent、Fabrinet、InnoLight、Eoptolink。電気信号を光信号に変換し、ファイバー伝送を行う。
  • ネットワーキングシステム:Arista、Cisco、NVIDIA Spectrum、Juniper。ラックおよびクラスターレベルで組み立てられたスイッチ。
  • ケーブルとコネクタ:TE Connectivity、Amphenol。不足が発生するまで見過ごされがちな物理層。

光への移行

銅線インターコネクトは、短距離かつ低帯域幅では機能する。しかしGPUクラスターの規模が拡大し、ラックの電力密度が上昇するにつれ、光が主流となる——まずはラック間、そして最終的にはCo-Packaged Opticsを介したラック内接続へと広がる。この移行は、AI以前には大規模には存在しなかった純粋な光学プレイヤー(LITE、COHR、FN)に新たな収益源を開く。光学におけるポートあたりのドル単価は銅線の数倍に達し、その立ち上がりはまだ始まったばかりである。

Co-Packaged Optics(CPO)

次のアーキテクチャ上の転換は、光エンジンをスイッチチップと同一パッケージに搭載することであり、これにより長い電気トレースが排除され、帯域幅と電力効率が大幅に向上する。BroadcomとMarvellは、2026〜27年の実装を目指してCPO設計を量産段階へ進めている。CPOは、次のネットワーキングサイクルで誰が勝者となるかを決定する転換点である。また、光学のTAM(実現可能な市場規模)を銅線が到達できない領域まで拡張するものでもある。

リスク要因

顧客集中リスク:NVIDIA、Google、Meta、Microsoftが需要の大部分を占める。技術の転換によって既存プレイヤーが逆転される可能性がある(CPOの失敗はBroadcomにとっての機会となり、その逆も成り立つ)。光学分野の在庫サイクルは歴史的に厳しく、2022〜23年には急激な下落が見られたが、その後AIの立ち上がりによってサイクルが再始動した。最も明快な長期的構図を持つ銘柄は、同時に過去最大級のドローダウンボラティリティを持つ銘柄でもある。