101条目

网络与光互连:算力之后的下一个瓶颈

AI集群的速度取决于加速器之间的连接。一旦算力和内存瓶颈得到解决,网络就会成为下一个限制性因素——下一代互连(无论是电互连还是光互连)的建设,也就成为一个结构性投资主题。NVIDIA的网络业务(通过收购Mellanox获得)、Broadcom的交换芯片、Marvell的互连IP,以及光模块生态系统(Lumentum、Coherent、Fabrinet),都受益于同一个物理现实:在集群规模下,数据搬运比数据处理更昂贵。

由英文原文自动翻译。 阅读英文原文 →

网络为何会成为瓶颈

训练一个前沿模型需要在数万个GPU之间同步权重。随着集群规模扩大,全归约(all-reduce)操作在训练时间中的占比不断上升。跨集群通信中1毫秒的延迟,会在每个训练步骤中的数百万次操作里被放大。带宽而非算力,正日益成为有效集群利用率的限制因素。大规模推理面临同样的动态——具有多步推理链的自主(agentic)工作负载会产生持续的节点间流量。

产业链结构

  • 交换芯片:Broadcom(Tomahawk、Jericho)、Marvell(Teralynx)。负责在机架之间路由数据包的芯片。
  • 光模块:Lumentum、Coherent、Fabrinet、InnoLight、Eoptolink。将电信号转换为光信号以便通过光纤传输。
  • 网络系统:Arista、Cisco、NVIDIA Spectrum、Juniper。在机架和集群层面组装的交换机。
  • 线缆与连接器:TE Connectivity、Amphenol。这是常被忽视的物理层,直到出现短缺才受到关注。

光互连的转型

铜互连在短距离、较低带宽下可以工作。随着GPU集群规模扩大以及机架功率密度攀升,光互连开始接管——先是机架间连接,最终通过共封装光学器件延伸到机架内连接。这一转型为纯光学标的(LITE、COHR、FN)开辟了此前在AI出现前从未达到过的规模化收入来源。光互连每端口的价值量是铜互连的数倍,而这一增长才刚刚开始。

共封装光学(CPO)

下一次架构变革将光学引擎与交换芯片封装在同一个封装体内——消除长距离电气走线,大幅提升带宽和能效。Broadcom和Marvell正在推动CPO设计进入量产,预计2026-27年部署。CPO是决定谁将赢得下一轮网络周期的关键转折点。它还将光互连的潜在市场规模(TAM)扩展到铜互连无法触及的领域。

风险因素

客户集中度:NVIDIA、Google、Meta、Microsoft占据了大部分需求。技术转型可能会让在位者被超越(CPO的失败对Broadcom是机会,反之亦然)。历史上光模块行业的库存周期极为剧烈——2022-23年出现了大幅回落,随后AI建设浪潮重新启动了这一周期。那些具有最清晰长期增长逻辑的标的,往往也是历史回撤波动性最高的标的。