术语表条目
集群 (GPU/AI) Cluster (GPU/AI)
由多个GPU组成的联网集群,并行运行以完成训练或推理任务;随着规模扩大,带宽成为限制性瓶颈。
由英文原文自动翻译。 阅读英文原文 →
集群(Cluster)是指由若干GPU组成的联网集群,协同并行执行单一训练或推理工作负载,规模可从数百个到超过100,000个加速器不等。随着规模扩大,GPU之间的互连带宽会取代单卡算力,成为限制性瓶颈。这也是前沿模型集群在InfiniBand、光模块和网络架构上投入不成比例的原因。参见网络与光通信101。