用語集の項目
クラスター(GPU/AI) Cluster (GPU/AI)
学習または推論のために並列動作するGPUのネットワーク化されたグループ。規模が拡大すると帯域幅が制約要因として現れる。
英語原文からの自動翻訳です。 英語の原文を読む →
クラスターとは、単一の学習または推論ワークロード上で並列に動作する、ネットワーク化されたGPUのグループであり、数百基から100,000基を超えるアクセラレータに及ぶ。規模が拡大すると、GPU間のインターコネクト帯域幅が、GPU単体の計算性能よりも支配的な制約となる。これが、フロンティアモデルのクラスターがInfiniBand、光トランシーバー、ネットワーキングファブリックへの支出を不均衡に押し上げる理由である。Networking & Optical 101を参照。