Termo do glossário
Cluster (GPU/AI)
Um grupo interligado de GPUs operando em paralelo para treinamento ou inferência; em grande escala, a largura de banda se torna a restrição limitante.
Traduzido automaticamente do original em inglês. Ler o original em inglês →
Um Cluster é um grupo interligado de GPUs que trabalham em paralelo em uma única carga de treinamento ou inferência, variando de algumas centenas a mais de 100.000 aceleradores. Em grande escala, a largura de banda de interconexão entre as GPUs se torna a restrição limitante, em vez da capacidade de computação por GPU. É por isso que os clusters de modelos de fronteira geram gastos desproporcionais em InfiniBand, transceptores ópticos e infraestrutura de rede. Veja Networking & Optical 101.