Término del glosario
Clúster (GPU/IA) Cluster (GPU/AI)
Un grupo interconectado de GPU que trabajan en paralelo para entrenamiento o inferencia; a gran escala, el ancho de banda se convierte en la restricción determinante.
Traducido automáticamente del original en inglés. Leer el original en inglés →
Un Clúster es un grupo interconectado de GPU que trabajan en paralelo en una única carga de trabajo de entrenamiento o inferencia, y puede abarcar desde unos pocos cientos hasta más de 100,000 aceleradores. A gran escala, el ancho de banda de interconexión entre GPU se convierte en la restricción determinante, más que la capacidad de cómputo por GPU. Por ello, los clústeres de modelos de frontera generan un gasto desproporcionado en InfiniBand, transceptores ópticos y tejido de red. Véase Networking & Optical 101.