Terme du glossaire
Cluster (GPU/IA) Cluster (GPU/AI)
Groupe interconnecté de GPU travaillant en parallèle pour l'entraînement ou l'inférence ; à grande échelle, la bande passante devient la contrainte limitante.
Traduit automatiquement de l’original anglais. Lire l’original en anglais →
Un Cluster est un groupe interconnecté de GPU travaillant en parallèle sur une même charge de travail d'entraînement ou d'inférence, allant de quelques centaines à plus de 100 000 accélérateurs. À grande échelle, la bande passante d'interconnexion entre les GPU devient la contrainte limitante, plutôt que la puissance de calcul par GPU. C'est pourquoi les clusters de modèles de pointe entraînent des dépenses disproportionnées en InfiniBand, transceivers optiques et infrastructure réseau. Voir Networking & Optical 101.