Terme du glossaire
Latence (matériel) Latency (Hardware)
Le délai de transmission des données entre composants ; une latence plus faible signifie une utilisation plus élevée du cluster à grande échelle.
Traduit automatiquement de l’original anglais. Lire l’original en anglais →
La latence, en matière de matériel, est le délai de transmission des données entre composants — de la mémoire au processeur, de GPU à GPU, de nœud à nœud. À l'échelle d'un cluster, la latence détermine avec quelle efficacité des milliers de GPU peuvent rester synchronisés, si bien qu'une latence plus faible se traduit directement par une utilisation plus élevée et un entraînement plus rapide. C'est la contrainte complémentaire à la bande passante dans les réseaux d'IA. Voir Networking & Optical 101.