Término del glosario
Latencia (hardware) Latency (Hardware)
El retardo en el desplazamiento de datos entre componentes; una menor latencia implica mayor utilización del clúster a gran escala.
Traducido automáticamente del original en inglés. Leer el original en inglés →
La latencia en hardware es el retardo en el desplazamiento de datos entre componentes — de memoria a procesador, de GPU a GPU, de nodo a nodo. A escala de clúster, la latencia determina la eficiencia con la que miles de GPU pueden mantenerse sincronizadas, por lo que una menor latencia se traduce directamente en mayor utilización y entrenamiento más rápido. Es la restricción complementaria al ancho de banda en las redes de IA. Véase Networking & Optical 101.