Termo do glossário
Latência (Hardware) Latency (Hardware)
O tempo de atraso na movimentação de dados entre componentes; menor latência significa maior utilização do cluster em grande escala.
Traduzido automaticamente do original em inglês. Ler o original em inglês →
Latência em hardware é o tempo de atraso na movimentação de dados entre componentes — da memória para o processador, de GPU para GPU, de nó para nó. Em escala de cluster, a latência determina a eficiência com que milhares de GPUs conseguem permanecer sincronizadas, portanto menor latência se traduz diretamente em maior utilização e treinamento mais rápido. É a restrição complementar à largura de banda no networking de IA. Veja Networking & Optical 101.