Termo do glossário

Largura de banda (Memória / Rede) Bandwidth (Memory / Networking)

A taxa na qual os dados podem ser transferidos; a restrição que limita o desempenho de IA depois que o poder computacional bruto é atendido.

Traduzido automaticamente do original em inglês. Ler o original em inglês →

Largura de banda é a taxa na qual os dados podem ser transferidos entre componentes, medida em GB/s para memória e Gb/s ou Tb/s para redes. Em sistemas de IA, a largura de banda — e não o poder computacional bruto — é cada vez mais a restrição limitante, porque alimentar dados para aceleradores rápidos é mais difícil do que a computação em si. Esse é o núcleo técnico tanto da tese do memory wall quanto da tese de redes para IA. Veja Memory Wall 101 e Networking & Optical 101.