용어집 항목
대역폭 (메모리/네트워킹) Bandwidth (Memory / Networking)
데이터를 전송할 수 있는 속도로, 원시 컴퓨팅 성능이 충족된 이후 AI 성능을 제약하는 요인이다.
영어 원문을 자동 번역한 것입니다. 영어 원문 읽기 →
대역폭은 구성 요소 간에 데이터를 전송할 수 있는 속도로, 메모리에서는 GB/s, 네트워킹에서는 Gb/s 또는 Tb/s로 측정된다. AI 시스템에서는 원시 컴퓨팅이 아니라 대역폭이 점점 더 제약 요인이 되고 있는데, 이는 고속 가속기에 데이터를 공급하는 것이 연산 자체보다 더 어렵기 때문이다. 이는 메모리 월(memory wall)과 AI 네트워킹 논제 모두의 기술적 핵심이다. Memory Wall 101 및 Networking & Optical 101을 참조하라.