용어집 항목
클러스터 (GPU/AI) Cluster (GPU/AI)
훈련 또는 추론을 위해 병렬로 작동하는 네트워크로 연결된 GPU 그룹으로, 규모가 커질수록 대역폭이 제약 요인으로 드러난다.
영어 원문을 자동 번역한 것입니다. 영어 원문 읽기 →
클러스터는 단일 훈련 또는 추론 워크로드에서 병렬로 작동하는 네트워크로 연결된 GPU 그룹으로, 수백 개에서 100,000개 이상의 가속기까지 규모가 다양하다. 규모가 커지면 GPU당 컴퓨팅 성능보다 GPU 간 인터커넥트 대역폭이 제약 요인이 된다. 이러한 이유로 프런티어 모델용 클러스터는 InfiniBand, 광 트랜시버, 네트워킹 패브릭에 불균형적으로 많은 지출을 유발한다. Networking & Optical 101을 참고하라.