用語集の項目
帯域幅(メモリ/ネットワーキング) Bandwidth (Memory / Networking)
データを転送できる速度。生の計算能力が満たされた後にAI性能を制約する要因となる。
英語原文からの自動翻訳です。 英語の原文を読む →
帯域幅とは、コンポーネント間でデータを転送できる速度のことで、メモリではGB/s、ネットワーキングではGb/sまたはTb/sで測定される。AIシステムでは、生の計算能力ではなく帯域幅がますます制約要因となっている。高速なアクセラレータにデータを供給することは、計算そのものよりも難しいためである。これはメモリウォールとAIネットワーキング論の両方における技術的核心である。Memory Wall 101およびNetworking & Optical 101を参照。