術語表條目

頻寬(記憶體/網路) Bandwidth (Memory / Networking)

資料傳輸的速率;在原始運算力已滿足需求後,成為限制AI效能的關鍵瓶頸。

由英文原文自動翻譯。 閱讀英文原文 →

頻寬是指元件之間資料傳輸的速率,記憶體以GB/s計量,網路則以Gb/s或Tb/s計量。在AI系統中,頻寬——而非原始運算力——正日益成為限制效能的瓶頸,因為將資料餵送給高速加速器比運算本身更為困難。這正是記憶體牆與AI網路論點的技術核心。參見記憶體牆101網路與光學101