Glossarbegriff
Memory Bandwidth
Die Rate, mit der Daten zwischen Speicher und Prozessor bewegt werden; genau der Engpass, den High-Bandwidth Memory (HBM) entschärfen soll.
Automatisch aus dem englischen Original übersetzt. Zum englischen Original →
Memory Bandwidth ist die Rate, mit der Daten zwischen Speicher und Prozessor bewegt werden – die spezifische Beschränkung, die die Leistung von KI-Beschleunigern limitiert, sobald Rechenleistung im Überfluss vorhanden ist. Moderne Beschleuniger sind häufig durch die Speicherbandbreite limitiert und nicht durch die Rechenleistung, weshalb High-Bandwidth Memory (HBM) Premiumpreise erzielt und das Angebot knapp ist. Die Lücke zwischen Rechengeschwindigkeit und Speichergeschwindigkeit zu schließen, ist der Kern der Memory Wall. Siehe Memory Wall 101.