HBM3e ist die Bezeichnung für einen Typ von Arbeitsspeicher, genauer gesagt für eine verbesserte Version des Standards „High Bandwidth Memory 3“, wobei der Buchstabe „e“ eine verbesserte, schnellere Revision des HBM3-Standards bezeichnet (Hersteller deuten ihn als „enhanced“ bzw. „evolutionary“). Im Gegensatz zu herkömmlichem RAM, der sich in separaten Modulen auf der Hauptplatine befindet, ist dieser Speicher direkt auf demselben Gehäuse wie der Grafikchip oder ein anderer KI-Beschleuniger integriert. Seine Konstruktion basiert auf dem vertikalen Stapeln mehrerer Speicherchips übereinander, was die Schaffung eines sehr breiten Kommunikationspfades zum Prozessor ermöglicht. Dank dieser Architektur und des kurzen Abstands zum Rechenkern kann der Speicher riesige Datenmengen in kurzer Zeit übertragen, was als hohe Datenbandbreite bezeichnet wird. Diese Eigenschaft ist entscheidend für Anwendungen der künstlichen Intelligenz, die mit umfangreichen Datenmodellen arbeiten und sofortigen Zugriff auf große Informationsmengen erfordern. Dadurch wird die Entstehung eines sogenannten Engpasses verhindert, bei dem ein leistungsstarker Prozessor auf Daten warten müsste und sein Potenzial nicht voll ausgeschöpft würde. Um den Unterschied zu herkömmlichem Gaming-Grafikspeicher zu verstehen, ist ein Vergleich mit GDDR-Speicher (Graphics Double Data Rate), etwa GDDR6 oder GDDR7, hilfreich. GDDR besteht aus einzelnen Chips, die auf der Platine rund um den Grafikkern angeordnet sind, und setzt auf sehr hohe Taktfrequenzen bei einer relativ schmalen Busbreite (typischerweise 32 Bit pro Chip). Speicher der HBM-Familie gehen den umgekehrten Weg. Sie arbeiten mit niedrigeren Taktraten, übertragen aber dank vertikal gestapelter Chips und eines extrem breiten Busses (1024 Bit oder mehr pro Stack) mehr Daten gleichzeitig. Das Ergebnis ist bei HBM eine deutlich höhere Gesamtdatenbandbreite und ein besseres Leistungs-pro-Watt-Verhältnis, was für Rechenzentren und das KI-Training entscheidend ist. GDDR ist dagegen günstiger, einfacher zu fertigen und in der Kapazität leichter zu skalieren, weshalb es bei Gaming- und Consumer-Grafikkarten überwiegt.
