Neuer HBF-Speicherstandard: SK Hynix und SanDisk revolutionieren KI-Hardware

Der unter dem Dach des Open Compute Project (OCP) entwickelte Standard zielt direkt auf den zentralen Engpass in KI-Beschleunigern ab: die Datenverarbeitung zwischen Speicher und Prozessor. Für IT-Architekten und Systemplaner bedeutet dies einen signifikanten Ansatzpunkt zur Skalierung von KI-Infrastrukturen, da die Speicherbandbreite bislang oft den Durchsatz begrenzte.

Technische Spezifikationen und Adressierung von "Data Starvation"

Der HBF-Standard spezifiziert NAND-basierten Speicher mit Kapazitäten von bis zu 512 GB pro Modul. Die Bandbreite liegt zwischen 0,4 und 3,0 TB/s. Dieser Wertebereich ist entscheidend, um das Phänomen der „Data Starvation“ zu bekämpfen, bei dem Recheneinheiten auf Datenzugriff warten müssen. Gründungsmitglieder der HBF-Allianz sind neben SK Hynix und SanDisk auch Google und Tenstorrent, was auf eine breite industrielle Anwendung abzielt. Die Serienproduktion von 375-lagigen NAND-Chips für diese Anwendungen ist für Anfang 2027 geplant.

Auswirkungen auf Server-Infrastruktur und Kühlung

Die Einführung leistungsstarker Speicherarchitekturen wie HBF steht in direktem Zusammenhang mit dem rasant steigenden Energiebedarf moderner KI-Cluster. Die Leistungsaufnahme pro Rack ist in den letzten Jahren von 18 kW auf voraussichtlich 34 kW gestiegen; zukünftige Systeme könnten bis zu 600 kW pro Rack erfordern. Gleichzeitig arbeiten Hersteller wie Everspin und MaxLinear an der Speichereffizienz von KI-Servern durch optimierte Hardware-Beschleunigungsplattformen. Diese Entwicklung erfordert von Infrastrukturverantwortlichen eine Neubewertung von Stromversorgung und Kühlkonzepten.

Praxisschritte für IT-Verantwortliche

Planer von KI-Rechenzentren sollten jetzt die Integration von HBF-Speicher in ihre Roadmaps aufnehmen. Konkret bedeutet das:

1. Evaluierung der Kompatibilität geplanter KI-Beschleuniger mit HBF-Modulen ab 2027.

2. Überprüfung der Kühl- und Stromverteilungskonzepte für künftige Höchstlast-Racks.

3. Analyse, wie eine höhere Speicherbandbreite bestehende GPU/TPU-Cluster entlasten kann und ob alternative Speicherarchitekturen wie MRAM für Metadaten-Management geeignet sind.

Die kommenden Evaluierungsmuster der Hersteller (ab August 2026 für alternative Module wie Kioxias XL-Serie) bieten erste Testmöglichkeiten.

HBF-Spezifikation (Zusammenfassung):

• Technologie: High Bandwidth Flash (HBF)
• Basis: NAND-Flash
• Max. Kapazität: 512 GB
• Bandbreite: 0,4 bis 3,0 TB/s
• Entwicklungsrahmen: Open Compute Project (OCP)
• Ziel: Behebung des Data-Starvation-Engpasses in KI-Beschleunigern
• Geplanter Serienstart der Basis-NAND-Chips: Anfang 2027