Vom Cloud-First zum AI-First: Wie KI-Workloads die IT-Infrastruktur im Unternehmen neu definieren

Einschließlich der Firmen, die diesen Schritt gerade vollziehen oder planen, liegt der Wert bei 93 Prozent. Die Infrastrukturstrategie verschiebt sich 2026 von Cloud-First zu AI-First: Beschaffungsentscheidungen werden nicht mehr um CPU-Server getroffen, sondern um Beschleuniger-Cluster samt ihrer vorgegebenen Betriebsparameter für Kühlung, Netzwerk und Speicherbandbreite.

Vom CPU-Server zum AI-Factory-Konventionell

War die Unternehmensinfrastruktur bisher CPU-zentriert aufgebaut, rückt 2026 der Beschleuniger in den Mittelpunkt der Planung. Die zentrale Frage lautet nicht mehr, wie sich Compute on-demand provisionieren lässt, sondern: Wo trainiert das Modell, wo läuft die Inferenz, wie gelangen die Daten zu den Acceleratoren, wie viel Leistungsaufnahme und Kühlkapazität ist erforderlich?

NVIDIA positioniert die DGX GB300-Plattform als rack-scale, flüssigkeitsgekühlte Infrastruktur für sogenannte AI-Fabriken: 72 Blackwell-Ultra-GPUs und 36 Grace-CPUs in einem einzelnen System. Die Architektur ist als koordiniertes Rechensystem konzipiert, nicht als Ansammlung unabhängiger Server. Der Systemverbund rund um den Beschleuniger bestimmt, welchen Anteil seiner theoretischen Leistung ein Unternehmen tatsächlich nutzen kann – ein einzelnes GPU-Modul definiert noch keine Infrastrukturstrategie.

Parallel dazu verschiebt sich die Workload-Last: Hatte generative KI zunächst enorme Trainingskapazitäten erfordert, steigt 2026 der Rechenaufwand bei der Inferenz. Reasoning-Modelle und agentische Systeme verbrauchen während der Inferenz zusätzliche Compute-Zyklen für Zwischenschritte, Tool-Abrufe und mehrstufige Workflows.

Rückholung aus der Cloud: Kosten, Latenz, Compliance

Drei Hauptgründe treiben die Repatriierung von KI-Workloads in On-Premises-Umgebungen, so die Analyse von FAST LTA auf Basis der Cloudian-Daten: unvorhersehbare Kosten, Anforderungen an die Echtzeit-Performance und – insbesondere für Unternehmen in der EU – die Regulierungsproblematik.

Roland Stritt, CRO von FAST LTA, erklärte dazu: „Wer KI mit eigenen Unternehmensdaten betreibt, stellt früh fest: Die Daten, die KI erst nützlich machen, sind die sensibelsten: Verträge, Patientendaten, Konstruktionszeichnungen, interne Kommunikation. Genau diese Datensätze landeten bisher oft auf Servern US-amerikanischer Hyperscaler, unter US-CLOUD-Act-Zugriff, mit unvorhersehbaren Nutzungskosten und ohne verlässliche Aussage über Latenz."

Laut Ad-hoc-news.de basieren 70 Prozent der EU-Cloud auf US-Infrastruktur. Branchenspezifische Vorgaben aus Gesundheitswesen und Finanzbranche verlangen bereits heute Nachweise über den Datenstandort oder schließen bestimmte Cloud-Konstellationen faktisch aus. Ein Pharmaunternehmen, das Forschungsdaten per Retrieval-Augmented Generation zugänglich macht, kann hierfür nicht ohne Rechtsrisiko einen US-amerikanischen LLM-Dienst nutzen. On-Premises-basierte KI-Appliances bündeln Hardware, Software und Service in einer integrierten Lösung, die Unternehmenswissen lokal durchsuchbar macht – bei physisch isoliertem und unveränderlichem Speicher.

DRAM-Inflation: Steigende Speicherkosten als Folge der KI-Nachfrage

Ein weiterer Kostenfaktor: Laut einem Bericht der Dell'Oro Group könnte die DRAM-Inflation die Serverausgaben in den kommenden Jahren um Hunderte Milliarden US-Dollar in die Höhe treiben – getrieben von der enormen Nachfrage nach KI-Infrastrukturen. Wer 2026 plant, sollte Speicherpreise und Beschaffungszyklen in seine TCO-Kalkulation einbeziehen.