GPU-Beschleuniger im Server: Netzteil- und Kühlungs-Check

In der Praxis liegt die Ursache jedoch häufig früher: Das Netzteil ist zu knapp dimensioniert, die redundante Stromversorgung wurde falsch angeschlossen oder die Kühlung kann die entstehende Verlustwärme nicht mehr aus dem Gehäuse abführen.

Bei GPU-Beschleunigern reicht es deshalb nicht, nur auf den Steckplatz und die Rechenleistung zu achten. Eine NVIDIA L40S oder eine NVIDIA H100 im PCIe-Format arbeitet mit einer TDP von 350 Watt und kann in einem entsprechend ausgelegten luftgekühlten Server betrieben werden. Eine H100 SXM5 oder H200 SXM liegt dagegen bei 700 Watt pro GPU. Neuere Beschleuniger wie die NVIDIA B200 erreichen 1.000 Watt, die AMD Instinct MI355X sogar bis zu 1.400 Watt. Das verändert nicht nur die Auswahl des Netzteils, sondern die gesamte Infrastruktur des Servers und des Racks.

Warum GPU-Server anders geplant werden müssen

Ein klassischer Server mit zwei Prozessoren, Arbeitsspeicher, Laufwerken und einigen Netzwerkkarten verteilt seine Leistungsaufnahme über viele Komponenten. GPU-Beschleuniger konzentrieren einen großen Teil der elektrischen Leistung auf wenige Karten. Diese Leistung wird nahezu vollständig in Wärme umgewandelt und muss zuverlässig abgeführt werden.

Das bedeutet für die Praxis: Ein Server mit acht GPUs ist kein gewöhnlicher Rechner mit acht zusätzlichen Erweiterungskarten. Er benötigt ein Chassis mit passender mechanischer Aufnahme, eine darauf abgestimmte Luftführung, ausreichend dimensionierte Stromanschlüsse, ein geeignetes BIOS und eine Netzteilarchitektur, die auch kurzzeitige Lastspitzen verkraftet.

Die häufigsten Fehlannahmen entstehen an drei Stellen:

• Der verfügbare PCIe-Steckplatz wird mit vollständiger GPU-Kompatibilität gleichgesetzt.
• Die Summe der TDP-Werte wird als vollständiger Strombedarf des Servers betrachtet.
• Die Nennleistung des Netzteils wird ohne Sicherheitsreserve angesetzt.

Alle drei Annahmen führen bei kleinen Systemen manchmal nur zu Instabilität unter hoher Last, bei dicht bestückten GPU-Servern jedoch schnell zu thermischen Abschaltungen, beschädigten Komponenten oder einem Betrieb außerhalb der Herstellerspezifikation.

Ein GPU-Server muss nicht nur Rechenleistung liefern, sondern gleichzeitig Stromspitzen beherrschen und die daraus entstehende Wärme dauerhaft abführen.

Die GPU-Auswahl bestimmt den Strombedarf

Für die erste Planung ist die TDP der GPU der wichtigste Ausgangspunkt. Sie beschreibt die thermische Auslegung der Karte und ist damit ein brauchbarer Richtwert für die Leistungs- und Kühlungsplanung. Sie ist allerdings nicht automatisch identisch mit jeder möglichen kurzfristigen Leistungsaufnahme und ersetzt keine Angaben des Server- oder GPU-Herstellers.

Eine grobe Einordnung der genannten Beschleuniger sieht so aus:

Bei PCIe-Karten ist die Nachrüstung grundsätzlich flexibler, aber auch hier entscheidet nicht allein die elektrische Leistungsaufnahme. Eine 350-Watt-Karte benötigt die passenden Stromanschlüsse, genügend Abstand zu benachbarten Karten und eine Luftführung, die für eine passive oder aktiv gekühlte Serverkarte ausgelegt ist.

SXM-Module werden dagegen nicht einfach in einen freien PCIe-Steckplatz eingesetzt. Sie sind Bestandteil einer speziell konstruierten Plattform, in der GPU-Module, Baseboard, Hochgeschwindigkeitsverbindungen, Spannungsversorgung und Kühlung gemeinsam geplant werden. Wer eine SXM-GPU wie eine besonders leistungsfähige PCIe-Karte behandelt, beginnt bereits bei der Systemauswahl mit der falschen Annahme.

Netzteil dimensionieren: Nicht nur die GPU-TDP addieren

Die Summe der GPU-TDPs liefert den ersten Wert, aber nicht die endgültige Netzteilgröße. Zusätzlich benötigen Prozessoren, Arbeitsspeicher, Laufwerke, Netzwerkkarten, Lüfter, Speichercontroller und Mainboard-Leistung. Gerade schnelle 100-GbE-Netzwerkkarten oder zusätzliche Speicherbeschleuniger können den Bedarf deutlich erhöhen.

Für eine überschlägige Betrachtung kann man zunächst die GPU-Leistung berechnen:

• Zwei GPUs mit je 350 Watt ergeben 700 Watt GPU-Leistung.
• Vier GPUs mit je 350 Watt ergeben 1.400 Watt.
• Acht GPUs mit je 350 Watt ergeben 2.800 Watt.
• Acht GPUs mit je 700 Watt ergeben bereits 5.600 Watt.
• Acht GPUs mit je 1.000 Watt würden rechnerisch 8.000 Watt allein für die GPUs benötigen.

Diese Werte beschreiben noch keinen vollständigen Server. Sie zeigen aber, warum 8-GPU-Systeme mit redundanten Netzteilen und Einzelleistungen von 3.000 Watt arbeiten können. Die Netzteile werden dabei nicht als überdimensionierte Desktop-Komponenten eingesetzt, sondern als Teil einer Enterprise-Plattform mit Hot-Swap-Fähigkeit, Lastverteilung und Redundanz.

Als belastbare Faustregel sollte die Gesamtsumme der GPU-TDPs höchstens etwa 80 Prozent der Nennleistung der Stromversorgung ausmachen. Diese Reserve verhindert nicht jede mögliche Lastspitze, reduziert aber das Risiko, dass das System bei hoher Auslastung direkt an die thermischen oder elektrischen Schutzgrenzen des Netzteils gerät.

Eine einfache Planungslogik sieht so aus:

1. TDP aller GPUs addieren. Dabei die konkrete Variante verwenden, nicht nur die Produktfamilie. Eine H100 PCIe mit 350 Watt ist bei der Stromplanung anders zu behandeln als eine H100 SXM5 mit 700 Watt.

2. Leistungsbedarf von CPUs und Plattform ergänzen. Zwei leistungsstarke Prozessoren, viel DDR5-Arbeitsspeicher und mehrere Controller können einen erheblichen Anteil der Gesamtlast ausmachen.

3. Laufwerke, Netzwerkkarten und Zusatzkarten einrechnen. Besonders schnelle Netzwerkkarten und Storage-Adapter dürfen nicht als vernachlässigbare Nebenverbraucher betrachtet werden.

4. Reserve für Lastspitzen vorsehen. Die Nennleistung darf nicht dauerhaft am Grenzwert betrieben werden.

5. Redundanz getrennt bewerten. Zwei Netzteile mit hoher Gesamtleistung sind nur dann redundant, wenn ein einzelnes Netzteil den vorgesehenen Ausfallfall abfangen kann oder die Plattform ausdrücklich einen anderen Redundanzmodus unterstützt.

6. Stromkreise und Stecker prüfen. Ein passendes Netzteil nützt wenig, wenn Rack-PDUs, Kabel oder Gebäudestromversorgung die erforderliche Leistung nicht sicher bereitstellen.

Redundanz ist mehr als ein zweites Netzteil

In einem Server mit redundanter Stromversorgung teilen sich die Netzteile im Normalbetrieb die Last. Fällt ein Modul aus, muss die verbleibende Einheit die für den definierten Betriebsmodus notwendige Leistung übernehmen können. Genau hier liegt ein typischer Planungsfehler: Die Leistung beider Netzteile wird addiert, obwohl im Fehlerfall nur eines zur Verfügung steht.

Das bedeutet für die Praxis: Bei einem 8-GPU-Server muss nicht nur die Gesamtleistung im Normalbetrieb passen. Auch der Ausfall eines Netzteils, eine ungleichmäßige Lastverteilung oder eine kurzzeitige Spitzenlast dürfen nicht zu einer Abschaltung führen. Die konkrete Auslegung hängt vom Servermodell, der Zahl der Netzteile und dem gewünschten Redundanzschema ab.

Für GPU-Server sind Netzteile mit mindestens 80 PLUS Gold sinnvoll. Platinum oder Titanium können die Verlustwärme und damit auch die Betriebskosten reduzieren. In einem einzelnen Arbeitsplatzrechner ist der Effizienzunterschied möglicherweise überschaubar. In einem Rechenzentrum mit mehreren hoch ausgelasteten GPU-Knoten wird die zusätzliche Abwärme jedoch selbst zu einem Bestandteil der Kühlungsplanung.

Luftkühlung: Die Luft muss nicht nur hinein, sondern wieder heraus

Bei einem luftgekühlten Server wird die Wärme nicht von der GPU entfernt, sondern lediglich über einen Luftstrom aus dem Gehäuse transportiert. Dieser Luftstrom muss durch die tatsächlichen Engstellen gelangen: durch die Frontblende, über Laufwerkskäfige, Speicher, Prozessor-Kühlkörper, GPU-Karten und gegebenenfalls durch zusätzliche Filter oder Kabelbereiche.

Passive Server-GPUs sind dabei auf die Lüfter und die Luftführung des Chassis angewiesen. Ein offener Aufbau auf einem Prüfstand kann eine Karte kurzfristig kühl halten, sagt aber nichts über den Betrieb in einem geschlossenen 2-HE- oder 4-HE-Server aus. Auch die Umgebungstemperatur, die Verschmutzung der Filter und der Abstand zwischen benachbarten Karten verändern die thermische Situation.

Für die Auswahl eines luftgekühlten Systems sollten deshalb folgende Punkte zusammenpassen:

• Das Chassis muss die konkrete GPU-Länge, Bauhöhe und Breite aufnehmen.
• Der Serverhersteller muss die eingesetzte GPU oder eine technisch gleichwertige Karte freigeben.
• Die Lüfter müssen für die erwartete Dauerlast ausgelegt sein, nicht nur für kurze Benchmark-Läufe.
• Die Luftführung darf nicht durch Kabel, Blindblenden oder falsch eingesetzte Slot-Abdeckungen unterbrochen werden.
• Die Temperaturüberwachung muss GPU, CPU, Mainboard und Netzteile erfassen.
• Die Firmware sollte Warnungen und gegebenenfalls eine kontrollierte Drosselung ermöglichen, bevor eine Schutzabschaltung eintritt.

Reine Luftkühlung stößt in Server-Racks ab einer Dichte von ungefähr 35 kW pro Rack an praktische Grenzen. Das ist kein universeller Schalter, bei dem unterhalb dieses Wertes jedes System problemlos funktioniert. Es ist ein Hinweis darauf, dass die gesamte Raum- und Rackplanung betrachtet werden muss. Bei Dichten von 50 bis 100 kW pro Rack wird direkte Flüssigkeitskühlung erforderlich.

Flüssigkeitskühlung bei hoher GPU-Dichte

Direct Liquid Cooling führt die Wärme über Kühlplatten oder vergleichbare Komponenten direkt an den besonders heißen Bauteilen ab. Das betrifft bei GPU-Servern vor allem die Beschleuniger, häufig aber auch Prozessoren und weitere Komponenten. Die Wärme wird über einen Flüssigkeitskreislauf zu einer Verteilereinheit und anschließend zu einer geeigneten Rückkühlung transportiert.

Der Vorteil liegt in der höheren Wärmetransportleistung und der geringeren Abhängigkeit von extrem hohen Luftmengen. Das bedeutet nicht, dass Lüfter vollständig verschwinden. Netzteile, Arbeitsspeicher, Laufwerke und andere Komponenten benötigen weiterhin eine passende Kühlung. Die Luftkühlung wird jedoch von der größten thermischen Last entlastet.

Eine Flüssigkeitskühlung bringt zusätzliche Prüfstellen in den Betrieb:

• Die Server müssen für Direct Liquid Cooling konstruktiv vorgesehen sein.
• Kupplungen, Leitungen und Verteiler benötigen eine kontrollierte Wartungs- und Überwachungsstrategie.
• Leckageerkennung und ein definierter Umgang mit Alarmen gehören zur Betriebsplanung.
• Die Kühlmitteltemperatur muss zur Plattform und zur vorgesehenen Last passen.
• Rack-Verteiler und Gebäudekühlung müssen die gesamte Wärmeleistung aufnehmen können.
• Servicearbeiten dürfen nicht improvisiert werden, weil das Öffnen des Kühlkreislaufs andere Risiken als der Austausch einer PCIe-Karte mit sich bringt.

Bei 700-Watt-SXM-GPUs und erst recht bei Beschleunigern mit 1.000 Watt oder mehr pro Modul ist eine spezialisierte Plattform entscheidend. Es ist nicht seriös, solche GPUs in einem gewöhnlichen luftgekühlten Server nachrüsten zu wollen. Die Frage lautet nicht nur, ob die GPU mechanisch hineinpasst, sondern ob Stromversorgung, Kühlung, Firmware und Hochgeschwindigkeitsverbindungen als Gesamtsystem dafür entwickelt wurden.

Je höher die GPU-Leistungsdichte, desto weniger lässt sich das Problem durch einzelne stärkere Lüfter lösen. Ab einem bestimmten Punkt muss die Kühlung als Bestandteil der Serverarchitektur geplant werden.

PCIe-Kompatibilität: Der Steckplatz ist nur der Anfang

Bei PCIe-GPU-Beschleunigern wird häufig auf einen freien x16-Steckplatz verwiesen. Für einen stabilen Serverbetrieb sind jedoch weitere Punkte entscheidend. Die mechanische Bauform kann benachbarte Slots blockieren, die Stromanschlüsse können im Chassis ungünstig liegen und das Mainboard kann die benötigten PCIe-Lanes nicht in der erwarteten Weise bereitstellen.

Vor der Bestellung oder Nachrüstung sollte die Plattform deshalb anhand des Originalhandbuchs geprüft werden. Besonders relevant sind:

• Anzahl und Generation der PCIe-Steckplätze;
• elektrische Anbindung des Steckplatzes, nicht nur seine mechanische Länge;
• verfügbare PCIe-Lanes der Prozessoren und des Chipsatzes;
• Unterstützung von PCIe-Bifurkation, falls mehrere Geräte über einen Steckplatz angebunden werden;
• Abstände zwischen den Karten und die zulässige Bauhöhe;
• vorhandene Zusatzstromanschlüsse und deren Position;
• Freigabe der konkreten GPU durch den Serverhersteller;
• Unterstützung in BIOS, UEFI, Betriebssystem und Treiberumgebung;
• mögliche Einschränkungen durch installierte Storage- oder Netzwerkkarten.

Das ist besonders relevant, wenn neben GPUs noch NVMe-Backplanes, RAID-Controller oder 100-GbE-Netzwerkkarten eingesetzt werden. Alle diese Geräte konkurrieren nicht zwangsläufig direkt um dieselben Ressourcen, aber die Plattform verfügt nur über eine begrenzte Zahl an PCIe-Lanes und Steckplätzen. Ein System kann daher elektrisch korrekt verkabelt sein und trotzdem nicht die gewünschte Kombination aller Erweiterungskarten unterstützen.

Auch die Firmware gehört zur Kompatibilität. Neue GPU-Generationen benötigen unter Umständen eine bestimmte BIOS-Version, aktualisierte Management-Firmware oder eine passende Option für den Above-4G-Adressraum. Bei großen Speicherräumen und mehreren Beschleunigern sollte außerdem geprüft werden, wie das System die Geräte im Betriebssystem enumeriert und welche Einstellungen für die vorgesehene Software erforderlich sind.

Typische Fehler bei der Inbetriebnahme

Viele Probleme entstehen nicht durch einen einzelnen Defekt, sondern durch eine unvollständige Inbetriebnahme. Der Server läuft im Leerlauf, ein kleiner Funktionstest ist erfolgreich, und erst eine längere Trainings- oder Simulationslast bringt das System zum Stillstand.

Ein systematischer Ablauf reduziert die Fehlersuche erheblich:

1. Hardware im ausgeschalteten Zustand dokumentieren

Vor dem Einschalten sollten GPU-Modelle, Seriennummern, Netzteilmodule, Stromkabel und Steckplätze erfasst werden. Bei mehreren identischen Karten hilft eine eindeutige Zuordnung, spätere Fehler nicht mit vertauschten Anschlüssen oder falschen Slot-Angaben zu verwechseln.

2. Stromversorgung und Redundanz testen

Der Server sollte zunächst mit der vorgesehenen Netzteilverteilung starten. Danach wird kontrolliert, ob beide Netzteile erkannt werden und ob die Last tatsächlich verteilt wird. Ein geplanter Test des Netzteil-Ausfalls gehört in eine Wartungsphase, nicht in den laufenden Produktionsbetrieb.

Dabei darf die Frage nicht lauten, ob der Server bei geringer Last weiterläuft. Entscheidend ist, ob der definierte Ausfallmodus auch unter der geplanten GPU-Last stabil bleibt.

3. Firmwarestand und Geräteerkennung prüfen

BIOS, BMC und GPU-Firmware sollten zum Servermodell und zur GPU-Generation passen. Im Betriebssystem müssen alle Karten mit dem erwarteten Modell und dem korrekten PCIe-Link sichtbar sein. Eine Karte, die zwar erkannt wird, aber nur mit einer unerwartet niedrigen Linkbreite arbeitet, kann zum Engpass werden, ohne dass sofort ein Hardwarefehler erscheint.

4. Temperaturverhalten unter kontrollierter Last beobachten

Ein kurzer Starttest ist nicht ausreichend. Die Temperaturentwicklung sollte unter einer realistischen Last beobachtet werden, wobei auch Lüfterdrehzahlen, Drosselung und Fehlermeldungen im BMC protokolliert werden. Steigt die Temperatur kontinuierlich, obwohl die Last gleich bleibt, deutet das auf ein Problem mit Luftführung, Umgebungstemperatur oder Kühlerkontakt hin.

5. Lastwechsel berücksichtigen

GPU-Beschleuniger arbeiten nicht immer mit gleichmäßiger Leistungsaufnahme. Wechsel zwischen Speicherzugriffen, Rechenlast und Kommunikationsphasen können kurzfristige Spitzen erzeugen. Deshalb sollte der Test nicht ausschließlich aus einer konstanten synthetischen Belastung bestehen. Ein praxisnaher Ablauf mit den vorgesehenen Anwendungen ist aussagekräftiger.

6. Netzwerk- und Storage-Last einbeziehen

In KI-, Analyse- und Simulationsumgebungen arbeiten GPUs selten isoliert. Daten werden von NVMe-Speichern gelesen, über schnelle Netzwerkkarten übertragen und zwischen mehreren Beschleunigern ausgetauscht. Diese zusätzliche Last kann sowohl die Leistungsaufnahme als auch die thermische Belastung des Gesamtsystems erhöhen.

Die Checkliste für die Systemauswahl

Die folgende Liste eignet sich als Arbeitsgrundlage, bevor ein GPU-Server bestellt, erweitert oder in ein bestehendes Rack integriert wird:

1. GPU-Variante eindeutig festlegen. PCIe-, SXM- und herstellerspezifische Module sind nicht austauschbar, auch wenn sie zur gleichen Produktfamilie gehören.

2. TDP der tatsächlich eingesetzten GPU verwenden. Für die Planung zählt nicht der niedrigste Wert der Serie, sondern das konkrete Beschleunigermodell.

3. Gesamtleistung des Servers berechnen. GPUs, CPUs, DDR5-Arbeitsspeicher, NVMe-Laufwerke, Netzwerkkarten, Controller und Lüfter gehören in dieselbe Rechnung.

4. Die 80-Prozent-Reserve einhalten. Die GPU-TDP sollte zusammen nicht mehr als ungefähr 80 Prozent der verfügbaren Nennleistung der Stromversorgung beanspruchen.

5. Redundanzmodus definieren. Festlegen, ob der Server den Ausfall eines Netzteils, einer Stromzuführung oder eines gesamten Versorgungspfads überstehen muss.

6. Netzteileffizienz auswählen. 80 PLUS Gold ist eine sinnvolle Untergrenze für viele GPU-Server; Platinum oder Titanium reduzieren die Verlustwärme bei hoher Dauerlast.

7. Rack-Stromversorgung abgleichen. Netzteile, Kabel, PDUs und Gebäudestrom müssen zum tatsächlichen Betriebsmodus passen.

8. Kühlungsart bestimmen. Bei moderater Leistungsdichte kann ein freigegebenes luftgekühltes Chassis genügen; bei hoher Rack-Dichte ist Direct Liquid Cooling einzuplanen.

9. Mechanik kontrollieren. Kartenlänge, Bauhöhe, Breite, Slot-Abstände und Luftleitbleche entscheiden über die praktische Einsetzbarkeit.

10. PCIe-Ressourcen prüfen. Lane-Anbindung, Bifurkation, Steckplatzbelegung und Konkurrenz mit Storage- oder Netzwerkkarten müssen zur geplanten Konfiguration passen.

11. Firmware-Kompatibilität klären. BIOS, BMC, GPU-Firmware und Treiber sollten als zusammengehörige Plattform betrachtet werden.

12. Wartung und Monitoring vorsehen. Temperatur, Leistungsaufnahme, Lüfter, Netzteilstatus und GPU-Fehler müssen zentral überwacht werden können.

13. Realistische Lasttests durchführen. Nicht nur den Start, sondern auch Dauerlast, Lastwechsel, Datenübertragung und Verhalten bei hoher Umgebungstemperatur prüfen.

14. Ersatzteilstrategie festlegen. Bei mehreren identischen GPUs und Netzteilmodulen sollte klar sein, welche Komponenten kurzfristig ersetzt werden können und welche Plattformbindung besteht.

Was bei bestehenden Servern nachrüstbar ist

Eine Nachrüstung mit PCIe-GPUs kann sinnvoll sein, wenn der Server über genügend PCIe-Lanes, passende Stromanschlüsse und eine vom Hersteller bestätigte Kühlung verfügt. Besonders bei 350-Watt-Karten ist dieser Weg je nach Chassis realistisch. Dennoch muss die Konfiguration als Ganzes geprüft werden, weil der Server möglicherweise ursprünglich nur für wenige Erweiterungskarten ausgelegt wurde.

Ein vorhandenes 2-HE-Chassis kann beispielsweise mechanisch ausreichend wirken, während die Lüftersteuerung oder die Netzteile nur für eine geringere Dauerlast vorgesehen sind. Auch ein voller Laufwerkskäfig kann den Luftstrom so verändern, dass die GPU zwar im Leerlauf unauffällig bleibt, unter Dauerlast aber drosselt.

Bei SXM-Plattformen ist die Nachrüstung in der Regel kein Aufrüstschritt im klassischen Sinn. Diese Systeme werden als integrierte GPU-Server entworfen. Baseboard, Interconnects, Kühlplatten, Stromversorgung und Management müssen zusammenpassen. Eine Plattform, die für PCIe-Karten ausgelegt ist, wird dadurch nicht automatisch zu einem SXM-System.

Für die Auswahl einer PCIe-GPU sollten Administratoren neben dem Datenblatt des Beschleunigers auch die Kompatibilitätsmatrix des Serverherstellers heranziehen. Eine übersichtliche Einordnung moderner Server-Hardware kann dabei den Einstieg erleichtern, ersetzt aber nicht die Prüfung des konkreten Chassis und der vorgesehenen Betriebskonfiguration.

Präventive Maßnahmen für den Dauerbetrieb

Die zuverlässigste GPU-Infrastruktur entsteht nicht durch eine einmalige erfolgreiche Inbetriebnahme, sondern durch laufende Kontrolle. Filter, Luftwege und Lüfterzustände verändern sich im Betrieb. Firmwarestände werden aktualisiert, Anwendungen erzeugen unterschiedliche Lastprofile und mit zusätzlichen Karten kann sich die Leistungsbilanz des Servers verschieben.

Für den Alltag haben sich deshalb einige einfache, aber konsequente Maßnahmen bewährt:

• Temperatur- und Leistungsgrenzwerte nicht erst nach einer Abschaltung auswerten, sondern regelmäßig überwachen.
• Firmware-Updates zunächst an einem Testsystem prüfen, bevor mehrere GPU-Knoten gleichzeitig aktualisiert werden.
• Bei jeder Hardwareänderung die Leistungs- und Kühlungsplanung erneut betrachten.
• Staub und blockierte Luftwege als technische Fehlerquelle ernst nehmen.
• Netzteilalarme, Lüfterwarnungen und korrigierte Hardwarefehler zentral protokollieren.
• Lasttests nach größeren Treiber-, BIOS- oder Anwendungsänderungen wiederholen.
• Ersatznetzteile und freigegebene GPU-Komponenten entsprechend der Betriebsrelevanz vorhalten.
• Die Rack-Gesamtleistung beobachten, nicht nur die Werte eines einzelnen Servers.
• Bei Flüssigkeitskühlung Wartungsintervalle, Leckageüberwachung und Zuständigkeiten eindeutig dokumentieren.

Gerade bei leistungsfähigen Beschleunigern ist Monitoring ein Bestandteil der Hardwareplanung. Eine GPU, die regelmäßig wegen thermischer Grenzen drosselt, liefert nicht nur weniger Rechenleistung. Sie verlängert auch Verarbeitungszeiten und kann in Verbundsystemen andere GPUs ausbremsen. Ein Netzteil, das nur knapp ausreicht, verursacht dagegen oft schwer reproduzierbare Ausfälle, weil das System im Leerlauf stabil bleibt und erst bei bestimmten Lastwechseln abschaltet.

Fazit

Die Anforderungen von GPU-Beschleunigern an Server-Netzteile und Kühlung steigen deutlich schneller als bei gewöhnlichen Erweiterungskarten. 350-Watt-PCIe-Karten können in geeigneten luftgekühlten Servern betrieben werden, benötigen aber bereits eine sorgfältige Prüfung von Stromanschlüssen, Luftführung und Plattformfreigabe. 700-Watt-SXM-Module sowie Beschleuniger mit 1.000 Watt oder mehr verlangen eine integrierte Hochleistungsplattform mit redundanter Stromversorgung und zunehmend direkter Flüssigkeitskühlung.

Die zentrale Entscheidung lautet daher nicht, welche GPU in einen freien Steckplatz passt. Sie lautet, ob Server, Netzteil, Rack-Stromversorgung, Firmware, PCIe-Architektur und Kühlung für genau diese GPU gemeinsam ausgelegt sind. Wer die TDP realistisch berechnet, eine Reserve von etwa 20 Prozent einplant, den Ausfallfall der redundanten Versorgung prüft und die Rack-Dichte frühzeitig berücksichtigt, vermeidet die typischen Fehlerbilder aus dem Support-Alltag: unerklärliche Neustarts, thermische Drosselung und Abschaltungen genau dann, wenn die Rechenleistung gebraucht wird.