Nvidia RTX PRO 6000 mit 96 GB: Grafikleistung für grosse KI-Modelle

Kaufberatung · 5 Min. Lesezeit

Die Nvidia RTX PRO 6000 Blackwell ist eine Grafikkarte mit 96 GB Speicher und kostet ein Vielfaches einer Gaming-Karte. Dieser Beitrag zeigt, was hinter dem Preis steckt: viel schneller Speicher mit Fehlerkorrektur, getestete Treiber, eine Zertifizierung für Profi-Software und was über den Chip bekannt ist. Er zeigt auch, für wen sich die Karte rechnet und für wen nicht.

Was die RTX PRO 6000 Blackwell ist

Nvidia bietet die Karte in drei Ausführungen an. Die Workstation Edition ist für einzelne Karten im Arbeitsplatzrechner gedacht. Die Max-Q Workstation Edition ist für dichte Systeme mit bis zu vier Karten gedacht. Die Server Edition ist für Rechenzentren gebaut und verlangt passive Kühlung, bei der Gehäuselüfter des Servers die Wärme abführen. Alle drei Ausführungen tragen 96 GB GDDR7 mit Fehlerkorrektur (ECC), vier Anschlüsse nach DisplayPort 2.1 und eine Anbindung über PCIe Gen 5.

Die Workstation Edition mit voller Leistung finden Sie hier, einmal als Handelsware und einmal als OEM-Ausführung für den Einbau in Systeme:

PNY Nvidia RTX Pro 6000 BW, 96GB, GDDR7 PCI-Ex16 Gen 5.0, 4x DP 2.1a14'965.91 CHF inkl. MwStauf BestellungZum Produkt

Bilder: PNY Nvidia RTX Pro 6000 BW, 96GB, GDDR7 PCI-Ex16 Gen 5.0, 4x DP 2.1a (13)

PNY Nvidia RTX Pro 6000 BW, 96GB, GDDR7 PCI-Ex16 Gen 5.0, 4x DP 2.1a, OEM14'931.82 CHF inkl. MwStauf BestellungZum Produkt

Bilder: PNY Nvidia RTX Pro 6000 BW, 96GB, GDDR7 PCI-Ex16 Gen 5.0, 4x DP 2.1a, OEM (13)

Der Chip: was über Grösse und Fertigung bekannt ist

Eine Aufschlüsselung der Herstellkosten gibt es weder von Nvidia noch in einer der Quellen, die wir ausgewertet haben. Greifbar ist aber die Grösse des Chips. Für die verwandte Gaming-Karte RTX 5090 nennt ComputerBase den Chip GB202 mit 92,2 Milliarden Transistoren auf einer Fläche von 750 Quadratmillimetern, hergestellt bei TSMC im Verfahren TSMC 4N. ComputerBase nennt den Chip schier riesig.

Ein grosser Chip aus einem Stück ist teuer, weil auf einer Siliziumscheibe nur wenige Exemplare Platz haben und ein einziger Fehler im Silizium die Ausbeute senkt. Kleinere Chips teilen sich diese Kosten auf viel mehr Stücke. Auf dem GB202 sitzen laut ComputerBase 192 Streaming-Multiprozessoren, bei der RTX 5090 sind davon 170 freigeschaltet. Für die Server Edition der Profikarte nennt Nvidia 24’064 CUDA-Kerne, die RTX 5090 hat 21’760. Ob beide Karten auf demselben Chip beruhen, sagen die Herstellerseiten nicht ausdrücklich.

Für die KI-Leistung nennt Nvidia bis zu 4000 TOPS. Das ist ein theoretischer Spitzenwert für das Zahlenformat FP4 unter Ausnutzung von Sparsity, also dünn besetzten Daten. Er beschreibt keine Alltagsleistung und lässt sich nicht mit Werten anderer Zahlenformate vergleichen.

96 GB GDDR7 mit ECC: der Speicher macht den Unterschied

Die RTX 5090 hat 32 GB GDDR7, die Profikarte dreimal so viel. Beide arbeiten mit einer Speicheranbindung von 512-bit. Die Bandbreite der Workstation Edition beträgt 1’792 GB/s, und ComputerBase nennt für die RTX 5090 mit 1’792 GB/s denselben Wert. Die Server Edition kommt laut Nvidia auf 1’597 GB/s. Die Karte ist also nicht schneller angebunden, sie fasst mehr Daten. Das ist für grosse KI-Modelle und grosse Szenen entscheidend, weil alles, was nicht in den Grafikspeicher passt, ausgelagert werden muss und dann viel langsamer läuft.

Hinzu kommt die Fehlerkorrektur. ECC erkennt und korrigiert einzelne Speicherfehler. Bei Berechnungen, die viele Stunden laufen, ist das ein Sicherheitsnetz, denn ein unbemerkter Bitfehler kann ein ganzes Ergebnis verfälschen. Nvidia nennt ECC bei allen drei Ausführungen ausdrücklich.

Auch die Leistungsaufnahme prägt die Konstruktion. Nvidia gibt für die Workstation Edition 600 W an, für die Max-Q Variante 300 W und für die Server Edition 400 bis 600 W. Die Kühlung, die Stromversorgung und die Leiterplatte müssen das dauerhaft aushalten. Die Max-Q Ausführung finden Sie hier:

PNY Nvidia RTX Pro 6000 BW, 96GB, GDDR7 PCI-Ex16 Gen 5.0, 4x DP 2.1a14'965.91 CHF inkl. MwStauf BestellungZum Produkt

Bilder: PNY Nvidia RTX Pro 6000 BW, 96GB, GDDR7 PCI-Ex16 Gen 5.0, 4x DP 2.1a (3)

PNY Nvidia RTX Pro 6000 BW, 96GB, GDDR7 PCI-Ex16 Gen 5.0, 4x DP 2.1a, OEM14'931.82 CHF inkl. MwStauf BestellungZum Produkt

Bilder: PNY Nvidia RTX Pro 6000 BW, 96GB, GDDR7 PCI-Ex16 Gen 5.0, 4x DP 2.1a, OEM (3)

Treiber, Zertifizierung und Server-Betrieb

Nvidia pflegt für Profikarten eigene RTX Enterprise Treiber. Laut Nvidia liegt der Schwerpunkt auf Stabilität, Sicherheit und dem Beseitigen von Engpässen. Zudem arbeitet Nvidia nach eigener Aussage mit Software- und Hardwarepartnern zusammen, um die Treiber für professionelle Anwendungen und Systeme zu testen und zu zertifizieren.

Die Karten lassen sich ausserdem teilen. Mit Multi-Instance GPU (MIG) entstehen laut Nvidia bis zu vier voneinander getrennte Instanzen, jede mit eigenem Speicher, eigenem Cache und eigenen Rechenkernen. Das lohnt sich für Rechenzentren und virtuelle Arbeitsplätze, bei denen mehrere Nutzer eine Karte teilen. Die Server Edition ist genau dafür gedacht und läuft in Servern passiv gekühlt:

PNY Nvidia RTX P6000 Server, 96 GB PCI-Ex x16 Gen 5.0, Dual Slot15'363.64 CHF inkl. MwStauf BestellungZum Produkt

Bilder: PNY Nvidia RTX P6000 Server, 96 GB PCI-Ex x16 Gen 5.0, Dual Slot (3)

Vergleich mit der GeForce RTX 5090

Die RTX 5090 beschreibt Nvidia als leistungsstärkste GeForce-Karte für Gamer und Creators. Sie ist technisch verwandt, aber auf Spiele und Kreativarbeit zugeschnitten. Die folgende Tabelle zeigt die Unterschiede, soweit sie in den Herstellerangaben und bei ComputerBase stehen.

Die Tabelle zeigt, wofür Sie bezahlen: dreimal so viel Speicher mit ECC, zertifizierte Treiber und Bauformen für Server und dichte Workstations. Bei der reinen Speicherbandbreite und den Rechenkernen ist der Abstand klein. Wer nur spielt, schneidet Videos oder rechnet mit Modellen, die in 32 GB passen, bezahlt bei der Profikarte vor allem für Eigenschaften, die er nicht nutzt.

Für wen sich die Karte lohnt

Lokale KI ist der klarste Fall. Die Grösse eines Modells bestimmt, wie viel Grafikspeicher Sie brauchen. Nvidia nennt für die Karte lokal laufende Sprachmodelle, KI-Agenten und generative KI. Mit 96 GB lassen sich grössere Modelle auf einer einzelnen Karte halten, statt sie auf mehrere Karten aufzuteilen. Das spart Aufwand und vermeidet Engpässe zwischen den Karten.

Beim Rendering gilt dasselbe für grosse Szenen. Passen Geometrie und Texturen nicht in den Speicher, bricht die Leistung ein oder die Berechnung bricht ab. Nvidia nennt als Einsatzgebiete das Rendering dreidimensionaler Szenen, KI-Entwicklung und Echtzeit-Simulation. Hinzu kommen Videoarbeit mit mehreren Encodern und Decodern sowie die Visualisierung auf bis zu vier Monitoren.

Weniger sinnvoll ist die Karte, wenn Ihre Aufgabe in 32 GB passt und keine Zertifizierung verlangt wird. Dann ist die GeForce das wirtschaftlichere Werkzeug. Prüfen Sie vor der Wahl, wie viel Speicher Ihre grösste Aufgabe wirklich belegt, und planen Sie Netzteil und Gehäusekühlung für die genannte Leistungsaufnahme ein. Die aktuelle Verfügbarkeit sehen Sie in den Produktkarten oben.

Alle Beiträge im Magazin