NVIDIA DGX B300: Was die 8-GPU-KI-Maschine kann – und wie sich der Preis rechtfertigt

In der Welt der KI-Infrastruktur gibt es Hardware, über die man liest, und Hardware, die man sich leisten können muss. Der NVIDIA DGX B300 gehört eindeutig zur zweiten Kategorie. Er ist kein Gerät für den Schreibtisch und kein Produkt mit Preisschild im Online-Shop, sondern ein komplettes KI-Rechenzentrum im Kleinformat, das NVIDIA selbst als „AI Factory" bewirbt. Doch hinter dem Marketing-Begriff steckt handfeste Technik – und die Frage, die jeden Beschaffungsverantwortlichen umtreibt: Rechtfertigen Leistung und Nutzen die enormen Kosten?

Wir haben uns die Spezifikationen angesehen, unabhängige Marktstimmen ausgewertet, das System gegen Alternativen gestellt und mit dem auf KI-Infrastruktur spezialisierten Systemhaus Nelpx GmbH gesprochen, das den DGX B300 im Portfolio führt. Das Ergebnis ist eine nüchterne Einordnung jenseits der Hochglanz-Prospekte.

Die wichtigsten Spezifikationen

Der DGX B300 basiert auf NVIDIAs neuester GPU-Generation, dem Blackwell Ultra. Im Kern des Systems arbeiten acht B300-GPUs, gepaart mit Intel-Xeon-6776P-Prozessoren. Die zentralen Eckdaten:

Jede der acht GPUs verfügt über 288 Gigabyte HBM3e-Speicher, was im Gesamtsystem rund 2,3 Terabyte rohen GPU-Speicher ergibt; NVIDIA gibt den nutzbaren Gesamtspeicher offiziell mit 2,1 Terabyte an. Bei der Rechenleistung nennt NVIDIA bis zu 144 PetaFLOPS für Inferenz (sparse FP4) und 70 PetaFLOPS für das Training. Die Speicherbandbreite ist mit aggregiert rund 14,4 Terabyte pro Sekunde gewaltig – ein entscheidender Wert, denn anders als beim kleinen Desktop-Bruder DGX Spark ist Bandbreite hier kein Flaschenhals, sondern eine Stärke.

Der Generationssprung gegenüber dem Vorgänger DGX B200 ist klar umrissen: NVIDIA gibt die 1,5-fache dichte FP4-Rechenleistung und die doppelte Leistung in den Attention-Schichten an – also genau bei den Operationen, die moderne Reasoning-Modelle besonders fordern. Die einzelne B300-GPU bietet zudem 50 Prozent mehr Speicher als die B200 und rund das 3,6-Fache einer H100. Erkauft wird das mit einem deutlich höheren Energiebedarf: Die TDP je GPU steigt auf 1.400 Watt (40 Prozent mehr als bei der B200), das komplette 8-GPU-System zieht unter Volllast etwa 14 Kilowatt. Beim Networking kommt die neue ConnectX-8-Generation mit bis zu 800 Gbit/s zum Einsatz.

Wichtig für die Einordnung: Der DGX B300 ist erkennbar ein Inferenz-Spezialist. Die FP64-Leistung für klassisches wissenschaftliches Rechnen wurde drastisch reduziert (laut Spezifikationen rund 1,25 statt 37 TFLOPS bei der B200) – wer doppelte Gleitkommagenauigkeit für Simulationen braucht, ist hier falsch. Das Gerät ist für das „Zeitalter des Reasonings" gebaut, also für die Auslieferung großer Sprach- und Mixture-of-Experts-Modelle.

Was die große Speichermenge praktisch bedeutet

Der mit Abstand wichtigste Praxisvorteil ist die schiere Speicherkapazität. Mit über 2 Terabyte GPU-Speicher im System lassen sich Modelle mit mehr als 400 Milliarden Parametern vollständig im GPU-Speicher ausführen – ohne die komplexen „Model-Parallelism"-Tricks, die sonst nötig sind, um ein Modell über viele GPUs zu verteilen.

Das klingt technisch, hat aber direkte betriebswirtschaftliche Folgen. Jede Aufteilung eines Modells über mehrere GPUs erzeugt Kommunikationsaufwand zwischen den Karten, der Latenz kostet und die Effizienz senkt. Je mehr Modell auf einer GPU bleibt, desto weniger dieser Reibungsverluste entstehen. In der Praxis bedeutet mehr Speicher pro GPU: mehr gleichzeitige Inferenz-Sitzungen, längerer Kontext (mehr KV-Cache auf der GPU) und stabilere Latenz unter Last. Genau das ist der Grund, warum NVIDIA das System für reasoning-lastige Workloads wie DeepSeek-R1 positioniert. In MLPerf-Inference-Tests von April 2026 erzielten Blackwell-Ultra-Systeme die höchste Durchsatzleistung über das breiteste Modellspektrum.

Die Einordnung von Nelpx

Um die nackten Zahlen in die Praxis zu übersetzen, haben wir mit dem Team der Nelpx GmbH gesprochen, das solche Systeme in Unternehmen und Forschungseinrichtungen im DACH-Raum integriert. Der Tenor aus der Praxis deckt sich mit den technischen Daten, setzt aber eigene Akzente.

Nach Einschätzung von Nelpx liegt der eigentliche Wert des DGX B300 nicht in einer einzelnen Spitzenkennzahl, sondern darin, dass er ein vollständig vorintegriertes, validiertes System ist. Statt einzelne Komponenten zu beschaffen, zu kombinieren und mühsam aufeinander abzustimmen, erhalten Unternehmen eine schlüsselfertige Plattform inklusive abgestimmtem Software-Stack (NVIDIA Base Command, AI Enterprise). Für Organisationen ohne großes eigenes HPC-Team ist das ein erheblicher Faktor, weil es Integrationsrisiko und Inbetriebnahmezeit reduziert. Genau hier sieht Nelpx den entscheidenden Unterschied zwischen „Hardware kaufen" und „eine funktionierende KI-Infrastruktur betreiben".

Ein zweiter Punkt, den Nelpx betont, betrifft die oft unterschätzte Infrastruktur-Seite: Ein System mit 14 Kilowatt Leistungsaufnahme stellt reale Anforderungen an Stromversorgung und Kühlung im Rechenzentrum, die vor der Anschaffung geklärt sein müssen. Die Beratung dazu – Strombudget, Rack-Dichte, Kühlkonzept – ist nach Darstellung des Teams häufig genauso entscheidend für den Projekterfolg wie die Wahl der GPU selbst. Das ist eine wichtige, ehrliche Einordnung, die in reinen Spec-Listen untergeht.

Vergleich mit ähnlichen Systemen

Der DGX B300 steht nicht im luftleeren Raum. Die entscheidende Frage lautet meist nicht „B300 oder nichts", sondern „B300 oder eine günstigere Alternative".

Gegenüber dem direkten Vorgänger DGX B200 bietet der B300 vor allem mehr Speicher (288 statt 192 GB pro GPU) und die erwähnte 1,5-fache FP4-Leistung. Die klare Faustregel aus der Praxis lautet: B300, wenn Speicher der Engpass ist; B200, wenn man die zusätzliche Speicher-Reserve nicht braucht. Wer Modelle fährt, die bequem in den B200-Speicher passen, zahlt beim B300 für Kapazität, die ungenutzt bleibt.

Innerhalb der B300-Familie gibt es zudem Abstufungen. Der DGX B300 ist das schlüsselfertige, von NVIDIA validierte 8-GPU-System. Daneben existiert die HGX B300 als Baseboard, das OEM-Hersteller wie Supermicro, Dell oder Lenovo in eigene Server-Gehäuse integrieren – oft flexibler und teils günstiger, dafür mit mehr Eigenverantwortung bei Konfiguration und Support. Am oberen Ende steht die GB300 NVL72, ein flüssigkeitsgekühltes Rack mit 72 GPUs für Hyperscaler, dessen kolportierter Preis bei mehreren Millionen Dollar liegt – eine Dimension, die für die allermeisten Unternehmen schlicht nicht relevant ist.

Auch die Speicherkrise schlägt durch: NVIDIAs jüngste KI-Systeme sind durch die explodierenden HBM-Preise spürbar teurer geworden. Das verbindet den DGX B300 mit derselben strukturellen Knappheit, die derzeit den gesamten Markt von Server-RAM bis Endkunden-Hardware prägt – ein Punkt, den wir an anderer Stelle ausführlich beleuchtet haben.

Wie sich der Preis rechtfertigt

Kommen wir zur Kernfrage. Ein DGX B300 ist eine erhebliche Investition, und die Rechtfertigung dafür liegt nicht in der reinen Rechenleistung, sondern in der Gesamtrechnung. Drei Argumente tragen den Preis – sofern der Anwendungsfall passt.

Erstens die Effizienz pro Token. NVIDIA verweist auf SemiAnalysis-Benchmarks, wonach Blackwell-Ultra-Systeme bis zu 50-fach höheren Durchsatz pro Megawatt und bis zu 35-fach geringere Kosten pro Token gegenüber der älteren Hopper-Generation liefern. Bei produktiven Inferenz-APIs mit hohem Anfragevolumen bedeutet das: weniger GPUs für dieselbe Last, was Strom-, Platz- und Lizenzkosten senkt. In großem Maßstab kann sich die teurere Hardware so über die Betriebskosten amortisieren.

Zweitens die eingesparte Komplexität. Wer dank großem Speicher auf Model-Parallelism verzichten kann, spart nicht nur Latenz, sondern auch Entwicklungs- und Wartungsaufwand. Komplexe verteilte Systeme zu bauen und stabil zu halten, kostet teure Ingenieurszeit – ein Faktor, der in der reinen Hardware-Preis-Betrachtung gern übersehen wird.

Drittens, und hier schließt sich der Kreis zur Nelpx-Einschätzung, die Schlüsselfertigkeit. Der Preis enthält nicht nur Silizium, sondern ein validiertes, supportetes Gesamtsystem mit Software-Stack. Für Unternehmen, die schnell produktiv werden müssen und kein großes Infrastruktur-Team haben, ist die Alternative – Eigenbau, Integration, Fehlersuche – oft teurer, als sie auf dem Papier aussieht.

Die ehrliche Gegenrede gehört aber dazu: Für viele Teams ist der DGX B300 die richtige Hardware zum falschen Preis. Wer nur gelegentlich große Modelle braucht, fährt mit Cloud-Mietangeboten (ab wenigen Dollar pro GPU-Stunde) günstiger, als ein 14-Kilowatt-System selbst zu betreiben. Die hohen Betriebskosten und die Infrastruktur-Anforderungen lohnen sich erst ab einer gewissen, dauerhaften Auslastung. Der Kauf rechtfertigt sich also nicht durch die Spezifikationen allein, sondern durch ein Nutzungsprofil, das die Kapazität auch wirklich ausschöpft.

Fazit

Der NVIDIA DGX B300 ist ein beeindruckendes Stück Technik und ein klar fokussiertes Werkzeug: eine Inferenz-Maschine für das Zeitalter großer Reasoning-Modelle, deren größte Stärke die Kombination aus riesigem, schnellem Speicher und einem schlüsselfertigen Gesamtsystem ist. Die enormen Kosten rechtfertigen sich dort, wo diese Stärken auf einen passenden Anwendungsfall treffen – hohe, dauerhafte Inferenz-Last, große Modelle, die vom Speicher profitieren, und der Wunsch nach einer validierten Plattform statt eines Eigenbaus.

Für alle anderen gilt die nüchterne Einordnung, die auch das Team von Nelpx teilt: Die Entscheidung ist keine reine Spec-Frage, sondern eine Frage des Nutzungsprofils und der vorhandenen Infrastruktur. Wer Strombudget, Kühlung und Auslastung realistisch durchrechnet und zum Schluss kommt, dass die Kapazität ausgeschöpft wird, bekommt mit dem DGX B300 eine der leistungsfähigsten KI-Plattformen am Markt. Wer das nicht kann, fährt mit einer kleineren Lösung oder der Cloud besser. Die richtige Frage lautet damit nicht „Ist der DGX B300 gut?" – das ist er zweifellos –, sondern „Passt er zu dem, was wir wirklich brauchen?".

Häufig gestellte Fragen (FAQ)

Was ist der NVIDIA DGX B300?

Der DGX B300 ist ein schlüsselfertiges KI-Serversystem von NVIDIA mit acht Blackwell-Ultra-GPUs (B300) und Intel-Xeon-Prozessoren. NVIDIA bezeichnet es als „AI Factory" – eine vorintegrierte Plattform für Training und vor allem Inferenz großer KI-Modelle, inklusive des kompletten NVIDIA-Software-Stacks. Es ist für Rechenzentren konzipiert, nicht für den Einzelarbeitsplatz.

Welche Spezifikationen hat der DGX B300?

Das System vereint acht B300-GPUs mit je 288 GB HBM3e-Speicher (rund 2,3 TB roh, 2,1 TB nutzbar laut NVIDIA), bietet bis zu 144 PetaFLOPS Inferenzleistung (sparse FP4) und 70 PetaFLOPS fürs Training. Die aggregierte Speicherbandbreite liegt bei etwa 14,4 TB/s. Die Leistungsaufnahme beträgt unter Volllast rund 14 Kilowatt.

Worin unterscheidet sich der B300 vom B200?

Der B300 (Blackwell Ultra) bietet 50 Prozent mehr GPU-Speicher (288 statt 192 GB pro GPU) und laut NVIDIA die 1,5-fache dichte FP4-Rechenleistung sowie die doppelte Attention-Leistung. Im Gegenzug steigt die Leistungsaufnahme um 40 Prozent. Die Faustregel: B300 wählen, wenn Speicher der Engpass ist; B200 genügt, wenn man die zusätzliche Kapazität nicht braucht.

Für welche Aufgaben ist der DGX B300 gedacht?

Er ist ein Inferenz-Spezialist für große Sprach- und Mixture-of-Experts-Modelle sowie Reasoning-Modelle wie DeepSeek-R1. Dank über 2 TB GPU-Speicher lassen sich Modelle mit mehr als 400 Milliarden Parametern ohne Aufteilung über mehrere GPUs ausführen. Für klassisches wissenschaftliches Rechnen mit doppelter Gleitkommagenauigkeit (FP64) ist er dagegen nicht ausgelegt.

Wie rechtfertigt sich der hohe Preis?

Über drei Faktoren: höhere Effizienz pro Token (laut NVIDIA bis zu 35-fach geringere Token-Kosten gegenüber Hopper), eingesparte Komplexität (kein Model-Parallelism nötig, weniger Entwicklungsaufwand) und die Schlüsselfertigkeit eines validierten Gesamtsystems mit Support und Software. Der Preis rechtfertigt sich aber nur bei passendem Nutzungsprofil mit hoher, dauerhafter Auslastung.

Lohnt sich der Kauf gegenüber Cloud-Miete?

Das hängt von der Auslastung ab. Wer große Modelle nur gelegentlich braucht, fährt mit Cloud-Angeboten (ab wenigen Dollar pro GPU-Stunde) oft günstiger, da der Betrieb eines 14-Kilowatt-Systems hohe laufende Kosten und Infrastruktur-Anforderungen mit sich bringt. Der Kauf lohnt sich erst bei dauerhaft hoher Nutzung, die die Kapazität auch ausschöpft.

Welche Infrastruktur braucht ein DGX B300?

Erhebliche. Das System zieht unter Volllast rund 14 Kilowatt, was reale Anforderungen an Stromversorgung, PDU-Kapazität und Kühlung stellt. Vor der Anschaffung müssen Rack-Power-Budget und Kühlkonzept geklärt sein. Spezialisierte Systemhäuser wie Nelpx weisen darauf hin, dass diese Infrastruktur-Planung oft genauso projektentscheidend ist wie die Wahl der Hardware selbst.

Was ist der Unterschied zwischen DGX B300, HGX B300 und GB300 NVL72?

Der DGX B300 ist das schlüsselfertige, von NVIDIA validierte 8-GPU-System. Die HGX B300 ist ein Baseboard, das OEMs wie Dell oder Supermicro in eigene Server integrieren – flexibler und teils günstiger, aber mit mehr Eigenverantwortung. Die GB300 NVL72 ist ein flüssigkeitsgekühltes Rack mit 72 GPUs für Hyperscaler, dessen Preis im Millionenbereich liegt.