NVIDIA DGX B200
Die Grundlage für Ihre KI-Fabrik.
Revolutionäre Leistung unterstützt durch evolutionäre Innovation
NVIDIA DGX™ B200 ist eine einheitliche KI-Plattform für die Entwicklung und Bereitstellung von Pipelines für Unternehmen jeder Größe in jeder Phase ihrer KI-Entwicklung. NVIDIA DGX B200 ist mit acht NVIDIA Blackwell GPUs ausgestattet, die mit NVIDIA® NVLink™ der fünften Generation verbunden sind. Sie bietet die 3-fache Trainingsleistung und die 15-fache Inferenzleistung im Vergleich zu Systemen der vorherigen Generation. DGX B200 nutzt die NVIDIA Blackwell-Architektur und kann verschiedene Workloads bewältigen – einschließlich großer Sprachmodelle, Empfehlungssysteme und Chatbots – und ist somit ideal für Unternehmen, die ihre KI-Transformation beschleunigen möchten.
Vorteile
Eine einheitliche KI-Fabrik
Leistung
Leistung der nächsten Generation unterstützt von NVIDIA DGX B200
Inferenz für große Sprachmodelle in Echtzeit
Die voraussichtliche Leistung kann Änderungen unterliegen. Token-zu-Token-Latenz (TTL) = 50 ms Echtzeit, Latenz des ersten Tokens (FTL) = 5 s, Eingabesequenzlänge = 32.768, Ausgabesequenzlänge = 1.028, 8 x NVIDIA DGX H100-GPUs mit Luftkühlung im Vergleich zu 1 x NVIDIA DGX B200 mit Luftkühlung in acht Richtungen, pro GPU-Leistungsvergleich.
Optimierte KI-Trainingsleistung
Die voraussichtliche Leistung kann Änderungen unterliegen. 32.768-GPU-Skalierung, 4.096 x NVIDIA DGX H100 Acht-Wege-Cluster mit Luftkühlung: 400G-IB-Netzwerk, 4.096 x 8-Wege-NVIDIA DGX B200 luftgekühlter Cluster: 400G-IB-Netzwerk.
Technische Daten
NVIDIA DGX B200 Spezifikationen
| GPU | 8x NVIDIA Blackwell-GPUs |
| GPU-Speicher | 1.440 GB insgesamt, 64 TB/s HBM3e-Bandbreite |
| Leistung | FP4 Tensor Core: 144 PFLOPS | 72 PFLOPS*
FP8 Tensor Core: 72 PFLOPS** |
| NVIDIA NVSwitch | 2-mal |
| Bandbreite von NVIDIA NVLink | 14,4 TB/s Gesamtbandbreite |
| Systemenergieversorgung | ~14,3 kW max |
| CPU | 2 Intel® Xeon® Platinum 8570 Prozessoren
112 Kerne insgesamt, 2,1 GHz (Basis), 4 GHz (Max Boost) |
| Arbeitsspeicher | 2 TB, konfigurierbar auf 4 TB |
| Netzwerktechnik | 4x OSFP-Ports für 8x NVIDIA ConnectX-7 VPI-Adapter mit einem Port
|
| Management-Netzwerk | 10 Gb/s Onboard-NIC mit RJ45
100 Gb/s Dual-Port Ethernet NIC Host-Baseboard-Management-Controller (BMC) mit RJ45 |
| Datenspeicher | OS: 2x 1,9 TB NVMe M.2
Interner Datenspeicher: 8x 3,84 TB NVMe U.2 |
| Software | NVIDIA DGX OS/Ubuntu (enthalten)
NVIDIA AI Enterprise (empfohlen) NVIDIA Mission Control (empfohlen) |
| Rack-Einheiten (RU) | 10 RU |
| Systemabmessungen | Höhe: 444 mm (17,5 Zoll)
Breite: 482,2 mm (19,0 Zoll) Länge: 897,1 mm (35,3 Zoll) |
| Betriebstemperatur | 10-35°C (50-90°F) |
| Unternehmenssupport | Dreijähriger Enterprise Business-Standard-Support |
|
*Dargestellt in sparse | dense
|
|
Ressourcen
Bereitstellung von KI-Fabriken für jedes Unternehmen
NVIDIA DGX SuperPOD
NVIDIA DGX SuperPOD ist eine schlüsselfertige Lösung für die KI-Rechenzentrumsinfrastruktur, die für alle Benutzer und Workloads kompromisslose Leistung liefert. DGX SuperPOD ist mit jedem NVIDIA DGX-System konfigurierbar und bietet eine erstklassige beschleunigte Infrastruktur mit skalierbarer Leistung für anspruchsvolle KI-Trainings- und Inferenz-Workloads – mit in der Branche bewährten Ergebnissen – damit die IT kompromisslose Leistung liefern kann.
Wir stellen vor: NVIDIA Mission Control
NVIDIA Mission Control optimiert den KI-Fabrikbetrieb, von Workloads bis zur Infrastruktur, mit erstklassigem Know-how, das als Software bereitgestellt wird. Sie unterstützt NVIDIA Blackwell-Rechenzentren und bietet sofortige Agilität für Inferenz und Training sowie Full-Stack-Intelligenz für die Infrastrukturausfallsicherheit. Jedes Unternehmen kann KI mit Hyperscale-Effizienz ausführen, was KI-Experimente vereinfacht und beschleunigt.
Maximieren Sie den Wert der NVIDIA DGX-Plattform
NVIDIA Enterprise Services bieten Support, Schulungen und professionelle Dienstleistungen für Ihre DGX-Infrastruktur. Mit den NVIDIA-Experten, die Ihnen in jeder Phase Ihrer KI-Reise zur Seite stehen, kann Ihnen Enterprise Services helfen, Ihre Projekte schnell und erfolgreich umzusetzen.
Nutzen Sie als NVIDIA DGX-Kunde ein exklusives Schulungsangebot
Erfahren Sie, wie Sie mit KI schneller bahnbrechende Fortschritte erzielen können: mit diesem speziellen technischen Training, das ausdrücklich für NVIDIA DGX-Kunden von den KI-Experten des NVIDIA Deep Learning Institute (DLI) angeboten wird.
FAQs zu NVIDIA Blackwell
NVIDIA Blackwell-gestützte Systeme bieten KI-Inferenz zu 0,02 USD pro Million Token auf GPT-OSS-120B mit NVIDIA TensorRT™-LLM, wie durch SemiAnalysis InferenceX-Benchmarks (Q1 2026) verifiziert. 0,02 US-Dollar pro Million Token auf GPT-OSS-120B stellen eine fünffache Verbesserung gegenüber den eigenen Kosten von Blackwell am Einführungstag dar. Der Verbesserung liegt die kontinuierliche Software-Optimierung zugrunde.
Die wichtigste Metrik für die KI-Inferenz-TCO sind die Kosten pro Token oder das Preis-Leistungs-Verhältnis für die tatsächlich bereitgestellte Leistung. Laut SemiAnalysis InferenceX-Benchmarks vom April 2026 bieten Systeme mit NVIDIA Blackwell Inferenz für etwa 0,02 USD pro Million Token bei 55 TPS/Benutzer für GPT-OSS-120B mit TensorRT-LLM – etwa 4,5-mal billiger als NVIDIA Hopper-gestützte Systeme mit 0,09 USD pro Million Token mit vLLM.
Jetzt starten