NVIDIA NVLink Fusion
Semi-Custom-KI-Infrastruktur mit branchenbewährter Scale-up-KI-Leistung und Rack-Scale-Architektur.
Überblick
Semi-Custom-KI-Fabriken mit NVLink Fusion
NVIDIA NVLink™ Fusion ist die Verbindungstechnologie und IP mit hoher Bandbreite und geringer Latenz, die es Hyperscalern und KI-nativen Unternehmen ermöglicht, benutzerdefinierte XPUs und CPUs in der weltweit führenden KI-Infrastrukturplattform von NVIDIA bereitzustellen. Nutzen Sie den bewährten Scale-up- und Scale-out-Technologie-Stack und das Ökosystem von NVIDIA sowie die MGX™-Rack-Scale-Architektur, um die Komplexität der Entwicklung zu reduzieren, die Leistung zu steigern und die Markteinführung für partiell angepasste KI-Fabriken zu beschleunigen. Durch die Standardisierung auf eine einzige, einheitliche Architektur vereinfacht NVLink Fusion die Betriebsabläufe im gesamten Rechenzentrum, ermöglicht die flexible Neubereitstellung der Rechenzentrumskapazität und erlaubt die nahtlose Integration benutzerdefinierter XPUs in GPUs für heterogene Rechenleistung.
Mit NVLink Fusion können leistungsstarke KI-Fabriken schnell skaliert werden und von allen Lösungskomponenten profitieren, die die Rack-Scale-Architektur von NVIDIA ausmachen.
Vorteile
Vorteile von NVLink Fusion
Erstklassige Scale-Up-Leistung
Die Erschließung des vollen Potenzials von KI-Fabriken erfordert eine schnelle, nahtlose Kommunikation zwischen allen Beschleunigern. NVIDIA NVLink 6 kann 72 XPUs mit 3,6 TB/s pro XPU All-to-All verbinden, mit zukünftigen Roadmap-Konfigurationen, einschließlich Domänengrößen von bis zu 1.152, um die KI-Leistung und die Investitionsrendite zu steigern.
Produktionserprobtes Technologieökosystem und Lieferkette
Das umfassende NVLink Fusion-Technologie-Ökosystem, einschließlich XPU-Designpartnern, CPU-Partnern und IP-Lieferanten, hilft Hyperscalern und KI-Spezialisten, XPU-Designs zu optimieren und die Entwicklung zu rationalisieren. Das MGX-Ökosystem bietet eine umfassende Rack-Scale-Architektur und verbindet die Hyperscaler der Anwender mit derselben bewährten Lieferkette, die NVIDIA für seine eigenen MGX-basierten Systeme nutzt, wodurch die Komplexität neuer Rack-Designs und des Lieferantenmanagements beseitigt und die Zeit bis zur Markteinführung beschleunigt wird.
Flexible Neubereitstellung und Minderung von Bereitstellungsrisiken
Ein wesentlicher Vorteil der MGX Rack-Architektur ist, dass XPU- und GPU-basierte Systeme (wie Vera Rubin NVL72) problemlos in dasselbe Rechenzentrum integriert werden können und sich dieselben Racks und Rack-Stellflächen, Netzwerke, Kühlung, Energieversorgung und Managementsysteme teilen. Dieser einheitliche Ansatz ermöglicht es Anwendern von NVLink Fusion, das Design und den Ausbau von Rechenzentren von der Chip-Verfügbarkeit und dem Angebot zu entkoppeln, und erlaubt es ihnen, die Kapazität des Rechenzentrums bei sich ändernden Anforderungen problemlos mit einer anderen Mischung aus XPU- oder GPU-basierten Systemen neu bereitzustellen.
Einheitliche Architektur für heterogene KI-Infrastrukturen
Anwender von NVLink Fusion können verschiedene Arten von XPUs – oder XPUs und GPUs – im selben Rechenzentrum für heterogene Rechenleistung für disaggregierte Inferenz und andere asymmetrische Workloads bereitstellen.
Das Ergebnis ist eine einzelne, partiell kundenspezifische KI-Fabrik, die kein Unternehmen alleine bauen könnte.
Plattform
NVIDIA NVLink Fusion-Technologie
NVIDIA NVLink
NVIDIA NVLink 6 und NVLink Switch Chip ermöglichen eine Bandbreite von 260 TB/s in einer einzelnen NVLink-Domäne mit 72 Beschleunigern (NVL72) und liefern eine 4-fache Bandbreiteneffizienz mit Unterstützung von NVIDIA Scalable Hierarchical Aggregation and Reduction Protocol (SHARP)™ FP8.
NVIDIA NVLink-C2C
NVIDIA NVLink-C2C erweitert die branchenführende NVLink-Technologie auf eine Chip-zu-Chip-Verbindung. Dies ermöglicht die Entwicklung einer neuen Klasse integrierter Produkte mit NVIDIA-Partnern, die auf Chiplets basieren, sodass NVIDIA-GPUs oder -CPUs eine kohärente Verbindung mit hoher Bandbreite mit kundenspezifischen Chips aufweisen.
KI-Infrastruktur-Plattform
NVIDIA bietet ein modulares Portfolio an KI-Fabrik-Technologie, einschließlich NVIDIA-GPUs, NVIDIA Vera-CPUs, Co-Packaged Optics (CPO)-Switches, ConnectX® SuperNICs™, BlueField® DPUs und Mission Control™ Software für die Optimierung von KI-Workflows und die Verwaltung der KI-Infrastruktur.
Für die Integration in semi-custom KI-Fabriken sind auch Full-Rack-Lösungen verfügbar. Dazu gehören das Vera Rubin NVL72 Rack, das für disaggregierte Inferenz mit XPU-basierten Systemen kombiniert werden kann, das Vera CPU-Rack zur Unterstützung von agentischen KI-Systemen und bestärkendem Lernen, das NVIDIA LPX Rack zur Unterstützung von Inferenz mit hohem Kontext und geringer Latenz, das NVIDIA STX Rack für KI-nativen Datenspeicher und das NVIDIA SPX Rack für Scale-out-Netzwerke.
Anwender
NVLink Fusion-Ökosystem
-
CPU-Partner
-
Partner für kundenspezifische Siliziumlösungen
-
Technologiepartner
-
Partner für optische Verbindungen
Skalierung der KI-Inferenzleistung mit NVLink Fusion
Erfahren Sie, wie NVIDIA NVLink Fusion die wachsenden Anforderungen von komplexen KI-Modellen erfüllt.
