Plateforme de mise en réseau NVIDIA Spectrum-X

La plateforme NVIDIA Spectrum-X Ethernet est la première plateforme Ethernet au monde optimisée pour l'IA de bout en bout pour les usines d'IA générative multi-locataires. Elle combine des commutateurs Ethernet spécialement conçus et des cartes SuperNIC pour fournir une bande passante efficace élevée, une faible latence et une isolation des performances pour l'infrastructure d'IA hyperscale, le tout basé sur Ethernet conforme aux normes.

NVIDIA Spectrum-X Ethernet est conçu pour les fournisseurs de services Cloud et les grandes entreprises exécutant des charges de travail d'IA multi-locataires à l'hyperscale. Il prend en charge des environnements allant des déploiements d'entreprise à grande échelle aux usines d'IA dans le Cloud avec des centaines de milliers de connexions GPU.

Spectrum-X Ethernet utilise un contrôle avancé de la congestion basé sur la télémétrie pour assurer l'isolation contre le bruit entre les locataires. L'isolation intégrée des performances garantit que les charges de travail d'IA de chaque locataire s'exécutent de manière prévisible et cohérente, ce qui améliore la qualité du service pour les tâches d'IA simultanées.

Le routage adaptatif est une fonctionnalité grâce à laquelle le commutateur Spectrum-X Ethernet et SuperNIC travaillent en étroite coordination pour acheminer le trafic de manière dynamique, offrant ainsi la bande passante la plus efficace et la résilience réseau pour les fabriques d'IA. Il vise spécifiquement à assurer la mise en réseau sans perte afin d'éviter la dégradation des performances à grande échelle.

Spectrum-X Ethernet s'adapte à des centaines de milliers de connexions GPU dans des topologies efficaces à deux niveaux leaf/spine. Grâce aux technologies Spectrum-X Multiplane, les réseaux peuvent accueillir jusqu'à 128 000 GPU sur deux niveaux, soit 64 fois plus que les réseaux à plan unique, en divisant le trafic SuperNIC de chaque GPU entre deux plans réseau indépendants ou plus.

Spectrum-XGS Ethernet est une extension de la plateforme Spectrum-X conçue pour l'IA à grande échelle, permettant à plusieurs Data Centers distribués, potentiellement séparés par des centaines de kilomètres, de fonctionner comme une seule super-usine d'IA. Cette solution introduit un algorithme de contrôle de la congestion modifié qui tient compte de la distance entre les sites et accélère les processus NCCL multi-sites de 1,9 fois par rapport aux approches standard.

La dernière génération (pour les usines d'IA NVIDIA Vera Rubin) est basée sur l'ASIC Spectrum-6, offrant 102,4 Tb/s par puce de commutateur avec 200 G SerDes, soit le double de la bande passante par voie par rapport à la génération précédente. Le SN6600 offre 128 ports de connectivité OSFP de 800 G, tandis que le SN6800 contient 512 ports de 800 G, dans une Configuration 5U.

Les commutateurs Spectrum-X Ethernet Photonics utilisent la technologie de la photonique sur silicium (optique co-packagée) pour fournir des intervalles de temps entre les interruptions (MTBI) 10 fois supérieurs, une disponibilité 5 fois plus longue et une efficacité énergétique 5 fois supérieure par rapport aux commutateurs traditionnels basés sur des émetteurs-récepteurs enfichables. Ils utilisent la configuration à fibre optique MMC-16 ultra-dense pour une utilisation efficace de l'encombrement du commutateur.

La plateforme Spectrum-X Ethernet prend en charge trois SuperNIC à travers les générations : le BlueField™-3 (pour les systèmes de l'ère NVIDIA Hopper, optimisé pour RDMA/RoCE et l'isolation multi-locataires), le ConnectX™-8 (débit total de 800 Gbit/s via 2×400 G, PCIe Gen6, pour les systèmes NVIDIA Blackwell), et le ConnectX-9 (1 600 Gbit/s par GPU via 4×200 G SerDes, PCIe Gen6, pour les systèmes NVIDIA Vera Rubin NVL72). Tous les SuperNIC déchargent les communications collectives et fournissent une télémétrie pour le routage adaptatif.

NVIDIA Minerva assure une observabilité réseau de bout en bout en absorbant la télémétrie des charges de travail d'infrastructure et d'IA afin de fournir des informations exploitables permettant de maximiser le rendement des usines d'IA, notamment les heures GPU, la disponibilité du cluster et la production de jetons. Pour le déploiement, NVIDIA DSX Air simule une usine d'IA et un écosystème d'IA complet, permettant aux clients de valider le matériel et les offres des partenaires afin d'accélérer le délai d'obtention du premier jeton et de garantir des performances dès le premier jour à grande échelle.