Plataforma de red NVIDIA Spectrum-X
Acelere el rendimiento de la red de IA 1,6 veces en comparación con la Ethernet tradicional.
Introducción
La primera plataforma de red Ethernet del mundo para la IA
Entrenar e implementar IA a escala masiva con la plataforma de red Ethernet NVIDIA Spectrum-X™. Con la tecnología de acoplamiento estrecho del conmutador Ethernet NVIDIA Spectrum-X y NVIDIA Spectrum-X Ethernet SuperNIC™, la plataforma ofrece el mayor rendimiento para la IA, ya que conecta tejidos de computación de IA dentro del centro de datos, escalando en varios centros de datos de IA con Ethernet Spectrum-XGS, y admite la innovadora conmutación óptica coempaquetada para lograr una mayor eficiencia energética y una resiliencia de cargas de trabajo de IA.
Ventajas
Potente rendimiento en la nube de IA
Con Spectrum-X, las organizaciones pueden mejorar significativamente el rendimiento y la eficiencia energética de las nubes de IA y obtener una mayor previsibilidad y coherencia, lo que da lugar a un tiempo de comercialización más rápido y una mayor ventaja competitiva.
Ancho de banda casi perfecto a escala
Latencia extremadamente baja
Optimización de la pila de extremo a extremo
Extensiones RoCE avanzadas para comunicaciones de IA escalables
Rendimiento determinista y aislamiento de rendimiento
Sistema operativo de red abierta: SONiC y Cumulus
Rendimiento mejorado de la nube de IA
NVIDIA Spectrum-X mejora 1,6 veces el rendimiento de red, acelerando el procesamiento, el análisis y la ejecución de cargas de trabajo de IA y, a su vez, el desarrollo y la implementación de soluciones de IA.
Ethernet acelerada para hiperescala
Impulsado por las innovaciones de red de NVIDIA, Spectrum-X es Ethernet totalmente basado en estándares con soporte para pilas de Ethernet abiertas (SONiC) a escala de nube.
Optimización y simulación de pila completa
Spectrum-X Ethernet está optimizada y validada en toda la pila completa de hardware y software de NVIDIA, lo que la convierte en una solución de Ethernet insuperable para nubes de IA. NVIDIA DSX Air integra la simulación de Spectrum-X Ethernet con la fábrica de IA de pila completa, que incluye componentes de primera clase de NVIDIA y partners del ecosistema. NVIDIA Minerva incorpora telemetría de GPU, conmutadores Spectrum-X Ethernet y NVLink, SuperNIC, DPU, programadores y cargas de trabajo de IA para optimizar el rendimiento de las fábricas de IA.
Conecte centros de datos para la IA a gigaescala
NVIDIA Spectrum-XGS Ethernet se ha diseñado para escalar en varios centros de datos dispares, ubicados en edificios diferentes o separados por cientos de kilómetros, lo cual les permite funcionar como una única superfábrica de IA unificada. Spectrum-XGS Ethernet emplea un algoritmo de control de congestión sensible a la topología, una gestión precisa de la latencia y una telemetría de extremo a extremo para ofrecer un rendimiento NCCL 1,9 veces superior en entornos de centros de datos cruzados.
Fotónica de silicio de NVIDIA
Spectrum-X Ethernet Photonics reduce el consumo de energía, aumenta la fiabilidad y optimiza la productividad de la IA al colocar la óptica en el mismo paquete que el ASIC (circuito integrado para aplicaciones específicas) del conmutador. Spectrum-X Ethernet Photonics permite una eficiencia energética de red 5 veces superior, una resiliencia de red mayor y un tiempo de ejecución de aplicaciones de IA ininterrumpido 5 veces más prolongado en comparación con las redes tradicionales basadas en transceptores enchufables.
Spectrum-X Multiplane
Multiplane permite que Ethernet se redimensione desde miles hasta cientos de miles de unidades GPU utilizando una topología plana de dos capas. Al distribuir la SuperNIC de cada GPU en dos o más planos de red independientes, se superan las limitaciones de un solo plano, se mejora el rendimiento y la resiliencia, al mismo tiempo que se escalan las redes Spectrum-X Ethernet hasta 128 000 GPU distribuidas en dos capas, 64 veces más que las redes de un solo plano.
Spectrum-X Ethernet a escala de bastidor
Spectrum-X Ethernet está plenamente integrada en la arquitectura a escala de bastidor de ETL (sigla en inglés de «extraer, transformar y cargar») NVIDIA MGX™, lo cual proporciona redes Ethernet de alto rendimiento para bastidores de computación ultradensa y amplía las innovaciones de MGX en refrigeración líquida y fiabilidad a una gama más amplia de opciones de computación. El cartucho de cables de cobre de alta eficiencia energética conecta las bandejas de conmutación Spectrum-X Ethernet con refrigeración líquida para hasta 256 GPU en un solo bastidor, mientras que la conectividad óptica de panel frontal permite el escalado horizontal a dominios de GPU más grandes.
Productos
Qué hay dentro de la plataforma
Conmutadores NVIDIA Spectrum-X Ethernet
Los conmutadores Ethernet NVIDIA Spectrum-X están diseñados específicamente para acelerar los tejidos de IA generativa a hiperescala. Los conmutadores Ethernet Spectrum-X proporcionan un elevado y efectivo ancho de banda y aislamiento de rendimiento para fábricas de IA, al escalar la infraestructura a cientos de miles de unidades GPU y permitir el entrenamiento y la implementación de los modelos de IA más grandes del mundo.
Aceleradores SuperNIC NVIDIA Spectrum-X Ethernet
Las SuperNIC Ethernet de NVIDIA Spectrum-X son novedosas categorías de aceleradores de red diseñados específicamente para impulsar las cargas de trabajo de IA a hiperescala. Las SuperNIC de NVIDIA, diseñadas para la computación de uso intensivo de red y masivamente paralela, proporcionan conectividad de red RDMA de alto ancho de banda mediante Ethernet convergente (RoCE) entre servidores de GPU, optimizando la eficiencia de las cargas de trabajo de IA.
Aplicaciones
¿Cómo se utiliza la tecnología Ethernet Spectrum-X?
Partners
Con quién estamos trabajando
-
Servidor
-
Almacenamiento
-
ORGANIZACIÓN
Recursos
Siga explorando Spectrum-X Ethernet
Preguntas frecuentes sobre la plataforma NVIDIA Spectrum-X Ethernet
La plataforma NVIDIA Spectrum-X Ethernet es la primera plataforma Ethernet de extremo a extremo del mundo optimizada para IA para fábricas de IA generativa multiinquilino. Combina conmutadores Ethernet diseñados específicamente y SuperNIC para ofrecer un alto ancho de banda efectivo, baja latencia y un fuerte aislamiento del rendimiento para infraestructuras de IA a hiperescala, todo ello basado en Ethernet basado en estándares.
NVIDIA Spectrum-X Ethernet está diseñado para proveedores de servicios en la nube y grandes empresas que ejecutan cargas de trabajo de IA multiinquilino a hiperescala. Admite entornos que van desde implementaciones de grandes empresas hasta fábricas masivas de IA en la nube con cientos de miles de conexiones de GPU.
Spectrum-X Ethernet utiliza un control de congestión avanzado basado en telemetría para proporcionar un aislamiento de ruido entre inquilinos. El aislamiento del rendimiento integrado garantiza que las cargas de trabajo de IA de cada inquilino se ejecuten de forma predecible y coherente, lo que mejora la calidad del servicio en los trabajos de IA simultáneos.
El enrutamiento adaptativo es una función en la que el conmutador Spectrum-X Ethernet y SuperNIC funcionan en estrecha coordinación para enrutar dinámicamente el tráfico, lo que permite obtener el mayor ancho de banda efectivo y resiliencia de red para arquitecturas de red para IA. Está diseñado específicamente para redes sin pérdidas para prevenir la degradación del rendimiento a escala.
Spectrum-X Ethernet se escala a cientos de miles de conexiones GPU en topologías eficientes de hoja/columna de dos niveles. Con las tecnologías Spectrum-X Multiplane, las redes pueden escalar hasta 128 000 GPU en dos niveles, 64 veces más que las redes de un solo plano, dividiendo el tráfico SuperNIC de cada GPU en dos o más planos de red independientes.
Spectrum-XGS Ethernet es una extensión de la plataforma Spectrum-X diseñada para la IA a «gigascala», lo que permite que varios centros de datos distribuidos, potencialmente separados por cientos de kilómetros, funcionen como una sola superfábrica de IA. Introduce un algoritmo de control de congestión modificado que tiene en cuenta la distancia entre las instalaciones y acelera los colectivos NCCL de varios sitios en 1,9 veces en comparación con los enfoques estándar.
La generación más nueva (para fábricas de IA NVIDIA Vera Rubin) se basa en el ASIC Spectrum-6 y ofrece 102,4 Tb/s por chip de conmutador con 200 G SerDes, lo que duplica el ancho de banda por carril en comparación con la generación anterior. El SN6600 ofrece 128 puertos de conectividad 800 G OSFP, mientras que el SN6800 cuenta con 512 puertos de 800 G en un factor de forma de 5U.
Los conmutadores Spectrum-X Ethernet Photonics utilizan tecnología de fotónica de silicio (óptica coempaquetada) para proporcionar un tiempo medio entre interrupciones (MTBI) 10 veces mayor, un tiempo de actividad 5 veces más largo y una eficiencia energética 5 veces mejor en comparación con los conmutadores tradicionales basados en transceptores enchufables. Utilizan el factor de forma de fibra óptica ultradensa MMC-16 para lograr un uso eficiente del espacio del conmutador.
La plataforma Spectrum-X Ethernet admite tres SuperNIC en todas las generaciones: la BlueField™-3 (para sistemas de la era NVIDIA Hopper, optimizados para RDMA/RoCE y aislamiento multiinquilino), la ConnectX™-8 (rendimiento total de 800 Gb/s a través de 2×400 G, PCIe Gen6, para sistemas NVIDIA Blackwell) y la ConnectX-9 (1600 Gb/s por GPU a través de 4×200 G SerDes, PCIe Gen6, para sistemas NVIDIA Vera Rubin NVL72). Todas las SuperNIC descargan las comunicaciones colectivas y proporcionan telemetría para el enrutamiento adaptativo.
NVIDIA Minerva proporciona observabilidad de red de extremo a extremo al ingerir telemetría de infraestructura y cargas de trabajo de IA para proporcionar una inteligencia procesable que maximice el rendimiento de la fábrica de IA, incluidas las horas de GPU, el tiempo de actividad del clúster y la producción de tokens. Para la implementación, NVIDIA DSX Air simula una fábrica y un ecosistema de IA completos, lo que permite a los clientes validar hardware y soluciones ofertadas por partners para acelerar el tiempo de lanzamiento del primer token y garantizar el rendimiento desde el primer día a escala.
