NVIDIA DGX™ A100 es el sistema universal para todas las cargas de trabajo de IA, que ofrece una densidad de procesamiento, rendimiento y flexibilidad sin precedentes en el primer sistema de 5 petaFLOPS de IA del mundo. NVIDIA DGX A100 cuenta con la GPU NVIDIA A100 Tensor Core, por lo que permite a las empresas consolidar el entrenamiento, la inferencia y el análisis en una infraestructura de IA unificada y fácil de implementar, que incluye acceso directo a expertos en IA de NVIDIA.
NVIDIA DGX A100 es el sistema universal para la infraestructura de IA, incluye 5 petaFLOPS de rendimiento de IA en un formato de 6U y reemplaza los silos de infraestructura heredados con una plataforma para cada carga de trabajo de IA.
Con cada DGX se incluye el acceso a NVIDIA DGXperts, un equipo global de más de 20 000 profesionales expertos en inteligencia artificial que han acumulado una gran experiencia durante la última década para ayudarlo a maximizar el valor de su inversión en DGX.
Al integrar ocho GPU A100 con 320 GB o 640 GB de memoria GPU, el sistema proporciona una aceleración sin precedentes, se basa en el software NVIDIA Base Command™ e incluye NVIDIA AI Enterprise para una experiencia totalmente optimizada.
NVIDIA DGX A100 cuenta con adaptadores de red NVIDIA® ConnectX®-7 InfiniBand/Ethernet con 500 gigabytes por segundo (GB/s) de ancho de banda bidireccional máximo. DGX A100 es una parte fundamental para NVIDIA DGX SuperPOD™, el plan empresarial para la infraestructura de IA escalable.
Entrenamiento de DLRM
Un Rendimiento hasta 3 veces más alto
para el Entrenamiento de IA en los Modelos Más Grandes
DLRM en framework HugeCTR, precisión = FP16 | 1x DGX A100 640GB tamaño de lote = 48 | 2x DGX A100 320GB tamaño de lote = 32 | 1x DGX-2 (16x V100 32GB) tamaño de lote = 32. Velocidades Normalizadas a la Cantidad de GPU.
Inferencia de RNN-T: Transmisión Única
Un Rendimiento hasta 1.25 veces más alto
para la Inferencia de IA
MLPerf 0.7 RNN-T medido con (1/7) rebanadas MIG. Framework: TensorRT 7.2, conjunto de datos = LibriSpeech, precisión = FP16.
Evaluación de Análisis de Big Data
Un Rendimiento hasta 83 veces más alto que la CPU,
Un Rendimiento hasta 2 veces más alto que la DGX A100 de 320 GB
Evaluación de análisis de big data | 30 consultas de venta minorista de análisis, ETL, ML, NLP en conjuntos de datos de 10 TB | CPU: 19 Intel Xeon Gold 6252 2.10 GHz, Hadoop | 16 DGX-1 (8 V100 de 32 GB cada una), RAPIDS/Dask | 12 DGX A100 de 320 GB y 6 DGX A100 de 640 GB, RAPIDS/Dask/BlazingSQL. Velocidades Normalizadas a la Cantidad de GPU
Explora en detalle la nueva NVIDIA DGX A100.
La GPU NVIDIA A100 Tensor Core ofrece una aceleración sin precedentes para la IA, el análisis de datos y la computación de alto rendimiento (HPC) a fin de resolver los desafíos de computación más difíciles del mundo. Con los NVIDIA Tensor Core de tercera generación que proporcionan un enorme aumento de rendimiento, la GPU A100 puede escalar de forma eficiente hasta miles o, con la GPU de Múltiples Instancias, asignarse como siete instancias más pequeñas y dedicadas para acelerar las cargas de trabajo de todos los tamaños.
Con MIG, las ocho GPU A100 en DGX A100 se pueden configurar en hasta 56 instancias de GPU, cada una completamente aislada con sus propios núcleos de computación, caché y memoria de alto ancho de banda. Esto permite a los administradores usar unas GPU de tamaño adecuado con calidad de servicio (QoS) garantizada para varias cargas de trabajo.
La tercera generación de NVIDIA® NVLink™ en DGX A100 duplica el ancho de banda directo entre GPU a 600 gigabytes por segundo (GB/s), casi 10 veces más que PCIe Gen4. DGX A100 también cuenta con NVIDIA NVSwitch™ de próxima generación, que es 2 veces más rápida que la generación anterior.
DGX A100 presenta los adaptadores NVIDIA ConnectX-7 InfiniBand y VPI (Infiniband o Ethernet), cada uno funcionando a 200 gigabits por segundo (Gb/s) para crear una estructura de alta velocidad para cargas de trabajo de IA a gran escala. Los sistemas DGX A100 también están disponibles con adaptadores ConnectX-6.
DGX A100 integra una pila de software de DGX probada y optimizada, lo que incluye un sistema operativo de base ajustado para la IA, todo el software del sistema necesario y aplicaciones aceleradas por GPU, modelos previamente entrenados y más, de NGC™.
DGX A100 ofrece la postura de seguridad más robusta para las implementaciones de IA, con un enfoque de varias capas que se extiende a través del controlador de administración de la placa base (BMC), la placa de CPU, la placa de GPU, las unidades autoencriptadas y el arranque seguro.
Obtén más información sobre el soporte de grado empresarial de los sistemas NVIDIA DGX.
