O NVIDIA DGX™ é o sistema universal para todas as cargas de trabalho de AI, oferecendo densidade, desempenho e flexibilidade computacionais sem precedentes no primeiro sistema de AI com 5 petaFLOPS do mundo. Com a GPU NVIDIA A100 Tensor Core, o DGX A100 permite que as empresas consolidem treinamento, inferência e análise para uma infraestrutura de AI unificada e fácil de implantar que inclui com acesso integrado a especialistas em NVIDIA AI.
A NVIDIA DGX A100 é o sistema universal para infraestrutura de AI, reunindo 5 petaFLOPS de desempenho em um formato de 6U, substituindo os silos de infraestrutura legados por uma plataforma para cada carga de trabalho de AI.
Em cada DGX está incluído o acesso ao NVIDIA DGXperts, uma equipe global de mais de 20.000 profissionais experientes em AI que construíram uma vasta experiência na última década para ajudá-lo a maximizar o valor de seu investimento em DGX.
Integrando oito GPUs A100 com 320 GB ou 640 GB de memória GPU, o sistema oferece aceleração sem precedentes, é construído no software NVIDIA Base Command™ e inclui o NVIDIA AI Enterprise para uma experiência totalmente otimizada.
A NVIDIA DGX A100 possui adaptadores de rede NVIDIA® ConnectX®-7 InfiniBand/Ethernet com 500 gigabytes por segundo (GB/s) de pico de largura de banda bidirecional. A DGX A100 é peça fundamental para o NVIDIA DGX SuperPOD™, o plano empresarial para infraestrutura de AI escalável.
Treinamento em DLRM
Rendimento até 3 Vezes Superior
para Treinamento de AI em Modelos Maiores
DLRM no framework HugeCTR, precisão = FP16 | 1x DGX A100 640GB tamanho do lote = 48 | 2x DGX A100 320GB tamanho do lote = 32 | 1x DGX-2 (16x V100 32GB) tamanho do lote = 32. Acelerações Normalizadas em Número de GPUs.
Inferência RNN-T: Fluxo Único
Rendimento até 1,25 Vezes Maior
para Inferência de AI
MLPerf 0,7 RNN-T medido com (1/7) fatias de MIG. Framework: TensorRT 7.2, conjunto de dados = LibriSpeech, precisão = FP16.
Benchmark de Análise de Big Data
Rendimento até 83 Vezes Maior do Que o da CPU,
Taxa de Transferência 2 Vezes Maior do que a DGX A100 de 320 GB
Benchmark de análise de big data | 30 consultas de varejo analíticos, ETL, ML, NLP em um conjunto de dados de 10 TB | CPU: 19 Vezes o Intel Xeon Gold 6252 de 2,10 GHz, Hadoop | 16 Vezes o DGX-1 (8 V100 32 GB cada), RAPIDS/Dask | 12 Vezes o DGX A100 de 320 GB e 6 Vezes o DGX A100 de 640 GB, RAPIDS/Dask/BlazingSQL. Acelerações Normalizadas para Número de GPUs
Aprofunde-se no novo NVIDIA DGX A100.
A GPU NVIDIA A100 Tensor Core oferece aceleração sem precedentes para AI, análise de dados e computação de alto desempenho (HPC) para enfrentar os desafios de computação mais difíceis do mundo. Com NVIDIA Tensor Cores de terceira geração proporcionando um enorme aumento de desempenho, a GPU A100 pode dimensionar de forma eficiente para milhares ou, com GPU Multi-Instância, ser alocada como sete instâncias menores e dedicadas para acelerar cargas de trabalho de todos os tamanhos.
Com a MIG, as oito GPUs A100 da DGX A100 podem ser configuradas em até 56 instâncias de GPU, cada uma totalmente isolada com sua própria memória de alta largura de banda, cache e núcleos de computação. Isso permite que os administradores definam o tamanho certo das GPUs com qualidade de serviço (QoS) garantida para diversas cargas de trabalho.
A terceira geração do NVIDIA® NVLink™ no DGX A100 dobra a largura de banda direta entre GPUs para 600 gigabytes por segundo (GB/s), quase 10 vezes mais do que a PCIe da 4ª geração.® O DGX A100 também conta com o NVIDIA NVSwitch™ de última geração, que é duas vezes mais rápido do que a geração anterior.
O DGX A100 conta com NVIDIA ConnectX-7 InfiniBand e adaptadores de VPI (Infiniband ou Ethernet), cada um a 200 gigabits por segundo (Gb/s), para criar uma malha de alta velocidade para cargas de trabalho de IA em larga escala. Os sistemas DGX A100 também estão disponíveis com adaptadores ConnectX-6.
O DGX A100 integra um conjunto de software DGX testado e otimizado, incluindo um sistema operacional com AI, todo o software de sistema necessário e aplicações aceleradas por GPU, modelos pré-treinados e muito mais do NGC™.
O DGX A100 oferece a segurança mais robusta para implantações de AI, com uma abordagem em várias camadas que se estende pelo controlador de gerenciamento da placa base (BMC), placa de CPU, placa de GPU, unidades com criptografia automática e inicialização segura.
Saiba mais sobre o suporte de nível empresarial para sistemas NVIDIA DGX.
