NVIDIA Vera
La CPU para agentes.
Descripción general
Diseñada para las Fábricas de IA del Mundo
NVIDIA Vera está diseñada para el trabajo de la CPU detrás de la IA agéntica y el aprendizaje por refuerzo (RL), incluida la ejecución de código, el uso de herramientas, el sandboxing, el análisis, los pipelines de datos y la orquestación más allá del modelo. Al ser a la vez una CPU host para sistemas acelerados y una CPU independiente para las cargas de trabajo de fábricas de IA, Vera mantiene la alimentación de las GPU, la capacidad de respuesta de los agentes y el movimiento de los bucles de entrenamiento. Con los núcleos NVIDIA Olympus rápidos y de bajo consumo energético y la memoria LPDDR5X de alto ancho de banda, Vera ofrece un desempeño en entornos sandbox hasta un 80 % más rápido que la infraestructura de CPU tradicional, lo que ayuda a las fábricas de IA a generar más tokens por dólar.
Bastidor de CPU NVIDIA Vera
El bastidor de CPU NVIDIA Vera impulsa el aprendizaje por refuerzo y la IA de agentes a escala de las fábricas de IA. Se basa en NVIDIA MGX™ e integra hasta 256 CPU Vera para ejecutar más de 22.500 entornos simultáneos.
Destacados
Desempeño de CPU Basada en Agentes Líder en la Industria
Desempeño de Sandbox de Agentes 1.8 Veces Más Rápido
La IA agéntica se ve obstaculizada por las CPU tradicionales. En todo el bucle de razonamiento de un agente, la CPU compila código generado, ejecuta cadenas de herramientas de Python y analiza código de software. NVIDIA Vera acelera las tres cargas de trabajo hasta en 1.8 veces en comparación con las CPU x86 líderes, lo que potencia el bucle interno de agentes para maximizar la producción de las fábricas de IA.
Desempeño relativo basado en datos medidos y sujeto a cambios. CPU NVIDIA Vera con desempeño LPDDR5X basado en la CPU x86 de última generación.
![Gráfico de barras agrupado que muestra." NVIDIA Vera con LPDDR5X supera el desempeño de la CPU x86 con DDR5 básica en tres métricas: el doble de ancho de banda de memoria, el triple de ancho de banda por núcleo](/content/nvidiaGDC/la/es_LA/data-center/vera-cpu/_jcr_content/root/responsivegrid/nv_container_835498648/nv_container_copy/nv_container_4511382/nv_image.coreimg.svg/1780467369258/nvidia-vera-bandwidth-energy-performace.svg "Gráfico de barras agrupado que muestra." NVIDIA Vera con LPDDR5X supera el desempeño de la CPU x86 con DDR5 básica en tres métricas: el doble de ancho de banda de memoria, el triple de ancho de banda por núcleo")
Desempeño relativo basado en datos medidos y sujeto a cambios. CPU NVIDIA Vera con desempeño de LPDDR5X basado en la CPU x86 de última generación con DDR5 en todas las métricas clave de desempeño de memoria de CPU.
Memoria de Alto Ancho de Banda y Eficiencia Energética
La DDR5 tradicional obliga a buscar un equilibrio entre el ancho de banda, la eficiencia y la capacidad de servicio. NVIDIA Vera combina la memoria LPDDR5X con SOCAMM, módulos desmontables y reemplazables en el campo que ofrecen eficiencia de bajo consumo de energía (LP) con una flexibilidad de clase de servidor y una capacidad actualizable. El resultado es el doble de ancho de banda y el triple de ancho de banda por núcleo de las CPU x86 líderes con DDR5, lo que permite una mayor producción de las fábricas de IA a hiperescala y a escala empresarial.
Casos de uso
Diseñado para Fábricas de IA
Funciones
Explore los Avances Tecnológicos
NVIDIA Vera, diseñada para las demandas del aprendizaje por refuerzo y la IA agéntica, combina núcleos Olympus diseñados a medida, memoria LPDDR5X de alto ancho de banda y NVIDIA Scalable Coherency Fabric (SCF) de baja latencia. Con la conectividad NVIDIA NVLink™-C2C, la computación confidencial y la compatibilidad completa con Arm®, Vera se extiende a todos los sistemas acelerados y los entornos de data centers modernos. Su arquitectura de computación monolítica mantiene la capacidad de respuesta de los entornos de software y los datos en movimiento de manera eficiente, lo que ayuda a maximizar el rendimiento, la eficiencia energética y la utilización de la GPU en las cargas de trabajo de IA, análisis y HPC.
NVIDIA Vera Rubin NVL72
NVIDIA Vera Rubin NVL72 unifica tecnologías de vanguardia de NVIDIA: 72 GPU Rubin, 36 CPU Vera, SuperNIC ConnectX®-9 y DPU BlueField-4. Escala la inteligencia en una plataforma a escala de bastidor con el switch NVLink 6 y se escala con NVIDIA Quantum-X800 InfiniBand y Spectrum-X™ Ethernet para impulsar la revolución industrial de la IA.
Comenzar
Manténgase al Día con las Noticias de NVIDIA
Regístrese para recibir las últimas noticias, actualizaciones y más información de NVIDIA.