NVIDIA Vera

NVIDIA Vera cuenta con 88 núcleos NVIDIA Olympus personalizados diseñados para el trabajo complejo, con muchas ramas y sensible a la latencia detrás de la IA agéntica y el aprendizaje por refuerzo. El alto desempeño de un solo subproceso ayuda a que los tiempos de ejecución de los agentes, las llamadas de herramientas, la ejecución de código y los bucles de evaluación se completen más rápido, mientras que NVIDIA Spatial Multithreading™ crea 176 subprocesos con recursos de núcleo particionados para un rendimiento predecible a escala.

NVIDIA Vera ofrece hasta 1,2 terabytes por segundo (TB/s) de ancho de banda de memoria LPDDR5X, a la vez que usa significativamente menos energía que la memoria de servidor tradicional. Esto mantiene la capacidad de respuesta de miles de entornos de software paralelos, a la vez que admite iteraciones de RL más rápidas, una administración eficiente de caché de KV y workflows de agentes con uso intensivo de datos. Con hasta 1.5 TB de memoria, Vera proporciona la capacidad y la eficiencia para las fábricas de IA, el análisis y las cargas de trabajo de HPC.

NVIDIA Vera usa NVIDIA SCF de segunda generación para conectar los 88 núcleos, la caché, la memoria, la entrada y la salida (E/S) y NVLink-C2C en un solo chip de computación. Con 3.4 TB/s de ancho de banda biseccional y una arquitectura de caché unificada, SCF brinda a los núcleos un acceso rápido y consistente a los datos, incluso cuando la CPU está utilizada al máximo. Al evitar la comunicación entre chiplets, Vera mantiene una latencia y un rendimiento predecibles para las cargas de trabajo de agentes, el análisis y la infraestructura de fábricas de IA a escala.

NVIDIA NVLink-C2C ofrece hasta 1.8 TB/s de ancho de banda coherente entre las CPU Vera y las GPU NVIDIA. Cuando se combina con las GPU NVIDIA Rubin, Vera crea una arquitectura de memoria unificada que ayuda a las CPU y las GPU a trabajar juntas en cargas de trabajo de IA y HPC complejas, grandes conjuntos de datos y la descarga de caché de KV. NVLink-C2C reduce los cuellos de botella en la transferencia de datos, simplifica la optimización, admite el aislamiento seguro para datos y código confidenciales y permite una conectividad de alta velocidad en los sistemas de CPU Vera de doble zócalo.