En tant que partie intégrante de la plateforme Full-Stack NVIDIA Vera Rubin, NVIDIA Minerva transforme la télémétrie Full-Stack du calcul et de la commutation NVLink en maintenance proactive, débogage agentique et correction en boucle fermée. Cela protège les heures GPU, la disponibilité du cluster et la production de jetons afin de maximiser le rendement des usines d'IA.
NVIDIA Minerva
La plateforme d'AIOps native pour l'IA permettant de maximiser le rendement des usines d'IA.
Aperçu
Transformation des opérations d'usine d'IA
NVIDIA Minerva™ est la principale solution d'observabilité pour les usines d'IA de NVIDIA. Plateforme AIOps native et de bout en bout, elle est conçue pour maximiser la disponibilité et les performances de la pile d'infrastructure des usines d'IA.
Dans le cadre de la plateforme Full-Stack NVIDIA Vera Rubin, NVIDIA Minerva ingère la télémétrie des GPU NVIDIA, de Spectrum-X™ Ethernet, des commutateurs NVLink™, des SuperNIC, des DPU, des planificateurs (tels que Slurm et NVIDIA Run:ai) et des charges de travail d'IA. Un graphe de connaissances dynamique, l'apprentissage automatique (ML) et l'IA agentique permettent une détection des anomalies en temps réel, une analyse automatisée des causes profondes et une correction en boucle fermée. Les usines d'IA passent d'une maintenance réactive à une maintenance proactive avec un débogage agentique plus rapide et une réduction du bruit d'alarme.
Solution d'observabilité AIOps pour les usines d'IA de NVIDIA
NVIDIA Minerva corrèle la télémétrie de l'ensemble des offres logicielles de calcul, de mise en réseau et d'IA Full-Stack de NVIDIA.
Usine d'IA de NVIDIA
Maximisez la résilience et les performances de la plateforme NVIDIA Vera Rubin.
NVIDIA DSX OS
Intégrez l'observabilité aux opérations et à la gestion de la pile DSX.
NVIDIA Spectrum-X Ethernet
Exploitez la télémétrie à haute fréquence pour une observabilité du réseau de bout en bout.
Caractéristiques et avantages
Utilisation plus élevée de l'infrastructure pour un débit d'IA plus élevé
Maintenez l'usine d'IA à pleine efficacité pour maximiser le rendement, accélérer l'entraînement et l'inférence des modèles, et augmenter la production de jetons.
Disponibilité de calcul maximisée
L'intelligence exploitable récupère des heures de GPU qui seraient autrement perdues en raison de défaillances non détectées.
De la réaction à la prévention
Les défaillances et les dégradations des performances émergentes sont détectées avant qu'elles n'interrompent les tâches d'entraînement.
Réduction du bruit opérationnel
La réduction avancée du bruit transforme les tempêtes d'événements en alertes exploitables.
Déploiement flexible
Plusieurs options de déploiement, de l'auto-géré au déploiement clé en main, s'adaptent à votre entreprise.
Maintenance prédictive
La maintenance prédictive automatisée augmente le temps moyen entre les interruptions (MTBI).
Analyse des causes premières
L'analyse de la cause première des tâches à faible rendement et de celles qui ont échoué accélère la reprise et réduit le délai moyen de réparation (MTTR).
Vue unifiée
La télémétrie en temps réel sur le matériel, les planificateurs et les charges de travail fournit une interface de gestion centralisée pour diagnostiquer les problèmes.
Plus d'heures de GPU
Des heures GPU plus efficaces augmentent la production de jetons et réduisent le temps d'entraînement.
nouvelles fonctionnalités d’Omniverse Replicator
Intelligence Full-Stack pour l'usine d'IA
Corrélez la télémétrie sur l'infrastructure et les charges de travail dans une vue dynamique en temps réel.
Produit
Comment fonctionne NVIDIA Minerva
Collectez la télémétrie de chaque couche d'une usine d'IA et appliquez la détection et la corrélation des anomalies par ML pour obtenir une intelligence exploitable. Les données et les informations sont intégrées à l'interface utilisateur et à l'agent d'IA de NVIDIA Minerva, ainsi qu'à des plateformes et des agents d'observabilité externes.
Cas d’utilisation
AIOps spécialement conçu pour les usines d'IA
Validez l'infrastructure, enquêtez sur les problèmes liés aux tâches et aux clusters, réduisez le bruit et évitez les perturbations avant qu'elles n'affectent le rendement.
-
Maintenance proactive
-
Débogage agentique
-
Corrélation Full-Stack
-
Réduction du bruit
-
Observabilité du réseau
Maintenance proactive
NVIDIA Minerva utilise la détection d'anomalies en temps réel basée sur l'apprentissage automatique pour identifier les problèmes d'infrastructure avant qu'ils n'affectent la production. En surveillant en continu l'ensemble de l'usine d'IA et en transformant des milliards de points de données de télémétrie en alertes à haute fidélité et exploitables, NVIDIA Minerva fournit aux équipes opérationnelles l'avertissement préalable dont elles ont besoin pour agir en toute confiance.
Ce passage du dépannage réactif à la maintenance proactive réduit le MTTR, ce qui évite la perte de centaines d'heures GPU et permet de maintenir les charges de travail d'IA à des performances maximales.
Débogage agentique
NVIDIA Minerva permet une analyse agentique des causes profondes à l'échelle de la topologie pour les usines d'IA. Il dispose à la fois d'un assistant de débogage d'IA natif appelé Sherlock et d'une intégration basée sur MCP avec d'autres agents d'IA, tels qu'OpenClaw. Ensemble, ces capacités s'intègrent parfaitement aux workflows opérationnels existants.
Au lieu de passer manuellement au crible les journaux et les tableaux de bord, les opérateurs peuvent poser des questions en langage naturel et recevoir des réponses directes et exploitables sur ce qui se passe dans l'usine d'IA.
Corrélation Full-Stack
Les usines d'IA couvrent une vaste gamme de systèmes interconnectés, des nœuds GPU et de la structure NVLink à Spectrum-X Ethernet, en passant par les planificateurs de tâches, les gestionnaires de charges de travail tels que Slurm et les charges de travail actives. Lorsqu'un problème se produit, sa cause première peut provenir d'une couche, mais apparaître en tant que symptôme dans une autre.
En absorbant la télémétrie Full-Stack en temps réel et en appliquant une corrélation basée sur le ML et sensible à la topologie, NVIDIA Minerva révèle les relations importantes : comment une anomalie réseau affecte l'utilisation du GPU ou comment un événement de planificateur contribue à dégrader le débit des tâches.
Les équipes opérationnelles disposent d'une vue unique et unifiée de l'usine d'IA au lieu d'outils fragmentés et cloisonnés qui rendent le débogage inter-couches lent et coûteux.
Réduction du bruit
La fatigue des alertes est l'un des coûts les plus sous-estimés dans les opérations des usines d'IA. Un problème réseau qui s'étend à des centaines de composants peut générer des milliers d'alertes. NVIDIA Minerva utilise la corrélation sensible à la topologie pour cartographier les dépendances des usines d'IA et consolider les événements connexes en un seul incident contextualisé. NVIDIA Minerva regroupe ces alertes en un signal unique, précis et hiérarchisé, avec un contexte exploitable fourni via des outils tels que Slack ou ServiceNow.
Les équipes consacrent moins de temps au triage des alertes, diagnostiquent les problèmes plus rapidement et se concentrent sur les problèmes opérationnels à fort impact.
Observabilité du réseau
NVIDIA Minerva est la principale solution d'observabilité réseau pour les usines d'IA de NVIDIA. NVIDIA Minerva inclut des tableaux de bord et des alertes prêts à l'emploi spécialement conçus pour les réseaux Spectrum-X Ethernet, la structure scale-up NVLink, l'état du matériel et les services. Les tableaux de bord sont alignés sur les architectures de référence de NVIDIA, ce qui permet aux équipes opérationnelles d'obtenir une visibilité sur les meilleures pratiques.
L'intégration à DSX OS étend encore cette capacité, en permettant à NVIDIA Minerva de partager des composants, des modèles de données et un contexte opérationnel au sein de l'écosystème DSX plus large.
Modèles de consommation
Déployez NVIDIA Minerva avec des modèles de consommation flexibles
Pour le collecteur de données de NVIDIA Minerva, la détection d'anomalies en temps réel et les capacités d'IA, choisissez les configurations, de l'auto-géré au clé en main, les mieux adaptées aux workflows de votre entreprise.
Ressources
En savoir plus sur NVIDIA Minerva
FAQ NVIDIA Minerva
NVIDIA Minerva est une plateforme d'IA native qui corrèle l'infrastructure et la télémétrie des charges de travail afin de fournir une observabilité Full-Stack pour les charges de travail de calcul, de mise en réseau, de stockage et d'IA, et les convertit en informations permettant d'agir de manière proactive ou automatisée.
NVIDIA Minerva collecte les données de l'infrastructure de NVIDIA, du réseau, des planificateurs et de la télémétrie des charges de travail. Ce contexte Full-Stack lui permet de corréler les métriques anormales avec les tâches d'IA, ce qui aide les opérateurs à isoler les causes profondes que les outils génériques et les solutions ponctuelles peuvent manquer.
NVIDIA Minerva est la principale solution d'observabilité réseau pour les usines d'IA de NVIDIA, NVIDIA Vera Rubin et NVIDIA Blackwell. Elle couvre NVIDIA Spectrum-X Ethernet pour la mise à l'échelle externe, transversale et interne, NVIDIA NVLink pour la mise à l'échelle verticale, Slurm et d'autres planificateurs, ainsi que les charges de travail d'IA.
NVIDIA Minerva peut être déployé sur site ou consommé en tant que SaaS depuis NVIDIA Cloud. Elle prend en charge plusieurs modèles de consommation, de l'auto-géré aux solutions complètes clés en main, afin de s'adapter aux workflows d'usines d'IA existantes.
NVIDIA Minerva ingère la télémétrie du calcul, du réseau, du stockage, du planificateur, du NCCL et des charges de travail via des normes, notamment OpenTelemetry, gNMI, syslog, DCGM, Slurm et JSON. Elle s'intègre à Slack, Microsoft Teams, PagerDuty, ServiceNow, Grafana, Ansible et aux API d'infrastructure.
NVIDIA Minerva utilise une IA / ML spécialement conçue pour apprendre un comportement normal, prédire les anomalies, corréler les événements et recommander des mesures correctives. Un assistant d'IA natif permet un triage en langage naturel à l'aide de la télémétrie en direct, tandis que son serveur MCP connecte NVIDIA Minerva à des outils agentiques tiers.
NVIDIA Minerva réutilise les composants de DSX OS, tandis que les principales capacités de NVIDIA Minerva, à commencer par NVIDIA Minerva Collector, seront open source dans DSX OS, créant ainsi une base d'observabilité modulaire.
Étapes suivantes