NVIDIA DSX OS
AI 工廠營運的開放式模組化軟體。
概覽
AI 工廠的作業層
將 AI 工廠投入生產環境需要基礎架構與平台團隊串連硬體配置、網路、Kubernetes、GPU 管理、工作負載排程、推論服務、安全、監控與復原。 分別建置及營運每一層可能會減緩部署，導致無法充分利用寶貴的容量，並使故障更難以排解。
NVIDIA DSX OS™ 透過開放式模組化軟體組合整合這些功能。 它協助營運商將基礎架構上線、維持一致的執行階段、提高 GPU 利用率、自動化執行機群健康管理，並大規模且可靠地提供生產級 AI 服務。
採用能滿足當下需求的元件，將其與現有環境整合，並隨著基礎架構與服務成長而擴展。
產品特點
一套用於 AI 工廠營運的模組化軟體組合
DSX OS 提供模組化功能，讓加速基礎架構上線、執行 AI 工作負載，並在後續維運階段維持高效產能。
優勢
提升營運 AI 工廠的經濟效益
DSX OS 協助供應商更快將基礎架構上線、提升加速容量的有效使用率，並在多租戶環境中可靠地營運 AI 服務。
加速營收實現
重複使用模組化基礎架構與平台軟體，而不是為每個環境重新打造基礎運作能力。
讓叢集上線、驗證就緒狀態，並開始更快提供 AI 服務。
更高效地使用 GPU 容量
透過智慧排程、資源分配、拓撲感知部署及服務編排，讓 GPU 容量與工作負載需求相符。
提高可靠性與韌性
維持執行階段的一致性、監控機群健全狀況、辨識故障、保護工作負載、自動修復，並讓受影響的產能恢復服務。
將營運從被動警示轉為自動化的健康與復原生命週期
擴展安全的多租戶營運作業
管理基礎架構生命週期、驗證平台完整性、協調資源，並跨租戶與叢集提供 AI 服務。
隨著營運需求成長，可採用單獨元件或合併功能。
入門選項
從 AI 工廠所需的能力著手
DSX OS 專為逐步採用而設計。 從聚焦的營運需求切入開始，並隨著時間逐漸擴展。
後續步驟
常見問題
NVIDIA DSX OS™ 是一套開放式模組化軟體組合，用於建置、營運及擴展多租戶 AI 工廠基礎架構。 它包括開源元件與相關的 NVIDIA 技術，用於平台與基礎架構營運。
將 AI 工廠投入生產環境需要基礎架構與平台團隊，協調硬體配置、網路、Kubernetes、GPU 管理、工作負載排程、推論服務、安全、監控與復原。 分別營運這些層會減緩部署、導致容量利用不足，並使故障復原變得複雜。 DSX OS 提供可整合至現有平台與軟體堆疊的模組化技術。
DSX OS 採用模組化設計，並專為逐步導入而打造。組織可從因應即時營運需求的元件著手，與現有軟體堆疊整合，並隨著基礎架構與服務成長而增添功能。
DSX OS 平台軟體包括 KAI Scheduler、Karta、NVIDIA Run:ai、NVIDIA 雲端功能 (NVCF)、Grove 與 NVIDIA Dynamo。 這些元件支援工作負載排程與 GPU 協調、服務協調與分散式推論。
DSX OS 基礎架構軟體包括 NVIDIA GPU Operator、NVIDIA Network Operator、Topograph、NVIDIA AI Cluster Runtime、NVIDIA Infra Controller (NICo)、NVIDIA DOCA Platform Framework (DPF)、NVIDIA Switch Infrastructure - Config Manager 與 NVIDIA Rack Management Service。這些元件共同支援叢集執行階段、拓撲感知、裸機佈建、多租戶生命週期營運，以及機架與網路基礎架構管理。
NVIDIA Cluster Readiness Engine 支援叢集燒機認證、編排式效能評測與硬體故障偵測。 NVIDIA Fleet Intelligence 提供有關 GPU 機群健康與完整性的即時洞察。 NVIDIA NVSentinel 提供 Kubernetes 原生 GPU 監控與故障修復。
NVIDIA DSX 說明文件提供實作指南、快速入門、參考設計，以及開源專案的連結。