NVIDIA DGX H200
AI 工廠基礎架構的黃金標準
全球公認的企業 AI 工廠首選。
利用 NVIDIA DGX H200 拓展企業創新與最佳化的領域。DGX H200 屬於 DGX 平台 的一部分,是一款 AI 強力裝置,作為 NVIDIA DGX SuperPOD™ 和 DGX BasePOD™ 的基礎,並透過 NVIDIA H200 Tensor 核心 GPU突破性效能進行加速。
功能最完備的 AI 工廠
卓越 AI 中心的核心
在 DGX H200 上打造 卓越的 AI 中心,這是一款完全整合的軟硬體解決方案,包括 NVIDIA Base Command™、NVIDIA AI Enterprise 套裝軟體,以及 NVIDIA DGXperts 的專家建議。
為您量身打造的 AI 基礎架構
以多種符合企業需求的方式體驗 DGX H200 的強大功能:廠區部署、主機代管、向託管服務供應商租用等。同時透過DGX-Ready 生命週期管理,企業可具備可預測的金融模型,讓部署配置保持領先優勢。
探索 NVIDIA DGX H200
- 8 顆 NVIDIA H200 GPU,配備 1,128GB GPU 總記憶體
每顆 GPU 含 18 個 NVIDIA NVLink® 連線,GPU 至 GPU 的雙向頻寬 900GB/秒
- 4 個 NVIDIA NVSwitches™
每秒 7.2TB 的 GPU 至 GPU 的雙向頻寬,比前一代增加 1.5 倍
- 10 個 NVIDIA ConnectX®-7 400Gb/秒網路介面
每秒 1TB 雙向網路頻寬高峰
- Intel Xeon Platinum8480C 雙處理器,總共 112 顆核心和 2TB 系統記憶體
適用於最密集 AI 工作的強大 CPU。
- 30TB NVMe SSD
高速儲存空間,實現最佳效能
客戶對 NVIDIA DGX 的評價
- 引言 1
- 引言 2
NVIDIA DGX 優惠與解決方案
規格
NVIDIA DGX H200
| GPU | 8x NVIDIA H200 Tensor Core GPUs |
| GPU Memory | 1,128GB total |
| Performance | 32petaFLOPS FP8 |
| NVIDIA NVSwitch | 4x |
| System Power Usage | ~10.2kW max |
| CPU | Dual Intel® Xeon® Platinum 8480C Processors
112 cores total, 2.00GHz (Base), 3.80GHz (max boost) |
| System Memory | 2TB |
| Networking | 4x OSFP ports serving 8x single-port NVIDIA ConnectX-7 VPI
Up to 400Gb/s NVIDIA InfiniBand/Ethernet |
| Management Network | 10Gb/s onboard NIC with RJ45
100Gb/s Ethernet optional NIC Host baseboard management controller (BMC) with RJ45 |
| Storage | OS: 2x 1.9TB NVMe M.2
Internal storage: 8x 3.84TB NVMe U.2 |
| Software | NVIDIA AI Enterprise – Optimized AI software
NVIDIA Base Command – Orchestration, scheduling, and cluster management NVIDIA DGX OS / Ubuntu / Red Hat Enterprise Linux / RockyS – Operating system |
| System Weight | 287.6lb (130.45kgs) |
| System Dimensions | Height: 14.0in (356mm)
Width: 19.0in (482.2mm) Length: 35.3in (897.1mm) |
| Operating Temperature | 5–30°C (41–86°F) |
深入瞭解 DGX H200
開始使用
採取下一步行動
取得 NVIDIA DGX H200
瞭解您的組織如何部署 DGX 平台。
探索 NVIDIA DGX 平台
將 NVIDIA 軟體、基礎架構和專業知識的優勢融入現代且統整的 AI 開發解決方案之中。
NVIDIA DGX 系統文件
存取 DGX 系統文件,為大型生成式 AI 工作負載提供世界級效能。