NVIDIA DGX Station

NVIDIA Grace Blackwell로 구동되는 궁극의 데스크사이드 AI 슈퍼컴퓨터입니다.

지금 주문하기

시스템 주문은 파트너에게 문의하세요.

지금 주문하기

개요
기능
워크로드
사양
파트너

개요
기능
워크로드
사양
파트너

개요

궁극의 데스크사이드 AI 슈퍼컴퓨터

NVIDIA DGX Station™은 AI 구축과 실행을 위한 궁극의 데스크사이드 슈퍼컴퓨터입니다. NVIDIA GB300 Grace™ Blackwell Ultra Desktop Superchip으로 구동되며, 방대한 748GB 코히어런트 메모리와 최대 20페타플롭스의 AI 컴퓨팅 성능을 갖추고 있어 최대 1조 개의 매개변수를 사용하는 모델을 지원하며 대규모 AI 워크로드를 원활하게 개발하고 실행할 수 있습니다. NVIDIA AI 소프트웨어 스택이 사전 구성되어 있어 개발자, 연구원, 데이터 사이언티스트는 대규모 AI 모델과 장시간 실행되는 AI 에이전트를 로컬에서 신속하게 개발하고 파인튜닝하며 추론을 수행한 후, 데이터센터나 클라우드에 원활하게 배포할 수 있습니다.

유럽으로 확산되는 Spark: 로컬 AI가 이끄는 차세대 에이전트

GTC Berlin에서 NVIDIA는 RTX Spark, DGX Spark 및 DGX Station 시스템 전반의 안전한 로컬 AI를 조명하며 코딩, 엔지니어링, 로보틱스 및 AI 팩토리 개발을 가속화합니다.

블로그 읽기

모든 스테이션 실행: 전 세계 고객이 DGX Station을 가동합니다

연구원과 개발자들이 이 시스템을 사용하여 AI의 최첨단을 발전시키는 방법을 알아보세요.

블로그 읽기

기능

기술 혁신

NVIDIA GB300 Grace Blackwell Ultra 데스크톱 슈퍼칩

NVIDIA DGX Station은 NVIDIA NVLink®-C2C 인터커넥트를 사용하여 NVIDIA Blackwell Ultra GPU가 고성능 NVIDIA Grace CPU에 연결되어 동급 최고의 시스템 통신과 성능을 제공합니다.

NVIDIA Blackwell 세대 Tensor 코어

NVIDIA DGX Station은 NVIDIA Blackwell 세대 Tensor 코어를 탑재해 4비트 부동소수점(NVFP4) AI를 지원합니다. FP4는 메모리가 지원할 수 있는 차세대 모델의 성능과 크기를 향상시키면서 높은 정확도를 유지합니다.

NVIDIA ConnectX-8 SuperNIC

NVIDIA ConnectX®-8 SuperNIC™는 하이퍼스케일 AI 컴퓨팅 워크로드를 가속화합니다. 최대 초당 800기가비트(Gb/s)의 속도를 제공하는 ConnectX-8 SuperNIC는 매우 빠르고 효율적인 네트워크 연결을 제공하며, 최대 두 대의 DGX Station을 연결해 모델 용량과 성능을 더욱 확장할 수 있도록 지원합니다.

사전 구성된 AI 소프트웨어 스택

DGX Station은 NVIDIA AI 개발자 도구가 포함된 최적화된 사전 구성 운영체제인 Ubuntu를 특징으로 합니다. 이 환경에는 시스템별 구성과 필수 CUDA-X™ 라이브러리가 미리 설치되어 있어, AI 개발, 데이터 사이언스, 로컬 추론 워크로드를 가속하기 위한 매끄러운 풀스택 기반을 제공합니다.

NVIDIA NVLink-C2C 상호 연결

NVIDIA NVLink-C2C는 업계 최고의 NVLink 기술을 GPU와 CPU 간의 칩-투-칩 상호 연결로 확장하여 프로세서 및 가속기 간의 고대역폭 코히어런트 데이터 전송을 구현합니다.

AI를 위한 대용량 코히어런트 메모리

AI 모델의 규모와 복잡성이 계속해서 증가하고 있습니다. NVIDIA DGX Station의 대용량 코히어런트 메모리에서 이러한 모델을 학습하고 실행하면, 전통적인 CPU 및 GPU 시스템의 병목을 우회하는 C2C 슈퍼칩 인터커넥트 덕분에 하나의 메모리 풀에서 대규모 모델과 에이전트를 효율적으로 개발하고 실행할 수 있습니다.

IT 관리 용이성

DGX Station은 엔터프라이즈 배포를 위해 구축되었습니다. BMC를 통한 대역 외 텔레메트리, Redfish API 지원 및 NVIDIA 데이터 센터 GPU 관리자는 IT 팀에 가시성, 모니터링 및 원격 관리 기능을 제공합니다. 하드웨어 루트 트러스트와 엔터프라이즈 보안 부팅은 전체 라이프사이클 동안 모든 시스템을 보호하고 규정 준수를 유지하는 데 도움이 됩니다.

NVIDIA RTX PRO GPU

NVIDIA DGX Station은 GB300 Superchip에 더해 NVIDIA RTX PRO™ Blackwell 세대 GPU를 최대 1개까지 추가로 구성할 수 있습니다. 이 조합을 통해 개발자는 데이터센터급 AI 연산 기능과 강력한 레이 트레이싱 기반 시각화 및 시뮬레이션을 결합할 수 있습니다.

NVIDIA AI Enterprise

기업은 엔터프라이즈 지원과 함께 소프트웨어 도구, 라이브러리 및 프레임워크 제품군을 제공하는 NVIDIA AI Enterprise 소프트웨어 라이선스를 통해 NVIDIA DGX Station에서 AI 배포를 가속화할 수 있으며, 이를 통해 엔터프라이즈에서 프로덕션 AI 애플리케이션의 개발, 배포 및 확장을 간소화합니다.

*NVIDIA NIM 지원은 6월에 계획되어 있으며, 프로덕션 브랜치 지원은 10월에 계획되어 있습니다.

메모리만으로도 이전에는 불가능했던 수십억 개 매개변수의 LLM을 학습할 수 있게 되었습니다. 최신 데이터센터급 AI 시스템의 컴퓨팅 성능을 데스크사이드에서 필요할 때 바로 이용할 수 있어, 아이디어를 시험하기 위해 기다릴 필요가 없습니다. 덕분에 반복 실험 속도가 눈에 띄게 빨라졌습니다.

— Kilian Weinberger, 코넬대학교 컴퓨터과학 교수

DGX Station의 빠른 컴퓨팅 성능과 방대한 공유 메모리 덕분에 상동성 검색을 새로운 차원의 규모로 수행할 수 있습니다. NVIDIA GB300 아키텍처를 통해 6천만 개 이상의 구조를 포함하는 AFDB50을 비롯한 전체 단백질 구조 데이터베이스를 메모리에 직접 로드하여 거의 즉각적인 검색이 가능합니다.

— Milot Mirdita, 성균관대학교 의과대학 조교수

DGX Station을 활용하여 R&D 팀은 AI 기상 예측 모델과 AI 다운스케일링 기법을 결합해 전력망 운영을 위한 고해상도 기상 예보를 생성하는 방안을 평가할 수 있었습니다. 이를 통해 연구를 지원하는 동시에 전력회사 및 ISO/RTO 협력 기관의 요구를 충족할 수 있었습니다.

— David Larson, EPRI 송전 운영 및 계획 부문 수석 팀 리드

NVIDIA A100 80GB GPU 4개를 사용하던 이전 환경과 비교해, 병렬화 오버헤드를 없애면서 최대 3배 더 큰 모델을 학습할 수 있었습니다. 2개에서 8개의 학습 작업을 동시에 실행하고 총 40개의 구성을 평가하여 실험 주기를 크게 단축했습니다.

— Rajendra Boppana, 텍사스대학교 샌안토니오 캠퍼스 연구원

대용량 VRAM 덕분에 여러 모델을 동시에 학습하면서 자체 데이터셋을 사용해 드론을 감지하도록 RF-DETR을 파인튜닝할 수 있었습니다. 대형 모델은 AP0.50:0.95 66.1을 달성했습니다. 이후 Jetson Orin NX에 배포하여 30 FPS의 실시간 추론을 구현했습니다.

— Wennie Tabib, 카네기멜런대학교 로보틱스연구소 시스템 과학자

인용문 1
인용문 2
인용문 3
인용문 4
인용문 5

워크로드

궁극의 AI 및 데이터 사이언스 데스크톱

AI 개발

딥 러닝과 머신 러닝 학습을 가속화하는 방대한 NVIDIA CUDA 최적화 라이브러리와, 막대한 메모리 및 슈퍼칩 처리량을 갖춘 NVIDIA DGX Station이 결합되어, NVIDIA의 가속 컴퓨팅 플랫폼은 예지 정비 개발부터 의료 영상 분석, 자연어 처리(NLP) 애플리케이션에 이르기까지 다양한 산업 전반에서 궁극의 AI 개발 플랫폼을 제공합니다.

AI 솔루션 살펴보기

데이터 사이언스

RAPIDS™ 오픈 소스 소프트웨어 라이브러리를 비롯한 NVIDIA AI 소프트웨어를 사용하면 GPU가 인프라 비용을 대폭 절감하고 엔드투엔드 데이터 사이언스 워크플로우에 뛰어난 성능을 제공할 수 있습니다. NVIDIA DGX Station 슈퍼칩이 제공하는 대용량 코히어런트 메모리 풀은 방대한 데이터 레이크를 메모리에 바로 로드할 수 있도록 지원하므로, 데이터 사이언스 병목 현상을 제거하고 처리량을 가속화할 수 있습니다.

데이터 사이언스 솔루션 살펴보기

AI 추론

AI 모델은 크기, 복잡성 및 다양성 면에서 급속히 확장되어 가능성의 경계를 넓혀가고 있습니다. NVIDIA DGX Station은 시스템에서 로컬로 대규모 AI 모델을 실행할 수 있도록 추론을 가속화하여, 거대 언어 모델(LLM) 토큰 생성, 데이터 분석, 콘텐츠 제작, AI 에이전트 등의 작업을 놀라운 속도로 처리합니다.

AI 추론 솔루션 살펴보기

에이전틱 AI

NVIDIA NemoClaw는 OpenClaw에 개인 정보 보호 및 보안 제어를 추가하는 오픈 소스 스택입니다. 단 하나의 명령으로 누구나 어디서든 상시 실행되는 스스로 진화하는 에이전트를 실행할 수 있습니다. NemoClaw와 NVIDIA DGX Station을 결합하면 개발자는 자율 및 장기간 실행 에이전트를 로컬로 개발할 수 있는 동급 최고의 기능을 갖추고 추가 토큰 비용을 절감할 수 있습니다.

NemoClaw에 대해 자세히 알아보기

피지컬 AI

DGX Station은 강력한 GB300 슈퍼칩을 탑재하고 추가 NVIDIA RTX PRO 6000 Blackwell 워크스테이션 GPU와 결합하여 데스크톱 환경에서 동급 최고 수준의 연산, 시뮬레이션 및 시각화를 제공할 수 있습니다. 이 조합은 자율 시스템과 비주얼 AI 에이전트를 학습, 테스트 및 지속적으로 최적화하기 위해 강력한 로컬 학습, 추론 및 시뮬레이션이 필요한 피지컬 AI를 구축하고 배포하는 데 이상적입니다.

피지컬 AI를 위한 솔루션 살펴보기

퍼스널 클라우드

NVIDIA DGX Station은 한 사용자가 로컬 데이터를 사용하여 고급 AI 모델을 실행하는 개별 데스크톱 역할을 하거나 여러 팀원이 온디맨드로 IP 특정 모델을 미세 조정하고 실행하는 중앙 컴퓨팅 노드로 사용할 수 있습니다. DGX Station은 NVIDIA 멀티 인스턴스 GPU(MIG) 기술을 지원해 최대 7개의 인스턴스로 분할할 수 있으며, 각 인스턴스는 고유한 고대역폭 메모리, 캐시 및 연산 코어로 완전히 격리되어 여러 사용자가 로컬 개발을 수행할 수 있도록 하며, 클라우드와 데이터센터에서 더 큰 규모의 MIG 배포로 쉽게 확장할 수 있습니다. 이를 통해 관리자는 가장 작은 워크로드부터 가장 큰 워크로드까지 모두, 보장된 서비스 품질(QoS)로 지원할 수 있으며, 가속 컴퓨팅 자원의 활용 범위를 모든 사용자에게까지 확대할 수 있습니다.

MIG 기술에 대해 알아보기