하나의 고유하고 효율적인 아키텍처에서 NVIDIA 통합 가속기는 NVIDIA GPU의 강력한 성능을 NVIDIA 스마트 네트워크 인터페이스 카드(SmartNIC) 및 데이터 처리 장치(DPU)의 향상된 네트워크 및 보안과 결합합니다. 데이터 센터에서 엣지까지 I/O 집약적인 GPU 가속 워크로드를 위한 최대 성능과 향상된 보안을 제공합니다..
NVIDIA AX800은 하나의 공통 클라우드 인프라에서 고성능, 5G vRAN 및 AI 서비스를 제공합니다.
NVIDIA Aerial™은 증가하는 소비자 수요를 해결하기 위해 고성능, 소프트웨어 정의, 클라우드 네이티브 5G 애플리케이션을 구축하기 위한 애플리케이션 프레임워크입니다. 5G 무선 무선 통신망(RAN)을 위한 GPU 가속 신호 및 데이터 처리를 지원합니다. NVIDIA 통합 가속기는 5G 애플리케이션 실행을 위한 최고 성능의 플랫폼을 제공합니다. 데이터가 호스트 PCIe 시스템을 통과할 필요가 없기 때문에 처리 대기 시간이 크게 줄어듭니다. 결과적으로 처리량이 높아지면 서버당 가입자 밀도도 높아집니다.
통합 가속기는 AI 기반 사이버 보안 및 네트워킹을 위한 새로운 가능성을 열어줍니다. DPU의 Arm 코어는 위협 탐지, 데이터 유출 방지, 이상 행동 프로파일링과 같은 GPU 가속 고급 네트워크 기능을 수행하기 위해 NVIDIA Morpheus 애플리케이션 프레임워크를 사용하여 프로그래밍할 수 있습니다. GPU 처리는 높은 데이터 속도로 네트워크 트래픽에 직접 적용될 수 있으며, 데이터는 GPU와 DPU 간의 직접 경로를 통해 이동하므로 격리 기능이 향상됩니다.
NVIDIA AI-on-5G는 NVIDIA EGX™ 플랫폼, 소프트웨어 정의 5G 가상 RAN(vRAN)용 NVIDIA Aerial SDK, NVIDIA Isaac™ 및 NVIDIA Metropolis와 같은 SDK를 포함한 엔터프라이즈 AI 프레임워크로 구성됩니다. 이 플랫폼은 비디오 카메라, 산업용 센서 및 로봇과 같은 엣지 장치가 AI를 사용하고 5G를 통해 데이터 센터와 통신할 수 있도록 합니다. 통합 카드를 사용하면 고가의 전용 시스템을 배포하지 않고도 단일 엔터프라이즈 서버에서 이 모든 기능을 제공할 수 있습니다. 5G 신호 처리를 가속화하는 데 사용되는 것과 동일한 통합 카드를 엣지 AI에도 사용할 수 있으며, NVIDIA의 MIG 기술을 통해 여러 다른 애플리케이션 간에 GPU를 공유할 수 있습니다.
GPU, DPU 및 PCIe 스위치를 단일 장치에 통합하는 NVIDIA 통합 가속기는 설계에 따라 균형 잡힌 아키텍처를 제공합니다. 여러 GPU 및 DPU가 필요한 시스템에서 통합 가속기 카드는 서버의 PCIe 시스템에 대한 경합을 방지하므로 추가 장치에 따라 성능이 선형적으로 확장됩니다. 또한 통합 카드는 훨씬 더 예측 가능한 성능을 제공합니다. 하나의 물리적 카드에 이러한 구성 요소가 있으면 공간과 에너지 효율성도 향상됩니다. 통합 카드는 특히 대규모 볼륨 서버에 설치할 때 배포 및 지속적인 유지 관리를 크게 단순화합니다.
이러한 장치를 사용하면 데이터 집약적인 엣지 및 데이터 센터 워크로드를 최대 보안 및 성능으로 실행할 수 있습니다.
NVIDIA A30X는 NVIDIA A30 Tensor 코어 GPU와 BlueField-2 DPU를 결합한 제품입니다. MIG를 사용하면 GPU를 최대 4개의 GPU 인스턴스로 분할하여 각각 별도의 서비스를 실행할 수 있습니다. 이 카드의 설계는 5G vRAN 및 AI 기반 사이버 보안과 같은 사용 사례에 적합한 컴퓨팅 및 I/O 성능의 균형을 제공합니다. 온보드 PCIe 스위치가 제공하는 짧은 지연 시간과 예측 가능한 성능으로 GPU에서 여러 서비스를 실행할 수 있습니다.
NVIDIA A100X는 NVIDIA A100 Tensor 코어 GPU 의 성능과 BlueField-2 DPU를 결합한 제품입니다. MIG를 사용하면 각 A100을 최대 7개의 GPU 인스턴스로 파티셔닝할 수 있으므로 더 많은 서비스를 동시에 실행할 수 있습니다.
A100X는 컴퓨팅 수요가 더 집중적인 사용 사례에 이상적입니다. 예를 들어 대규모 MIMO(Multiple-Input and Multiple-Output) 기능을 갖춘 5G, AI-on-5G 배포, 신호 처리 및 다중 노드 교육과 같은 특수 워크로드가 있습니다.
NVIDIA AX800은 NVIDIA Ampere 아키텍처 GPU 기술과 BlueField-3 DPU를 결합합니다. 거의 1TB/s의 GPU 메모리 대역폭을 가지며 최대 7개의 GPU 인스턴스로 분할할 수 있습니다. 16개의 Armv8.2+ A78 Hercules 코어는 256개의 스레드를 지원하므로 AX800은 5G vRAN과 같이 가장 까다로운 I/O 집약적 워크로드에서 고성능을 발휘할 수 있습니다.