NVIDIA GH200 Grace Hopper 슈퍼칩

NVIDIA GH200 슈퍼칩은 NVLink-C2C를 사용하는 Arm® 기반 Grace CPU와 Hopper GPU 아키텍처를 통합하여 전 세계 슈퍼컴퓨터에서 과학 연구와 발견의 속도를 높이고 있습니다. NVIDIA Grace Hopper 슈퍼칩을 활용하는 슈퍼컴퓨터들은 함께 200엑사플롭스, 즉 초당 200경 번의 계산이 가능한 에너지 효율적인 AI 처리 성능을 제공합니다.

최근 스토리지와 네트워킹 대역폭의 발전, 그리고 무어의 법칙의 한계로 인해 분석 및 쿼리 병목 현상이 CPU에서 발생하게 되었습니다. GH200을 사용하면 CPU와 GPU가 프로세스당 단일 페이지 테이블을 공유하므로 모든 CPU 및 GPU 스레드가 물리적 CPU 또는 GPU 메모리에 상주할 수 있는 시스템 할당 메모리 전체에 액세스할 수 있습니다. GH200은 CPU와 GPU 간에 메모리를 앞뒤로 복사할 필요가 없어 데이터 처리 속도를 최대 36배 높입니다.

검색 증강 생성(RAG)은 거대 언어 모델(LLM)을 기술 기반과 연결하여 모델 정확도를 높일 수 있습니다. RAG는 임베딩을 생성하고 벡터 검색을 대규모로 실행해야 합니다. 72개의 고효율 Arm 기반 Grace CPU 코어는 기술 자료 데이터의 사전 처리를 가속화하며, NVLink-C2C는 사전 처리된 데이터를 PCIe 대비 7배 빠른 속도로 Hopper GPU로 전송하여 임베딩 생성 프로세스가 30배 빨라집니다.

그래프 뉴럴 네트워크(GNN)는 소셜 네트워크 분석, 신약 개발, 사기 감지, 분자 화학 등의 다양한 분야에서 사용됩니다. GH200은 최대 624GB의 CPU 및 GPU 통합 고속 메모리, 4페타플롭스의 H200 GPU, 900GB/s NVLink-C2C를 활용하여 H100 PCIe GPU 대비 GNN 훈련 속도를 최대 8배 높입니다.