이 워크숍에서는 멀티 GPU에서 딥 뉴럴 네트워크를 트레이닝하여 데이터 집중적인 애플리케이션에 필요한 트레이닝 시간을 단축하는 기법을 설명합니다. 딥 러닝 도구, 프레임워크 및 워크플로우 작업을 수행하여 뉴럴 네트워크 트레이닝을 수행하면서 Horovod 멀티 GPU를 구현하여 효율적인 분산 소프트웨어를 작성하는 데 따르는 복잡성을 줄이고 다수의 GPU에 걸쳐 모델을 트레이닝할 때 정확도를 유지하는 개념을 알아봅니다.
학습 목표
워크숍을 마치면 다음을 이해하게 됩니다.
- 병렬 처리 트레이닝에 필수 도구인 SGD(확률적 경사 하강법)
- › 배치 크기가 트레이닝 시간 및 정확도에 미치는 효과
- › 단일 GPU 구현을 Horovod 멀티 GPU 구현으로 변환하는 방법
- › 멀티 GPU 전체를 트레이닝할 때 높은 정확도를 유지하는 기법
워크숍 데이터시트 다운로드 (PDF 73.3 KB)
