此實作坊將教導你如何運用多 GPU 技術訓練深度神經網路，以縮短大量資料應用程式所需的訓練時間。使用深度學習工具、框架和工作流程執行神經網路訓練後，你將學到實作 Horovod 多 GPU 的概念，從而降低撰寫高效率分散式應用軟體的複雜程度，並且學會在多個 GPU 上訓練模型時維持準確度。
學習目標
在實作坊結束時，你會瞭解：
- 隨機梯度下降法（stochastic gradient descent ，SGD），這是用於平行訓練的重要工具
- 批次大小及其對訓練時間和準確度的影響
- 如何將單一 GPU 實作轉換為 Horovod 多 GPU 實作
- 在使用多個 GPU 進行訓練時，維持高準確度的技術
下載實作坊大綱與簡介 (PDF 73.3 KB)
