透過本課程您將有機會了解深度學習中不同部屬的方式與其優點,我們將展示三種部署方法。第一種方法是直接使用深入學習框架中的推理功能,會以 DIGITS 和 Caffe 示範。第二種方法是通過使用深度學習框架 API ,再次使用 Caffe ,但是這次通過 Python API 來整合自定義應用程序中的推理。最後的方法是使用 NVIDIA TensorRT ,它將從受過訓練的 Caffe 模型和網絡描述文件自動創建優化的推理運行時間。在本實驗中,您將了解批量大小在推論性能中的作用,以及可在推理過程中進行的各種最佳化。您還將探索對其他 NVIDIA 深度學習實驗室相關課程中進行培訓的各種不同 DNN 架構的推論。