使用 NVIDIA TensorRT 徹底釋放 NVIDIA GPU 的潛能 NVIDIA 深度學習推論應用軟體是釋放最佳推論效能的關鍵。使用 NVIDIA TensorRT 能讓您快速最佳化、驗證並部署訓練完成的神經網路以進行推論。相較於僅使用 CPU 推論的效能，TensorRT 不只可以提供高達 40 倍的更大輸送量，即時延遲也僅有 7 毫秒。
整合式端對端可擴充深度學習推論 透過單一整合式架構訓練所有深度學習架構上的神經網路，經過 NVIDIA TensorRT 最佳化後，再部署到邊緣裝置上進行即時推論。 現在有了 NVIDIA® DGX™ 系統、 NVIDIA Tesla®、NVIDIA Jetson™、 與 NVIDIA DRIVE™ PX，NVIDIA 就可提供端對端、可全面擴充的深度學習平台。
大幅節省成本 為了讓伺服器達到最高生產力，資料中心管理員必須在效能和效率間做出取捨。在使用深度學習推論應用程式和服務時，單一 NVIDIA Tesla P4 伺服器可以取代十一個設備 CPU 伺服器，進而減少能源需求，且最高可節約 80% 的成本。