NVIDIA Triton を始める

あらゆるプラットフォームであらゆるアプリケーションに AI を展開、実行、拡張するためのライセンスが見つかります。

NVIDIA Triton ライセンスオプション

	GitHub Triton Inference Server オープンソースコードを利用して開発したい個人のお客様向け。	NVIDIA NGC™ 無料の Triton Inference Server コンテナーを利用して開発したい個人のお客様向け。	NVIDIA AI Enterprise 本番環境向けに Triton の購入を検討している法人向け。
特長	アクセスコード	コンテナーを入手する	営業チームに問い合わせる
NVIDIA Triton™ Inference Server
カスタムビルド (Windows、NVIDIA® Jetson™)、PyTriton
構築済み Docker コンテナー (バージョンの依存関係: CUDA®、フレームワークバックエンド)
Triton 管理サービス (大規模な展開のためのモデルオーケストレーション)
一般的な AI ユースケースのための AI ワークフローとリファレンスアーキテクチャ
ワークロードとインフラストラクチャの管理機能
以下を含むビジネス標準サポート: カスタマーポータルと電話による 24 時間 365 日、無制限のテクニカルサポートを提供お客様の地域の営業時間内のエスカレーションサポート (月曜日から金曜日の、午前 9 時から午後 5 時) NVIDIA のエキスパートとエンジニアがタイムリーに解決策を提供セキュリティに関する修正と優先順位の通知 API の安定性を確保する本番環境ブランチ 3 年間の長期サポート
ハンズオン NVIDIA LaunchPad ラボ			今すぐ試す
	アクセスコード	コンテナーを入手する	営業チームに問い合わせる

FAQ

NVIDIA Triton Inference Server、略して Triton は、オープンソースの推論サービングソフトウェアです。チームはあらゆるフレームワーク (TensorFlow、NVIDIA TensorRT™、PyTorch、ONNX、XGBoost、Python、カスタムなど) の AI モデルをあらゆる GPU/CPU ベースインフラストラクチャ (クラウド、データセンター、エッジ) で展開、実行、拡張できます。詳細については、Triton の Web ページをご覧ください。

Triton Model Analyzer は、対象の GPU または CPU のスループット、レイテンシ、メモリ制約のための推論展開構成 (バッチサイズやモデルインスタンス数など) を最適化するためのオフラインツールです。シングルモデル、モデルアンサンブル、複数の同時モデルの分析をサポートします。

Triton は、エンタープライズグレードのサポート、安定したセキュリティ、管理性を提供するエンドツーエンド AI ソフトウェアプラットフォームである NVIDIA AI Enterprise に含まれています。NVIDIA AI Enterprise には、NVIDIA AI エキスパートへのアクセス、カスタマートレーニング、ナレッジベースリソースなどを提供するビジネス標準サポートが含まれています。さらに、ビジネスクリティカルなサポート、専任のテクニカルアカウントマネージャー、トレーニング、プロフェッショナルサービスなど、企業向けのサポートやサービスもご利用いただけます。詳細については、「Enterprise Support and Services User Guide」を参照してください。

はい。Triton を使用するラボは NVIDIA Launchpad にいくつかあります。

NVIDIA LaunchPad は、Web ブラウザー経由で企業向けの NVIDIA ハードウェアおよびソフトウェアへの短期アクセスをユーザーに提供するプログラムです。ハンズオンラボの豊富なカタログから選択して、AI やデータサイエンスから 3D 設計やインフラの最適化まで、ユースケースに関するソリューションをご体験ください。企業は、プライベートのホスト型インフラ上で必要なハードウェアおよびソフトウェアスタックをすぐに利用することができます。

はい。Triton は AI 推論とモデル展開のためのエコシステムの最高の選択肢です。Triton は、AWS、Microsoft Azure、Google Cloud のマーケットプレイスで NVIDIA AI Enterprise と共に利用できます。Alibaba Cloud、Amazon Elastic Kubernetes Service (EKS)、Amazon Elastic Container Service (ECS)、Amazon SageMaker、Google Kubernetes Engine (GKE)、Google Vertex AI、HPE Ezmeral、Microsoft Azure Kubernetes Service (AKS)、Azure Machine Learning、Oracle Cloud Infrastructure Data Science Platform でも利用できます。