NVIDIA NIM で生成AIを即座にデプロイする

コミュニティが構築した最新の AI モデルを NVIDIA が最適化し、高速化した API でお試しください。NVIDIA NIM 推論マイクロサービスならどこにでもデプロイできます。

今すぐ試すビデオを見る

今すぐ試す

業界をリードするオープンモデルを今すぐ体験する

さらに表示する

統合

API を呼び出すだけでアクセラレーテッド AI が使える

使い慣れた API ですぐに稼働。

お気に入りのツールで構築

Langchain や LlamaIndex など、お気に入りの LLM プログラミングフレームワークを使用して容易にアプリケーションをデプロイ。

どこでも実行可能

NVIDIA NIM で AI 導入を加速する

NVIDIA AI Enterprise に含まれる NVIDIA NIM は、あらゆるクラウドまたはデータセンターに基盤モデルを短期間でデプロイできる、使いやすいマイクロサービスのセットであり、常にデータを守ります。

Accelerate Your AI Deployment With NVIDIA NIM

NVIDIA NIM の詳細を見る

NIM をデプロイする

お使いのモデルの NIM を 1 回のコマンドでデプロイします。ファインチューンされたモデルで NIM を実行することも簡単です。

推論を実行する

NVIDIA で高速化されたインフラをベースとする最適なランタイムエンジンで NIM を稼働させます。

構築

開発者は数行のコードで自己ホスト型 NIM エンドポイントを統合できます。

Deploy

Run

Build

docker run nvcr.io/nim/publisher_name/model_name

 
 curl -X 'POST' \ 
  'http://0.0.0.0:8000/v1/completions' \ 
  -H 'accept: application/json' \ 
  -H 'Content-Type: application/json' \ 
  -d '{ 
  "model" : "model_name", 
  "prompt" : "Once upon a time", 
  "max_tokens" : 64 
 }' 

 
 import openai 
 client = openai.OpenAI( 
  base_url = "YOUR_LOCAL_ENDPOINT_URL", 
  api_key="YOUR_LOCAL_API_KEY" 
 ) 
 chat_completion = client.chat.completions.create( 
  model="model_name", 
  messages=[{"role" : "user" , "content" : "Write me a love song" }], 
  temperature=0.7 
 ) 

ローカルで起動するか、Kubernetes でスケールする

NVIDIA NIM でコンテナー化されたマイクロサービスを入手し、AI モデルをローカルの開発環境に 1 回のコマンドでデプロイできます。また、Helm チャートをフェッチし、あらゆる Kubernetes で自動スケールできます。

コストと二酸化炭素排出量を継続的に削減

NVIDIA で高速化するインフラで遅延が少なく、スループットが多くなるように継続的に AI ランタイムを最適化することで、本番環境でモデルを実行する経費を減らします。

常に安全な状態を維持し、デプロイ自信をもって

Rely on production-grade runtimes, including ongoing security updates, and run your business applications with stable APIs backed by enterprise-grade support with NVIDIA NIM.

購入方法