NVIDIA & LangChain 主催: 生成 AI エージェント開発者コンテスト

エージェントの作成フレームワークとして業界をリードする LangChain を利用し、LLM 対応のパワフルなアプリを開発してください。 モデルなど、エージェントの構築にはいくつかの構成要素が関係します。

人気のオープンソース モデルや NVIDIA 基盤モデルは、API カタログ か、LangChain フレームワーク内の NVIDIA AI 基盤 エンドポイント から利用できます。アプリを開発したら、 NVIDIA NeMo™ Guardrails を追加し、ユース ケースに合わせて LLM モデルの出力を制御できます。

高度なエージェントを開発する場合、LangGraph をベースに開発されたマルチエージェント フレームワークである LangGraph を利用することができます。

特定のタスクのためにエージェントをカスタマイズする場合、その方法のひとつは、データセットでモデルをファインチューニングすることです。そのためには、NeMo Curatorでデータセットをキュレートし、NeMo フレームワークまたは HuggingFace Transformers を利用し、データセットでモデルをファインチューンすることができます。

カスタム LLM が用意できたら、LangChain フレームワーク内でモデルを使用し、エージェントを開発できます。

For any agents that need to run ローカルで実行する必要がある場合、LLM を活用するエージェントと同様のエージェントの開発を始めることができます。

ただし、LLM を使用する代わりに、パラメーターが 80 億以下の小規模な言語モデルを活用し、NVIDIA NVIDIA TensorRT™-LLM でそれらを量子化し、お使いの GPU に合わせてモデル サイズを縮小できます。

NVIDIA と LangChain フレームワークの組み合わせで、ローカル コンピューティング リソースで実行できるエージェントを構築できます。