NVIDIA와 LangChain이 진행하는 생성형 AI 에이전트 개발자 컨테스트

선도적인 에이전트 생성 프레임워크인 LangChain으로 강력한 LLM 기반 애플리케이션을 구축하세요. 에이전트 구축에는 모델과 같은 몇 가지 구성 요소가 있습니다.

API 카탈로그를 통하거나 LangChain 프레임워크 내에서 NVIDIA AI 기반 엔드포인트를 사용하여 대중적인 오픈 소스 및 NVIDIA 기본 모델을 사용할 수 있습니다. 앱을 개발한 후에는 NeMo 가드레일을 추가하여 사용 사례에 따라 LLM 모델의 출력을 관리할 수 있습니다.

최신 에이전트를 개발하려는 경우 LangChain에 구축된 멀티 에이전트 프레임워크인 LangGraph로 시작할 수 있습니다.

특정 작업을 위해 에이전트를 맞춤화하는 데 관심이 있다면 데이터세트에서 모델을 미세 조정하는 것도 방법 중 하나입니다. 이렇게 하려면 먼저 NeMo Curator를 사용하여 데이터세트를 큐레이팅하고 NeMo 프레임워크 또는 HuggingFace 트랜스포머를 사용하여 데이터세트로 모델을 미세 조정하여 시작할 수 있습니다.

맞춤형 LLM이 있다면 LangChain 프레임워크 내에서 모델을 사용하여 에이전트를 개발할 수 있습니다.

개인 정보 보호 및 보안 고려 사항으로 인해 로컬로 실행해야 하는 에이전트의 경우 LLM 기반 에이전트와 유사한 에이전트 개발을 시작할 수 있습니다.

하지만 LLM을 사용하는 대신 매개변수가 80억 개 이하인 더 작은 언어 모델을 활용하고 NVIDIA TensorRT-LLM을 통해 이를 양자화하여 GPU에 맞도록 모델 크기를 줄일 수 있습니다.

NVIDIA를 LangChain 프레임워크와 함께 사용하면 로컬 컴퓨팅 리소스에서 실행할 수 있는 에이전트를 구축할 수 있습니다.