나만의 맞춤형 AI 챗봇
시스템 요구사양
Chat with RTX는 문서와 메모, 혹은 기타 데이터 등 자신의 콘텐츠에 연결된 GPT LLM(대규모 언어 모델)을 개인화할 수 있는 데모 앱입니다. RAG(검색 증강 생성), TensorRT-LLM 및 RTX 가속을 활용하면 맞춤형 챗봇에 쿼리하여 상황에 맞는 답변을 빠르게 얻을 수 있습니다. 그리고 모두 Windows RTX PC 또는 워크스테이션에서 로컬로 실행되므로 빠르고 안전한 결과를 얻을 수 있습니다.
다운로드 및 설치 후에 바로 채팅을 시작해보세요.
Chat With RTX는 텍스트, PDF, doc/docx, xml을 포함한 다양한 파일 형식을 지원합니다. 파일이 포함된 폴더를 애플리케이션에 지정하기만 하면 몇 초 만에 해당 파일이 라이브러리에 로드됩니다.
Chat With RTX 기술 데모는 github 에서 제공되는 TensorRT-LLM RAG 개발자 레퍼런스 프로젝트를 기반으로 제작되었습니다. 개발자는 해당 레퍼런스를 사용하여 TensorRT-LLM으로 가속화된 RTX용 자체 RAG 기반 애플리케이션을 개발하고 배포할 수 있습니다.
GeForce RTX™와 NVIDIA RTX™ GPU에서 한 차원 높은 AI 성능을 경험해 보세요. 향상된 크리에이티브와 생산성에서 눈부시게 빠른 게이밍에 이르기까지, Windows PC에서 최고의 AI 성능을 제공하는 RTX를 만나보세요.
NVIDIA의 생성형 AI 개발자 도구 및 엔터프라이즈 솔루션을 살펴보세요.
NVIDIA 개인정보보호정책