Demonstração
Seu chatbot de IA personalizado
Versão 0.5
O ChatRTX é uma aplicação de demonstração que permite personalizar um grande modelo de linguagem (LLM) GPT conectado ao seu próprio conteúdo: documentos, notas, imagens ou outros dados. Utilizando a geração aumentada por recuperação (RAG), o TensorRT™-LLM, os microsserviços NVIDIA NIM™ e a aceleração RTX™, é possível consultar um chatbot personalizado para obter respostas contextualmente relevantes com rapidez. Como tudo é executado localmente no PC RTX com Windows ou workstation RTX, você obterá resultados rápidos e privados.
O ChatRTX é compatível com vários formatos de arquivo, incluindo txt, pdf, doc/docx, jpg, png, gif e xml. Basta direcionar a aplicação para a pasta que contém seus arquivos, e eles serão carregados na biblioteca em poucos segundos.
O ChatRTX possui um sistema automático de reconhecimento de fala que usa a IA para processar a linguagem falada e fornecer respostas de texto com suporte para vários idiomas. Para dar início, basta clicar no ícone do microfone e falar com o ChatRTX.
Deixe o ChatRTX fazer o trabalho: organize seus álbuns de fotos com uma simples pesquisa por texto ou voz, mantendo tudo privado e sem complicações.
O ChatRTX fornece acesso aos microsserviços NVIDIA NIM, que contam com os modelos de IA mais recentes e otimizados para RTX. Com o NVIDIA NIM, você pode facilmente fazer o download, configurar e criar aplicações com tecnologia de IA para acelerar fluxos de trabalho, aumentar a produtividade e maximizar todo o potencial dos modelos de IA.
É só fazer o download, instalar e começar a conversar.
Plataforma | Windows |
GPU | GPU NVIDIA® GeForce® RTX 5090 ou 5080 ou GPU NVIDIA® GeForce® RTX Série 30 ou 40 com pelo menos 8GB de VRAM |
RAM | 16GB ou mais |
SO | Windows 11 |
Driver | 572.16 ou superior |
Espaço em disco | *70GB de espaço livre em disco. *Tamanho do instalador: 13MB; os requisitos de espaço em disco variam de acordo com a configuração do sistema e os modelos instalados. Consulte o Guia do Usuário para obter mais detalhes. |
A demonstração técnica do ChatRTX foi criada a partir do projeto de referência de desenvolvedores TensorRT-LLM RAG disponível no GitHub. Os desenvolvedores podem usar essa referência para desenvolver e implantar suas próprias aplicações baseadas em RAG para RTX, aceleradas pelo TensorRT-LLM.
Microsserviços NVIDIA NIM e Blueprints
Aproveite os modelos de IA generativa mais recentes localmente no seu PC RTX com IA, com os microsserviços NVIDIA NIM e os Blueprints de IA. Otimizados para sua GPU RTX, os microsserviços NIM potencializam o acesso à IA de última geração nas suas aplicações favoritas, como o ChatRTX, AnythingLLM, ComfyUI e LM Studio. Combine-os com os Blueprints para configurar, personalizar e implantar rapidamente fluxos de trabalho com IA que automatizam tarefas e desbloqueiam novos recursos. Molde e experimente a IA do futuro, ainda hoje. Com tecnologia NVIDIA RTX™
Faça upgrade para a IA avançada com as GPUs NVIDIA GeForce RTX™ e acelere os games, a criação, a produtividade e o desenvolvimento. Os processadores de IA integrados e especializados dão a você acesso a uma tecnologia de ponta em IA e desempenho de classe mundial, que impulsionam tudo o que você faz. Além disso, seus dados permanecem sempre localmente em seu PC com Windows.
Explore as ferramentas para desenvolvedores de IA Generativa e as soluções corporativas da NVIDIA.