Demostración
Tu Chatbot de IA Personalizado
Versión 0.5
ChatRTX es una aplicación demo que te permite personalizar un modelo extenso de lenguaje (LLM) de GPT conectado a tu propio contenido: documentos, notas, imágenes u otros datos. Al aprovechar la Generación de Recuperación Aumentada (RAG), TensorRT™-LLM, los microservicios de NVIDIA NIM™ y la aceleración RTX™, puedes realizar consultas a un chatbot personalizado para obtener respuestas rápidas y relevantes, en contexto. Y, dado que todo se ejecuta localmente en tu workstation o tu PC RTX con Windows, obtendrás resultados rápidos y privados.
ChatRTX admite varios formatos de archivo, incluidos txt, pdf, doc/docx, jpg, png, gif y xml. Simplemente apunta la aplicación a la carpeta que contiene tus archivos y esta los cargará en la biblioteca en cuestión de segundos.
ChatRTX presenta un sistema de reconocimiento de voz automático que utiliza la IA para procesar el lenguaje hablado y proporcionar respuestas de texto compatibles con múltiples idiomas. Simplemente haz clic en el ícono del micrófono y habla con ChatRTX para comenzar.
Deja que ChatRTX haga el trabajo: ordena tus álbumes de fotos con una simple búsqueda de texto o voz, manteniendo todo en privado y libre de complicaciones.
ChatRTX proporciona acceso a NVIDIA NIM microservices, que incluyen los últimos modelos de IA optimizados para RTX. Con NVIDIA NIM, puedes descargar, configurar y construir fácilmente aplicaciones impulsadas por IA para acelerar tus flujos de trabajo, aumentar tu productividad y desbloquear todo el potencial de los modelos de IA.
Simplemente descarga, instala y comienza a chatear ahora mismo.
Plataforma | Windows |
GPU | La GPU NVIDIA® GeForce® RTX 5090 o 5080, o la GPU NVIDIA® GeForce® RTX Serie 30 o 40 con al menos 8 GB de VRAM |
RAM | 16 GB o más |
Sistema Operativo | Windows 11 |
Driver | 572.16 o superior |
Espacio en Disco | *70 GB de espacio libre en el disco. *Tamaño del instalador: 13 MB; los requisitos de espacio en el disco varían en función de la configuración del sistema y los modelos instalados. Consulta la Guía del Usuario para más detalles. |
El demo de la tecnología ChatRTX se basa en el proyecto de referencia de desarrolladores de RAG TensorRT-LLM disponible en GitHub. Los desarrolladores pueden usar esa referencia para desarrollar e implementar sus propias aplicaciones basadas en RAG para RTX, aceleradas por TensorRT-LLM.
NVIDIA NIM Microservices y Blueprints
Aprovecha los últimos modelos de IA generativa de forma local en tu PC RTX con IA gracias a NVIDIA NIM microservices y los Blueprints de IA. Los microservicios de NIM se optimizaron para tu GPU RTX y habilitan el acceso a la IA de vanguardia desde tus aplicaciones favoritas, como ChatRTX, AnythingLLM, ComfyUI y LM Studio. Combínalos con Blueprints para configurar, personalizar e implementar rápidamente flujos de trabajo impulsados por IA que automatizan tareas y habilitan nuevas capacidades. Da forma a la IA del mañana y experiméntala, hoy. Impulsada por NVIDIA RTX™
Pasa a una IA avanzada con las GPUs NVIDIA GeForce RTX™ y acelera tus juegos, tu creación, tu productividad y tu desarrollo. Gracias a los procesadores de IA integrados especializados, obtienes tecnología de IA líder en el mundo y rendimiento que impulsa todo lo que haces; además, tus datos no salen de tu PC local con Windows.
Explora las herramientas de desarrollo con IA generativa y las soluciones empresariales de NVIDIA.