Demostración
Tu chatbot de IA personalizado
Versión 0.5
ChatRTX es una aplicación de demostración que te permite personalizar un modelo lingüístico de gran tamaño (LLM) de GPT conectado a tu propio contenido (documentos, notas, imágenes u otros datos). Gracias a la generación aumentada por recuperación (RAG), TensorRT™-LLM, los microservicios NVIDIA NIM™ y la aceleración RTX™, puedes hacer consultas a un chatbot personalizado para obtener respuestas relevantes según el contexto, de forma rápida. Y como todo se ejecuta de forma local en tu ordenador o estación de trabajo con Windows RTX, conseguirás resultados rápidos y confidenciales.
ChatRTX es compatible con varios formatos de archivo, incluidos TXT, PDF, DOC/DOCX, JPG, PNG, GIF y XML. Simplemente, indica a la aplicación la carpeta que contiene tus archivos, y los cargará en la biblioteca en cuestión de segundos.
ChatRTX dispone de un sistema de reconocimiento de voz automático que se sirve de la IA para procesar el lenguaje hablado y proporcionar respuestas de texto localizadas en varios idiomas. Solamente tienes que pulsar en el icono del micrófono y hablar con ChatRTX para comenzar con las consultas.
Deja que ChatRTX se encargue de todo: ordena tus álbumes de fotos con una simple búsqueda de texto o voz, para que todo se mantenga confidencial y libre de complicaciones.
ChatRTX proporciona acceso a microservicios NVIDIA NIM, que cuentan con los últimos modelos de IA optimizada para RTX. Con NVIDIA NIM, puedes descargar, configurar y desarrollar de forma sencilla aplicaciones impulsadas por IA para acelerar los flujos de trabajo, aumentar la productividad y exprimir todo el potencial de los modelos de IA.
Simplemente descarga, instala y empieza a chatear de inmediato.
Plataforma | Windows |
GPU | GPU NVIDIA® GeForce® RTX 5090 o 5080, o GPU NVIDIA® GeForce® RTX serie 30 o 40 con al menos 8 GB de VRAM |
RAM | 16 GB o superior |
SO | Windows 11 |
Controlador | 572,16 o superior |
Espacio en disco | *70 GB de espacio en disco *Tamaño del instalador: 13 MB; los requisitos de espacio en disco varían en función de la configuración del sistema y los modelos instalados. Consulte la guía del usuario para obtener más detalles. |
La demo técnica de ChatRTX se ha desarrollado a partir del proyecto de referencia para desarrolladores TensorRT-LLM RAG disponible en GitHub. Los desarrolladores pueden utilizar esa referencia para desarrollar e implementar sus propias aplicaciones basadas en RAG para RTX, aceleradas por TensorRT-LLM.
Microservicios NIM y Blueprints de NVIDIA
Aprovecha al máximo los modelos más recientes de IA generativa de forma local en tu ordenador RTX con IA empleando los microservicios NVIDIA NIM™ y NVIDIA AI Blueprints. Los microservicios NIM, optimizados para tus GPU RTX, habilitan el acceso a la IA más avanzada de tus aplicaciones favoritas (como ChatRTX, AnythingLLM, ComfyUI y LM Studio). Combínalos con los Blueprints para configurar, personalizar e implementar rápidamente flujos de trabajo impulsados por IA que automatizan las tareas y hacen posible nuevas capacidades. Dale forma a la IA del mañana y experiméntala, hoy mismo. Impulsada por NVIDIA RTX™
Pásate a la IA avanzada con las GPU NVIDIA GeForce RTX™ y acelera tus videojuegos, creación, productividad y tu desarrollo. Gracias a los procesadores de IA integrados y especializados, conseguirás un rendimiento y tecnología de IA punteros a nivel mundial que impulsan todo lo que haces. Además, tus datos siempre permanecerán a nivel local en tu ordenador con Windows.
Explora las herramientas para desarrolladores y las soluciones empresariales de IA generativa de NVIDIA.