Démo
Votre chatbot d'IA personnalisé
Version 0.5
ChatRTX est une application de démonstration qui vous permet de personnaliser un grand modèle de langage (LLM) connecté à votre propre contenu, pouvant inclure des documents, des notes, des images ou d'autres données. Grâce à la génération augmentée par récupération (RAG), à TensorRT™-LLM, aux microservices NIM™ de NVIDIA et à l’accélération RTX™, vous pouvez interroger un chatbot personnalisé pour obtenir rapidement des réponses adaptées au contexte. De plus, grâce à une exécution en local sur votre PC ou votre station de travail RTX sous Windows, vous obtenez des résultats probants de manière rapide et sécurisée.
ChatRTX prend en charge une grande variété de formats de fichiers, parmi lesquels TXT, PDF, DOC / DOCX, JPG, PNG, GIF, and XML. Spécifiez simplement à l’application le dossier qui contient vos fichiers de manière à les charger automatiquement dans la bibliothèque de contenu en quelques secondes.
ChatRTX dispose d'un système de reconnaissance vocale automatique qui utilise l'IA pour traiter le langage parlé et fournir des réponses textuelles dans de multiples langues. Cliquez simplement sur l’icône du microphone et parlez à ChatRTX pour commencer.
Laissez ChatRTX faire le travail : triez vos albums photos par une simple recherche textuelle ou vocale, tout en maintenant la confidentialité, sans difficultés.
ChatRTX permet d’accéder aux microservices NIM, comprenant de nouveaux modèles d’IA optimisés pour RTX. Grâce à NIM, vous pouvez facilement télécharger, configurer et concevoir des applications alimentées par l’IA afin d’accélérer les workflows, d’accroître la productivité et d'exploiter le plein potentiel des modèles d’IA.
Téléchargez et installez l’application, puis commencez à créer vos projets.
Plateforme | Windows |
GPU | GPU NVIDIA® GeForce® RTX 5090 ou 5080, ou GPU NVIDIA® GeForce® RTX série 30 ou 40 avec au moins 8 Go de VRAM |
RAM | 16 Go ou plus |
Système d’exploitation | Windows 11 |
Pilote | Version 572.16 ou plus |
Espace disque | * 70 Go d'espace disque disponible. * Taille du programme d'installation : 13 Mo ; les exigences d'espace disque varient en fonction de la configuration système et des modèles installés. Veuillez consulter le guide d'utilisation pour en savoir plus. |
La démo technique ChatRTX est basée sur le projet de référence de développeur TensorRT-LLM RAG disponible sur GitHub. Les développeurs peuvent utiliser cette référence pour développer et déployer leurs propres applications basées sur RAG pour RTX, accélérées par TensorRT-LLM.
Modèles et microservices NVIDIA NIM
Exploitez de tout nouveaux modèles d’IA générative en local sur votre PC RTX accéléré par l'IA grâce aux modèles d’IA et aux microservices NVIDIA NIM. Optimisés pour votre GPU RTX, les microservices NIM vous permettent d’accéder à une technologie d’IA de pointe dans vos applications préférées, telles que ChatRTX, AnythingLLM, ComfyUI et LM Studio. Combinez-les à nos modèles d’inférence pour configurer, personnaliser et déployer encore plus rapidement des workflows pilotés par l’IA conçus pour automatiser les tâches et vous fournir des fonctionnalités inédites. Faites l’expérience de l’IA de demain, dès aujourd’hui. Avec NVIDIA RTX™
Vivez une expérience d’IA avancée grâce aux GPU NVIDIA GeForce RTX™, qui accélèrent vos jeux, vos applications de création, votre productivité et vos projets de développement. Grâce à l’intégration de processeurs d’IA spécialisés, vous bénéficiez d’une technologie d’IA de pointe et de performances alimentant chacune de vos actions, tandis que vos données restent stockées en local sur votre PC Windows.
Découvrez les solutions d’entreprise et les outils de développement d’IA générative de NVIDIA.