Demo
Il tuo chatbot IA personalizzato
Versione 0.5
ChatRTX è un'app demo che consente di personalizzare un LLM GPT collegato a contenuti come documenti, note, immagini o altri dati. Grazie alla generazione aumentata di recupero (RAG), all'LLM TensorRT™, ai microservizi NVIDIA NIM™ e all'accelerazione RTX™, puoi rivolgere le tue domande al chatbot personalizzato per ottenere velocemente risposte pertinenti al contesto. Inoltre, dal momento che le query vengono eseguite localmente sul tuo PC Windows RTX o sulla tua workstation, i risultati sono rapidi e rimangono privati.
ChatRTX supporta vari formati di file tra cui TXT, PDF, DOC/DOCX, JPG, PNG, GIF e XML. Guida l'applicazione nella cartella contenente i file per caricarli nella tua libreria in pochi secondi.
ChatRTX include un sistema di riconoscimento vocale automatico che utilizza l'IA per elaborare il linguaggio parlato e fornire risposte testuali con il supporto per più lingue. Basta fare clic sull'icona del microfono e parlare con ChatRTX per iniziare.
Fatti aiutare da ChatRTX: cerca nei tuoi album di foto con un semplice comando testuale o vocale, il tutto con la massima intuitività e privacy.
ChatRTX consente di accedere ai microservizi NVIDIA NIM, con i più recenti modelli IA ottimizzati per la tecnologia RTX. Con NVIDIA NIM, puoi scaricare, configurare e creare facilmente applicazioni basate sull'IA per accelerare i flussi di lavoro, migliorare la produttività e sfruttare tutto il potenziale dei modelli IA.
Scaricala, installala e inizia a usarla sin da subito.
Piattaforma | Windows |
GPU | GPU NVIDIA® GeForce® RTX 5090 o 5080 o GPU NVIDIA® GeForce® RTX serie 30 o serie 40 con almeno 8 GB di VRAM |
RAM | 16 GB o superiore |
SO | Windows 11 |
Driver | 572.16 o superiore |
Spazio su disco | *70 GB di spazio libero su disco. *Dimensioni del programma di installazione: 13 MB. I requisiti di spazio su disco variano in base alla configurazione di sistema e ai modelli installati. Maggiori dettagli sono disponibili sul Manuale utente. |
La demo tecnica di ChatRTX si basa sul progetto di riferimento per sviluppatori TensorRT-LLM RAG disponibile su GitHub. Gli sviluppatori possono usare questo riferimento per sviluppare e distribuire le proprie applicazioni basate su RAG per RTX, accelerato da TensorRT-LLM.
Microservizi e blueprint di NVIDIA NIM
Sfrutta i più recenti modelli generativi IA localmente sul tuo PC RTX con IA, grazie ai microservizi NVIDIA NIM e ai blueprint IA. Essendo ottimizzati per la tua GPU RTX, i microservizi NIM consentono di accedere all'IA più avanzata dalle tue app preferite, come ChatRTX, AnythingLLM, ComfyUI e LM Studio. Combinali con i blueprint per configurare, personalizzare e distribuire rapidamente flussi di lavoro basati sull'IA che automatizzano le attività e sbloccano nuove funzionalità. Dai vita e sfrutta l'IA di domani, oggi. Con NVIDIA RTX™
Affidati all'intelligenza artificiale avanzata con le GPU NVIDIA GeForce RTX™ e accelera il gaming, la creazione di contenuti, la produttività e lo sviluppo. Grazie ai processori IA specializzati integrati, hai a disposizione una tecnologia IA leader a livello mondiale e puoi sfruttare al massimo le migliori prestazioni in tutte le tue attività. Inoltre, i tuoi dati rimangono sempre in locale, sul tuo PC Windows.
Scopri gli strumenti per sviluppatori per l'IA generativa e le soluzioni aziendali NVIDIA.