Demonstrație
Robotul tău de chat AI personalizat
Versiunea 0.5
ChatRTX este o aplicație demo care îți permite să personalizezi un model de limbaj GPT de mari dimensiuni (LLM), conectat la propriul tău conținut — documente, notițe, imagini sau alte date. Utilizând procesul de generare augmentată de recuperare (RAG), TensorRT™-LLM, microserviciile NVIDIA NIM™ și accelerarea RTX™, poți interoga un robot de chat personalizat, pentru a obține rapid răspunsuri relevante din punct de vedere contextual. Și deoarece totul rulează local pe PC-ul sau pe stația de lucru RTX cu Windows, vei obține rezultate rapide și private.
ChatRTX acceptă diverse formate de fișiere, inclusiv TXT, PDF, DOC/DOCX, JPG, PNG, GIF și XML. Direcționează aplicația către dosarul care conține fișierele tale, iar acesta le va încărca în biblioteca de date în câteva secunde.
ChatRTX oferă un sistem de recunoaștere automată a vorbirii bazat pe AI, care procesează limbajul vorbit și oferă răspunsuri text cu suport pentru mai multe limbi. Apasă pe pictograma microfonului și vorbește cu ChatRTX pentru a începe.
Permite-i lui ChatRTX să facă treaba — răsfoiește albumele tale foto cu o simplă căutare text sau vocală — totul privat și fără bătăi de cap.
ChatRTX oferă acces la microserviciile NVIDIA NIM, cu cele mai recente modele AI optimizate pentru RTX. Cu NVIDIA NIM, poți descărca, configura și crea cu ușurință aplicații bazate pe AI, pentru a accelera fluxurile de lucru, pentru a crește productivitatea și pentru a debloca întregul potențial al modelelor AI.
Descarcă, instalează și poți începe să vorbești imediat.
Platformă | Windows |
GPU | GPU NVIDIA® GeForce® RTX 5090 sau 5080 sau GPU NVIDIA® GeForce® RTX seria 30 sau 40 cu memorie VRAM de cel puțin 8 GB |
RAM | 16 GB sau mai mult |
SO | Windows 11 |
Driver | 572.16 sau mai mare |
Spațiu de stocare | *70 GB spațiu liber pe disc. *Dimensiunea programului de instalare: 13 MB; cerințele de spațiu pe disc variază în funcție de configurația sistemului și de modelele instalate. Pentru detalii, consultă Ghidul utilizatorului. |
Demo de tehnologie ChatRTX este construit pe baza proiectului de referință pentru dezvoltatori TensorRT-LLM RAG, disponibil pe GitHub. Dezvoltatorii pot folosi acest proiect de referință pentru a dezvolta și implementa propriile aplicații bazate pe RAG pentru RTX, accelerate de TensorRT-LLM.
Microservicii NVIDIA NIM și Blueprints
Valorifică cele mai recente modele de AI generativ la nivel local pe PC-ul tău RTX AI cu microservicii NVIDIA NIM și AI Blueprints. Optimizate pentru GPU-ul tău RTX, microserviciile NIM oferă acces la inteligența artificială de ultimă generație din aplicațiile tale preferate, cum ar fi ChatRTX, AnythingLLM, ComfyUI și LM Studio. Combină-le cu Blueprints pentru a configura, personaliza și implementa rapid fluxuri de lucru bazate pe AI, care automatizează sarcinile și deblochează noi capacități. Modelează și experimentează AI-ul de mâine, astăzi. Cu puterea NVIDIA RTX™
Fă upgrade la un AI avansat cu GPU-urile NVIDIA GeForce RTX™ și accelerează jocurile, creația, productivitatea și dezvoltarea. Datorită procesoarelor AI specializate încorporate, beneficiezi de tehnologie AI de vârf și de performanță pentru tot ceea ce faci; în plus, datele tale rămân întotdeauna locale pe PC-ul tău cu Windows.
Explorează instrumentele de AI generativ și soluțiile enterprise pentru dezvoltatori, de la NVIDIA.