Din personliga AI-chattbot
Version 0.4
ChatRTX är en demo-app som gör att du kan anpassa en stor GPT-språkmodell (LLM) som är ansluten till ditt eget innehåll – dokument, anteckningar, bilder eller andra data. Med RAG (Retrieval Augmented Generation), TensorRT-LLM och RTX-acceleration kan du söka i en anpassad chatbot för att snabbt få kontextuellt relevanta svar. Och eftersom allt körs lokalt på din Windows RTX-dator eller arbetsstation får du snabba och säkra resultat
ChatRTX stöder olika filformat, inklusive txt, pdf, doc/docx, jpg, png, gif och xml. Rikta programmet mot mappen som innehåller dina filer så laddar de in dem i biblioteket på några sekunder.
ChatRTX har ett automatiskt taligenkänningssystem som använder AI för att bearbeta talat språk och förse textsvar med stöd för flera språk. Kom igång genom att klicka på mikrofonikonen och prata med ChatRTX.
Låt ChatRTX göra jobbet – leta igenom dina fotoalbum med en enkel text- eller röstsökning och håll allt privat och problemfritt.
Ladda ner, installera och börja chatta direkt.
Teknikdemon för ChatRTX är byggd från utvecklarreferensprojektet TensorRT-LLM RAG som finns tillgängligt från GitHub. Utvecklare kan använda den referensen för att utveckla och driftsätta sina egna RAG-baserade program för RTX, som accelereras av TensorRT-LLM.
AI-prestanda på en helt ny nivå med grafikkorten GeForce RTX™ och NVIDIA RTX™. RTX är den ultimata AI-kraften på Windows-datorer och ger allt från förbättrad kreativitet och produktivitet till blixtsnabbt spelande.
Läs mer om NVIDIA:s generativa AI-utvecklarverktyg och företagslösningar här.
NVIDIA:s integritetspolicy