Demo
Dein personalisierter KI-Chatbot
Version 0.5
ChatRTX ist eine Demo-App, mit der du ein GPT-LLM (Large Language Model, großes Sprachmodell) durch Kopplung an deine eigenen Inhalte – Dokumente, Notizen, Bilder oder andere Daten – personalisieren kannst. Mithilfe von Retrieval-Augmented Generation (RAG), TensorRT™-LLM, NVIDIA NIM™ Microservices und RTX™-Beschleunigung kann ein an eigene Bedürfnisse angepasster Chatbot abgefragt werden, um schnell kontextrelevante Antworten zu erhalten. Und weil alles lokal auf deinem Windows-mit-RTX-PC oder einer entsprechend ausgestatteten Workstation läuft, erhältst du schnelle und persönliche Ergebnisse.
ChatRTX unterstützt verschiedene Dateiformate wie TXT, PDF, DOC/DOCX, JPG, PNG, GIF und XML. Verweise die Anwendung einfach auf den Ordner mit deinen Dateien, und sie werden innerhalb von Sekunden in die Bibliothek geladen.
ChatRTX verfügt über ein automatisches Spracherkennungssystem, das KI verwendet, um gesprochene Sprache zu verarbeiten und Textantworten mit Unterstützung für mehrere Sprachen bereitzustellen. Klicke einfach auf das Mikrofon-Symbol und rede mit ChatRTX, um loszulegen.
Überlasse ChatRTX die Arbeit: Sortiere deine Fotoalben mit einer einfachen Text- oder Sprachsuche, wobei alles privat bleibt und reibungslos abläuft.
ChatRTX bietet Zugang zu NVIDIA NIM Microservices mit den neuesten für RTX optimierten KI-Modellen. Mit NVIDIA NIM kannst du KI-gestützte Anwendungen einfach herunterladen, einrichten und umsetzen, um Workflows zu beschleunigen, die Produktivität zu steigern und das volle Potenzial von KI-Modellen auszuschöpfen.
Einfach herunterladen, installieren und gleich loschatten.
Plattform | Windows |
GPU | NVIDIA® GeForce® RTX 5090- oder 5080-GPU oder NVIDIA® GeForce® RTX 30er- oder 40er-Serie mit mindestens 8 GB VRAM |
RAM | Mindestens 16 GB |
Betriebssystem | Windows 11 |
Treiber | 572.16 oder höher |
Datenspeicherplatz | *70 GB freier Platz auf dem Datenträger. *Größe des Installationsprogramms: 13 MB. Die Anforderungen an den Platz auf dem Datenträger variieren je nach Systemkonfiguration und installierten Modellen. Einzelheiten siehe Benutzerhandbuch. |
Die ChatRTX-Tech-Demo basiert auf dem TensorRT-LLM-RAG-Entwicklerreferenzprojekt, das auf GitHub verfügbar ist. Entwickler können diese Referenz verwenden, um ihre eigenen RAG-basierten Anwendungen für RTX zu entwickeln und bereitzustellen, beschleunigt durch TensorRT-LLM.
NVIDIA NIM-Microservices und Blueprints
Nutze die neuesten generativen KI-Modelle mit NVIDIA NIM-Microservices und AI Blueprints auf deinem eigenen RTX-KI-PC. Die für deine RTX-GPU optimierten NIM-Microservices bieten Zugriff auf modernste KI in häufig genutzten Apps wie ChatRTX, AnythingLLM, ComfyUI und LM Studio. Kombiniere sie mit Blueprints, um schnell KI-gesteuerte Workflows einzurichten, anzupassen und bereitzustellen, die Aufgaben automatisieren und neue Funktionen freischalten. Gestalte und erlebe die KI von morgen schon heute. Mit der Leistung von NVIDIA RTX™
Rüste auf fortschrittliche KI mit NVIDIA GeForce RTX™ GPUs auf und beschleunige dein Gaming, deine Kreativ- und Produktivanwendungen und die Entwicklung. Dank spezialisierter integrierter KI-Prozessoren erhältst du KI-Technologie und -Performance der Weltspitze als Grundlage für alles, was du machst. Und deine Daten bleiben dabei immer lokal auf deinem Windows-PC.
Entdecke die generativen KI-Entwicklertools und Unternehmenslösungen von NVIDIA.