Trò chuyện với RTX là một ứng dụng demo cho phép bạn cá nhân hóa mô hình ngôn ngữ lớn GPT (LLM) được kết nối với nội dung của riêng bạn—tài liệu, ghi chú hoặc dữ liệu khác. Tận dụng thế hệ tăng cường truy xuất (RAG), TensorRT-LLMvà RTX, bạn có thể truy vấn một chatbot tùy chỉnh để nhanh chóng nhận được câu trả lời phù hợp theo ngữ cảnh. Và vì tất cả đều chạy cục bộ trên PC hoặc máy trạm chạy Windows RTX nên bạn sẽ nhận được kết quả nhanh chóng và an toàn.
Chỉ cần tải xuống, cài đặt, và bắt đầu trò chuyện ngay lập tức
Platform | Windows |
GPU | GPU NVIDIA GeForce™ RTX 30 hoặc 40 Series hoặc GPU NVIDIA RTX™ Ampere hoặc Ada Generation với ít nhất 8GB VRAM |
RAM | 16GB hoặc cao hơn |
OS | Windows 11 |
Driver | 535.11 trở lên |
Full Size | 35GB |
Chat With RTX hỗ trợ nhiều định dạng tệp khác nhau, bao gồm văn bản, pdf, doc/docx và xml. Chỉ cần trỏ ứng dụng vào thư mục chứa các tệp của bạn và nó sẽ tải chúng vào thư viện chỉ trong vài giây.
Bản demo công nghệ Chat With RTX được xây dựng từ dự án tham khảo dành cho nhà phát triển TensorRT-LLM RAG có sẵn trên github. Các nhà phát triển có thể sử dụng tài liệu tham khảo đó để phát triển và triển khai các ứng dụng dựa trên RAG của riêng họ cho RTX, được tăng tốc bởi TensorRT-LLM.
Nhận hiệu suất AI cấp độ tiếp theo trên GPU GeForce RTX và NVIDIA RTX™. Từ khả năng sáng tạo và năng suất được nâng cao cho đến khả năng chơi game cực nhanh, sức mạnh AI tối thượng trên PC chạy Windows đều có trên RTX.
Khám phá các công cụ toàn diện dành cho nhà phát triển AI và giải pháp doanh nghiệp của NVIDIA.