ChatRTX to aplikacja w wersji demo, która pozwala spersonalizować duży model językowy GPT (LLM) połączony z Twoimi treściami – dokumentami, notatkami lub innymi danymi. Wykorzystując generowanie rozszerzonego pobierania (RAG), TensorRT-LLM i akcelerację RTX, możesz zadać pytanie Twojemu osobistemu chatbotowi na komputerze z kartą RTX, aby szybko uzyskać pasujące do kontekstu odpowiedzi. A ponieważ wszystko to działa lokalnie na komputerze lub stacji roboczej z układem RTX i systemem Windows, szybko i bezpiecznie uzyskasz wyniki.
Po prostu pobierz, zainstaluj i natychmiast zacznij rozmawiać.
| Platforma | Windows |
| GPU | Karta graficzna NVIDIA GeForce™ RTX z serii 30 lub 40 lub karta graficzna generacji NVIDIA RTX™ Ampere lub Ada z co najmniej 8 GB pamieci VRAM |
| RAM | 16 GB lub wiecej |
| System operacyjny | Windows 11 |
| Sterownik | 535.11 lub nowszy |
| Rozmiar pliku | 35 GB |
Aplikacja Chat with RTX obsługuje różne formaty plików, w tym tekstowe, pdf, doc/docx i xml. Wystarczy wskazać aplikacji folder zawierający Twoje pliki, a w ciągu kilku sekund załaduje je do biblioteki.
Technologiczne demo Chat with RTX zbudowano na podstawie referencyjnego projektu programistycznego TensorRT-LLM RAG, dostępnego na witrynie GitHub. Programiści mogą wykorzystać to odniesienie do opracowywania i wdrażania własnych aplikacji RTX, opartych na RAG, akcelerowanych przez TensorRT-LLM.
Zyskaj większą wydajność AI na kartach graficznych GeForce RTX™ oraz NVIDIA RTX™. Większa kreatywność i produktywność oraz oszałamiająco szybkie działanie podczas gier – karty graficzne RTX zapewniają dostęp do niezwykłych możliwości AI na komputerach z systemem Windows.
Dowiedz się więcej na temat narzędzi programistycznych NVIDIA z zakresu generatywnej AI oraz rozwiązań dla przedsiębiorstw tutaj.