Chat with RTX er en demoapp, der giver dig mulighed for at tilpasse en GPT LLM (Large Language Model – stor sprogmodel), som er tilknyttet dit eget indhold – dokumenter, noter eller andre data. Ved at udnytte RAG (Retrieval-Augmented Generation), TensorRT-LLM og RTX-acceleration kan du stille spørgsmål til en brugerdefineret chatbot for hurtigt at få kontekstrelevante svar. Og eftersom det hele kører lokalt på din Windows RTX-pc eller -arbejdsstation, får du hurtige og sikre resultater.
Du skal blot downloade og installere, og så kan du begynde at chatte med det samme.
| Platform | Windows |
| Grafikkort | NVIDIA GeForce™-grafikkort i RTX 30- eller 40-serien eller NVIDIA RTX™ Ampere- eller Ada Generation-grafikkort med minimum 8 GB VRAM |
| RAM | 16 GB eller mere |
| Operativsystem | Windows 11 |
| Driver | 535.11 eller nyere |
| Filstørrelse | 35 GB |
Chat with RTX understøtter forskellige filformater, herunder tekst, pdf, doc/docx og xml. Du skal bare lede programmet til den mappe, der indeholder dine filer, hvorefter det indlæser filerne i biblioteket på få sekunder.
Den tekniske demo af Chat with RTX er bygget ud fra TensorRT-LLM RAG-udviklerreferenceprojektet, der er tilgængeligt fra GitHub. Udviklere kan bruge denne reference til at udvikle og udrulle deres egne RAG-baserede programmer til RTX, accelereret af TensorRT-LLM.
Få AI-ydeevne på næste niveau med GeForce RTX™- og NVIDIA RTX™-grafikkort. Fra forbedret kreativitet og produktivitet til lynhurtig gaming – den ultimative AI-styrke på Windows-PC'er findes på RTX.
Få mere at vide om NVIDIAs generative AI-udviklerværktøjer og virksomhedsløsninger her.