Botul tău personalizat pentru chat, cu tehnologie AI
Chat with RTX este o aplicație demonstrativă, care îți permite să personalizezi un model lingvistic amplu (LLM) GPT conectat la propriul tău conținut – documente, note, fișiere video sau alte date. Folosind generarea augmentată prin recuperare (RAG), TensorRT-LLM și accelerarea RTX, poți interoga un bot personalizat pentru chat, pentru a obține rapid răspunsuri relevante din punct de vedere contextual. Și pentru că totul se execută local, pe PC-ul sau stația de lucru RTX pentru Windows, vei obține rezultate rapide și sigure.
Trebuie doar să descarci aplicația, să o instalezi și poți începe imediat să discuți.
| Platforma | Windows |
| Placa grafica | Placă grafică NVIDIA GeForce™ RTX seria 30 sau seria 40 sau placă grafică NVIDIA RTX™ din generația Ampere sau Ada cu cel puțin 8 GB VRAM |
| RAM | 16 GB sau mai mult |
| Sistem de operare | Windows 11 |
| Driver | 535.11 sau o versiune ulterioara |
| Dimensiunea fișierului | 35 GB |
Chat with RTX acceptă diverse formate de fișiere, inclusiv fișiere text, pdf, doc/docx și xml. Direcționează pur și simplu aplicația către folderul care conține fișierele tale, iar aceasta le va încărca în bibliotecă în câteva secunde.
Versiunea demo tehnică a aplicației Chat with RTX este construită prin proiectul de referință TensorRT-LLM RAG pentru dezvoltatori, disponibil pe Github. Dezvoltatorii pot folosi această referință pentru a-și dezvolta și implementa propriile aplicații bazate pe RAG pentru RTX, accelerate prin TensorRT-LLM.
Beneficiază de performanță AI de nivel superior, cu plăcile grafice GeForce RTX™ și NVIDIA RTX™. De la creativitate și productivitate îmbunătățite la jocuri extrem de rapide, tehnologia AI de nivel superior de pe PC-urile cu Windows este asigurată de RTX.
Află mai multe despre instrumentele cu AI generativ pentru dezvoltatori și despre soluțiile NVIDIA pentru companii aici.