ChatRTX es una aplicación de demostración que te permite personalizar un modelo de lenguaje de gran tamaño (LLM) GPT conectado a tu propio contenido: documentos, notas, vídeos u otros datos. Al aprovechar la generación aumentada por recuperación (RAG), TensorRT-LLM y la aceleración RTX, puedes consultar un chatbot personalizado para obtener respuestas contextualmente relevantes con rapidez. Como todo se ejecuta localmente en tu PC o estación de trabajo Windows RTX, obtendrás resultados rápidos y seguros.
Simplemente descarga, instala y empieza a chatear de inmediato.
| Plataforma | Windows |
| GPU | GPU NVIDIA GeForce™ RTX serie 30 o 40 o GPU NVIDIA RTX™ Ampere o Ada Generation con al menos 8 GB de VRAM |
| RAM | 16 GB o más |
| SO | Windows 11 |
| Controlador | 535.11 o posterior |
| Tamaño del archivo | 35 GB |
Chat con RTX admite varios formatos de archivo, incluidos texto, pdf, doc/docx y xml. Solo tienes que seleccionar la aplicación en la carpeta que contiene los archivos y se cargarán en la biblioteca en cuestión de segundos.
La demostración técnica de Chat con RTX se ha creado a partir del proyecto de referencia para desarrolladores TensorRT-LLM RAG disponible en GitHub. Los desarrolladores pueden usar esa referencia para desarrollar e implementar sus propias aplicaciones basadas en RAG para RTX, aceleradas por TensorRT-LLM.
Disfruta de un rendimiento de IA de nivel superior gracias a las GPU GeForce RTX™ y NVIDIA RTX™. Desde creatividad y productividad mejoradas hasta juegos increíblemente rápidos, lo último en potencia de IA en PC con Windows está en RTX.
Obtén más información sobre las herramientas de IA generativa para desarrolladores y las soluciones empresariales de NVIDIA aquí.