Chat with RTX es una aplicación de demostración que le permite personalizar un modelo de lenguaje extenso (LLM) de GPT con su propio contenido: documentos, anotaciones u otros datos. Aprovechando la generación de recuperación aumentada (RAG), TensorRT-LLM y la aceleración RTX, puedes consultar un chatbot personalizado para obtener rápidamente respuestas contextualmente relevantes. Y como todo se ejecuta localmente en tu PC Windows RTX o estación de trabajo RTX, obteniendo resultados rápidos y seguros.
Descárgalo, instálalo y empieza a chatear directamente.
| Plataforma | Windows |
| GPU | Tarjeta gráfica NVIDIA GeForce™ RTX Serie 30 o Serie 40 o tarjeta gráfica NVIDIA RTX™ Ampere o Generación Ada con al menos 8 GB de VRAM. |
| RAM | 16GB o superior |
| OS | Windows 11 |
| Driver | 535.11 o más reciente |
| File Size | 35 GB |
ChatRTX admite varios formatos de archivo, como texto, pdf, doc/docx y xml. Basta con que dirijas la aplicación a la carpeta que contiene tus archivos y los cargará en la biblioteca en unos segundos.
La demo técnica ChatRTX está desarrollada a partir del proyecto de referencia para desarrolladores RAG for TensorRT-LLM disponible en GitHub. Los desarrolladores pueden utilizar esta referencia para desarrollar y desplegar sus propias aplicaciones basadas en RAG para RTX, aceleradas por TensorRT-LLM.
Consigue el mejor rendimiento de la IA del futuro con las GPUs GeForce RTX™ y NVIDIA RTX™. Desde la aceleración creativa y de productividad hasta los juegos más rápidos. Lo último en potencia de IA para PC Windows se encuentra en RTX.
Explora las herramientas de la IA Generativa y las soluciones empresariales de NVIDIA.