O ChatRTX é uma aplicação demo que te permite personalizar um modelo de linguagem grande (LLM) GPT ao seu próprio conteúdo—documentos, anotações ou outros dados. Aproveitando a geração aumentada de recuperação (RAG), TensorRT-LLM e aceleração RTX, você pode consultar um chatbot personalizado para obter rapidamente respostas contextualmente relevantes. E como tudo é executado localmente em seu PC Windows RTX ou workstation RTX, você obterá resultados rápidos e seguros.
É só baixar, instalar e começar a conversar imediatamente.
| Plataforma | Windows |
| GPU | Placa de Vídeo NVIDIA GeForce™ RTX Série 30 ou Série 40 ou NVIDIA RTX™ Ampere ou Placa de Vídeo da Geração Ada com pelo menos 8GB de VRAM |
| RAM | 16GB ou superior |
| OS | Windows 11 |
| Driver | 535.11 ou mais recente |
| File Size | 35 GB |
O ChatRTX oferece suporte a vários formatos de arquivo, incluindo texto, pdf, doc/docx e xml. Basta indicar o aplicativo para a pasta que contém seus arquivos e ele os carregará na biblioteca em poucos segundos.
A demo técnica do ChatRTX é desenvolvida a partir do projeto de referência de desenvolvedores RAG para TensorRT-LLM disponível no GitHub. Os desenvolvedores podem usar essa referência para desenvolver e implanter seus próprios aplicativos baseados em RAG para RTX, acelerados pelo TensorRT-LLM.
Obtenha o desempenho de IA do futuro com as GPUs GeForce RTX™ e NVIDIA RTX™. De aceleração criativa e de produtividade a jogos incrivelmente rápidos. O que há de mais moderno em potência de IA para PCs Windows você encontra nas RTX.
Explore as ferramentas da NVIDIA de IA Generativa e suas soluções empresariais.