Chat with RTX: Nvidia presenta su propio chatbot para las GPUs RTX 30 y 40

Nvidia presenta ‘Chat with RTX’, un chatbot de IA que es gestionado directamente desde las GPUs GeForce RTX 30 y RTX 40.

Chat with RTX: Nvidia presenta su propio chatbot de IA

Nvidia ha introducido una nueva función que se aprovecha de los núcleos Tensor (más concretamente como TensorRT-LLM & Retrieval Augmented Generated [RAG]).

Otro chatbot de IA estan funcionando a través de grandes centros de datos que generan todo el contenido de forma remota. En cambio con ‘Chat with RTX’  la aplicación puede funcionar través de un navegador, mucho más fácil que otros modelos de IA que se pueden descargar directamente. En este caso, ‘Chat with RTX’ parece aprovecharse de los modelos de lenguajes populares como Mistral o Llama2 para generar respuestas. Además, este chatbot puede utilizar videos de YouTube, así como puede tener acceso a distintos formatos de archivos, incluidos texto, pdf, doc/docx y xml.

Te recomendamos nuestra guía sobre las mejores tarjetas gráficas del mercado

La idea de este chatbot es facilitar las cosas a los usuarios que suelen utilizar chatbot. Para sacarle partido a ‘Chat with RTX’, la aplicación requiere de una GPU de las series RTX 30 y RTX 40 que cuenten con un mínimo de 8 GB de memoria VRAM, por lo que tarjetas gráficas como la RTX 3050 6G se están quedando fuera de la ecuación, ya que solo cuenta con 6 GB.

Nvidia ha anunciado su propio chatbot, pero no nos ha facilitado una fecha exacta para su disponibilidad. Sin embargo, pueden consultar más información en el siguiente enlace.

Los que no cuenten con las más reciente GPUs de Nvidia tendrán que seguir utilizando otras alternativas. ¿Se animará AMD a lanzar alguna aplicación similar? Os mantendremos informados.