NVIDIA presenta Chat with RTX, su alternativa a ChatGPT: puedes descargarla gratis

Por si aún no te salen los chatbots por las orejas, aquí tienes otro más. NVIDIA estrena Chat with RTX, una alternativa a ChatGPT que funciona solo con textos y vídeos, y lo hace en modo local. Nada de conectarse a la nube. Eso sí, necesitas una tarjeta gráfica RTX moderna.

La primera generación de IA generativa, como ChatGPT, Bard, Copilot y compañía, funciona en la nube. La "excusa" es que requieren mucha potencia de proceso (y un despilfarro energético por el 99% de preguntas triviales que se hacen) para funcionar.

Esto es una verdad a medias. Podrían funcionar en modo local, pero es verdad que requerirían un hardware potente. Por otro lado, lo que quieren las compañías es que uses su nube, para tenerte bien atado a ellas.

El problema de una IA en la nube es que todas las consultas y datos personales pasan por los servidores de Microsoft, Google, Meta y compañía (los de siempre), y no sabemos qué hacen con ellos.

Ya existen versiones de GPT, Copilot o Gemini que funcionan parcialmente en local, pero son versiones muy recortadas, más "tontas", con respecto a la versión completa en la nube.

NVIDIA quiere cambiar esto con Chat with RTX, una inteligencia artificial generativa personalizable que funciona en local, sin enviar ningún tipo de datos al exterior. Pero necesita un hardware potente, como vamos a ver.

Así funciona Chat with RTX

La nueva IA generativa de NVIDIA no es un chatbot de propósito general. Es una IA personalizable limitada a documentos y vídeos.

Simplemente, la "entrenas" con tus propios documentos en formato TXT, PDF, DOC/DOCX y XML. También funciona con enlaces a vídeo de YouTube.

Una vez que le proporcionas el material, puede responder preguntas sobre esos documentos o vídeos, hacer resúmenes, extraer conclusiones, etc. Puedes verlo en el vídeo de apertura de la noticia.

Chat with RTX funciona con diferentes modelos de lenguaje. De momento puedes elegir entre Mistral y Llama de Meta. Pero pronto será compatible con más.

Lo más interesante es que no sube ningún dato a la nube. Funciona en local, usando NVIDIA TensorRT-LLM y los chips de IA de las tarjetas NVIDIA más potentes.

Esa es la razón de que los requisitos de hardware sean elevados: requiere un ordenador con 16 GB de RAM, Windows 11, y una tarjeta gráfica RTX 3000 o RTX 4000 con 8 GB de memoria VRAM.

Si tienes un PC con estas características, ya puedes descargar Chat con RTX, la IA generativa de NVIDIA, desde su página oficial, y usarlo de forma gratuita.
https://ia.cienciatv.online/nvidia-presenta-chat-with-rtx/