OpenAI y Nvidia impulsan la inteligencia artificial local con gpt‑oss y las GPU RTX

El reciente anuncio conjunto de OpenAI y Nvidia, publicado dentro de la serie RTX AI Garage, abre una nueva era para la inteligencia artificial accesible: los modelos abiertos gpt‑oss‑20b y gpt‑oss‑120b ya están optimizados para ejecutarse localmente en PCs y estaciones de trabajo equipadas con GPU GeForce RTX y RTX PRO.

OpenAI y Nvidia llevan la IA local a las GPU RTX

Ambos modelos son LLMs de código abierto, disponibles bajo licencia Apache 2.0, que combinan una arquitectura mixture‑of‑experts (MoE) con capacidades de razonamiento avanzado. Con contextos de hasta 131.072 tokens, estos modelos pueden enfrentar tareas complejas como búsqueda web, análisis documental, generación de código y agentes con llamadas a herramientas.

Gracias a esta colaboración, los modelos están soportados de forma nativa por GPU RTX con precisión MXFP4, una cuantización que reduce el uso de memoria sin sacrificar calidad. gpt‑oss‑20b puede ejecutarse en GPUs GeForce RTX con al menos 16 GB de VRAM, mientras que gpt‑oss‑120b requiere GPU RTX PRO o entornos más potentes.

En el ámbito profesional, Nvidia también ha demostrado rendimiento extremo en sus sistemas de centro de datos: una configuración basada en GB200 NVL72 con arquitectura Blackwell puede alcanzar hasta 1,5 millones de tokens por segundo para gpt‑oss‑120b, suficiente para atender decenas de miles de usuarios simultáneamente.

Para desarrolladores y entusiastas, la integración es sencilla gracias a plataformas como Ollama, que ofrece soporte plug‑and‑play para ambos modelos en GPUs RTX, con interfaz gráfica, línea de comandos, SDK, soporte a archivos PDF o texto y personalización del contexto. También se puede trabajar con llama.cpp, vLLM, FlashInfer, Hugging Face Transformers o Microsoft AI Foundry Local, todos compatibles con aceleración CUDA para GPUs RTX.

Esta alianza no solo “democratiza”, de alguna manera, el acceso a la IA de alto rendimiento, sino que representa un avance en autonomía y privacidad. Ahora los usuarios pueden ejecutar modelos avanzados en dispositivos locales, sin depender de la nube. Como comentó Jensen Huang, CEO de Nvidia, esta colaboración fortalece el liderazgo tecnológico de Nvidia.

En resumen, el lanzamiento de gpt‑oss junto al soporte RTX marca un punto importante: la IA generativa con razonamiento profundo ya no está limitada a grandes centros de datos, sino que puede ejecutarse con fluidez desde tu propio equipo con el hardware requerido. Os mantendremos informados.