Comparar un sistema NVIDIA DGX o una GPU individual es un dilema que algunos desarrolladores de proyectos IA pueden tener en mente. Sin embargo, cada uno de estos hardware ofrece sus ventajas y desventajas, pero cada cuál está pensado para un objetivo. Te comentamos las claves para que puedas elegir el adecuado en tu caso…
Índice de contenidos
Cuando se habla de ejecutar modelos de inteligencia artificial en local, la conversación suele terminar derivando hacia dos caminos muy distintos: comprar un sistema profesional como un NVIDIA DGX, o las alternativas de AMD o de otros fabricantes que están saliendo al mercado, o montar un PC potente con una buena GPU de consumo.
El problema es que muchas empresas y profesionales asumen que un DGX es automáticamente “mejor” simplemente porque cuesta muchísimo más y está orientado al mercado empresarial. Sin embargo, para la mayoría de los casos reales de IA local, especialmente en pequeñas empresas, laboratorios independientes o desarrolladores avanzados, un PC bien configurado puede ofrecer una relación rendimiento/precio muy superior, además de mayor flexibilidad, dado que el DGX es un producto muy enfocado a IA, y no tanto para uso genérico.
Te puede interesar leer más sobre NVIDIA DGX
La primera gran diferencia es económica. Un DGX puede costar desde decenas hasta cientos de miles de euros dependiendo de la configuración. Un equipo doméstico o workstation avanzado con una GPU de gama alta como una RTX 5090 o equivalente puede montarse por una fracción de ese precio, es decir, lo puedes conseguir siempre por debajo de decenas de miles de euros incluso si usas configuración Multi-GPU.
Y, para muchos casos cotidianos, como ejecutar modelos LLM de 7B, 13B, 70B cuantizados, la experiencia no variará mucho entre un sistema y otro. Sí que va a ser mejor en DGX cuando se trata de modelos superiores, pero esto no suele ser habitual para la mayoría de mortales…
El cuello de botella más importante en IA local suele ser la VRAM. Ahí es donde los sistemas DGX juegan con ventaja. Incorporan varias GPUs profesionales conectadas mediante NVLink o tecnologías equivalentes, permitiendo compartir memoria y ejecutar modelos enormes sin fragmentación. Además, mientras las tarjetas gráficas convencionales suelen tener entre 16 y 32GB de VRAM por tarjeta gráfica, en el caso de DGX, como el modelo Spark, podemos disponer de 128GB de VRAM, lo que es una monstruosidad…
Pero vuelvo a repetir, para modelos LLM pequeños o medianos, tener tanta memoria no es necesario. Solo si vas a ejecutar mega modelos muy pesados.
Te recomiendo leer también más sobre las mejores tarjetas gráficas para IA
Uno de los factores más importantes es el tipo de carga de trabajo, como he venido comentando:
Si el objetivo es usar IA generativa local para programación, asistentes privados, generación de imágenes o automatización empresarial, un PC potente suele ser suficiente, incluso si usas solo una tarjeta gráfica de alta gama. Herramientas como Ollama, LM Studio o frameworks basados en llama.cpp permiten ejecutar modelos modernos con una fluidez notable incluso en equipos domésticos.
Eso sí, te recomiendo, para que puedas trabajar con modelos medios y con fluidez, tener una GPU de última generación, con bastante VRAM, y una buena capacidad de memoria RAM. Personalmente te recomendaría una RX 9000 Series o RTX 5000 Series, mejor si es una RTX 5090, con la que conseguirás un rendimiento muy bueno, y que dispongan de al menos 16 GB de VRAM. Mientras que la memoria RAM principal debería ser de al menos 32GB.
La situación cambia completamente cuando se pretende entrenar modelos desde cero, trabajar con datasets masivos o servir miles de peticiones concurrentes. Si vas a trabajar con modelos de más de 100B o para entrenamiento distribuido, verás que estas tareas consumen enormes cantidades de memoria, ancho de banda y energía. Ahí los productos dedicados profesionales ofrecen ventajas críticas no solo por potencia bruta, sino también por estabilidad, memoria ECC, drivers certificados y capacidad de interconexión. En esos escenarios, un DGX empieza a tener mucho más sentido.
Existen alternativas a NVIDIA DGX, como Groq 3 LPX, AMD Ryzen AI Halo box, etc., o incluso con un Apple Mac. También se puede optar por un servidor o rack HPC para usar tarjetas como las AMD Instinct o las NVIDIA equivalentes, especialmente pensadas para acelerar cargas de IA y con velocidades muy altas.
Otro aspecto importante es el consumo energético. Un DGX puede consumir varios kilovatios de forma continua. No es un equipo pensado para un despacho doméstico ni para una oficina convencional, sino para una empresa. Más si se tiene en cuenta que algunos de estos equipos no se apagan, sino que están 24/7 trabajando, como los servidores. Por eso, requieren de una gran fiabilidad y buena refrigeración, lo cual puede implicar también una infraestructura adecuada en la sala para bajar la temperatura ambiente, y de una alimentación específica para abastecer estos sistemas, más aún si se instalan varios conectados por red (cluster), y si se quiere una alta disponibilidad, lo que implicaría disponer de unidades SAI.
Si lo vas a usar en una oficina convencional o en casa, un PC con una configuración de hardware avanzado será lo más coherente, sin necesidad de estos sistemas auxiliares.
Un DGX está diseñado como nodo de computación empresarial. Puede integrarse en clusters, escalar horizontalmente y trabajar junto a otros sistemas acelerados. Por tanto, nuevamente es un producto pensado para uso empresarial. El PC no está pensado tanto para tal nivel de escalado, pero si compras una placa base adecuada, podrías usar configuraciones Multi-GPU en la estación de trabajo. Y eso es más que suficiente para la mayoría de casos, más teniendo en cuenta que se va hacia una optimización de los modelos para que cada vez sean más eficientes y consuman menos recursos de hardware.
Para aclarar todo, es sencillo, en la mayoría de casos, especialmente para usuarios que empiezan a trabajar con IA de forma aficionada o profesional, así como para muchos otros casos, el PC avanzado es la mejor opción. En el caso de que se quiera ir un paso más allá, en entornos empresariales, entonces invertir en un DGX puede ser lo mejor.
Un PC con una NVIDIA RTX 5090 con 32GB de VRAM se puede conseguir por unos 5000 a 6000€ dotado de un hardware de tope gama. Para sistemas Multi-GPU, el precio se puede doblar, más aún si se opta por procesadores AMD Threadripper o Intel Xeon y memorias RAM ECC equivalentes a las de DGX.
Para las empresas que no les baste con un PC, deberían conocer los modelos disponibles de la plataforma NVIDIA DGX y sus precios:
Excepto el Spark, el resto se van del presupuesto de muchos usuarios y oficinas, por lo que la solución pasa por un PC, o por simplemente olvidarse de ejecutar la IA en local y usar los servicios cloud.
¡Comenta, no lo olvides!
AMD e Intel han presentado de forma conjunta las especificaciones oficiales de ACE (AI Compute…
Recientemente, se filtró los primeros resultados de rendimiento en PassMark del nuevo Intel Core Ultra…
Microsoft ha lanzado oficialmente una “preview” pública de DirectX Dump Files, una innovadora función integrada…
