¿Qué puedo montar con un DGX Spark o mini superordenador de IA?

Actualmente están saliendo al mercado varios mini superordenadores enfocados en conseguir un elevado rendimiento en IA que no pueden conseguir aún las NPUs de AMD o Intel. Un ejemplo de ellos es el DGX Spark de NVIDIA, pero no es el único que existe, y pronto llegarán más. Aquí nos centramos en el producto de NVIDIA y vamos a ver qué podemos montar con este equipo…

Especificaciones técnicas del NVIDIA DGX Spark vs ASUS Ascent GX10

Dos de los superordenadores para IA más destacados del mercado, aunque vendrán más, son el NVIDIA DGX Spark y un clon creado por ASUS y que es prácticamente idéntico, el Ascent GX10:

Característica	NVIDIA DGX Spark	ASUS Ascent GX10
Arquitectura Principal	NVIDIA Blackwell	NVIDIA Blackwell
Superchip	NVIDIA GB10 Grace Blackwell Superchip	NVIDIA GB10 Grace Blackwell Superchip
Rendimiento de IA (Máx.)	1 PetaFLOP (FP4 con dispersión)	Hasta 1 PetaFLOP (FP4 con dispersión)
CPU (Integrada)	Arm de 20 núcleos (10 Cortex-X925 + 10 Cortex-A725)	Arm de 20 núcleos (10 Cortex-X925 + 10 Cortex-A725)
Memoria del Sistema	128 GB LPDDR5x (Unificada coherente)	128 GB LPDDR5x (Unificada coherente)
Almacenamiento	4 TB NVME.M2 con autocifrado	1 a 4 TB NVME.M2 con autocifrado
Redes de Alta Velocidad	1x ConnectX-7 @ 200 Gbps	1x ConnectX-7 @ 200 Gbps (2xQSFP)
Conexiones Ethernet	1x conector RJ-45 10 GbE	1x puerto LAN 10 GbE
Sistema Operativo	NVIDIA DGX OS (Ubuntu Linux + pila NVIDIA AI Software)	NVIDIA DGX OS (Ubuntu Linux + pila NVIDIA AI Software)
Dimensiones (Aprox.)	150x150x50.5 mm	150x150x51 mm
Otras Tecnologías	Redes ConnectX, Pila de software NVIDIA AI	NVLink-C2C (para comunicación CPU+GPU), Refrigeración QuietFlow

Como ves, son prácticamente dos calcos, pero el equipo de ASUS es algo más barato, ya que lo puedes conseguir a partir de los 2999€ con 1TB de SSD, mientras que los modelos del original de NVIDIA cuestan más de 3600€ de partida…

Te recomiendo leer sobre cómo se mide el rendimiento de un acelerador de IA en TOPS

¿Otras opciones?

Si buscas algo parecido, también puedes montar tu propio servidor para conseguir capacidades de cómputo en IA similares a los anteriores. Pero tampoco será barato, aunque sí que te permitirá elegir mejor los componentes y optimizar el hardware (Intel Xeon, AMD Instinct, AMD EPYC,…) según tus necesidades. Por ejemplo, hay casos usando AMD EPYC y varias tarjetas gráficas NVIDIA A6000…

También te puede interesar conocer otros miniPCs destacados del mercado

¿Qué podrías hacer con uno de estos equipos para IA?

Pues bien, si te estás haciendo esta pregunta, tienes que saber que estos equipos prometen un rendimiento que antes solo se podía conseguir con equipos HPC, pero en un tamaño de un miniPC. Además, superan con creces a otros equipos como los Apple Mac Mini, o Mac Studio, así como los de AMD e Intel con NPUs integradas. Por tanto, como puedes imaginar las posibilidades son muchas…

Cargas de trabajo que podrás ejecutar

Como estos equipos están optimizados para flujos de trabajo de IA, pueden utilizar para, por ejemplo:

• Creación de tus propios modelos de IA y apps basadas en éstos. No solo se pueden desarrollar, entrenar, también probar y validar en local.
• Puesta a Punto (Fine-Tuning) de los modelos preentrenados, mejorando así su rendimiento.
• También es posible trabajo con inferencia, para probar, validar y ejecutar modelos de IA de hasta 200 mil millones de parámetros, o 200B como se suelen denominar, y todo desde el escritorio.
• El Data Science también es posible, permitiendo analizar gran cantidad de datos complejos y para el aprendizaje automático.

Si esperabas un equipo para gaming, ofimática, y demás, la verdad es que esto no es para eso. Como ves, está especialmente centrado en IA, con el sistema operativo NVIDIA DGX, que básicamente se apoya sobre Ubuntu Linux, y con la pila de software NVIDIA AI. Además, también te podrás valer de la DGX Cloud…

Proyectos y aplicaciones (qué montar)

El tipo de proyectos que se pueden abordar pueden ir desde algunos de IA generativa, hasta aplicaciones Edge. Por ejemplo, experimentar con chatbots avanzados, asistentes virtuales, implementar soluciones para IoT, industria 4.0, ciudades inteligentes, etc. Incluso podrás emplear otros productos o frameworks como los Jetson, Metropolis, Holoscan o Isaac para desarrollar estos proyectos.

También puedes ejecutar tus propios proyectos para machine learning o ciencia de datos sin necesidad de exponer esos datos en servidores o una nube en la que no confíes, todo en local. Estos proyectos pueden ser de lo más diverso. Y, si quieres mayor escalabilidad, ya sabes que puedes unir dos de estos equipos para que trabajen juntos (cluster de 2 nodos) mediante la red ConnectX-7 de 200 Gbps conectando un cable de forma sencilla, y consiguiendo así trabajar con modelos de hasta 405 mil millones de parámetros o 405B.

Como ves, todo más pensado para profesionales de la IA o empresas… para usuarios domésticos, no se necesita uno de estos para nada. Es más, en caso de necesitar trabajar con IA con un alto rendimiento, siempre podrías utilizar tu GPU, incluso si no tienes un procesador con NPU integrada.

¿Te comprarías uno? Deja tus comentarios…