La marca Bosgame ha completado con éxito una demostración técnica clave para el sector de la inteligencia artificial y el procesamiento local de datos. A través de la interconexión de siete de sus nuevos sistemas Mini PC Bosgame M5, equipados con un procesador Ryzen AI MAX+ 395, la compañía ha conseguido ejecutar la inferencia del avanzado modelo de lenguaje de código abierto DeepSeek-V3.1, el cual cuenta con un imponente volumen de 671 mil millones de parámetros (671B).
Clúster Bosgame AI MAX+ 395: 896 GB de RAM para ejecutar IA
Este desarrollo busca dar respuesta a una problemática en la actualidad. Con el vertiginoso aumento en el tamaño de los modelos de IA, un ordenador convencional o un ordenador individual equipado con capacidades de aceleración neuronal integrada carecen de la capacidad de memoria e infraestructura de hardware necesarias para sostener unos flujos de datos muy grandes. Si bien los servidores empresariales tradicionales son una solución, sus costes de adquisición y despliegue, junto con su complejidad de la configuración, limitan su acceso de forma general.
La alternativa presentada por Bosgame ofrece una solución modular muy atractiva para desarrolladores y pymes. Al conectar los siete nodos a través de una red directa mediante tecnología USB4 Direct Connection, el clúster es capaz de actuar como un ecosistema de hardware unificado. Es decir, se combinan hasta siete Mini PC Bosgame M5.
Te recomendamos nuestra guía sobre los mejores Mini PCs del mercado
Esta interconexión proporciona un fondo de recursos compartidos de 896 GB de memoria RAM unificada, del cual se asignan de manera prioritaria hasta 672 GB como memoria de video compartida (VRAM) para agilizar las tareas de inferencia de modelos de lenguaje de IA muy grandes.
Más allá del beneficio económico y el rendimiento que brinda este concepto de escalabilidad modular, el sistema opera enteramente de forma local, permitiendo un control absoluto de la privacidad y el flujo de los datos mediante el motor Llama.cpp.
Esto permite usarlo para el desarrollo integrado de software, despliegues en contenedores Kubernetes, proyectos de computación Edge AI e iniciativas de IA empresariales a nivel local.
Pueden ver más información en la página oficial de Bosgame.