SOCAMM2: Nuevas memorias RAM LPDDR5X para servidores de IA

Samsung da un paso importante con la presentación de su nueva memoria SOCAMM2 (Server On-board Compression Attached Memory Module), una solución basada en LPDDR5X diseñada específicamente para impulsar la IA en los centros de datos.

SOCAMM2: Nuevas memorias RAM LPDDR5X para la IA

Hasta hace poco, el mercado de servidores dependía mayoritariamente de módulos RDIMM (DDR5). Sin embargo, a medida que los modelos de lenguaje extenso (LLM) se vuelven más complejos, hay una necesidad de hardware que cuenten con bajo consumo eléctrico y una latencia reducida. La tecnología SOCAMM2 hereda las ventajas del estándar LPCAMM2 (utilizado en portátiles) y las adapta a las exigentes cargas de trabajo de los servidores.

Características clave

La principal innovación del SOCAMM2 está en su diseño modular y compacto. A diferencia de la memoria LPDDR tradicional, que suele ir soldada a la placa base, este formato permite que sea reemplazable y escalable, ofreciendo a los clientes de centros de datos una flexibilidad que se agradece.

Entre sus beneficios técnicos destacan:

• Eficiencia Energética: Al utilizar LPDDR5X, el consumo de energía se reduce en comparación con los módulos DDR5 convencionales, un factor vital para reducir los costos en granjas de servidores.
• Rendimiento optimizado: Ofrece un ancho de banda superior, ideal para el procesamiento paralelo que requieren las GPUs y aceleradores de IA.
• Ahorro de espacio: Su formato compacto permite diseños de placas base más densos, por lo que los sistemas ocupan menos espacios gracias a estas memorias.

El futuro del ecosistema de IA

Samsung ya ha comenzado a suministrar muestras de estos módulos a sus socios principales, con rumores que apuntan a una colaboración con Nvidia, nada menos. Con el SOCAMM2, Samsung no solo resuelve los cuellos de botella actuales, sino que establece un nuevo estándar para la próxima generación de servidores de alto rendimiento. Os mantendremos al tanto de todas las novedades.