El futuro de HBM: hacia los 6 TB de memoria y aceleradoras de IA de 15.000 W

Una presentación revelada por KAIST y TERA proyecta una evolución vertiginosa para la memoria HBM (High Bandwidth Memory), con aceleradoras de 6 TB de memoria.

HBM: 6 TB y aceleradoras de IA de 15.000 W para 2035

Los desarrollos apuntan a superar los 6 TB de capacidad con HBM7 y exigir más de 15.000 W en aceleradores de IA dentro de la próxima década.

El punto de partida será HBM4, prevista para 2026, con tasas de datos de 8 Gbps, ancho de banda de hasta 2.0 TB/s y capacidades de hasta 48 GB por pila. Esta generación ya requerirá refrigeración líquida directa al chip (D2C), con un consumo estimado de 75 W por módulo. Lo destacable es su arquitectura híbrida basada en un dado base personalizado, controladores LPDDR integrados y núcleos de procesamiento cerca de la memoria.

Te recomendamos nuestra guía sobre las mejores memorias RAM del mercado

La hoja de ruta continúa con HBM5 (hasta 500 GB, 100 W), HBM6 (hasta 1.9 TB, 120 W) y eventualmente HBM7, que alcanzaría entre 5.1 y 6.1 TB mediante 32 módulos de memoria, apilados en configuraciones ultradelgadas por debajo de los 720 micrómetros. Esta densidad requeriría refrigeración por inmersión e incluso soluciones integradas en el encapsulado.

Te recomendamos nuestra guía sobre las mejores tarjetas gráficas del mercado

En conjunto, se estima que las futuras GPUs para centros de datos incorporen hasta 8 matrices y 32 pilas HBM7, elevando el consumo energético total a niveles sin precedentes. Solo la memoria podría requerir más de 13.000 W, y la GPU en sí, otros 1200 W adicionales.

Aunque estas proyecciones están sujetas a cambios, ya que hablamos de una proyección de aquí a 10 años, reflejan las crecientes demandas computacionales que van a requerir los modelos de IA y simulaciones científicas. El futuro de la memoria no solo será más veloz, sino también más densa y con un mayor requerimiento de energía. Os mantendremos al tanto de todas las novedades.