Nvidia presenta su propia memoria NVHBM para la inteligencia artificial

La carrera por dominar la memoria en inteligencia artificial acaba de darnos un nuevo capítulo. Nvidia presentó NVHBM, su propia arquitectura de memoria de alto ancho de banda diseñada junto a Annapurna Labs (la división de chips de Amazon).

NVHBM debutará en 2028, las memorias de Nvidia para la IA

Estas nuevas memorias buscan resolver el gran cuello de botella de los modelos con billones de parámetros, cómo mover datos rápido sin disparar el consumo eléctrico.

En lugar de mantener el controlador de memoria dentro del procesador principal (XPU), Nvidia lo integró directamente en el base die de la memoria HBM. Aunque la idea de colocar el controlador en el base die no es exclusiva, proveedores como Samsung, SK Hynix y Micron exploran vías similares, esta implementación de Nvidia promete marcar distancias frente al estándar de la industria.

En cifras, la compañía asegura que NVHBM ofrece más de un 30% de ancho de banda adicional y reduce el consumo un 15% en comparación con HBM4E. Al remover el controlador de la XPU principal, se libera hasta un 25% de superficie de silicio en el chip, espacio que los diseñadores pueden aprovechar para meter más núcleos de cómputo. Además, al recortar el ancho de la interfaz física de esta memoria, la complejidad del interposer disminuye y se recupera hasta un 80% de silicio aprovechable en el empaquetado.

Para evitar problemas de adopción, Nvidia planea estandarizar la especificación entre múltiples fabricantes de memoria, simplificando la calificación e integración. Esto beneficiará directamente a los socios de su propio ecosistema NVLink Fusion, permitiendo crear aceleradoras personalizados en menor tiempo.

Amazon es uno de los primeros en subirse al barco con estas memorias. La firma integrará NVHBM y la interconexión NVLink en su infraestructura en la nube a través de los futuros procesadores AWS Trainium4, uniendo chips de Amazon y GPUs de Nvidia en una misma arquitectura de rack. Por el lado de Nvidia, se prevé que esta tecnología debute en la arquitectura de GPUs Feynman, proyectada para 2028. Os mantendremos informados.