AMD Instinct MI350 vs MI300X: un salto de hasta 35× en rendimiento

En Hot Chips 2025, AMD reveló todos los detalles arquitectónicos de su aceleradora para inteligencia artificial Instinct MI350, basada en la arquitectura CDNA 4.

AMD Instinct MI350: potencia al límite para la era de la IA

Esta nueva generación de hardware fue creada para soportar el crecimiento explosivo de grandes modelos de lenguaje (LLMs) y optimizar el rendimiento en cómputo intensivo.

El corazón de la MI350 cuenta con unos 185 mil millones de transistores distribuidos en una configuración de chiplets 3D. Cuenta con ocho “XCD” (Accelerator Complex Dies) fabricados en proceso de 3 nm, y dos IOD (I/O Base Dies) en 6 nm, interconectados mediante Infinity Fabric avanzada sobre un empaquetado CoWoS-S.

Este diseño permite una impresionante memoria HBM3E de 288 GB con un ancho de banda de hasta 8 TB/s por GPU. Además, el chip añade soporte para formatos numéricos FP4, FP6 y FP8, diseñados para acelerar tareas de IA y reducir el consumo eléctrico al manipular modelos masivos.

Te recomendamos nuestra guía sobre las mejores tarjetas gráficas del mercado

AMD ofrece dos variantes del MI350: la aceleradora MI350X, enfriada por aire con un TBP de 1000 W y hasta 2,2 GHz, y la MI355X, destinada a centros de datos con refrigeración líquida y TBP de 1400 W con frecuencias de hasta 2,4 GHz.

Te recomendamos nuestra guía sobre las mejores tarjetas gráficas del mercado

En cuanto al rendimiento, el salto generacional es notable. AMD promociona hasta un 4× más de rendimiento de IA respecto al MI300X, además de una mejora de 35× en inferencia con modelos como Llama 3.1 de 405 mil millones de parámetros. En configuración de nodo OAM con ocho GPUs MI355X, el sistema ofrece hasta 161 PFLOPs de cómputo en FP4/FP6, 2,3 TB de memoria HBM3E y hasta 64 TB/s de ancho de banda.

Finalmente, la línea MI350 se integra con el ecosistema de software abierto ROCm, ofreciendo compatibilidad nativa desde el primer día con marcos de IA como PyTorch, modelos de OpenAI, Meta y Hugging Face, lo que permite una adopción más rápida y eficiente en entornos de producción. Os mantendremos informados.