AMD Instinct MI350X es oficial: el temor de la NVIDIA H100

AMD presenta su Instinct MI350X y afirma una «fuerte competencia» en IA con la H100.

Mientras NVIDIA se las apaña para poder enviar sus GPUs Blackwell a tiempo, AMD ha presentado su última GPU para IA llamada a conquistar los centros de datos. Han compartido diapositivas con benchmarks de IA, concretamente de Machine Learning con los que aseguran que su rendimiento deja a la MI300 en una anécdota. Han doblado la memoria frente a la H200 y su lanzamiento está al caer.

AMD oficializa la Instinct MI350X y desvela rendimientos

Arañar ventas a NVIDIA en 2024, ese es el primer objetivo. AMD ha presentado su nuevo juguete para la IA destinado a centros de datos y servidores, pero antes ha compartido resultados en MLPERF. Han compartido diapositivas comparando el rendimiento cuando cambian de EPYC Genoa a EPYC Turin, y sí que es cierto que suben casi 1000 tokens en MLPerf v4.1 con el modelo LLaMa 2 70B.

AMD utiliza estas diapositivas no para vender únicamente su MI300X, sino para venderte el sistema junto a EPYC de última generación. Hemos visto que en la lucha con la NVIDIA H100 va a estar ahí.

También ha aprovechado para establecer las diferencias de rendimiento entre una sola GPU y una plataforma de 8 GPUs: se multiplica el rendimiento por 8. De ahí que hablen de un escalado lineal, por no hablar de que veremos hasta 192 GB HBM de memoria.

La marca apunta que han ayudado a Meta en el desarrollo de LLama 3.1, supera la VRAM de NVIDIA con 192 GB HBM3 y todo está pensado para ahorrar costes y reducir el uso en servidores (ya me dirán como).

Han logrado doblar la capacidad de memoria de la H200, incrementar 1.3 veces el ancho de memoria y superar en 1.3 veces el rendimiento de FP16 y FP8 de esta GPU.

Lanzamiento en 2024 y planes de futuro

El lanzamiento de la AMD Instinct MI300X llega en el Q4, es decir, en los últimos 3 meses de 2024. Además, han compartido una hoja de ruta de aquí a 2026: MI350 en 2025 y MI400 en 2026.

Vienen con arquitectura CDNA 3 y el hecho de que CDNA 4 se quede para 2025 cuasiconfirma que no veremos las AMD Radeon RX 8000 hasta el año que viene.

Te recomendamos las mejores tarjetas gráficas del mercado

¿Podrán batir a NVIDIA en IA?