Intel Gaudi 2 muestra un rendimiento por dólar superior a H100 de Nvidia

Los aceleradores Intel Gaudi 2 parecen estar mostrando un gran valor en términos de rendimiento por dólar frente al actual Nvidia H100.

Intel Gaudi 2 tiene más rendimiento por dólar que H100 de Nvidia

Las pruebas de rendimiento con MLPerf 4.0 GenAI están mostrando una ventaja para las próximas aceleradoras Intel Gaudi 2 en términos de rendimiento por dólar, que es uno de los aspectos más buscados en el segmento de servidores y centros de datos.

Las cifras de rendimiento fueron publicadas por la propia Intel, que muestra el rendimiento de sus aceleradoras Gaudi 2 y los CPUXeon «Emerald Rapids» de quinta generación. El que más nos interesa a nosotros es el primero, que parece plantarle cara a la aceleradora H100 de Nvidia, dos productos que son y van a ser utilizados para la aceleración de la IA.

Te recomendamos nuestra guía sobre las mejores tarjetas gráficas del mercado

MLPerf v4.0 está mostrando las capacidades GenAI en cargas de trabajo como Llama-70B y Stable Diffusion XL, donde Intel sorprende con su desempeño. Allí se demuestra que Intel Gaudi 2 es más rápidos en comparación con las soluciones de NVIDIA en las cargas de trabajo GenAI como Stable Diffusion y Llama 2 LLM.

Este desempeño podría llamar la atención de potenciales clientes de Nvidia y AMD, que tambien cuentan con sus productos dedicados a la aceleración de la inteligencia artificial, sobretodo Nvidia que es la líder en este aspecto.

Aunque la aceleradora H100 sigue ofreciendo un rendimiento bruto mucho mayor que Gaudi 2, la oferta de Intel es más eficiente, por lo que consume menos energía. En este aspecto, el rendimiento por dólar es hasta un 33% superior al de un H100, a pesar de que el rendimiento bruto de la propuesta de Nvidia es hasta 3,35 veces superior en servidor y hasta 2,76 veces en tareas “offline”. Las pruebas se realizaron configuraciones de x8 con ambas aceleradoras.

Intel tambien aprovecho para mostrar el desempeño de sus próximos Xeon Emerald Rapids con MLPerf v4.0 frente a la anterior generación Sapphire Rapids. Intel ya tiene socios que van a utilizar esta quinta generación Xeon, como Dell Technologies, Quanta Computer, Supermicro, Wiwynn y CISCO. Os mantendremos informados.