Gaudi 3: Intel quiere competir con las aceleradoras de Nvidia en «precio/rendimiento»

Intel no espera competir con Nvidia en el segmento de la IA en términos de rendimiento bruto. Con la llegada de sus aceleradoras Gaudi 3, ellos esperan ser competitivo en el segmento de precio/rendimiento.

Intel Gaudi 3 va a competir con H100 en «precio/rendimiento»

Intel está admitiendo que competir con Nvidia y el rendimiento de sus aceleradoras de IA es un objetivo demasiado complejo para ellos, por lo que intentarán hacerse fuerte con enfoque hacia soluciones de IA rentables con Gaudi 3.

“Nanduri dijo que si bien Gaudi 3 «no está alcanzando» a la última GPU de Nvidia desde una perspectiva de rendimiento directo, el chip acelerador es adecuado para permitir sistemas económicos para ejecutar modelos basados ​​en tareas y modelos de código abierto en nombre de las empresas, que es donde la empresa tiene «fortalezas tradicionales».

A través del medio CRN (Dylan Martin)

¿Cuál es el rendimiento que ofrece Gaudi 3?

Intel ha asegurado que el rendimiento de esta aceleradora se equipara al del H100 de Nvidia, sobretodo en cargas de trabajo de inferencia. En la comparativa con Llama-2, Intel nos dice que su aceleradora Gaudi 3 duplica al H100 en términos de rendimiento por dólar, y en hasta un 80% en otras comparativas que tiene que ver con la IA en rendimiento por dólar, que es donde verdaderamente apunta su aceleradora.

«El mundo que estamos empezando a ver es que la gente está cuestionando el [retorno de la inversión], el costo, la energía y todo lo demás. Aquí es donde, no tengo una bola de cristal, pero la forma en que lo pensamos es, ¿quieres un modelo gigante que lo sepa todo?

Creemos que donde estamos con el producto, los clientes que están comprometidos, los problemas que estamos resolviendo, ese es nuestro carril de natación. La apuesta es que el mercado se abrirá en ese espacio, y habrá un montón de personas construyendo sus propias soluciones de inferencia».

– Anil Nanduri de Intel a través de CRN

De momento, hay tres grandes compañías que han optado por las aceleradoras Gaudi 3, IBM Cloud, Hewlett Packard Enterprise y Dell para sus centros de datos. Queda por ver si esta estrategia/enfoque de Intel realmente les funciona. Os mantendremos informados.