Inteligencia artificialNoticias

NVIDIA quiere cambiar cómo se mide el coste real de la IA y asegura que lo importante ya no son los FLOPS por dólar

El coste por token es, según NVIDIA, la métrica clave para evaluar la rentabilidad real de la infraestructura de IA

NVIDIA quiere mover el debate económico de la inteligencia artificial hacia una nueva métrica: el coste por token. La compañía sostiene que conceptos tradicionales como el coste de cómputo bruto o los FLOPS por dólar ya no bastan para evaluar una infraestructura de IA en producción, porque no reflejan bien cuánto valor real genera un sistema cuando se pone a servir modelos a gran escala.

La idea que defiende la empresa es que los centros de datos orientados a IA ya no deben medirse por potencia teórica, sino por cuántos tokens entregan y a qué coste. En ese planteamiento, el denominador importa tanto o más que el precio por GPU por hora. Para NVIDIA, producir más tokens por segundo reduce el coste unitario de cada interacción y aumenta los márgenes de negocio de quienes operan servicios basados en inteligencia artificial.

Para ilustrarlo, la firma compara una plataforma Hopper con un sistema Blackwell GB300 NVL72 a partir de datos del benchmark InferenceX v2 de SemiAnalysis. Según esas cifras, el coste por GPU por hora y los FLOPS por dólar mejoran en torno a dos veces, pero el salto en tokens por segundo llega a ser de hasta 65 veces, mientras que el coste por millón de tokens cae 35 veces. Ahí es donde NVIDIA sitúa la diferencia realmente importante.

De la ficha técnica al rendimiento económico real

El mensaje de la compañía tiene una intención evidente: desplazar la conversación desde la especificación del chip hacia el rendimiento económico del sistema completo. Eso incluye no solo GPU, sino también memoria, redes, software y optimización de inferencia. En la práctica, NVIDIA está defendiendo que su ventaja no se mide solo en hardware, sino en todo el conjunto de herramientas que permiten exprimir cada vatio y cada dólar invertido.

Jensen Huang ha insistido varias veces en esta misma dirección y ha llegado a retar a otros fabricantes a comparar abiertamente el coste de inferencia de sus plataformas. El trasfondo es claro: en un mercado donde muchas empresas prometen alternativas más baratas, NVIDIA quiere imponer una métrica en la que cree tener una posición especialmente fuerte.

Te interesa 👉 Las mejores tarjetas gráficas calidad-precio

La tesis puede sonar interesada, y en parte lo es, pero también refleja un cambio real del mercado. A medida que la IA pasa de la fase experimental a la explotación comercial, importa menos el pico teórico de rendimiento y más cuánto cuesta servir resultados útiles a escala. Y ahí, al menos por ahora, NVIDIA quiere que la industria juegue con sus reglas.

Edgar Otero

Técnico de sistemas informáticos. Experto en tocar botones, instalar aplicaciones y reconfigurar mi vida digital cada cierto tiempo. Explico experimentos y otros trucos utilizando solamente un teclado.
Los datos de carácter personal que nos facilite mediante este formulario quedarán registrados en un fichero de Miguel Ángel Navas Carrera, con la finalidad de gestionar los comentarios que realizas en este blog. La legitimación se realiza a través del consentimiento del interesado. Si no se acepta no podrás comentar en este blog. Puedes consultar Política de privacidad. Puede ejercitar los derechos de acceso, rectificación, cancelación y oposición en info@profesionalreview.com
Botón volver arriba