NoticiasProcesadores

IA agéntica: Las empresas comienzan a comprar todos los procesadores del mercado

Un cambio está ocurriendo silenciosamente en los centros de datos. La IA agéntica ha provocado un mayor consumo de suministros de CPUs a nivel mundial, posicionándolas como el próximo componente crítico para la infraestructura de la IA.

IA agéntica está agotando el mercado de CPU

IA agéntica

A diferencia de los modelos de lenguaje tradicionales (LLMs), que se limitan a predecir la siguiente palabra en un texto, la IA agéntica está diseñada para actuar. Estos «agentes» pueden navegar por aplicaciones, ejecutar software, gestionar flujos de trabajo y razonar de manera compleja para completar tareas de principio a fin.

“Sí, hemos estado revisando las estadísticas de GitHub para ver con qué frecuencia se cae, con qué frecuencia falla al confirmar cambios, etc. Es terrible. Esto se debe a que Microsoft vendió todas las CPU que tenía disponibles a otras empresas. Ya sea para uso interno en su laboratorio, o más bien a laboratorios externos que firmaron acuerdos con Entropic y OpenAI.

Así que prácticamente no les quedan CPU, ¿verdad? Y hemos visto lo mismo en muchas otras empresas. Antes, había muchos servidores GPU por cada servidor CPU. Por ejemplo, 100 megavatios de GPU eran atendidos por tan solo un megavatio o menos de CPU. Hoy en día, la proporción se está reduciendo considerablemente, tanto para el entrenamiento de aprendizaje por refuerzo como para la inferencia, la inferencia automatizada. Por eso, hemos visto cómo todos se han quedado sin CPU. Amazon ha visto cómo se agotan sus CPU.”

Dylan Patel (Semianalysis)

Te recomendamos nuestra guía sobre los mejores procesadores del mercado

Mientras que las GPUs son imbatibles en el entrenamiento de modelos pesados, las CPUs son fundamentales para estas tareas más complejas de control, la gestión de APIs y la ejecución de código que requieren estos agentes. Según informes recientes, las empresas líderes en el sector están adquiriendo suministros enteros de procesadores de alto rendimiento, como los EPYC de AMD y los Xeon de Intel, para alimentar esta nueva oleada de IA agéntica.

El problema radica en que los sistemas de IA agéntica requieren una latencia extremadamente baja y una alta capacidad de cómputo para funcionar. Esto ha saturado la cadena de suministro, una situación que vivieron las tarjetas gráficas hace un año.

IA agéntica

El “miedo” ahora es que los procesadores de consumo comiencen a subir de precio por culpa de una escasez de componentes, como ha ocurrido con las tarjetas gráficas. Os mantendremos al tanto de todas las novedades.

Fuente
wccftech

Gustavo Gamarra

Soy operador de PC e instalador de redes informáticas , redactor y escritor en mis ratos libres. Amante de la tecnología, el cine, el fútbol y los videojuegos.
Los datos de carácter personal que nos facilite mediante este formulario quedarán registrados en un fichero de Miguel Ángel Navas Carrera, con la finalidad de gestionar los comentarios que realizas en este blog. La legitimación se realiza a través del consentimiento del interesado. Si no se acepta no podrás comentar en este blog. Puedes consultar Política de privacidad. Puede ejercitar los derechos de acceso, rectificación, cancelación y oposición en info@profesionalreview.com
Botón volver arriba