ChatGPT: El nuevo modelo necesitará más de 30.000 GPU de Nvidia

Se espera que la demanda de GPU de ChatGPT supere las 30.000 unidades de tarjetas gráficas de Nvidia. La inteligencia artificial va a requerir de más unidades A100.

ChatGPT: Esperan que necesite unas 30.000 unidades de Nvidia

La creciente demanda de GPU de ChatGPT va a beneficiar directamente a Nvidia, según está informando TrendForce.

Las estimaciones decían que el número de gráficas necesarias para el modelo GPT iba a ser estar entre las 10.000 y 20.000 unidades, pero se espera que OpenAI utilice muchas más unidades en el último modelo, todo debido a la alta demanda que está experimentando ChatGPT.

‘’En el caso del Generative Pre-Trained Transformer (GPT) que subyace en ChatGPT, el número de parámetros de entrenamiento utilizados en el desarrollo de este modelo de lenguaje autorregresivo pasó de unos 120 millones en 2018 a casi 180.000 millones en 2020. Según la estimación de TrendForce, el número de GPU que el modelo GPT necesitó para procesar los datos de entrenamiento en 2020 llegó a alrededor de 20.000. De cara al futuro, se prevé que el número de GPU necesarias para la comercialización del modelo GPT (o ChatGPT) supere las 30.000.

Te recomendamos nuestra guía sobre las mejores tarjetas gráficas del mercado

Hay que tener en cuenta que estas estimaciones utilizan el A100 de Nvidia como base de cálculo. Por tanto, dado que la IA generativa se está convirtiendo en una tendencia, se espera que la demanda de GPU aumente significativamente, lo que beneficiará a los participantes de la cadena de suministro relacionada. NVIDIA, por ejemplo, será probablemente la empresa que más se beneficie del desarrollo de la IA generativa. Su DGX A100, que es un sistema universal para cargas de trabajo relacionadas con la IA, ofrece 5 petaFLOPS y casi se ha convertido en la primera opción para el análisis de big data y la aceleración de la IA.’’

vía Trendforce

El auge de ChatGPT va a beneficiar mucho a Nvidia, ya que sus GPUs A100 son una de las que más rendimiento ofrece en la IA, por lo que la demanda va a subir a medida que la IA conversacional siga en aumento.