Nvidia y el desafío energético de sus servidores de inteligencia artificial

En los últimos años, los servidores de inteligencia artificial basados en hardware de Nvidia han experimentado un aumento de hasta 100 veces en su consumo energético, especialmente al pasar de arquitecturas como Ampere a generaciones posteriores como Kyber.

Nvidia: Sus servidores de IA aumentaron su consumo 100 veces

Este fenómeno responde a varias tendencias. Primero, cada nueva generación incorpora más GPUs por chasis, elevando la TDP (Thermal Design Power) total del sistema. Por ejemplo, las soluciones basadas en Hopper operaban con requerimientos de 10 kW por chasis, mientras que las plataformas Blackwell han escalado ese número hasta casi 120 kW.

Además, componentes de interconexión avanzados como NVLink o NVSwitch, así como las mejoras en la utilización de racks completos, también contribuyen al crecimiento exponencial del consumo eléctrico, lo que comienza a ser un verdadero problema.

Las consecuencias de esta escalada energética plantean desafíos. Las grandes empresas tecnológicas ya compiten por la capacidad instalada en unidades de potencia expresadas en gigavatios (GW), con planes ambiciosos por encima de 10 GW para sus campus de IA. Para ponerlo en perspectiva: 1 GW puede abastecer aproximadamente un millón de hogares estadounidenses, sin contar factores de refrigeración o pérdidas en la distribución.

Te recomendamos nuestra guía sobre las mejores tarjetas gráficas del mercado

Según la Agencia Internacional de Energía, para 2030 el consumo eléctrico mundial podría duplicarse debido al auge de la IA, un crecimiento considerablemente superior al promedio proyectado para la red eléctrica global.

En resumen, el salto tecnológico en servidores de IA se enfrenta a una barrera energética crítica. La industria deberá innovar no solo en rendimiento, sino también en eficiencia y sustentabilidad para evitar que el costo energético vuelva todo insostenible. Os mantendremos informados.