El costo de construir una infraestructura de inteligencia artificial (IA) se dispara. Hoy supimos que el costo de enfriamiento de un solo rack Nvidia Blackwell Ultra NVL72 cuesta unos 50.000 dólares.
El sistema de enfriamiento líquido para un solo rack de Nvidia Blackwell Ultra NVL72 tiene un costo altísimo que asciende a cerca de los 50.000 dólares. Este gasto muestra el inmenso desafío térmico que plantean los servidores de IA de última generación.
El rack NVL72, que cuenta con 18 bandejas de cómputo y 9 bandejas de conmutación, requiere soluciones térmicas altamente especializadas. La mayor parte del presupuesto de enfriamiento se destina a las 18 bandejas de cómputo, sumando un costo de refrigeración de 40.680 dólares. Los componentes más caros son las placas frías (cold plates) de alto rendimiento, hechas a medida para las CPUs y GPUs, con un precio de hasta 300 dólares por unidad. Estos dispositivos son esenciales para disipar el calor que generan estos potentes chips.
Lejos de estabilizarse, esta tendencia de costos parece que irá en aumento. Se proyecta que el sistema de refrigeración para la próxima generación, la solución Vera Rubin NVL144, aumentará un 17%, alcanzando un costo estimado de 55.710 dólares por rack.
Te recomendamos nuestra guía sobre los mejores tarjetas gráficas del mercado
Este incremento se debe a que los componentes futuros serán aún más potentes y más calientes. Las GPUs Rubin alcanzarán hasta 1.800W por unidad. Ha habido un aumento del 20% en la refrigeración al pasar del sistema GB200 al GB300, seguido por el 17% previsto hacia el Vera Rubin NVL144.
De cara al futuro, las GPUs Rubin Ultra podrían alcanzar un TDP de 3,600W, algo que va a repercutir directamente en los costos de refrigeración. Las compañías se apresuran a aumentar drásticamente el rendimiento, sobretodo en inteligencia artificial, pero el aumento en el consumo eléctrico y la generación de calor van a ser un desafío importante. Os mantendremos al tanto de todas las novedades.
Bastan unos conocimientos mínimos de tecnología e informática para saber que los ordenadores llevan décadas…
La firma taiwanesa nos envía sin nueva refrigeración líquida All-in-One MSI MEG Coreliquid E15 360,…
La situación actual del mercado de tarjetas gráficas es una de las más complicadas de…
