La industria tecnológica enfrenta una crisis de suministros conocida como el «RAMpocalypse», donde la insaciable demanda de memoria DRAM por parte de la IA ha disparado los precios y reducido la disponibilidad para los consumidores en general. Sin embargo, Google ha presentado una tecnología que podría cambiar cambiarlo todo, el TurboQuant.
TurboQuant es una técnica de compresión de vectores diseñada para reducir la huella de memoria de los modelos de IA sin sacrificar su precisión. Según Google, esta tecnología permite reducir el uso de memoria hasta 6 veces, mientras que el rendimiento de inferencia puede aumentar hasta 8 veces.
Para lograrlo, se combina dos componentes matemáticos:
La noticia ya ha provocado caídas en las acciones de los principales fabricantes de memoria, ante la perspectiva de que las empresas de IA necesiten comprar menos hardware para obtener los mismos resultados. Si los centros de datos se vuelven más eficientes, habrá una mayor oferta de DRAM disponible para otros sectores, como el gaming y los ordenadores personales en general.
Aunque TurboQuant permite hacer más con menos, gigantes tecnológicos podrían aprovechar este ahorro para construir modelos aún más grandes aprovechando la compresión.
En conclusión, TurboQuant representa un rayo de esperanza para la crisis de la RAM, aunque, de momento, no sabemos cuando es que se comenzará a implementar esta tecnología. Os mantendremos informados.
Si tienes una ROG XBOX Ally X o una X20, hay una novedad que vale…
Hasta hace poco YMTC era asociado casi en exclusiva con los chips de memoria NAND…
Gigabyte acaba de poner sobre la mesa una auténtica bestia para creadores y entusiastas del…
