AMD adquiere Taalas para integrar chips de inferencia especializados en sus servidores de IA

AMD ha alcanzado un acuerdo definitivo para adquirir la compañía canadiense Taalas. Esta firma, fundada en 2023 en Toronto, está especializada en el desarrollo de silicio optimizado para la inferencia de IA. La operación busca reforzar la estrategia de hardware de la marca ante el aumento de las cargas de trabajo especializadas en centros de datos. La transacción se encuentra actualmente sujeta a las aprobaciones regulatorias habituales.

La tecnología de Taalas se centra en resolver los límites físicos del hardware convencional durante la inferencia. El proceso de generación de respuestas en modelos de lenguaje se divide en dos fases con necesidades opuestas.

La primera fase, llamada prefill, requiere una gran capacidad de cómputo y se adapta de forma eficiente a las GPU. La segunda fase, denominada decode, depende del ancho de banda de memoria y la latencia. Durante este proceso, las GPU pasan tiempo inactivas esperando la lectura de los pesos del modelo.

La propuesta de Taalas consiste en integrar los pesos del modelo directamente en el silicio. Este diseño elimina por completo la necesidad de buscar esos datos en la memoria externa. De este modo, la arquitectura reduce de forma significativa los cuellos de botella de ancho de banda y mejora la eficiencia energética por token generado.

Integración en racks Helios y estrategia frente a NVIDIA

El plan de AMD pasa por integrar esta tecnología en su catálogo de aceleradores e instalaciones a nivel de servidor. La estrategia contempla combinar los sistemas de rack AMD Helios y las GPU AMD Instinct para el procesamiento inicial. Por su parte, el silicio derivado de Taalas asumirá las tareas de decodificación. La adquisición se complementa con la plataforma de software AMD ROCm y los procesadores AMD EPYC.

Este movimiento alinea la hoja de ruta de AMD con las tendencias recientes de la industria. La compañía NVIDIA siguió una arquitectura similar tras la compra de activos de Groq por unos 20.000 millones de dólares. De hecho, OpenAI es uno de los principales clientes de la alianza NVIDIA-Groq. Con esa adquisición comenzó a integrar procesadores LPU en sus propios servidores. Ahora, AMD busca ofrecer una solución completa dentro de su propia infraestructura.

El acuerdo plantea además ciertos interrogantes técnicos y comerciales. Apenas dos semanas antes del anuncio, AMD hizo pública una alianza con Cerebras para estas mismas cargas de trabajo. En dicho acuerdo, Cerebras se comprometió a desplegar sistemas Helios en sus propios centros de datos. Por otro lado, la tecnología de Taalas utiliza en su chip HC1 una cuantificación de aproximadamente 3 bits con ciertos compromisos de calidad. Para la siguiente generación, la firma prevé dar el salto a la especificación MXFP4.

Te interesa 👉 Los mejores procesadores que puedes comprar

Con este movimiento, AMD refuerza también su presencia e inversión en el ecosistema tecnológico de Canadá. El equipo directivo de Taalas, encabezado por su cofundador y CEO Ljubisa Bajic, se sumará a la empresa. Su objetivo será escalar estos desarrollos a nivel global dentro del catálogo de la compañía.