Los nuevos AMD Ryzen AI Max PRO 400 permiten ejecutar modelos de 300B en ordenadores locales

La IA local es uno de los caminos que ha emprendido la industria y que poco a poco va tomando forma. Ahora, AMD ha anunciado que llegan los primeros equipos con los nuevos procesadores AMD Ryzen AI Max y Ryzen AI Max PRO Serie 400.

Llegan a través de los principales fabricantes. Con estos chips para equipos de escritorio y portátiles, es posible disponer de una arquitectura de memoria unificada capaz de alcanzar los 192 GB de memoria DRAM. De esa cifra, el sistema permite reservar hasta 160 GB de forma exclusiva para la tarjeta gráfica y tareas de IA.

El procesador más bestia de la gama es el AMD Ryzen AI Max+ PRO 495. Es el primero de arquitectura x86 capaz de mover modelos de IA de más de 300.000 millones de parámetros sin llamar ni una sola vez a la puerta de los servidores remotos. Para lograrlo recurre a la cuantización a 4 bits. Dicha técnica reduce el peso numérico de los parámetros para ahorrar espacio en memoria sin comprometer el rendimiento en las respuestas.

Memoria unificada masiva y ejecución de modelos de 300B en local

Otro punto relevante es que la plataforma integra hasta 16 núcleos de computación basados en la arquitectura Zen 5. Cuenta además con 40 unidades de cálculo gráfico y una unidad NPU de 55 TOPS. Esta medida cuantifica los billones de operaciones matemáticas que el chip neuronal completa en un segundo. Frente a la generación Ryzen AI Max 300 previa, que admitía un tope de 128 GB de memoria total y 96 GB para la GPU, la nueva serie incrementa la capacidad en 1,67 veces.

Los entornos compatibles son tanto Windows como Linux. Además, la plataforma ofrece compatibilidad directa con herramientas de inferencia y desarrollo local. Por ejemplo, AMD habla de Ollama o LM Studio. Este soporte permite poner a prueba los modelos y programar agentes corporativos capaces de enlazar tareas entre distintas aplicaciones de trabajo. Todo, sin recurrir a la nube.

Todos los equipos que van a ir llegando

AMD nos ha adelantado algunos de los ordenadores que llegarán y que estarán basados en esta plataforma. En  el segmento de los portátiles destaca el HP ZBook Ultra G3a, una estación de trabajo móvil de 16 pulgadas. Un detalle interesante es que incorpora el agente Perplexity Portable Computer de serie.

En equipos de sobremesa, las marcas Framework y GMKtec han lanzado respectivamente el Framework Desktop y el EVO-X5 Pro. Ambos están pensados para programadores que no tienen mucho espacio. Más adelante se sumará el Lenovo ThinkCentre X Ultra, un mini PC de 1,6 litros preparado para operar en clústeres empresariales.

Te interesa 👉 Los mejores procesadores que puedes comprar

Las ventajas de estos equipos son evidentes. Por un lado, protegen la privacidad de archivos sensibles como código fuente o documentación interna al procesarlos dentro del propio equipo. Además, ayudan a reducir el coste  que suponen las plataformas en la nube, donde cada consulta compleja de un agente genera un coste por consumo de tokens. En lo que a nosotros respecta, seguiremos con atención la llegada de estos nuevos equipos.