Maia 100: Microsoft da detalles de su primer chip de IA personalizado

Microsoft nos presenta su nuevo chip de IA llamado Maia 100, que es su primer chip para la inteligencia artificial de diseño propio.

Maia 100: Revelan detalles del primer chip de IA de Microsoft

Microsoft no quiere depender del hardware de otros fabricantes para impulsar sus servicios de inteligencia artificial, es por eso que se han embarcado en este proyecto, el de crear su propio chip para la IA. De este proyecto ha nacido el chip Maia 100, que está utilizando una conexión Ethernet superrapida de hasta 600 GB/s (12X400gbe).

El chip Maia 100 se presentó en el Computex, donde han dado muchos más detalles. Este chip ya se había presentado en el Ignite 2023 del mes de noviembre, y ahora han dado muchos más detalles técnicos, aunque no han hablado sobre el rendimiento.

Características de la arquitectura SoC Maia 100:

El chip utiliza una unidad tensorial (16xRx16), que es especialmente útil para la inferencia y el entrenamiento de la IA con soporte para una gran cantidad de formatos, como el formato de datos MX. Además, se está acoplando un motor superscalar creado con un conjunto de instrucciones (ISA) personalizados para admitir una amplia gama de tipos de datos, incluidos FP32 y BF16. Además, utiliza un motor de acceso directo a memoria (DMA) que admite diferentes esquemas de fragmentación de tensores.

Te recomendamos nuestra guía sobre el armado de un PC para el diseño

• Detalles técnicos de Maia 100
• Tamaño del chip: 820 mm²
• Diseño para TDP: 700 W
• TDP de provisión: 500 W
• Empaquetado: proceso TSMC N5 con tecnología de interposición COWOS-S
• Ancho de banda/capacidad de HBM: 1,8 TB/s a 64 GB HBM2E
• POPS de tensor denso de pico: 6 bits: 3, 9 bits: 1,5, BF16: 0,8
• L1/L2: 500 MB
• Ancho de banda de red de back-end: 600 GB/s (12X400gbe)
• Ancho de banda del host (PCIe): 32 GB/s PCIe Gen5X8

Microsoft ya ha enviado los SDK para que los desarrolladores y programadores trabajen en adaptar sus modelos PyTorch y Triton para trabajar con Maia 100.

Lo que queda por ver es así este SoC va a estar disponible para otras compañías o si se mantendrá exclusiva para el uso de Microsoft. Os mantendremos informados.