HaloDrive H30: El primer SoC para la IA de 256 TOPS con 35W TDP

La compañía Houmo.AI anuncia su primer chip para acelerar la inteligencia artificial HPC, el HaloDrive H30, que funciona en un paquete de solo 35W.

HaloDrive H30: El primer SoC para la IA de 256 TOPS con 35W TDP

Houmo.AI ha presentado el nuevo SoC HaloDrive H30, que es el primer chip de China para la inteligencia artificial HPC que puede alcanzar un rendimiento de 256 TOPS con un consumo eléctrico de solo 35W.

El chip utiliza un nodo de proceso de 12 nm con una memoria SRAM y un IPU dedicado con una capacidad de procesamiento INT8. Son su rendimiento, está duplicando el rendimiento del SoC Journey 5 de Horizon Robotics de 2021, que alcanzaba los 128 TOPS con un consumo de 30W.

En las recientes pruebas de rendimiento del modelo Resnet 50, el HaloDrive H30 alcanzó 8700 fos y 10300 fps en ambos tamaños de lote, iguales a 1 y 8, respectivamente.

Hace dos años se creó Houmo Intelligent. Decidimos innovar la arquitectura subyacente de almacenamiento y computación integrados para lograr el avance definitivo en eficiencia de computación de IA. La arquitectura de almacenamiento y computación integrados combina el almacenamiento y la computación. La fusión de funciones es un método de computación más cercano al cerebro humano que la arquitectura tradicional y tiene una eficiencia de computación mucho mayor que el método tradicional. Con la aparición de grandes modelos como GPT, los chips integrados de almacenamiento y computación están recibiendo cada vez más atención por parte de la industria. Estamos muy contentos de ver más. Muchas empresas de nueva creación se han unido a nosotros para promover la innovación y la aplicación de la tecnología dura».

– Wu Qiang, fundador y CEO de Houmo Intelligent

Te recomendamos nuestra guía sobre los mejores procesadores del mercado

Además del propio SoC, la empresa china tambien anunció un kit de desarrollo SDK propio llamado Houmo Avenue. Este nuevo SDK será compatible con PyTorch, TensorFlow y ONNX. Además, el SDK es totalmente compatible con una » CUDA front-end syntax» que soportará los modelos de programación SIMD y SIMT.

El SoC se comenzará a enviar a los socios para las pruebas internas el mes que viene. Lo interesante de toda esta cuestión es que la empresa anunció que ya trabaja en los futuros chips SoC H50 para el año 2024, que deberían seguir elevando el rendimiento en inteligencia artificial.