Microsoft dio a conocer más detalles de su chip de inteligencia artificial más nuevo, el Maia 100, durante el evento Hot Chips 2024. Este chip está diseñado para mejorar el rendimiento y reducir los gastos en las aplicaciones de IA.
Esta tecnología es una de las innovaciones más grandes de la compañía, que hace uso de la tecnología de 5 nm proporcionada por TSMC. Además, Microsoft destacó que se enfocará en realizar amplias tareas de inteligencia artificial en la plataforma Azure.
La arquitectura Maia 100 cuenta con un acelerador tensor de alta velocidad, lo que le permite procesar rápidamente operaciones de entrenamiento e inferencia y manejar diversos tipos de datos, incluidos formatos de baja precisión como MX, presentado por Microsoft en 2023. Además, el procesador vectorial está diseñado con un conjunto de instrucciones personalizado para optimizar la eficiencia en varias operaciones de datos.
Nuevos detalles del chip Maia 100.
También se incluye un motor DMA en el chip, que soporta una variedad de esquemas de intercambio de tensores y semáforos de hardware para facilitar la programación asincrónica dentro del sistema Maia.
Con una conexión de red que utiliza un protocolo basado en Ethernet similar a RoCE, el chip logra velocidades de procesamiento de datos extremadamente altas, llegando a 4800 Gbps para operaciones específicas y 1200 Gbps para la comunicación entre todos los nodos.
El SDK de Maia ofrece soporte para el desarrollo al permitir a los programadores ajustar sus modelos de PyTorch y Triton para trabajar con Maia. Ofrece herramientas que simplifican la integración de estos modelos con los servicios de Azure OpenAI, facilitando el uso de Triton, un lenguaje especializado en redes neuronales profundas, o de Maia API, un modelo personalizado que asegura un alto rendimiento y un control detallado.
Fuente: Neowin
