4 nuevas herramientas de inteligencia artificial de Microsoft para una mejor eficiencia computacional

Microsoft Research acaba de lanzar su propia versión de un cuarteto de herramientas de heavy metal que impulsarán el futuro de la compilación de IA.

Estos cuatro compiladores de IA, acertadamente apodados “Roller”, “Welder”, “Grinder” y “Rammer”, pretenden redefinir la forma en que pensamos sobre la eficiencia computacional, el uso de la memoria y el flujo de control dentro de los modelos de inteligencia artificial.

Roller, el primero de ellos, busca alterar el status quo en el modelo de IA Compilacion, que suele tardar días o semanas en completarse. El sistema reinventa el proceso de partición de datos dentro de los aceleradores. El rodillo funciona como una apisonadora, colocando meticulosamente datos tensoriales de alta dimensión en una memoria bidimensional, similar a colocar baldosas en el suelo.

¿Está interesado en aprender más sobre Bing, el chatbot de IA de Microsoft? Haga clic aquí.

El compilador garantiza una compilación más rápida con una buena eficiencia computacional al centrarse en cómo utilizar mejor la memoria disponible. Evaluaciones recientes sugieren que Roller puede generar núcleos altamente optimizados en segundos, superando a los compiladores existentes en tres órdenes de magnitud.

cryptoshitcompra.com/wp-content/uploads/2023/09/4-nuevas-herramientas-de-inteligencia-artificial-de-Microsoft-para-una.png» alt=»Las cuatro principales tecnologías de construcción de IA basadas en la abstracción de mosaicos unificada » class=»lazy wp-image-383357″ width=»847″ height=»316″/>

Welder apunta al problema de eficiencia de la memoria inherente a los modelos modernos de redes neuronales profundas (DNN). El compilador está diseñado para solucionar el desajuste entre el uso del núcleo de procesamiento y el ancho de banda de memoria saturado.

Utilizando una técnica análoga a la producción en cadena, Welder «suelda» diferentes etapas del proceso computacional. Esto reduce las transferencias de datos innecesarias, mejorando así significativamente la eficiencia del acceso a la memoria.

Las pruebas en GPU NVIDIA y AMD indican que Welder supera a los frameworks tradicionales, con aceleraciones que alcanzan 21,4 veces en comparación con PyTorch.

La trituradora acelera los procesos 8 veces

Grinder se centra en otro aspecto crucial: la ejecución eficiente del flujo de control. En pocas palabras, su objetivo es hacer que los modelos de IA sean más inteligentes a la hora de determinar qué ejecutar y cuándo. Al «transferir» el flujo de control al flujo de datos, Grinder mejora la eficiencia general de los modelos con rutas de decisión más complejas.

¿Quieres ser más productivo? Nuestro equipo de Learn ofrece un resumen de las 18 mejores herramientas aquí.

Los datos experimentales muestran que Grinder alcanza una velocidad de hasta 8,2 veces en modelos DNN con control intensivo, superando a los marcos existentes.

Finalmente, Rammer trabaja para maximizar el paralelismo del hardware. Esto se refiere a la capacidad del hardware para hacer diferentes cosas al mismo tiempo.

Este cuarteto de compiladores de IA de Microsoft se basa en una abstracción común y una representación intermedia unificada, formando un conjunto integral de soluciones para abordar el paralelismo, la eficiencia de la compilación, la memoria y el flujo de control.

Jilong Xue, investigador principal de Microsoft Research Asia, dijo:

«Los compiladores de IA que hemos desarrollado han demostrado una mejora sustancial en la eficiencia de la compilación de IA, facilitando así la capacitación y la implementación de modelos de IA».