Cómo se utiliza Akash Network para el entrenamiento de modelos de IA

Overclock Labs, la fuerza detrás de Akash Network, se ha asociado con ThumperAI, una startup de IA generativa, para llevar a cabo un entrenamiento de modelos fundamentales utilizando las GPU de Akash Network.

Esta colaboración, que tuvo lugar a finales de 2023, tenía como objetivo ampliar los límites de la computación en la nube descentralizada mediante la formación de un modelo central, destacando un salto significativo en la integración de la inteligencia artificial y la computación en la nube.

Usando la red Akash para entrenar inteligencia artificial

EL iniciativa buscó abordar los desafíos asociados con el entrenamiento del modelo subyacente de IA generativa. Estos incluyen altos costos, rigurosos requisitos de hardware y necesidades complejas de software. Por lo tanto, ha establecido un punto de referencia ambicioso para que las plataformas informáticas descentralizadas satisfagan y superen las demandas de las nuevas empresas de IA.

ThumperAI tenía como objetivo fortalecer la credibilidad de su servicio Lora Trainer. Facilita a los desarrolladores de IA el ajuste de modelos básicos utilizando técnicas LoRA. Por otro lado, Akash Network quería demostrar la viabilidad y eficiencia del entrenamiento de modelos de IA en una plataforma descentralizada en la nube.

Esta iniciativa tenía como objetivo no solo probar un concepto, sino también atraer una comunidad de desarrolladores más grande, generar demanda de proveedores de GPU y fortalecer la posición de Akash Network como líder en contribuciones de código abierto y expansión de casos de uso de inteligencia artificial.

Leer más: ¿Cómo transformará la inteligencia artificial (IA) las criptomonedas?

El viaje implicó decisiones críticas y compensaciones, particularmente en la selección de la categoría de modelo y el modelo base para la capacitación. Sin embargo, el enfoque elegido utilizó un conjunto de datos con licencia Creative Commons para la formación. Enfatizó el cumplimiento de los derechos de autor y la diversidad de datos, con un giro hacia una arquitectura inspirada en Pixart-Alpha debido a los desafíos de capacitación iniciales.

Los resultados de este proyecto fueron prometedores a pesar de los desafíos encontrados con la calidad y diversidad del conjunto de datos de capacitación. La colaboración demostró con éxito la viabilidad de entrenar modelos fundamentales en una red descentralizada como Akash. Por tanto, marcó un hito en la intersección entre la inteligencia artificial y la tecnología blockchain.

“El equipo de Thumper considerará migrar Lora Trainer para que se ejecute en Akash Network mientras buscan escalar ese servicio para aprovechar los costos más bajos y la variedad de GPU disponibles en la red. Una de las características necesarias antes de poder hacer esto es la capacidad de solicitar un tamaño máximo de SHM a través de Akash SDL. Esta característica llegará a la red a través de una actualización”, escribió Anil Murty, vicepresidente de producto e ingeniería de Overclock Labs.

Esta iniciativa sienta las bases para el progreso futuro, y ambos equipos están deseosos de explorar más posibilidades en Akash Network.