Galileo lanza la primera plataforma de modelo de lenguaje grande (LLM) de diagnóstico y explicabilidad para reducir las alucinaciones del modelo

El estudio LLM de Galileo contiene varias herramientas gratuitas para que los científicos de datos ajusten los LLM con datos patentados, creen y administren avisos, identifiquen posibles alucinaciones del modelo y más.

SAN FRANCISCO–(BUSINESS WIRE)–Hoy, galileola primera empresa de inteligencia de datos de aprendizaje automático (ML) para LLM y Computer Vision, anunció un conjunto de nuevas herramientas llamado Galileo LLM Studio, ahora disponible para Inscríbete en lista de espera aquí. A medida que las organizaciones de todos los tamaños y en todas las industrias comienzan a considerar las aplicaciones potenciales de la IA generativa, es más importante que nunca que los equipos de ciencia de datos tengan acceso a herramientas para evaluar rápida y fácilmente los resultados de estos grandes modelos de lenguaje (LLM) y optimizar su rendimiento.

Diseñado específicamente para equipos de ciencia de datos de alto rendimiento, Galileo LLM Studio servirá como una plataforma única para el análisis LLM y la gestión rápida. Los usuarios individuales de LLM Studio tendrán acceso a dos herramientas gratuitas para mejorar el rendimiento y la precisión de LLM: Galileo Prompt Inspector, que permite a los usuarios identificar posibles alucinaciones del modelo; y Galileo LLM Debugger, que permite a los usuarios depurar LLM con sus propios datos de propiedad.

“La adaptación de los LLM a aplicaciones específicas del mundo real depende más que nunca de los datos. Hoy en día, los datos de una organización son su único diferenciador. Galileo LLM Studio actúa como un multiplicador de fuerza de datos, lo que permite a los científicos de datos ajustar estos modelos y usar las mejores sugerencias con la cantidad adecuada de contexto para establecer barreras protectoras adecuadas y prevenir alucinaciones”, dijo Yash Sheth, cofundador de Galileo. y jefe de producto.

“Un factor importante para obtener los mejores resultados de los LLM se reduce a explorar el espacio de búsqueda semántica de posibles entradas que se resuelven en la intención precisa del usuario”, dijo Atindriyo Sanyal, cofundador y director de tecnología de Galileo y uno de los primeros ingenieros de Apple en trabajar. en Siri, lo que permite a los desarrolladores de aplicaciones de iPhone crear potentes aplicaciones de procesamiento de lenguaje natural (NLP) aprovechando Siri. “Comencé mi carrera en inteligencia artificial hace más de diez años. Y aunque los modelos actuales son mucho más avanzados y poderosos, los principios que determinan la calidad de los resultados del modelo de lenguaje siguen siendo los mismos: prevenir las alucinaciones del modelo y reducir el sesgo del modelo aprovechando el consenso de fuentes que no están sesgadas por el modelo y de los datos disponibles. Diseñamos Galileo LLM Studio con estos principios en mente”.

“La introducción de LLM Studio de Galileo ha abierto nuevas y emocionantes posibilidades en todas las industrias. Sus herramientas integrales permiten a los clientes afinar grandes modelos de lenguaje utilizando sus propios datos únicos, identificando y administrando de manera efectiva las alucinaciones del modelo. Esto no es solo un ahorro de tiempo; es un cambio de juego, que permite a las empresas aprovechar la IA generativa de manera más efectiva y segura, y proporciona los recursos adecuados para garantizar la precisión y confiabilidad del modelo”, dijo Dharmesh Thakker, socio general de Battery Ventures, la firma de inversión centrada en la tecnología que respalda a Galileo. .

Inspector Galileo Pronto

Con Galileo Prompt Inspector, los usuarios pueden identificar de manera rápida y eficiente posibles alucinaciones del modelo o predicciones erróneas y con exceso de confianza del LLM. El inspector proporciona una Puntuación de probabilidad de alucinación – surgen cuando el modelo es alucinante o genera resultados no confiables y espurios, incluidas inexactitudes fácticas. Con esta información, los usuarios pueden abordar las alucinaciones y otros errores en su modelo más rápidamente, lo que reduce la probabilidad de que los clientes encuentren información errónea u otros resultados de modelo incorrectos. Los usuarios también podrán crear, administrar y evaluar avisos en una plataforma, luego transferir los avisos de Galileo a la aplicación de su elección, como Langchain, OpenAI, HuggingFace y muchos otros.

Las características adicionales del producto integrado en Galileo Prompt Inspector incluyen:

• La capacidad de organizar proyectos oportunos, ejecuciones y consultas LLM en un solo lugar;

• Soporte para modelos OpenAI y Hugging Face;

• Capacidades de colaboración para agilizar la ingeniería oportuna en múltiples equipos;

• Ayude a minimizar los costos de ingeniería oportunos rastreando y estimando el costo de las llamadas a OpenAI proporcionando señales clave sobre lo que no funciona; Y

• Comparación A/B de indicaciones y sus resultados.

Depuración de Galileo LLM

Con Galileo LLM Debugger, los usuarios podrán depurar LLM con sus propios datos patentados, lo que garantiza un modelo de alto rendimiento. Hoy en día, este proceso a menudo se realiza manualmente con hojas de cálculo y secuencias de comandos de Python que funcionan con etiquetas seleccionadas por humanos, lo que requiere mucho tiempo, es costoso y es propenso a errores. Los equipos de ciencia de datos pueden conectar los LLM directamente al depurador de LLM de Galileo para descubrir y corregir instantáneamente errores engorrosos en su conjunto de datos donde sus modelos tienen problemas; lo que lleva a modelos de mejor rendimiento más rápido, aumentando la eficiencia del equipo y reduciendo los costos en todos los ámbitos.

Los posibles casos de uso para el depurador Galileo LLM incluyen:

• Un equipo de ciencia de datos en el cuidado de la salud quiere crear un resumen de registros de pacientes más inteligente. Aprovechar un LLM de código abierto produciría resultados genéricos. Por lo tanto, el equipo deberá capacitar al LLM en sus propios datos EMR patentados.

• Una empresa centrada en el consumidor quiere crear un chatbot para responder a las preguntas de sus clientes sobre su negocio, servicios y ofertas de productos.

• Una institución financiera desea resumir los datos comerciales (financieros, macrotendencias y noticias a nivel de la industria) para realizar evaluaciones de riesgo efectivas sobre los préstamos a esa empresa.

Lista de espera y seminario web de Galileo LLM Studio

Para obtener más información sobre Galileo LLM Studio, únete a la lista de espera aquí y regístrese para Depuración de LLM: mejores prácticas para mejores solicitudes y calidad de datos webinar el 22/6 aquí.

Acerca de Galileo

La misión de Galileo es crear herramientas de inteligencia de datos para lavadores de datos no estructurados. Con más del 80 % de los datos del mundo sin estructurar y los recientes avances en modelado que reducen significativamente la barrera del uso de datos para el aprendizaje automático empresarial, existe una necesidad apremiante de herramientas centradas en datos para crear rápidamente modelos de alto rendimiento. Galileo tiene su sede en San Francisco y cuenta con el respaldo de Battery Ventures, Walden Catalyst y The Factory.

Para más información visite https://www.rungalileo.io o sigue a @rungalileo.

Contactos

Contacto con los medios
Leigh plato

leigh@gmkcommunications.com