Oasis Labs colabora con Meta para evaluar la equidad de sus modelos de inteligencia artificial

Oasis Labs ha anunciado la asociación con Meta y el lanzamiento de una plataforma para evaluar la imparcialidad de los productos Meta mientras se protege la privacidad de las personas.

Como la tecnología de Meta empresaOasis Labs creó la plataforma que utiliza Computación multipartita segura (SMPC) para proteger la información, ya que Meta les pide a los usuarios de Instagram que participen en una encuesta en la que pueden compartir voluntariamente su raza o etnia.

El proyecto avanzará en la medición de la equidad en modelos de inteligencia artificial, lo que tendrá un impacto positivo en la vida de las personas de todo el mundo y beneficiará a la sociedad en su conjunto.

Esta plataforma única en su tipo jugará un papel importante en una iniciativa que representa un paso importante para identificar si un modelo de IA es justo y permite una mitigación adecuada.

Cómo evaluará la plataforma la equidad en los modelos de IA

Los equipos de IA responsable, equidad de Instagram y derechos civiles de Meta presentan una encuesta fuera de la plataforma para las personas que usan Instagram. Se les pedirá a los usuarios que compartan su raza y/o etnia de forma voluntaria.

Los datos, recopilados por un proveedor de encuestas externo, se compartirán en secreto con facilitadores externos de tal manera que ni los facilitadores ni Meta puedan conocer las respuestas a la encuesta del usuario.

Luego, los facilitadores calculan la medición utilizando datos de pronóstico encriptados por modelos de inteligencia artificial, compartidos criptográficamente por Meta, con los resultados combinados y no identificados de cada facilitador reconstituidos en resultados de medición de equidad agregados por Meta.

Las técnicas criptográficas utilizadas por la plataforma permiten a Meta medir el sesgo y la imparcialidad al tiempo que proporciona a las personas que proporcionan datos de medición demográficos sensibles altos niveles de protección de la privacidad.

Para obtener más información sobre la plataforma, sus objetivos y lanzamiento, visite el sitio aquí.

Mantente conectado

Si desea estar actualizado sobre los desarrollos con Oasis Labs, suscríbase a:

Discordia | Gorjeo | Suscríbete al boletín

Descargo de responsabilidad

Toda la información contenida en nuestro sitio web se publica de buena fe y solo con fines de información general. Cualquier acción realizada por el lector sobre la información que se encuentra en nuestro sitio web es estrictamente bajo su propio riesgo.