Soy negra y me asusta el metaverso

Las personas marginadas a menudo son las que más sufren las consecuencias no deseadas de las nuevas tecnologías. Por ejemplo, algoritmos que toman decisiones automáticamente sobre quién puede ver qué contenido o cómo se interpretan las imágenes. sufrir de prejuicios raciales y de género. Las personas que tienen las identidades más marginadas, como ser negras y discapacitadas, son aún más en riesgo en comparación con aquellos con una única identidad marginada.

Por eso cuando Mark Zuckerberg exhibió su visión para el metaverso, una red de entornos virtuales en los que muchas personas pueden interactuar entre sí y con objetos digitales, y afirmó que será tocar cada producto la empresa construye, tenía miedo. Como un investigador que estudia las intersecciones de raza, tecnología y democracia, y como mujer de color, creo que es importante considerar cuidadosamente los valores que están codificados en esta Internet de próxima generación.

Los problemas ya están surgiendo. Avatares, los personajes gráficos que las personas pueden crear o comprar para representarse a sí mismos en entornos virtuales, tienen un precio diferente basado en la raza percibida del avatar, e acoso racista y sexista está emergiendo en los entornos inmersivos pre-metaverso de hoy.

Asegurar que esta próxima iteración de Internet sea inclusiva y funcione para todos requerirá esto personas de comunidades marginadas toman la iniciativa en darle forma. También requerirá una regulación estricta para mantener a las grandes tecnologías responsables ante el interés público. Sin estos, el metaverso corre el riesgo de heredar los problemas sociales de hoy, si no empeorar.

Visiones utópicas frente a duras realidades

Las visiones utópicas de los primeros días de Internet generalmente sostenían que la vida en línea sería radicalmente diferente de la vida en el mundo físico. Por ejemplo, la gente imaginaba Internet como una forma de escapar de partes de su identidad, como las distinciones de raza, género y clase. De hecho, el Internet es todo menos sin carreras.

Mientras tecno-utopías comunicar las visiones deseadas del futuro, la realidad de las nuevas tecnologías a menudo no alcanza estas visiones. De hecho, Internet ha traído nuevas formas de daño a la sociedad, como la difusión automatizada de propaganda en las redes sociales Y sesgo en los algoritmos que dan forma a su experiencia en línea.

Zuckerberg describió el metaverso como otro Internet inmersivo y personificado Que sera»desbloquea toneladas de nuevas experiencias increíbles. » Esta es una visión no solo de una Internet futura, sino de un estilo de vida futuro. Por muy alejada que sea esta vista, es probable que el metaverso, al igual que las versiones anteriores de Internet y las redes sociales, haya consecuencias generalizadas que transformará la forma en que las personas socializan, viajan, aprenden, trabajan y juegan.

La pregunta es, ¿estas consecuencias serán las mismas para todos? La historia sugiere que la respuesta es no.

La tecnología nunca es neutral

Las tecnologías ampliamente utilizadas a menudo toman las identidades y los cuerpos masculinos blancos por defecto. La informática del MIT Joy Buolmwini demostró que el software de reconocimiento facial tiene peor desempeño en mujeres y más aún en mujeres con rostros más oscuros. Otro Educación lo confirmaron.

La blancura está incorporada de forma predeterminada en estas tecnologías, incluso en ausencia de la raza como categoría para los algoritmos de aprendizaje automático. Desafortunadamente, racismo y tecnología a menudo van de la mano. Los políticos y periodistas negros han sido dirigido desproporcionadamente con tweets ofensivos o problemáticos, y los votantes negros y latinos fueron dirigido a campañas de desinformación online durante el ciclo electoral de 2020.

Esta relación histórica entre raza y tecnología me deja preocupado por el metaverso. Si el metaverso está destinado a ser una versión incorporada de Internet, como lo describió Zuckerberg, ¿significa eso que las personas que ya están marginadas experimentarán nuevas formas de daño?

Facebook y su relación con los negros

La relación general entre tecnología y racismo es solo una parte de la historia. Meta tiene una mala relación con los usuarios negros en su plataforma de Facebook, y con las mujeres negras en particular.

En 2016, los reporteros de ProPublica descubrieron que los anunciantes en el portal de publicidad de Facebook podían excluir a grupos de personas que ven sus anuncios. basado en la raza de los usuarios, o lo que Facebook llamó «afinidad étnica». Esta opción ha recibido mucho rechazar porque Facebook no pregunta a sus usuarios por su raza, lo que significa que a los usuarios se les asignó una «afinidad étnica» en función de su Compromiso en la plataforma, por ejemplo, qué páginas y publicaciones les gustaron.

En otras palabras, Facebook esencialmente estaba perfilando racialmente a sus usuarios en función de lo que hacen y les gusta en su plataforma, creando la oportunidad para que los anunciantes discriminen a las personas en función de su raza. Facebook desde entonces actualizó sus categorías de orientación de anuncios dejar de incluir las «afinidades étnicas».

Sin embargo, los anunciantes aún pueden orientar sus anuncios a personas en función de su supuesta raza. proxy de carrera, que utilizan combinaciones de intereses de los usuarios para inferir razas. Por ejemplo, si un anunciante ve en los datos de Facebook que usted ha expresado interés en la cultura afroamericana y los premios BET, puede inferir que usted es negro y dirigirlo con anuncios de productos que quiere comercializar para los negros.

Peor aún, Facebook tiene comentarios de mujeres negras a menudo eliminados que denuncian el racismo y el sexismo. Irónicamente, los comentarios de las mujeres negras sobre el racismo y el sexismo están censurados – conocido coloquialmente como conseguir Zucked – por violar descaradamente las políticas anti-discurso de odio de Facebook. Esto es parte de un tendencia más amplia dentro de las plataformas en línea de mujeres negras castigadas por expresar sus preocupaciones y exigir justicia en los espacios digitales.

Según un informe reciente del Washington Post, Facebook sabía esto su algoritmo estaba dañando desproporcionadamente a los usuarios negros, pero decidió no hacer nada.

Un metaverso democráticamente responsable

En una entrevista con Vishal Shah, vicepresidente de Metaverse, presentador de National Public Radio Preguntó Audie Cornish: “Si no puedes manejar los comentarios en Instagram, ¿cómo puedes manejar la camiseta del discurso de odio en el metaverso? ¿Cómo se puede manejar la manifestación de odio que podría darse en el metaverso? ”De igual manera, si se castiga a los negros por hablar en línea contra el racismo y el sexismo, ¿cómo pueden hacerlo en el metaverso?

Asegúrese de que el metaverso sea inclusivo y promueva los valores democráticos en lugar de amenaza la democracia Requiere justicia de diseño y regulación de las redes sociales.

Justicia de diseño es poner a las personas que no tienen el poder en la sociedad en el centro del proceso de diseño para evitar perpetuar las desigualdades existentes. También significa partir de una consideración de valores y principios para guiar el diseño.

Las leyes federales protegen a las empresas de redes sociales de la responsabilidad de publicaciones y acciones de los usuarios en sus plataformas. Esto significa que tienen la justo, pero no la responsabilidad de supervisar sus sitios. Regulación de las principales tecnologías Es fundamental abordar los problemas de las redes sociales en la actualidad, y al menos igual de importante antes de que construyan y controlen la próxima generación de Internet.

El metaverso y yo

No estoy en contra del metaverso. Estoy a favor de un metaverso democráticamente responsable. Sin embargo, para que esto suceda, sostengo que deben existir mejores marcos regulatorios para las empresas de Internet y procesos de diseño más justos para que la tecnología no siga estando relacionada con el racismo.

Tal como está, los beneficios del metaverso no superan sus costos para mí. Pero no tiene por qué permanecer así.

[Like what you’ve read? Want more? Sign up for The Conversation’s daily newsletter.]

Este artículo ha sido republicado por La conversación bajo una licencia Creative Commons. Leer el artículo original.