Lo que necesitas saber sobre las solanáceas

El enemigo de mi enemigo bien podría ser mi amigo. O mejor dicho, los artistas y creadores de contenidos de todo el mundo ahora pueden considerar una herramienta de IA como su amiga frente a los modelos de IA de generación “enemiga”. Llamado solanáceas negrasSe anuncia una herramienta de IA gratuita ya disponible para descargar Científicos del Proyecto Glaze de la Universidad de Chicago–las personas que construyeron la herramienta de IA–en Twitter.

Nightshade está diseñado para evitar que se utilicen modelos Gen AI para entrenar en el trabajo de un artista sin su permiso. La herramienta gratuita de IA está desarrollada por un equipo de científicos de la Universidad de Chicago dirigido por el profesor Ben Zhao y Shawn Shan. Otros miembros destacados del equipo de desarrollo de Nightshade AI incluyen a Wenxin Ding, Josephine Passananti y la profesora Heather Zheng. Muchos artistas también colaboraron con el equipo de The Nightshade Project.

El equipo de Nightshade trabajó anteriormente en el proyecto Glaze. Quería diseñar un programa de inteligencia artificial para artistas y propietarios de contenido que evitara que los modelos Gen AI imitaran sus estilos artísticos. El resultado fue Glaze. Pero mientras Glaze fue diseñado como una herramienta defensiva, Nightshade es una herramienta ofensiva y está diseñada para «envenenar» los modelos Gen AI. de modo que se ven obligados a cargar ilustraciones que son en gran medida y significativamente diferentes a las originales.

Según científicos de la Universidad de Chicago, Nightshade «envenena» o distorsiona muestras de arte/imágenes no autorizadas que los modelos Gen AI recopilan para entrenamiento. Una vez que se usaba Nightshade, los modelos de IA verían algo diferente a la ilustración original.

Para el ojo humano, la imagen distorsionada aparecerá como una imagen sombreada, con sólo un ligero cambio con respecto al original. El modelo de IA, por el contrario, experimentaría cambios significativos en la imagen original. Por ejemplo, si la imagen original muestra una vaca en un campo verde, entonces, con la herramienta Nightshade AI implementada, los ojos humanos «podrían ver una imagen sombreada de una vaca en un campo verde prácticamente sin cambios, pero un modelo de IA podría ver una gran campo.» bolso de cuero tirado en la hierba. «, dijeron los desarrolladores en un artículo en el sitio web de Nightshade.

cryptoshitcompra.com/wp-content/uploads/2024/01/1705928353_281_Lo-que-necesitas-saber-sobre-las-solanaceas.png", "imageCurrentSrc": "", "targetWidth": "800", "targetHeight": "400", "scaleAttr": "", "dialogLabel": "Enlarged image" } } }» data-wp-interactive=»» class=»wp-block-image size-full wp-lightbox-container»>

Si el modelo de IA se utiliza para entrenar con un conjunto de imágenes distorsionadas por Nightshade, «estará cada vez más convencido» de que las vacas en la foto original son en realidad bolsos de cuero.

Nightshade AI: menos “veneno” por ahora

Según los desarrolladores, sólo utilizaron una «configuración de baja intensidad» para los artistas que quieren priorizar «la calidad visual de la imagen original» para evitar «consecuencias negativas para el propietario de la imagen». Los propietarios de imágenes verían cambios más visibles al usar Nightshade en «obras de arte con colores planos y fondos suaves».

El equipo científico de la Universidad de Chicago también añade: “Es poco probable que Nightshade siga estando preparado para el futuro durante largos períodos de tiempo. Pero como ataque, Nightshade puede escalar fácilmente para seguir el ritmo de posibles contramedidas/defensas.

png", "imageCurrentSrc": "", "targetWidth": "800", "targetHeight": "400", "scaleAttr": "", "dialogLabel": "Enlarged image" } } }» data-wp-interactive=»» class=»wp-block-image size-full wp-lightbox-container»>

Nightshade: lo que aconsejan los desarrolladores

Nightshade v1.0 es una herramienta de inteligencia artificial ofensiva y no ofrece protección contra la imitación de estilos, como Glaze centrado en la defensa, advierten los desarrolladores. Por lo tanto, aconsejan a los propietarios de contenido que buscan proteger sus obras de la Generación AI que no publiquen imágenes sombreadas de su arte.

Los desarrolladores de Nightshade están trabajando en cómo hacer que la herramienta Nightshade AI funcione junto con Glaze, para que en el futuro puedan lanzar la herramienta ofensiva AI en Webglaze como complemento. De esta manera, los artistas podrían usar Glaze y Nightshade juntos en una sola obra/imagen, dicen los desarrolladores.

Por ahora, Nightshade v1.0 funcionará como una herramienta independiente. Los desarrolladores han proporcionado documentos técnicos y una guía de usuario para la herramienta de “envenenamiento por IA” en su sitio web.

Además, un estudio reciente del FMI advertía que la inteligencia artificial tendrá un impacto considerable en el mercado laboral, con un porcentaje importante de puestos de trabajo afectados.