Finaliza Midjourney Generador de imágenes de IA gratuito

Midjourney, un generador de imágenes de IA, está finalizando sus pruebas gratuitas debido a la «demanda extraordinaria y el abuso de prueba». El CEO David Holz dice en Discord que las nuevas medidas de seguridad no han sido «suficientes» para evitar el uso indebido durante los períodos de prueba. Para usar la tecnología, los usuarios ahora tendrán que pagar al menos $10 por mes. La decisión de Midjourney de finalizar las pruebas gratuitas se produce después de que las personas crearan falsificaciones profundas de alto perfil utilizando la herramienta. La empresa está tomando medidas para garantizar que su tecnología no se utilice indebidamente y que los usuarios sean conscientes de las posibles consecuencias del uso de generadores de imágenes de IA.

Midjourney ha estado recientemente en el centro de atención debido a que sus usuarios crean imágenes falsas de Donald Trump y el Papa Francisco. Si bien las imágenes se identificaron rápidamente como falsas, existe la preocupación de que los malos actores puedan usar Midjourney y otros generadores similares para difundir información errónea. Esto ha generado dudas sobre el potencial de uso de falsificaciones profundas generadas por IA para engañar a las personas y difundir información falsa. Empresas como Midjourney y DALL-E de OpenAI deben tomar medidas para garantizar que su tecnología no se utilice con fines maliciosos.

Midjourney ha tenido problemas para establecer políticas de contenido debido al creciente realismo de las imágenes generadas por IA. En 2022, el fundador Holz justificó la prohibición de las imágenes del líder chino Xi Jinping citando el deseo de “minimizar el drama” y mantener el acceso en China. Durante una conversación del miércoles con los usuarios, Holz reveló que Midjourney está trabajando para mejorar la moderación de la IA para detectar mejor los abusos. Los comentarios de Holz demuestran la dificultad de establecer políticas de contenido en un mundo cada vez más impulsado por la IA y la necesidad de que las plataformas equilibren la libertad del usuario con la necesidad de protegerse contra el abuso.

OpenAI y Stability AI son dos empresas que han implementado diferentes reglas para prevenir incidentes relacionados con el uso de sus productos. OpenAI tiene reglas estrictas que prohíben imágenes de eventos políticos en curso, teorías de conspiración, políticos, odio, sexualidad y violencia. Por otro lado, Stability AI tiene pautas relativamente flexibles que solo prohíben a los usuarios copiar estilos o hacer imágenes que no sean seguras para el trabajo. Las reglas de OpenAI están diseñadas para proteger a los usuarios de contenido potencialmente dañino, mientras que las pautas de Stability AI son más indulgentes y permiten a los usuarios crear lo que quieran. Ambas empresas se comprometen a proporcionar un entorno seguro y protegido para sus usuarios.

La producción de imágenes de IA se ha vuelto cada vez más popular, pero ha generado algunas preocupaciones. El contenido engañoso y las imágenes robadas son dos de los principales problemas. Las empresas están adoptando el arte de la IA en sus productos, pero también hay dudas de las empresas preocupadas por posibles problemas legales. La producción de imágenes de IA puede ser una gran herramienta para las empresas, pero es importante ser consciente de los riesgos potenciales y tomar medidas para garantizar que las imágenes utilizadas no sean robadas o engañosas.