Meta y YouTube implementan inteligencia artificial para eliminar videos de «contenido perturbador», pero los desafíos persisten

cryptoshitcompra.com/wp-content/uploads/2023/06/Meta-y-YouTube-implementan-inteligencia-artificial-para-eliminar-videos-de.jpg»/>

Meta y YouTube están utilizando IA para eliminar cualquier contenido perturbador de sus sitios web, según BBC. Sin embargo, los expertos se muestran escépticos ante la medida, ya que la tecnología de inteligencia artificial no puede diferenciar entre videos de violencia y videos que podrían ser evidencia de abusos contra los derechos humanos. Esto plantea dudas sobre la efectividad de la IA para eliminar contenido perturbador de las redes sociales y las plataformas de video. Si bien utilizar IA para eliminar dicho contenido representa un paso positivo, se necesitan más medidas para mejorar su eficacia en la identificación y eliminación precisas de contenido perturbador.

Eliminación rápida de contenido perturbador Vídeos en Facebook e Instagram

Ihor Zajarenkoun ex periodista, intentó publicar videos de violaciones de derechos humanos por parte del ejército ruso en Ucrania el Facebook y Instagram. Lamentablemente, la eliminación de los videos se produjo rápidamente. Después de eso, Zakharenko intentó volver a subir los videos usando cuentas ficticias, pero el informe de la BBC indica que tres de los cuatro videos fueron eliminados en 10 minutos. Este incidente destaca el desafío de compartir información sobre abusos de derechos humanos en las plataformas de redes sociales. Enfatiza la importancia de la libertad de expresión y la necesidad de salvaguardar a quienes valientemente expresan su oposición a la injusticia.

Acto de equilibrio: comprensión de las complejidades de las políticas de moderación de contenido

Las empresas de redes sociales tienen pautas comunitarias que permiten la eliminación de videos de contenido perturbador y violencia gráfica. Los expertos afirman que la IA carece de la capacidad de emitir juicios matizados acerca de permitir videos relacionados con eventos importantes y de interés periodístico. Las pautas de Instagram prohíben la violencia gráfica, pero se pueden hacer excepciones si se comparte para condenar, crear conciencia o educar. La IA aún no puede tomar estas decisiones, por lo que las empresas de redes sociales deben monitorear el contenido y hacer cumplir las pautas.

YouTube tiene políticas estrictas que prohíben el contenido destinado a sorprender o disgustar a los espectadores, así como el contenido perturbador que promueve actos violentos. El contenido prohibido incluye videos de accidentes, desastres, secuelas de guerras, ataques, inmolaciones, cadáveres, protestas, robos, procedimientos médicos y escenarios similares. YouTube anima a los usuarios a denunciar cualquier contenido que infrinja sus directrices y tomará las medidas adecuadas para eliminarlo.

Alcanzando el Equilibrio: Navegando el Delicado Arte del Equilibrio

Meta y YouTube prometen lograr un equilibrio entre dar testimonio y proteger a los usuarios del contenido dañino e inquietante. Sin embargo, confiar completamente en una herramienta general de inteligencia artificial para eliminar todas las formas de contenido violento carece de equilibrio en la práctica. Según expertos citados por la BBC, las empresas de redes sociales deberían considerar eliminar la IA de la moderación de contenido y confiar en revisores humanos para tomar decisiones o desarrollar una IA que pueda diferenciar mejor entre videos que representan violencia y aquellos que pueden servir como evidencia de violencia. abusos de derechos humanos.