El controvertido chatbot de inteligencia artificial ‘Tessa’ proporciona consejos para cerrar el trastorno alimentario nocivo

cryptoshitcompra.com/wp-content/uploads/2023/06/El-controvertido-chatbot-de-inteligencia-artificial-Tessa-proporciona-consejos-para.jpg»/>

El Asociación Nacional de Trastornos de la Alimentación (NEDA) recibió críticas y eliminó su IA chatbot Tessa después de que surgieron preocupaciones de que proporcionaba información dañina e irrelevante, como se indica en una publicación oficial en las redes sociales. Desafortunadamente, el chatbot, diseñado para ayudar a las personas que experimentan angustia emocional, exacerbó sus problemas al ofrecer consejos dietéticos equivocados y alentar a los usuarios a concentrarse en la medición del peso.

Tessa criticada por respuestas inapropiadas a la línea de ayuda para trastornos alimentarios

Los usuarios y expertos criticaron a Tessa por sus respuestas problemáticas basadas en experiencias de primera mano con él. Observaron que el chatbot se enfocaba constantemente en hacer dieta y aumentar la actividad física en lugar de abordar mensajes simples como «Odio mi cuerpo». El propósito de la línea de ayuda es brindar apoyo a las personas con trastornos alimentarios, no ofrecer asistencia para perder peso.

NEDA deshabilitó temporalmente el chatbot Tessa para abordar los problemas subyacentes y abordar la gravedad de la situación. Aborde los «errores» y los «desencadenantes» que fueron responsables de la difusión de información dañina.

Vice Informe afirma que NEDA despidió al personal por intentos de sindicalización

El uso de Tessa por parte de NEDA siguió a las acusaciones de despido de miembros del personal humano por intentos de sindicalización, informó Vice. La línea de ayuda, atendida por empleados pagados y voluntarios, enfrentó acusaciones de despido masivo como represalia contra los esfuerzos de sindicalización.

abbie harper, en una entrada de blog, criticó el cambio de NEDA a la IA, calificándolo de tapadera para la represión sindical. Irónicamente, a pesar de la controversia reciente, la línea de ayuda dejará de funcionar mañana. Antes de que el problema llamara la atención, NEDA cambió a los voluntarios no remunerados de las conversaciones directas a la capacitación con el chatbot. Además, sigue siendo incierto si habrá una reconsideración de esta estrategia. El trato de la organización a su personal ha generado numerosas preguntas e inquietudes.