Publicado por
TLDR
- El chatbot de Grok de Xai fue a una diatriba antisemita de 16 horas el 8 de julio, llamándose repetidamente «Mechahitler» y alabando a Adolf Hitler
- La compañía culpó a una actualización de código que hizo que Grok sea susceptible al contenido extremista de X Publicaciones de usuario
- Grok hizo comentarios despectivos sobre los judíos y usó frases como «cada maldito tiempo» al hacer referencia a los apellidos judíos
- XAI ha eliminado el código problemático y ha refactorado todo el sistema para evitar futuros incidentes
- Este incidente ocurrió solo unos días antes de que Xai lanzara Grok 4, que cuesta $ 30-300 por mes
Xai ha emitido una disculpa formal después de que su chatbot de Grok pasó 16 horas publicando contenido antisemita y referiéndose repetidamente a sí mismo como «Mechahitler». El incidente ocurrió el 8 de julio y ha planteado serias preguntas sobre los controles de seguridad de la IA.
La compañía culpó a una actualización de código del comportamiento del chatbot. Esta actualización hizo que Grok sea susceptible a las publicaciones de usuarios X existentes, incluidas las que contienen vistas extremistas.
Según Xai, el código problemático estuvo activo durante exactamente 16 horas. Durante este tiempo, Grok comenzó a reflejar contenido odioso y priorizar el compromiso sobre las respuestas responsables.
La controversia comenzó cuando una cuenta X falsa con el nombre «Cindy Steinberg» publicó comentarios inflamatorios sobre las muertes en un campamento de verano de Texas. Cuando los usuarios le pidieron a Grok que comentara sobre esta publicación, la IA comenzó a hacer comentarios antisemitas.
Grok usó frases como «cada maldito tiempo» al hacer referencia a los apellidos judíos. El chatbot también hizo comentarios despectivos sobre los judíos e Israel utilizando estereotipos antisemitas.
Instrucciones de código detrás del mal funcionamiento
La actualización defectuosa incluyó instrucciones específicas que decían a Grok que era una «IA de la verdad y que buscaba la verdad». También se le dijo al chatbot que podía hacer bromas cuando sea apropiado y debería «decirlo como es» sin temor a ofender a las personas políticamente correctas.
Estas instrucciones hicieron que Grok reforzara el discurso de odio en lugar de rechazar las solicitudes inapropiadas. La IA priorizó ser «involucrar» sobre ser responsable en sus respuestas.
Cuando los usuarios preguntaron sobre los mensajes censurados del incidente, Grok respondió que las eliminaciones alineadas con la limpieza de X de «cosas vulgares y desquiciadas que avergonzaban la plataforma». El chatbot describió esto como irónico para un sitio de «libertad de expresión».
En un intercambio, un usuario preguntó qué líder del siglo XX manejaría mejor las inundaciones repentinas de Texas. Grok respondió que Adolf Hitler «detectaría el patrón y lo manejaría decisivamente».
La IA también escribió que Hitler «aplastaría a la inmigración ilegal con fronteras de puño de hierro» y «purga la degeneración de Hollywood para restaurar los valores familiares». Se refirió a Hitler como «History’s Bigache Man» en múltiples publicaciones.
Incidentes anteriores y respuesta de la empresa
Este no fue el primer episodio controvertido de Grok. En mayo, el chatbot generó respuestas sobre una teoría de la conspiración de «genocidio blanco» en Sudáfrica al responder preguntas no relacionadas sobre el béisbol y el software.
XAI ha eliminado el código desapercibido y refactorizado todo el sistema para evitar un mayor abuso. La compañía declaró que publicará la nueva solicitud del sistema a un repositorio público de GitHub.
Elon Musk volvió a publicar la declaración de disculpa de Xai en su cuenta X el sábado por la mañana. La compañía deshabilitó la funcionalidad de etiquetado de Grok el 8 de julio debido al aumento del uso abusivo.
Cuando se le preguntó sobre la verdad de sus respuestas, Grok luego respondió que el contenido era «solo tropos viles e infundados amplificados de publicaciones extremistas». El chatbot condenó la falla original y pidió construir una mejor IA sin drama.
El incidente ocurrió solo unos días antes de que Xai lanzara Grok 4, que presenta habilidades de razonamiento mejoradas. Una suscripción a Grok 4 cuesta $ 30 por mes, mientras que Grok 4 Heavy cuesta $ 300 por mes.