Los problemas de datos de ChatGPT impulsan la acción de privacidad de la UE

OpenAI, la empresa que creó el popular modelo de lenguaje ChatGPT, enfrenta desafíos en términos de cumplimiento legal y precisión de los datos. Este problema llevó a NOYB, el Centro Europeo de Derechos Digitales, una organización sin fines de lucro con sede en Viena, Austria, a presentar una queja contra OpenAI ante la Autoridad Austriaca de Protección de Datos (DPA).

De hecho, la recopilación de datos de OpenAI ha generado preocupación entre los reguladores y defensores de la privacidad. Esta medida de NOYB podría generar una conversación más amplia sobre el uso ético de los datos en la tecnología.

Los problemas de datos de OpenAI resaltan los desafíos éticos de la inteligencia artificial

El corazón de queja radica en las recientes admisiones de OpenAI con respecto a las limitaciones de ChatGPT en la gestión de datos. Según OpenAI, el modelo de IA no puede verificar la exactitud de la información que genera sobre los individuos. Tampoco puede revelar los orígenes de sus entradas de datos.

En medio del creciente entusiasmo por la IA provocado por el lanzamiento de ChatGPT en noviembre de 2022, la adopción generalizada de la herramienta ha expuesto vulnerabilidades críticas. ChatGPT funciona prediciendo posibles respuestas a las sugerencias de los usuarios sin un mecanismo inherente que garantice la precisión de los hechos.

Esto ha llevado a casos en los que la IA “alucina” datos, fabricando respuestas que pueden ser engañosas o completamente falsas. Si bien estas imprecisiones pueden ser irrelevantes en algunos contextos, plantean riesgos importantes cuando se trata de datos personales.

Leer más: Cómo crear su propio chatbot de IA utilizando la API ChatGPT

El Reglamento General de Protección de Datos (GDPR) de la Unión Europea exige la exactitud de los datos personales y otorga a las personas el derecho de acceder y rectificar información incorrecta sobre ellos mismos. Las capacidades actuales de OpenAI no cumplen con estos requisitos legales, lo que generó un debate sobre las implicaciones éticas de la inteligencia artificial en el manejo de datos confidenciales.

Maartje de Graaf, abogada de protección de datos de noyb, subraya la gravedad de la situación.

“Está claro que las empresas actualmente no pueden hacer que chatbots como ChatGPT cumplan con la legislación europea en el procesamiento de datos personales. Si un sistema no puede producir resultados precisos y transparentes, no puede utilizarse para generar datos sobre individuos. La tecnología debe seguir los requisitos legales y no al revés”, de Graaf explica.

Los problemas van más allá de los obstáculos técnicos y se extienden a desafíos regulatorios más amplios. Desde sus inicios, las herramientas de inteligencia artificial generativa, incluido ChatGPT, han estado bajo un intenso escrutinio por parte de los organismos europeos de vigilancia de la privacidad.

La Autoridad de Protección de Datos de Italia, por ejemplo, impuso restricciones al procesamiento de datos de ChatGPT a principios de 2023, alegando imprecisiones.

A esto le siguió un esfuerzo coordinado por parte del Consejo Europeo de Protección de Datos para evaluar y mitigar los riesgos asociados con dichas plataformas de IA.

El momento en que se presentaron estos desafíos legales es particularmente digno de mención. Al mismo tiempo, OpenAI estaba en conversaciones para formar una alianza estratégica con Worldcoin, un proyecto cofundado por Sam Altman, quien también dirige OpenAI.

Leer más: Las 11 mejores extensiones ChatGPT de Chrome para probar en 2024

Sin embargo, la posible colaboración de OpenAI con Worldcoin podría introducir capas adicionales de dilemas legales y éticos. El enfoque de Worldcoin para el uso de datos biométricos se cruza con los desafíos de OpenAI para garantizar la privacidad y precisión de los datos.

Además, Worldcoin se ha enfrentado al escrutinio de autoridades legales de todo el mundo, incluidos Kenia, España y Argentina, por su recopilación de datos. Por lo tanto, esta sinergia podría allanar el camino para usos tecnológicos innovadores o sentar un precedente para mayores intervenciones regulatorias.