El regulador polaco de privacidad de datos apunta a OpenAI después de una queja

La Autoridad Reguladora de Datos de Polonia (UODO) dijo que está considerando iniciar una investigación sobre OpenAI, el fabricante de ChatGPT. La declaración se produce después de que un ciudadano afirmara que la herramienta generaba información falsa sobre él, lo que plantea dudas sobre cómo el algoritmo de OpenAI procesa los datos personales.

El demandante alega que ChatGPT utilizó datos de 2021 obtenidos fuera de las leyes de privacidad de la UE para generar un resultado falso. Tampoco proporcionó la fuente de los datos, lo que, según Citizen, requiere una inspección más profunda de los métodos de procesamiento de datos de OpenAI.

El regulador polaco continuará la investigación sobre OpenAI

Además, las preguntas dirigidas a OpenAI no proporcionaron respuestas satisfactorias. En respuesta a la denuncia, el vicepresidente de UODO, Jakub Groszowski, afirmó el derecho del denunciante a apelar y destacó el deber de los organismos de vigilancia de la privacidad de datos.

“El desarrollo de nuevas tecnologías debe realizarse respetando los derechos de las personas físicas derivados, entre otros, [General Data Protection Regulation]. La tarea de las autoridades europeas de protección de datos es proteger a los ciudadanos europeos de los efectos negativos de la tecnología de procesamiento de información».

Dijo que la queja plantea dudas sobre si OpenAI cumple con el principio central del RGPD de «privacidad por diseño». En respuesta, UODO intentará aclarar las políticas de datos de OpenAI, dijo el presidente de UODO confirmado.

“El caso se refiere a la violación de numerosas disposiciones en materia de protección de datos personales, por lo que solicitaremos a OpenAI respuesta a algunas preguntas para poder llevar a cabo el procedimiento administrativo de manera integral”.

La UE incorporó salvaguardias de inteligencia artificial (IA) en su ley GDPR en mayo de 2018.

Descubra aquí cómo las identidades descentralizadas pueden proteger la información personal.

Su exigencia de que las empresas explicaran cómo utilizan la información personal en la inteligencia artificial fue criticada en su momento. Los primeros comentaristas sugirió era casi imposible para las empresas saber si cumplían plenamente.

Lea más aquí sobre las plataformas de redes sociales descentralizadas que dependen menos de sus datos que sus rivales centralizados.

Además, se creía que las leyes constituían un freno a la innovación. En aquel momento, el 74% de los encuestados en Alemania sobre la industria digital dijeron que las leyes de privacidad eran el principal obstáculo para el desarrollo de nuevas tecnologías.

Nueva legislación podría corregir el mal manejo de datos personales

Pero hay algunas cuestiones fundamentales relativas a la toma de decisiones automatizada que se han heredado de modelos anteriores de IA.

Los primeros modelos de aprendizaje automático, los componentes básicos de los grandes modelos de lenguaje, fueron criticados por su tendencia a interpretar datos personales de una manera que reforzaba los males sociales. Por ejemplo, un modelo podría perpetuar el sesgo en la contratación al infravalorar a las candidatas para puestos de programación informática.

cryptoshitcompra.com/wp-content/uploads/2023/09/El-regulador-polaco-de-privacidad-de-datos-apunta-a-OpenAI.png» alt=»El regulador polaco investigará el manejo de datos por parte de OpenAI en una era en la que la inteligencia artificial generativa puede amplificar los sesgos de los usuarios, según Bloomberg.» class=»lazy wp-image-394383″/>

La reciente pandemia de COVID-19 ha empujado a muchos gobiernos a acelerar o eludir por completo la diligencia debida en favor de la celeridad. Muchas empresas han utilizado la pandemia para impulsar herramientas de inteligencia artificial, automatización y vigilancia por un bien mayor.

Un sistema creado por el departamento de exámenes de Ofqual intentó para prevenir algorítmicamente la inflación del nivel educativo británico. En cambio, discriminó a personas verdaderamente talentosas y a niños de entornos desfavorecidos.

A finales de este año, el primer ministro británico, Rishi Sunak, organizará una cumbre de ejecutivos e investigadores de IA para decidir sobre el futuro de la IA. El Parlamento Europeo podría aprobar la ley de inteligencia artificial de la UE a finales de año.

¿Tiene algo que decir sobre la intención de UODO de iniciar una investigación sobre el procesamiento de datos personales por parte de OpenAI? en su algoritmo ¿O algo más? Escríbanos o únase a la discusión en nuestro Canal de telegramas. También puedes encontrarnos tic tac, FacebookO X (Twitter).