ChatGPT prohibido ya que Elon Musk insta a una pausa en el desarrollo de IA

El Garante de la protección de datos personales ha impuesto una limitación inmediata al tratamiento de los datos de los usuarios por parte de OpenAI. La autoridad administrativa independiente lanzó simultáneamente una investigación contra los desarrolladores del chatbot de IA ChatGPT.

ChatGPT es un conocido software de inteligencia artificial relacional que simula y procesa conversaciones humanas. Sufrió una violación de datos el 20 de marzo, exponiendo las conversaciones de los usuarios y la información de pago de los suscriptores de su servicio premium.

ChatGPT plantea problemas de privacidad de datos

Con su disposición, el Garante para la protección de datos personales notas la falta de información proporcionada a los usuarios y a todas las partes interesadas cuyos datos son recopilados por OpenAI. Más significativamente, destaca la ausencia de una base legal que justifique la recopilación y el almacenamiento de datos personales para «entrenar» a ChatGPT.

Aunque OpenAI términos especificando que el servicio está destinado a usuarios de 13 años o más, la autoridad italiana señala la falta de verificación de la edad. Esto expone a los niños a respuestas que son inapropiadas para su etapa de desarrollo y autoconciencia.

OpenAI no tiene su sede en la Unión Europea. En todo caso, la empresa deberá comunicar las medidas adoptadas en respuesta a las solicitudes de la Autoridad en el plazo de 20 días. El no hacerlo puede resultar en una multa de hasta 20 millones de euros o el 4% de su facturación global anual.

La reciente restricción temporal de la Autoridad de Protección de Datos de Italia en ChatGPT de OpenAI coincide con las crecientes preocupaciones sobre los sistemas de IA.

Los expertos piden detener los ‘experimentos de IA’

A carta abierta publicado por la organización sin fines de lucro Future of Life Institute pide una pausa en el desarrollo de sistemas de inteligencia artificial. Cita los «riesgos profundos para la sociedad y la humanidad».

Los firmantes de la carta incluyen a Elon Musk, Yuval Noah Harari, Steve Wozniak, Jaan Tallinn y Andrew Yang. Sin mencionar otras figuras influyentes en la tecnología e investigación de IA.

Si bien la restricción de ChatGPT se enfoca en la protección de datos y la privacidad, la carta abierta enfatiza la «carrera fuera de control» para desarrollar sistemas de aprendizaje automático impredecibles, incluso para sus creadores.

Los autores de la carta proponen una pausa de 6 meses en el desarrollo de IA, instando a los laboratorios de IA y expertos independientes a utilizar este tiempo para establecer protocolos de seguridad compartidos para el diseño y desarrollo de IA. Estos protocolos deben ser verificados y supervisados ​​por expertos externos independientes, garantizando la seguridad más allá de toda duda razonable.

Brian Armstrong, director ejecutivo de Coinbase, expresado su desacuerdo con la idea de suspender el desarrollo de la IA. Argumentó que ningún «experto» puede juzgar el asunto y que sería imposible llegar a un consenso entre muchos actores dispares. Armstrong cree que los comités y la burocracia no proporcionarán una solución. En cambio, el desarrollo de la tecnología de IA debería continuar, ya que los beneficios superan los riesgos potenciales.

Armstrong enfatizó la importancia del mercado de ideas, que él cree que conduce a mejores resultados que la planificación central. Instó a no dejar que el miedo se interponga en el camino del progreso y advirtió contra cualquiera que intente centralizar el control dentro de una sola autoridad.

Sin embargo, los eventos recientes demuestran una creciente oposición al rápido desarrollo de los sistemas de IA sin tener en cuenta la seguridad, la ética y la protección de datos. Es posible que más reguladores intervengan para imponer restricciones, lo que subraya la necesidad de una implementación responsable de la IA.