IA que puede manipular el cerebro de las personas

La neurotecnología, una controvertida aplicación de la inteligencia artificial, se está convirtiendo cada vez más en un punto central de las discusiones sobre privacidad y derechos humanos.

A medida que los avances tecnológicos en el campo avanzan rápidamente, las Naciones Unidas (ONU) se han hecho eco de los llamados a favor de un marco ético para salvaguardar las libertades individuales.

Neurotecnologías: cuestiones éticas

En términos generales, la neurotecnología no es un concepto nuevo. Los ingenieros han desarrollado durante mucho tiempo tecnologías para escanear, reparar y mejorar el cerebro humano y el sistema nervioso.

Sin embargo, el campo ha visto una explosión reciente de poderosos modelos de aprendizaje automático e inteligencia artificial, impulsando la neurotecnología hacia áreas éticamente controvertidas.

Para abordar estos desafíos, las Naciones Unidas organizaron la Conferencia Internacional sobre la Ética de la Neurotecnología en París. El evento reunió a responsables políticos, especialistas en IA, grupos cívicos y empresas privadas, lo que provocó un debate sobre las cuestiones éticas que rodean a la neurotecnología.

cryptoshitcompra.com/wp-content/uploads/2023/07/IA-que-puede-manipular-el-cerebro-de-las-personas.png» alt=»Financiamiento para la neurociencia en los Estados Unidos» class=»lazy wp-image-352192″/>

Antes de la conferencia, Audrey Azoulay, Directora General de la UNESCO, compartido sus aprensiones.

“La neurotecnología podría ayudar a resolver muchos problemas de salud, pero también podría acceder y manipular el cerebro de las personas, produciendo información sobre nuestras identidades y nuestras emociones. Podría amenazar nuestros derechos a la dignidad humana, la libertad de pensamiento y la privacidad. Hay una necesidad urgente de establecer un marco ético común a nivel internacional, como lo hizo la UNESCO para la inteligencia artificial”, dijo Azoulay.

Los reguladores de todo el mundo se esfuerzan por crear reglas para la industria de la IA. Empresas de alto perfil como OpenAI incluso han comenzado a resistirse a la regulación de la IA. A medida que la tecnología se vuelve más íntima, más desacuerdos parecen casi inevitables.

Es más que chips cerebrales

Sin embargo, Gabriela Ramos, Subdirectora General de Ciencias Sociales y Humanidades de la UNESCO, resaltado durante la conferencia que la neurotecnología no se trata solo de tecnologías en etapa inicial que son noticia.

“Estamos en el camino hacia un mundo donde los algoritmos nos permitirán decodificar los procesos de pensamiento de las personas y manipular directamente los mecanismos cerebrales que subyacen a sus intenciones, emociones y decisiones”, dijo Ramos.

La imagen pública de la neurotecnología a menudo está dominada por proyectos ambiciosos como Neuralink de Elon Musk y su interfaz cerebro-computadora. Aun así, aplicaciones más discretas de la neurotecnología que pueden interpretar y manipular pensamientos sin intervención física ya están entre nosotros.

«Cuando agrega IA, está poniendo neurotecnología en esteroides», declarado Mariagrazia Squicciarini, primera autora de un informe de la Unesco.

Los investigadores de IA están desarrollando nuevas tecnologías con intenciones predominantemente beneficiosas. Un grupo de investigación, por ejemplo, usó inteligencia artificial para interpretar lo que escuchaba un sujeto en función de las señales eléctricas en su cerebro.

Sin embargo, los investigadores advirtieron que los desarrollos futuros podrían permitir que tales tecnologías eviten la necesidad de cooperación voluntaria.

tecnología de control mental

Curiosamente, la neurotecnología de lectura mental antes mencionada utiliza herramientas de inteligencia artificial ampliamente accesibles. El equipo de investigación construyó su modelo utilizando GPT-1 de OpenAI, un precursor de GPT-4, que impulsa el popular chatbot ChatGPT.

También utilizaron varios algoritmos disponibles gratuitamente en línea, entrenando su modelo con conjuntos de datos que incluían oraciones de Reddit y transcripciones de podcasts del New York Times.

Tales avances subrayan que los problemas de privacidad relacionados con la IA no son especulaciones futuras, sino preocupaciones urgentes que requieren atención inmediata.

OpenAI, por ejemplo, se enfrenta a una demanda colectiva por presuntamente recopilar datos personales sin consentimiento. Muchas de las principales empresas de redes sociales han sido acusadas de manejar mal los datos de los usuarios para entrenar sus modelos de IA.

Los casos en los que se utiliza la IA para leer y manipular a las personas sin consentimiento informado ya son una realidad. Abordar estas preocupaciones requerirá pautas éticas sólidas y medidas regulatorias proactivas.