La superinteligencia debe seguir la regulación de la energía nuclear

OpenAI publicó una publicación de blog en la que pedía esfuerzos para regular la superinteligencia de manera similar a cómo se regula la energía nuclear. Sugiere la posible creación de una agencia como la OIEA.

OpenAI, el creador de la sensación de inteligencia artificial ChatGPT, ha propuesto una regulación de la IA, especialmente la superinteligencia de la IA, similar a la energía nuclear. La compañía publicó una publicación el 22 de mayo sobre cómo el rápido desarrollo de la IA podría impactar en el mundo y la necesidad relacionada de gobernanza.

OpenAI propone una regulación sobre superinteligencia

EL enviar comenzó afirmando que «los sistemas de IA superarán el nivel de experiencia de los expertos en la mayoría de los dominios y funcionarán tan productivos como una de las empresas más grandes de la actualidad». Por tanto, es necesario mitigar los riesgos de amenaza existencial de la misma forma que las acciones emprendidas para la energía nuclear.

Los autores de la publicación, Sam Altman, Greg Brockman e Ilya Sutskever, dijeron que eventualmente se necesitaría algo como la Agencia Internacional de Energía Atómica (OIEA). Esta agencia ayudaría a gobernar los esfuerzos de superinteligencia y necesitaría mucha cooperación y coordinación a nivel mundial.

La publicación también aclaró que es importante permitir que «las empresas y proyectos de código abierto desarrollen modelos por debajo de un umbral de capacidad significativo, sin el tipo de regulación».

OpenAI Considerando decisiones democráticas sobre IA

La estrategia de OpenAI para fomentar la regulación de la IA incluye la toma de decisiones colectiva, similar a las entradas de Wikipedia. El presidente Greg Brockman dijo que la compañía evaluará formas de recopilar información de varias partes sobre las decisiones. El objetivo es garantizar la toma de decisiones democrática.

Brockman dijo: «No estamos simplemente sentados en Silicon Valley pensando que podemos escribir estas reglas para todos», aunque ciertamente habrá desafíos en la creación de dicho sistema. Al igual que Sam Altman, él también se centró fuertemente en la cooperación internacional para la regulación de la IA.

La carrera por regular la IA se intensifica

La cuestión de cómo regular la IA está en la mente de todos. Los que están en medio de todo están pidiendo una regulación. Altman rechazó la oportunidad de convertirse en el principal regulador de inteligencia artificial de Estados Unidos. En cambio, durante una audiencia en el Congreso, instó a Estados Unidos a asumir la responsabilidad de la regulación.

Es probable que EE. UU. forme una agencia dedicada a supervisar la IA. Otros países están siguiendo su ejemplo, con China particularmente entusiasmada con las prohibiciones y limitaciones de la IA. Al igual que el mercado de criptomonedas en el pasado, el sector de la IA también podría experimentar una regulación dura y estricta. Esta regulación se centraría principalmente en aspectos como la privacidad, la prevención de la interferencia electoral y el establecimiento de estándares globales.