Desentrañando la Caja Oscura: La Lucha por Investigar el Uso No Ético de la IA

cryptoshitcompra.com/wp-content/uploads/2023/04/Desentranando-la-Caja-Oscura-La-Lucha-por-Investigar-el-Uso.jpg»/>

El Centro de Inteligencia Artificial y Política Digital (CAIDP) y gigantes tecnológicos como Elon Musk tienen una misión común: desentrañar la caja oscura de la IA y exigir la responsabilidad de un jugador clave en la industria: OpenAI y su popular programa ChatGPT. El Centro presentó recientemente una queja formal ante la Comisión Federal de Comercio (FTC) de EE. UU. alegando que OpenAI infringe la Sección cinco de la FTC, que se enfoca en las prácticas engañosas e injustas de los desarrolladores de IA. Además, la FTC publicó una versión revisada de la ley el mes pasado con instrucciones para los desarrolladores para asegurarse de que su tecnología no esté subestimando sus capacidades, prometiendo demasiado y se esté probando adecuadamente para verificar posibles sesgos o fallas.

La queja del Centro de Inteligencia Artificial y Política Digital se vio reforzada por una carta abierta con más de 1000 firmas de varios miembros de alto perfil de la industria tecnológica, incluidos Telsa y el CEO de Twitter, Elon Musk. La carta pedía una pausa de seis meses en el entrenamiento de sistemas de IA más potentes que GPT-4 y comentaba que «si dicha pausa no se puede promulgar rápidamente, los gobiernos deberían intervenir e instituir una moratoria». Estos llamados a una pausa en el desarrollo de los sistemas de IA se produjeron en un momento en que el mundo está lleno de tremendo potencial, así como de riesgos potenciales, de la inteligencia artificial.

La Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO) está de acuerdo con las acciones que están tomando el Centro y Musk. La organización internacional acaba de emitir un comunicado pidiendo la adopción inmediata de su Recomendación sobre la ética de la inteligencia artificial creada recientemente. Este marco tiene como objetivo proteger los derechos humanos y la dignidad al tiempo que proporciona una base moral y legal para promover el cumplimiento de la ley en el ámbito digital. Audrey Azoulay, directora general de la UNESCO, dejó muy clara su visión del tema cuando comentó que “el mundo necesita reglas éticas más estrictas para la inteligencia artificial: este es el desafío de nuestro tiempo”.

Ya sea que OpenAI haya cumplido con las reglas de la FTC o no, el ir y venir entre CAIDP, tecnólogos, legisladores y OpenAI ha puesto de relieve la necesidad de mejorar el monitoreo y las regulaciones de la inteligencia artificial. La carta abierta firmada por Elon Musk y otros gurús de la tecnología plantea fuertes preguntas sobre la privacidad, la libertad y la seguridad de los productos creados por las empresas de IA, un foco de atención que ha sido necesario para abordar estos problemas futuros. Los llamados a una pausa en el desarrollo dan a las personas más tiempo para descubrir las estrategias y regulaciones necesarias para la seguridad, la transparencia, la ética y la equidad en el ámbito digital. Si bien OpenAI aún no ha respondido a las solicitudes y acusaciones, la necesidad de una supervisión sólida y responsable de su tecnología se vuelve más evidente cada día.

DECRYPT se puso en contacto con CAIDP y OpenAI para obtener comentarios, pero aún no ha recibido respuesta de ninguna de las partes. Sin embargo, los llamados a la concientización y la acción son cada vez más fuertes y, con el apoyo internacional de la UNESCO, el futuro del desarrollo ético y seguro de la IA parece más prometedor.