¿Es suficiente para paliar el riesgo de extinción?

OpenAI ha anunciado un programa de subvenciones de 1 millón de dólares para mejorar las capacidades de ciberseguridad de la inteligencia artificial (IA). La noticia llega cuando el mundo pasa de la emoción a la ansiedad por el riesgo de extinción que plantea la IA.

El movimiento indica que la compañía quiere agregar una cara responsable y responsable a la tecnología de rápido crecimiento. Sin embargo, es probable que el fondo sea escaso para una empresa que espera $ 1 mil millones en ingresos para 2024.

¿Es suficiente $ 1 millón para la seguridad cibernética?

OpenAI quiere «empoderar a los defensores», entidades que protegen los sistemas informáticos y las redes de actividades maliciosas. La compañía también quiere «elevar la conversación» y fomentar debates profundos sobre la intersección de la IA y la ciberseguridad.

Se están considerando varias vías. Estos incluyen la identificación de problemas de seguridad en el código fuente, la creación de tecnología engañosa para desviar a los atacantes y ayudar a los ingenieros inversos a detectar malware.

cryptoshitcompra.com/wp-content/uploads/2023/06/¿Es-suficiente-para-paliar-el-riesgo-de-extincion.png» alt=»Riesgo de extinción: tamaño del mercado para A» class=»lazy wp-image-330952″/>

OpenAI es uno de los operadores de mayor reputación en la industria, habiendo sido pionero en ChatGPT. Según UBS, citando datos de la firma de analistas Similarweb, el chatbot de IA es «la aplicación de consumo de más rápido crecimiento en la historia».

Sin duda, algunos verán este movimiento como un gesto simbólico para una empresa que domina el espacio de la IA.

Riesgo de extinción que representa la adopción de la IA

El anuncio se produce pocos días después de que la empresa firmara un carta abierta con el Centro para la Seguridad de la IA. Advirtió que la IA podría causar un evento de nivel de extinción.

Además, otros signatarios incluyeron destacados académicos, expertos en IA, políticos, tecnólogos y Bill Gates.

“Mitigar el riesgo de extinción de la IA debería ser una prioridad global junto con otros riesgos a escala social como las pandemias y la guerra nuclear”, se lee en el comunicado.

La subvención no es la primera de OpenAI. El mes pasado, la compañía anunció su Programa de recompensas por errores invitando a expertos a buscar «vulnerabilidades, errores o fallas de seguridad» en sus sistemas.

La explosión de herramientas de IA desde el año pasado fue inicialmente recibida con diversión. La primera ola estuvo dominada por generadores de imágenes de IA como DALL-E (también propiedad de OpenAI), cuyas creaciones a menudo eran espeluznantes y distorsionadas.

Sin embargo, el lanzamiento de ChatGPT a finales de 2022 ha disparado la popularidad y la visibilidad de la tecnología. Desde entonces, el crecimiento exponencial de la tecnología y los peligros potenciales se han hecho plenamente visibles.

Los gobiernos de todo el mundo están compitiendo para regular esta incipiente industria y poner barreras a una tecnología en la que pocos pensaron a principios de la década.