Expertos advierten sobre una posible ‘extinción’ de la humanidad

cryptoshitcompra.com/wp-content/uploads/2023/05/Expertos-advierten-sobre-una-posible-extincion-de-la-humanidad.jpg»/>

El martes, el Centro para la seguridad de la IA, una organización sin fines de lucro con sede en San Francisco, publicó una declaración firmada por casi 400 personas destacadas en el campo de la inteligencia artificial. La declaración destaca los riesgos potenciales de la IA que conducen a la extinción de la humanidad y pide una priorización global para mitigar este riesgo. Los firmantes incluyen figuras de renombre como Sam Altman, director ejecutivo de OpenAI, así como ejecutivos de IA de alto rango de Google y Microsoft, junto con 200 académicos.

La declaración publicada recientemente se suma a una serie de preocupaciones planteadas por los expertos en inteligencia artificial. Sin embargo, también ha provocado una creciente reacción violenta entre aquellos que creen que el enfoque en los riesgos hipotéticos de la IA es exagerado. meredith whittakerel presidente de Signal y principal asesor de la Instituto AI Nowuna organización sin fines de lucro dedicada a las prácticas éticas de IA, criticó la declaración, percibiéndola como un ejemplo de líderes tecnológicos que hacen afirmaciones grandiosas sobre sus productos.

CEO de Hugging Face edita declaración para enfatizar AGI

DelangueDirector de cara de abrazo, compartió una versión editada de la declaración en Twitter, usando «AGI» en lugar de «AI». AGI es una forma teórica de IA que está a la par o supera las capacidades humanas. Esta alteración destaca la distinción entre la IA de propósito general y las aplicaciones de IA más específicas.

La declaración reciente sigue a una petición firmada hace dos meses por líderes tecnológicos y de inteligencia artificial, que incluye Almizcle y Wozniak. La petición pedía una «pausa» en la investigación de IA a gran escala de acceso público. Sin embargo, estas personas aún no han firmado la nueva declaración y no se ha implementado ninguna pausa en la investigación.

Declaración condicional de Altman sobre la salida de OpenAI de la UE debido a una regulación excesiva

Altman, un defensor de la regulación de la IA, recientemente impresionó al Congreso. Organizó una cena privada con miembros de la Cámara y obtuvo apoyo bipartidista durante una audiencia en el Senado.

Sin embargo, la postura de Altman sobre la regulación tiene sus límites. Dijo que OpenAI podría considerar abandonar la Unión Europea si AI enfrenta una regulación excesiva. La Casa Blanca ha esbozado iniciativas de IA, pero actualmente no se planea una regulación extensa de la industria.

Enfoque integral para la gestión de riesgos de IA

marcus gary, crítico de IA y profesor emérito de la NYU, reconoce los riesgos reales asociados con la IA. Sin embargo, argumenta que centrarse únicamente en un escenario hipotético del fin del mundo puede distraer.

Marcus destaca el riesgo de extinción literal como solo uno de los muchos riesgos relacionados con la IA que exigen atención. Comprender y abordar estos riesgos de manera integral es importante para el desarrollo y la implementación responsables de las tecnologías de IA.

Amenazas inmediatas de la IA: Deepfakes y desinformación

Según algunos expertos en tecnología, las aplicaciones más inmediatas y comunes de la IA representan una mayor amenaza para la humanidad. Presidente de Microsoft brad smithpor ejemplo, ha expresado su preocupación por los deepfakes y su potencial para la desinformación.

El impacto de los deepfakes en la sociedad, particularmente su potencial para difundir información falsa, es una preocupación importante para Smith. Una imagen fabricada generada por IA circuló en Twitter, mostrando una explosión cerca del Pentágono, causando una breve caída del mercado. El incidente destaca los peligros del mal uso de la IA para manipular el contenido y difundir narrativas falsas, causando un daño sustancial.