Nueva York da un paso adelante con la primera legislación de seguridad de IA de su tipo tipo

TLDR:

• Nueva York se convierte en el primer estado en aprobar un proyecto de ley integral de seguridad de IA que se dirige a los modelos de IA fronteriza.
• La Ley de aumento establece la transparencia obligatoria y los estándares de informes para los principales desarrolladores de IA.
• Los legisladores dicen que el proyecto de ley equilibra la seguridad con la innovación, protegiendo nuevas empresas más pequeñas de la regulación indebida.
• La reacción de la industria ha sido rápida, pero los funcionarios argumentan que el peso económico de Nueva York hace que el cumplimiento sea inevitable.

Los legisladores del estado de Nueva York han aprobado la Ley de aumento, un proyecto de ley innovador destinado a regular la seguridad de los sistemas AI avanzados.

La legislaciónaprobado el jueves apunta a los modelos de IA fronteriza desarrollados por principales empresas como OpenAi, Google y Anthrope. Estos modelos, entrenados en una potencia informática masiva y capaces de consecuencias de largo alcance, han planteado serias preocupaciones de seguridad entre los investigadores y los formuladores de políticas por igual.

La Ley de Aumento, abreviatura de la inteligencia artificial responsable en la participación social, busca evitar riesgos catastróficos al exigir a los desarrolladores de poderosos sistemas de IA que presenten evaluaciones detalladas de seguridad y seguridad. Estos incluyen informes sobre el mal uso potencial, las vulnerabilidades técnicas e incidentes que involucran comportamientos inseguros o violaciones de datos. Las empresas que no sean conformes podrían enfrentar sanciones civiles de hasta $ 30 millones.

Barandas sin aplastar innovación

El senador del estado de Nueva York, Andrew Gounardes, uno de los copatrocinadores del proyecto de ley, dijo que la urgencia de legislar la seguridad de la IA nunca ha sido mayor.

«La ventana para colocar las barandillas se reduce rápidamente dado lo rápido que está evolucionando esta tecnología», explicó, citando advertencias de destacados expertos en IA como Geoffrey Hinton y Yoshua Bengio, quienes han apoyado la medida.

Lo que hace que el aumento de la ley sea distinto de los esfuerzos anteriores, como el SB 1047 vetado de California, es su enfoque objetivo. El proyecto de ley está diseñado para aplicar solo a empresas cuyos modelos de IA han sido capacitados con más de $ 100 millones en recursos informáticos y están disponibles para los residentes de Nueva York. Gounardes enfatizó que las nuevas empresas y las instituciones académicas no son el foco, lo que respalda las críticas de que el proyecto de ley sofoca la innovación.

Reacción de Silicon Valley

A pesar de su estrecho alcance, la Ley de aumento se ha enfrentado a una fuerte resistencia de los inversores y empresas tecnológicas. Anjney Midha, una socia general de Andreessen Horowitz, desestimó la legislación como «otro estúpido y estúpido proyecto de ley de AI de nivel estatal». Los críticos argumentan que imponer cargas de cumplimiento a nivel estatal podría llevar a las principales empresas a retener sus productos de IA más avanzados de los residentes de Nueva York por completo.

---

---

Sin embargo, el asambleo Alex Bores, otro copatrocinador, rechazó esa posibilidad, diciendo que el incentivo económico para permanecer en Nueva York supera con creces la molestia.

“No quiero subestimar la mezquindad política que podría suceder, pero estoy muy seguro de que no hay razón económica para [AI companies] para no hacer que sus modelos estén disponibles en Nueva York ”, dijo.

¿Establecer un precedente nacional?

Si la gobernadora Kathy Hochul se registra en la ley, la Ley de aumento marcaría la primera vez que Estados Unidos ha implementado requisitos de seguridad y transparencia legalmente vinculantes específicamente adaptados para los sistemas de IA fronterizos. Eso colocaría en Nueva York por delante de los esfuerzos federales y otros estados en la carrera para establecer estándares éticos para el despliegue de IA.

Al mismo tiempo, Nueva York también está explorando una legislación paralela que aborda la discriminación algorítmica y la protección del consumidor. La Ley Propuesta de AI de Nueva York y la Ley de Protección tienen como objetivo regular el uso de IA en decisiones consecuentes como empleo y crédito, auditorías exigentes, derechos de exclusión y supervisión humana.