Se necesita una acción urgente para abordar el auge de la IA, dice un experto en ética de la IA

cryptoshitcompra.com/wp-content/uploads/2023/05/Se-necesita-una-accion-urgente-para-abordar-el-auge-de.jpg»/>

Kathy Baxterarquitecto principal de la práctica ética de IA en Fuerza de ventas, ha instado a los desarrolladores de IA a actuar con rapidez en la creación e implementación de sistemas que aborden el sesgo algorítmico. En una entrevista con ZDNet, Baxter enfatizó la importancia de la representación diversa en los conjuntos de datos y la investigación de usuarios para garantizar la equidad y la imparcialidad en los sistemas de IA. También subrayó la necesidad de transparencia, comprensión y responsabilidad al tiempo que se salvaguarda la privacidad individual. Baxter destacó el valor de la colaboración intersectorial, citando al Instituto Nacional de Estándares y Tecnología (NIST) como modelo para desarrollar sistemas de IA robustos y seguros que beneficien a todos.

Escrutando el impacto

En el ámbito de la ética de la IA, una preocupación fundamental gira en torno al desarrollo y la implementación que no refuercen ni introduzcan sesgos sociales. Para abordar esto, Baxter enfatizó la necesidad de examinar quién se beneficia y quién asume los costos. Para garantizar una consideración integral y la inclusión de todas las perspectivas, es crucial garantizar activamente la inclusión y representación de diversas voces dentro de los conjuntos de datos. Involucrar diversas perspectivas a lo largo del proceso de desarrollo y realizar investigaciones de usuarios para identificar posibles daños también son de suma importancia.

“Esta es una pregunta fundamental que requiere discusión”, comentó Baxter. “Las mujeres de color, en particular, han estado explorando e investigando este tema durante años. Es alentador ver a más personas participar en este diálogo, especialmente en relación con la IA generativa. Sin embargo, debemos preguntarnos fundamentalmente: ¿Quién se beneficia de esta tecnología? ¿Quién asume sus consecuencias? ¿Las voces de quién tienen la oportunidad de ser escuchadas?

Reconocer el impacto de los conjuntos de datos

Sin darse cuenta, puede heredar sesgos sociales de los conjuntos de datos utilizados para su entrenamiento. Los sistemas de IA sesgados pueden surgir de conjuntos de datos no representativos que carecen de diversidad o no logran capturar las variaciones culturales. Además, cuando los sistemas se implementan de manera desigual en toda la sociedad, pueden reforzar y perpetuar los estereotipos existentes.

Dar prioridad a la explicabilidad durante el desarrollo es crucial para mejorar la transparencia y la comprensión para el público. La «cadena de mensajes de pensamiento» puede hacer que el razonamiento de los sistemas de IA sea más comprensible y mejorar su proceso de toma de decisiones. La investigación de usuarios juega un papel vital para garantizar que las explicaciones sean claras, lo que permite a los usuarios identificar incertidumbres en el contenido generado por IA.

Construyendo una base para la IA ética

Si bien las perspectivas futuras de la IA, incluido el potencial de la inteligencia artificial general, despiertan curiosidad, Baxter enfatiza la importancia de dirigir nuestra atención al presente. Priorizar el uso responsable y abordar los prejuicios sociales hoy sentará una base sólida para navegar por los avances futuros. Al dedicar recursos a prácticas éticas de IA y fomentar la colaboración entre diferentes industrias, podemos contribuir colectivamente a dar forma a un futuro más seguro e inclusivo para la tecnología de IA.

Baxter declaró: “El marco de tiempo es crucial. Debemos invertir en el presente, desarrollando nuestra experiencia, recursos y regulaciones para permitir un progreso seguro en la IA”.