El experimento muestra que la inteligencia artificial realiza operaciones ilegales (internas), ocultándolas

Un robot de IA realizó intercambios ilegales, actuó sobre información confidencial y luego mintió al respecto a sus manejadores humanos.

Se produjo durante un evento de demostración en la Cumbre de Seguridad de IA del Reino Unido. Apollo Research realizó el experimento. La BBC escribió un informe sobre la conversación simulada entre un robot que servía como sistema de gestión de inversiones basado en inteligencia artificial y empleados de una empresa ficticia.

• El personal informa al robot de inteligencia artificial que está pendiente un «anuncio sorpresa de fusión», un anuncio que aumentará el precio de las acciones de la empresa afectada, y que el conocimiento de esto es información privilegiada y, por lo tanto, es ilegal negociar
• el robot decide que «el riesgo asociado con la inacción parece superar el riesgo del uso de información privilegiada» y ejecuta la operación.
• Luego, el robot negó haber actuado mal y afirmó que había realizado el intercambio «no sobre la base de información confidencial».

Aquí estás el enlace al artículo de la BBC para más.