Tan interesante como distópica resulta la siguiente historia acerca de las simulaciones con un dron de la Fuerza Aérea estadounidense que en unos «juegos de guerra» de esos de prueba ha mostrado un peculiar comportamiento debido a los «objetivos desalineados», algo sobre lo que se habla mucho en teoría pero que luego es difícil controlar en la práctica. Al final acaba la cosa como con el superordenador W.O.P.R. de Juegos de Guerra.

Básicamente al dron se le instruyó con la orden de destruir objetivos premiándole con puntos, aunque los operadores humanos podían tener la última palabra sobre la acción final a llevar a cabo (sí/no destruir los objetivos). ¿Qué sucedió? El dron interpretó que podría cumplir mejor con su objetivo y conseguir más puntos eliminando antes al operador humano que a veces decía «no destruir». Pero la cosa no se quedó ahí; el relato es inquietante:

(…) En una prueba simulada se encargó a un dron dotado de IA una misión identificación y destrucción de emplazamientos SAM [misiles tierra-aire], en la que la decisión final de «destruir» o «no destruir» la tomaba un humano. Sin embargo, tras haber sido «reforzada» en el entrenamiento para que la destrucción de los SAM fuera la opción preferida, la IA decidió que las decisiones de «no destruir» del humano estaban interfiriendo con la misión principal -destruir los SAM- y atacó al operador en la simulación.
Tal y como explican los expertos: «Lo entrenamos en la simulación para identificar y apuntar a una amenaza SAM. Y …