Actualmente, la Inteligencia Artificial es capaz de cosas tan increíbles como conducir coches en carreteras o ganar concursos de arte.
Una cuestión que se plantea desde hace tiempo en este campo es si una IA superinteligente podría acabar con la humanidad. Los investigadores de la Universidad de Oxford y afiliados a Google DeepMind han concluido que la inteligencia artificial puede suponer un riesgo existencial para la humanidad.
Los modelos de IA de más exito hoy en día se conocen como GANs, o Redes Generativas Adversariales. Tienen una estructura de dos partes en la que una parte del programa intenta generar una imagen (o frase) a partir de los datos de entrada, y una segunda parte califica su rendimiento.
Lo que el nuevo artículo propone es que, en algún momento del futuro, una IA avanzada que supervise alguna función importante podría verse incentivada a idear estrategias tramposas para obtener su recompensa de forma que perjudique a la humanidad.
«Bajo las condiciones que hemos identificado, nuestra conclusión es mucho más fuerte que la de cualquier publicación anterior: una catástrofe existencial no sólo es posible, sino probable», dijo Cohen en un hilo de Twitter sobre el artículo.
Dado que la IA del futuro podría adoptar cualquier número de formas e implementar diferentes diseños, el documento imagina escenarios con fines ilustrativos en los que un programa avanzado podría intervenir para obtener su recompensa sin alcanzar su objetivo.
El documento prevé que la vida en la Tierra se convierta en un juego de suma cero entre la humanidad, con sus necesidades …