Sam Altman, director ejecutivo de OpenAI ha publicado Planning for AGI and beyond («Planes para la inteligencia artificial general (IAG) y más allá»), una especie medio de plan, medio declaración de intenciones, medio avisos para el futuro sobre los desarrollos en IAG. Esta es la forma en que se suele denominar a las IAs fuertes de «capacidades generales» y «más inteligentes que los seres humanos» frente a las IAs débiles, «para propósitos concretos» y «no tan listas como las personas».

El resumen de sus disquisiciones lo da al principio de la declaración:

Queremos que la IAG permita a la humanidad florecer al máximo en el universo (…) maximizar lo bueno y minimizar lo malo, y que la IAG sea un amplificador de la humanidad.
Queremos que los beneficios, el acceso y la gobernanza de la IAG se compartan de forma amplia y justa.
Queremos sortear con éxito los grandes riesgos (…) Creemos que tenemos que aprender y adaptarnos continuamente desplegando versiones menos potentes de la tecnología para minimizar los escenarios en los que sólo hay «una oportunidad para hacerlo bien».

Hay quien como Javi López califican este documento como momento histórico. Me ha gustado su análisis; aunque es optimista apunta algunas situaciones que también dan mieduqui o pueden resultar un poco aterrorizantes, estilo Proyecto Manhattan. Algo así como lo que le sucedió a Altozano. Dice López que por ejemplo:

(…) Aunque [en OpenAI] aceptan que hay riesgos potenciales, no consideran ni que sea deseable (subjetivo) ni que sea posible (totalmente objetivo) detener …