El uso de inteligencia artificial tiene numerosas ventajas en nuestro día a día, pero también desventajas con problemas graves como sus “alucinaciones”. Y es que las IA generativas como ChatGPT tienen que dar una respuesta aunque no se las sepan del todo, y de esta manera nacen las “alucinaciones”.

Estas alucinaciones al final pueden provocar que se genere información falsa como ya vimos en el vídeo presentación de Bard donde se dijo una afirmación falsa sobre el Telescopio Espacial James Webb. Y esto provocó un gran revuelo, sumándose a diferentes afirmaciones hechas por ChatGPT que se usaron en altos tribunales.

OpenAI quiere arreglar las imprecisiones

Para poder paliar este problema, OpenAI ya trabaja en diferentes sistemas para evitar estas alucinaciones. La nueva estrategia que se está poniendo encima de la mesa, según CNBC, es entrenar a los modelos de IA para recompensarse a sí mismos siempre que hagan el buen recurrido. De esta manera no se premiará únicamente la conclusión final a la que llega el modelo de inteligencia artificial.

Este nuevo enfoque recibe el nombre de "supervisión de procesos" y no "supervisión de los resultados", teniendo al final una IA que se pueda explicar mucho mejor y que tenga una cadena de razonamiento que se parezca mejor a la humana. Al final aprenderá de sus propios errores, pero de manera interna a cómo ha llegado a una conclusión que a priori es errónea.

Si bien, OpenAI no es la creadora de …