Un año más Google I/O nos ha dejado un buen montón de titulares y, entre todos ellos, no puede dejarse escapar el trabajo que desde Mountain View aseguran estar haciendo para salvar los sesgos de la inteligencia artificial. Un problema que se arrastra desde hace años y que no parece remitir con el avance tecnológico.

Concretamente, Sundar Pichai habló de una investigación que están llevando a cabo para obtener datos sobre el funcionamiento de los algoritmos de inteligencia artificial de la compañía y asegurarse, exponía el director general en la conferencia, de que no reforzasen los sesgos existentes en nuestro mundo.

Google dice querer defenderse de los sesgos creados por la inteligencia artificial y sus algoritmos con más transparencia

Estos esfuerzos de los que habla la compañía californiana, cuyas resultados estarán por ver en un futuro, se concentran especialmente en una tecnología que han llamado TCAV (siglas de testing with concept activation vectors).

No asumiendo lo inasumible

El trabajo por hacer más transparentes los modelos de inteligencia artificial y aprendizaje automático, teniendo como objetivo la defensa de los prejuicios, se ejemplifican de forma excelente con uno de los ejemplos a los que se ha aludido: el del sector médico. Y en él resultará fundamental TCAV.

Esta tecnología es, en pocas palabras, un sistema que interpreta los indicios que toman los modelos de redes neuronales para llevar a cabo una predicción.

Por ejemplo, en el caso de los médicos y como puede verse en la imagen que precede estas …