Twitter ha anunciado su primer reto para recompensar económicamente a quienes consigan identificar sesgos de su algoritmo. La red social pagará entre 500 y 3.500 dólares a quienes puedan descubrir estos problemas que pueden llegar a discriminar a los usuarios.
No hay que olvidar que el pasado año, la plataforma protagonizó una gran polémica tras descubrirse que el algoritmo de Twitter de recorte de imágenes eliminaba de forma repetida rostros negros o con el tono de piel oscuro en general, en favor de las caras de presonas blancas.

En mayo de este año reconoció que ese sesgo era cierto (tras haber negado que eso sucediese en otoño del pasado año) y publicó en GitHub su código para que desarrolladores pudieran apoyar en la tarea de mejorar este problema. Otra investigación demostró que favorecía a los hombres en detrimento de las mujeres con este mismo algoritmo.

Así es el concurso

Según las palabras de Rumman Chowdhury y Jutta Williams, ambas directivas en Twitter y que han anunciado este concurso, encontrar un sesgo en los modelos de aprendizaje automático (o machine learning) es difícil y, a veces, las empresas se enteran de los daños éticos involuntarios cuando ya han llegado al público. Como parte de la DEF CON AI Village de este año la firma ha introducido primer concurso de recompensas por sesgo algorítmico en su historia.

Los participantes que superen el reto deberán tener en cuenta métodos cuantitativos y cualitativos …