Google Fotos y los gorilas: crónica de un error en la IA y dos días de disculpas

Google Fotos es la última aplicación estrella de la empresa del buscador. Emancipada de Google+, rediseñada y relanzada durante el pasado Google I/O a finales de mayo, la aplicación no sólo nos ofrece espacio ilimitado en la nube para subir todas nuestras fotografías, sino también un avanzado sistema de reconocimiento facial y de objetos para clasificarlas y ordenarlas.

Pero la inteligencia artificial que Google emplea para el reconocimiento facial en su nueva aplicación aun está lejos de ser perfecta, y en las últimas horas le ha sacado los colores a sus creadores al etiquetar como gorilas a dos personas de color, algo por lo que desde la empresa del buscador llevan dos días teniéndose que disculpar.

Crónica de un error y dos días de disculpas

Google Photos, y'all fucked up. My friend's not a gorilla. pic.twitter.com/SMkMCsNVX4

— diri noir avec banan (@jackyalcine) junio 29, 2015

La app identificó a sus amigos como gorilas

Todo empezó cuando hace dos días, el programador afroamericano neoyorquino Jacky Alciné se encontró un error bastante gordo en el sistema de reconocimiento facial de Google Fotos, el cual había etiquetado las fotos de dos de sus amigos como imágenes con gorilas.

Alciné admitió que podía adivinar cómo había pasado, pero que lo que no podía entender era el por qué, y se preguntaba qué tipo de datos estaba utilizando y comparando Google para que su aplicación arrojase estos resultados. La respuesta le llegó de parte del mismísimo arquitecto jefe de Google+, Yonatan Zunger, que se disculpó por el error y prometió solucionarlo lo antes posible, después de lo cual el primer paso fue eliminar temporalmente la etiqueta gorila.

@jackyalcine Holy fuck. G+ CA here. No, this is not how you determine someone's target market. This is 100% Not OK.

— Yonatan Zunger (@yonatanzunger) junio 29, 2015

Como era de esperar, hubo usuarios que intentaron abrir un debate racial con este suceso, y acusaron a Google de que el error se daba sólo con personas afroamericanas, mientras que los blancos no nos encontrábamos ningún tipo de problema.

@wiselar @louisgray @jackyalcine I wish it were. Until recently, it was confusing white faces with dogs and seals. Machine learning is hard.

— Yonatan Zunger (@yonatanzunger) junio 30, 2015

En esta ocasión Zunger también intervino para cortar el debate de raíz. Para ello aseguró que el aprendizaje de las inteligencias virtuales era difícil, y que el problema no era exclusivo de los afroamericanos, ya que también habían tenido problemas con personas blancas que habían sido etiquetadas como perros y focas.

El reconocimiento facial sigue evolucionando

En los últimos meses hemos podido ver noticias que nos hablaban de los avances de los sistemas de reconocimiento facial y del aprendizaje asistido o no asistido de las inteligencias artificiales que lo hacen posible. Pero a pesar de eso, sucesos como el de Google nos recuerdan que este tipo de sistemas aun tienen mucho camino por delante antes de llegar a ser perfectos.

Aun así, las aplicaciones que estos sistemas tienen aun en su actual fase de desarrollo son sorprendentes. Y no nos referimos únicamente a las imágenes creadas por las IAs de Google y Facebook, a que la red social pueda reconocernos aun cuando estemos de espaldas o que Microsoft juegue con ellos haciendo que adivinen nuestra edad o que nos diga si nos parecemos a un famoso.

El reconocimiento facial en los últimos meses se está poniendo serio, y también ha empezado a ser utilizado para reconocer enfermedades genéticas o para saber si somos nosotros los que aparecemos en las fotos de nuestros pasaportes. Incluso las autoridades policiales han empezado a implementarlo para conseguir identificar sospechosos en segundos.

Vía | Re/Code
En Xataka | Reconocimiento Facial