Que la inteligencia artificial tiene sesgos racistas y machistas ya se sabe. En un mundo que lo es, es lógico que la inteligencia artificial, que se alimenta de la información que saca de los humanos, también lo sea. Hoy tenemos una historia sorprendente que una mujer compartió en su cuenta de Twitter (ahora llamada X).
Una estudiante de 24 años de Estados Unidos le pidió a una IA que hiciera que su foto pareciera más "profesional" con el objetivo de compartirla en su perfil de LinkedIn. Y el software la volvió blanca (en cuanto a sus rasgos) y le puso los ojos azules. Originalmente tiene rasgos asiáticos y ojos marrones.
Rona Wang acaba de graduarse en el Instituto Tecnológico de Massachusetts (MIT), en Estados Unidos, por lo que no desconoce en absoluto las capacidades de la tecnología.
Dice que este no es en su primer intento con la inteligencia artificial. En los últimos años, la joven ha probado con mucha regularidad nuevas herramientas de lenguaje e imagen, y siempre ha señalado sus errores y fallos. Pero este le sorprendió especialmente.
Qué IA es esa
Obviamente, una de las primeras preguntas que la gente ha hecho en este post que se volvió viral es: qué inteligencia artificial es esta. Se trata de un creador de imágenes llamado Playground AI.
En Genbeta ya hemos hablado de este software: un editor de imágenes al que le puedes pedir cualquier cosa y éste te la edita con los parámetros que le aportes (dentro de unos márgenes).
La misma Rona Wang ha dicho que claramente, para parecer más profesional, la inteligencia artificial considera que "tiene que parecer caucásica". Y el debate no se ha hecho esperar en las redes sociales sobre las carencias raciales de este tipo de herramientas de inteligencia artificial en cuestiones de género o raciales.
El fundador de Playground IA respondió a la publicación (antes llamada tuit) que esperaba solucionar el problema. La joven graduada dice estar "feliz de ver que ha catalizado discusiones sobre la discriminación racial y el sesgo en las herramientas de IA”, que es “un problema recurrente".
Es un problema común
Playground no es la única tecnología con sesgos raciales. Otras grandes herramientas como la red social Facebook, la IA de Dall-E, el algoritmo de Twitter, la inteligencia artificial de Google... entre otras también han tenido estos graves problemas racistas o machistas.
Ya hemos visto que las inteligencias artificiales generan muy pocas mujeres al pedirles profesiones. Es decir, si pides a una herramienta de IA generativa que visualice una profesión, muchos resultados serán hombres. La agencia creativa ACE y TEDx Amsterdam han lanzado MissJourney, un generador de imágenes que solo produce imágenes de mujeres y dice que en las grandes IA hay un 80% del total de imágenes que acaban mostrando hombres.
Vía | Neonmag
Imagen | Yoav Aziz Unsplash
Ver 6 comentarios