Google nos está sorprendiendo estos días con muchos anuncios de sus nuevas herramientas de inteligencia artificial para lograr hacer frente a sus grandes rivales en el mercado, sobre todo las diversas aplicaciones de OpenAI y de Microsoft. Aun así, parece que con algunas de sus tecnologías se ha precipitado antes de ponerlas en manos de todo el mundo y ahora comienza a recular.
Ayer veíamos que las redes estaban acusando a la IA de Gemini de generar imágenes históricamente incorrectas y que Google les daba la razón. Por ejemplo, si le pedías que hiciera dibujos de soldados de la Alemania Nazi de los años 30 del siglo pasado te puede mostrar a gente con rasgos asiáticos o personas negras portando los uniformes de los nazis. Nada más lejos de la realidad y además, ofensivo para muchas personas.
Ahora la empresa de Mountain View ha decidido pausar su Gemini para generar imágenes de personas, tras ver que su intento simplista de de subvertir los estereotipos raciales y de género que se encuentran en la IA generativa no ha tenido en cuenta otros aspectos mucho más profundos. Esta imagen es un ejemplo, que ha compartido el medio de comunicación The Verge:
Gemini
La IA todavía no estaba disponible en Europa para generar imágenes.
Sesgos muy graves
En general, mezcla tonos de piel y rasgos diferentes en los resultados que crea sin tener en cuenta contextos históricos en absoluto. Por ejemplo, si le pides que te dibuje “un senador estadounidense del siglo XIX” te puede mostrar como primeros resultados a mujeres negras y nativas americanas.
En la vida real, la primera senadora fue una mujer blanca en 1922, por lo que las imágenes de IA de Gemini con este brutal sesgo solo serviría para borrar la historia de la discriminación racial y de discriminación de género que nos precede y que marca muchos desafíos que muchas personas aún viven hoy en día por estos temas.
A la espera de otra versión
Según la empresa ha publicado en su perfil de X, que "ya estamos trabajando para solucionar problemas recientes con la función de generación de imágenes de Gemini. Mientras hacemos esto, vamos a pausar la generación de imágenes de personas y pronto volveremos a publicar una versión mejorada".
Esto, tras decir ser conscientes de que Gemini ofrece imprecisiones en algunas representaciones de generación de imágenes históricas.
Esto ha causado, con razón, controversia. La gente está hablando de cómo una empresa tan grande como Google y con su impacto en la sociedad, ha podido lanzar una herramienta que puede estar en manos de todo el mundo, sin percatarse ni siquiera de errores tan básicos como los que está mostrando.
Vía | The Verge
Imagen | Resultado ofrecido por Gemini y hecho viral en X
En Genbeta | Los expertos avisan que la IA puede terminar colapsando: sus datos están siendo contaminados por otras IA
Ver 6 comentarios