Hace unos pocos años —antes de DALL-E o MidJourney— empezaron a surgir las primeras webs de generación de rostros mediante inteligencia artificial. Todos estábamos legítimamente sorprendidos con su realismo, pero aún así había múltiples indicadores en los que podíamos fijarnos para identificar los rostros falsos…
…e incluso muchos de éstos aún tenían algo 'raro', de 'realista pero no', algo similar al 'fenómeno del valle inquietante', que nos hacía fruncir el ceño al verlos.
Pero eso era entonces. Ahora, como suele decirse, las cosas han avanzado que es un barbaridad: la IA generativa ha alcanzado un nivel de realismo asombroso, y algunos de sus resultados pueden incluso confundirnos, haciéndonos creer que estamos viendo a otros seres humanos. De hecho, un estudio reciente publicado en la revista Psychological Science ha arrojado algo de luz al respecto.
El estudio, titulado "AI Hyperrealism: Why AI Faces Are Perceived as More Real Than Human Ones," fue llevado a cabo por un equipo de investigadores de universidades británicas, australianas y canadienses. ¿Su objetivo? Investigar cómo las caras generadas por la IA son ahora percibidas como "más reales" que las fotografías de humanos de verdad.
Para llevar a cabo el estudio, se presentó a un grupo de adultos blancos una mezcla de 100 imágenes generadas por IA y 100 fotografías de personas reales de raza blanca. A estos participantes se les pidió que identificaran cuáles eran las caras reales y cuáles las generadas por IA, así como su nivel de confianza en sus decisiones.
Los resultados fueron sorprendentes: el 66% de las imágenes generadas por IA fueron identificadas como caras humanas, en comparación con el 51% de las imágenes reales.
Los investigadores sugieren que factores como la proporcionalidad, la familiaridad y la falta de rasgos distintivos hicieron que las caras generadas por IA parecieran más reales a los participantes. Esta percepción de atractivo y normalidad en las caras generadas por IA hizo que resultasen más difíciles de distinguir de las caras humanas reales.
Sin embargo, este fenómeno no se observó en imágenes de personas 'de color', donde tanto las caras generadas por IA como las reales se percibieron como humanas en aproximadamente el 51% de las ocasiones, independientemente de la raza del participante. Esto sugiere que el sesgo en los modelos de IA, que a menudo se entrenan principalmente con imágenes de personas blancas, puede estar influyendo en este fenómeno de 'hiperrealismo IA'.
También existen, sin embargo, multitud de modelos de IA especializados en la generación de rostros asiáticos (de Extremo Oriente)
Tenemos un problema
El estudio también reveló que los participantes que con mayor frecuencia identificaron incorrectamente las caras eran precisamente las que tenían mayor confianza en sus propias valoraciones, lo que se conoce como el efecto Dunning-Kruger. En otras palabras, las personas que estaban más seguras de sus decisiones eran más propensas a equivocarse.
Curiosamente, aunque los humanos tuvieron dificultades para diferenciar entre caras reales y generadas por IA, los investigadores desarrollaron un sistema de aprendizaje automático capaz de detectar la respuesta correcta en un 94% de las ocasiones.
La incapacidad de las personas para diferenciar entre rostros reales y generados por IA podría llevar a un auge de prácticas engañosas como el fraude de identidad.
Además, según Dr. Zak Witkower, coautor de la investigación, este sesgo racial en la generación de rostros mediante IA podría tener consecuencias negativas en ámbitos como la búsqueda de personas desaparecidas o el reconocimiento facial en sistemas de seguridad pública.
Ver 0 comentarios