Objetividad o sesgo. Estos son dos temas importantes del infinito debate sobre la inteligencia artificial, su eficiencia, y su ética. Este debate que nunca se ha cerrado, se ha retomado hoy rápidamente en Twitter de la mano del usuario @fasterthantimeline que consiguió levantar las voces de muchos otros usuarios con una simple pregunta.
Retomando un tema intenso del pasado mes de febrero volvió a preguntar “una vez más” que quién ha llamado machine learning a lo que él considera que debería llamarse “bias automation” o automatización del sesgo. Para ello, recuerda un estudio que muestra que el uso de la inteligencia artificial en entrevistas de trabajo puede estar plagado de sesgos.
Muchas veces raciales. Otras de aspecto: el simple uso de unas gafas para ver cambian la opinión del software sobre la misma persona diciendo lo mismo que esa misma sin lentes. Incluso la decoración hace grandes cambios en las valoraciones finales. Una simple estantería situada tras de ti en una entrevista online puede hacer a un programa de inteligencia artificial considerarte mucho más abierto, consciente, amable y extrovertido que quien da la misma entrevista con una pared vacía detrás.
Si lleva gafas es menos responsable y más introvertida
Esto sucedió con el software de una start-up con sede en Múnich que había recibido mucho apoyo financiero de inversores porque su servicio consiguió atraer su atención, de acuerdo con el estudio. Este promete analizar el tono de voz, el lenguaje, los gestos y las expresiones faciales y crea un perfil de comportamiento de la personalidad.
Sin embargo, como se puede ver en el estilo la misma persona con accesorios extra como un pañuelo en la cabeza o unas gafas, condicionaban la evaluación final del sistema. Para ello, una mujer de nombre Stefanie, hizo la misma entrevista con diferentes complementos.
El software usa el llamado modelo OCEAN que analiza los siguientes rasgos de prsonalidad que pueden evaluar a una persona: Apertura, Conciencia o responsabilidad, Extraversión (que comprende la empatía), Simpatía y Neuroticismo (o rango emocional, es decir la magnitud a la que son sensibles las emociones de una persona).
Como se puede ver en la siguiente imagen, una persona que lleva gafas es considerada como menos responsable (es decir, la tendencia de una persona a actuar de forma organizada o meticulosa) que quien no necesita gafas. También es aprenciada como más introvertida.
Por su parte, si la misma Stefanie lleva un pañuelo en la cabeza, como puedes ver en las valoraciones siguientes aportadas por el software, es considerada más abierta, extrovertida y amable.
"No esperábamos ver estos resultados al cambiar simplemente de ropa", dicen los encargados del informe. ¿Por qué los accesorios, como el pañuelo en la cabeza o las gafas, deberían importar a la hora de evaluar la personalidad?
También le pusieron a la actriz una peluca, la peinaron con flequillo sobre la frente, le cambiaron su blusa y su americana. Y las opiniones del software iban cambiado según lo hacían estos pequeños matices de la apariencia física de Stefanie.
Además, la actriz también repitió varias veces la prueba siempre con el mismo estilo y ahí los parámetros de su supuesta personalidad, según el sistema de inteligencia artificial, no cambiaron nada.
Ver 1 comentarios