Para esta IA, los ojos son el espejo del alma: es capaz de detectar deepfakes por la forma en que reflejan la luz

Para esta IA, los ojos son el espejo del alma: es capaz de detectar deepfakes por la forma en que reflejan la luz
4 comentarios

Desde el mismo momento en que los avances de la inteligencia artificial permitieron crear los primeros 'deepfakes', quedó claro que tenían un gran potencial para toda clase de propósitos infames, desde la difusión de noticias falsas hasta la producción de material pornográfico.

Y, como la evolución de la IA no parece frenarse, esta manipulación de imágenes resulta cada vez más difícil de detectar para el ojo humano… pero también, por fortuna, resulta más fácil de detectar para la propia inteligencia artificial.

Y con este fin, unos investigadores de la Univ. de Buffalo han creado una nueva herramienta basada en el uso de machine learning que apuesta por un método sorprendentemente simple para detectar los deepfakes de rostros: analizar la luz reflejada en los ojos.

Al probarla en fotos de estilo retrato, la herramienta demostró su utilidad detectando el 94% de los deepfakes creados mediante el uso de GANs (redes generativas antagónicas).

Y es que, dado que nuestras córneas constituyen una superficie reflectante, los puntos de luz capturados en las fotos no sólo se distribuyen siguiendo unos determinados patrones, sino que el reflejo debe ser prácticamente igual en ambos ojos, pues ambos están viendo lo mismo.

Sin embargo, las fotos deepfake generalmente no logran capturar con precisión esta similitud en los reflejos: al generarse a partir de muchas otras fotos, este tipo de detalles suelen exhibir inconsistencias, como diferentes formas geométricas o ubicaciones desiguales.

De modo que la IA creada por estos investigadores sólo tiene que mapear los rostros sometidos a verificación y analizar la luz reflejada en cada globo ocular. Con base en eso, proporciona una puntuación que actúa como indicativo de similitud. A menor puntuación, mayor probabilidad de que la foto sea un 'deepfake'.

Por desgracia, este logro sólo es otro paso más en un juego del gato y el ratón

El sistema, por supuesto, no es infalible: si los ojos no están abiertos no hay nada que analizar, y si sencillamente la mirada del sujeto no se dirige a la cámara, puede desembocar en falsos positivos.

Por último, este mecanismo pierde su eficacia una vez que los deepfakers conocen el punto débil de sus creaciones: a partir de ahora, podrán corregir sus 'creaciones' recurriendo al postprocesamiento manual.

Y es que debemos recordar que en la carrera para crear la tecnología capaz de detectar los deepfakes, los falsificadores llevan ventaja… aunque siempre podemos confiar en seguir avanzando gracias a la capacidad de la IA para apreciar diferencias donde el ojo humano no ve nada.

Vía | The Next Web

Temas
Inicio