Esta inteligencia artificial tiene una sola misión: volver locas a otras inteligencias artificiales destrozando su entrenamiento

Glazed1
2 comentarios Facebook Twitter Flipboard E-mail

Ya está aquí la versión 1.0 de Glaze, la IA que ofrece a los artistas protección contra otras IAs. Glaze se desarrolló en respuesta al lanzamiento de modelos de IA como MidJourney y Stable Diffusion, que son entrenados con miles de millones de imágenes sin autorización de los autores de las mismas. ¿Y en qué sentido 'responde' Glaze a este problema? Pues interfiriendo con la capacidad de esas otras IAs para analizar ciertos detalles concretos de las obras de arte.

Así, una vez que una imagen 'glazeada' es descargada e incluida en un dataset de entrenamiento, la IA en entrenamiento podrá procesar formas y objetos básicos en la misma, pero no podrá capturar lo que hace único a un artista: los patrones de aspectos como los trazos del pincel o las paletas de colores.

Esto se logra añadiendo un 'camuflaje' superpuesto a la imagen original (aunque uno que ofrece 'robustez frente a la eliminación', que no es tan fácil de quitar como una marca de agua) que le confunde y le hace pensar que está viendo el estilo que tú prefieras.

"El camuflaje no es una marca de agua frágil, que se ve o no se ve: es una transformación de la imagen en una dimensión que los humanos no perciben, pero sí en las dimensiones en las que el modelo de aprendizaje profundo percibe estas imágenes.
Así que las transformaciones que rotan, desenfocan, cambian la resolución, recortan, etc. , no afectan a la capa, del mismo modo que esas operaciones no cambiarían tu percepción de lo que hace que un cuadro de Van Gogh sea 'un Van Gogh'".
Un vistazo a…
ZAO, la APP MÓVIL china que a través de DEEPFAKE te convierte en DICAPRIO en SEGUNDOS

IA contra IA. ¿Objetivo? Cortocircuitar

Este camuflaje permite seguir apreciando la imagen original, pero 'vuelve loca' a la otra IA. No es la primera vez que se aprecia este fenómeno: se llama 'ataque antagónico', y en el pasado ya ha permitido imprimir en 3D tortugas que otras IAs identificaban como rifles, o pegatinas para el asfalto capaces de convencer a los Tesla de conducir en dirección contraria.

Rifle
¿Ves ese curioso patrón en la concha de la tortuga? Pues eso, ya en 2017, las IAs de reconocimiento visual lo interpretaban como un 'rifle'. ¿Qué loco todo, eh?

Todo esto mientras el ojo humano sigue viendo tortugas perfectamente reconocibles y las indicaciones de tráfico correctas, claro. Ahí está la gracia.

Sin embargo, quizá Glaze se parezca más a la pintura facial capaz de 'cortocircuitar' el reconocimiento de rostros mediante IA (sí, también hay de eso) o los parches para la ropa anti-reconocimiento de personas, porque en este caso el ojo humano sí es capaz de apreciar una (ligera) diferencia.

"Aunque es difícil predecir el rendimiento con modelos nuevos o patentados, hemos probado y validado el rendimiento de nuestra protección contra múltiples modelos de IA. Hasta ahora, no se han encontrado formas efectivas de romper la protección de Glaze

Un camuflaje, ahora, configurable

Cuando la primera beta de Glaze se lanzó hace tres meses, no faltaron opiniones que lo veían como una buena idea… pero entendían que la alteración creada en la imagen original por el camuflaje visual añadido podía afectar negativamente a su estética, lo que convertía a Glaze en una mala opción si pretendías vender tu arte online, por ejemplo.

Lpips Small
A la izquierda, imagen alterada con la primera beta de Glaze. A la derecha, el resultado de usar Glaze 1.0.

La versión 1.0, sin embargo, ofrece a sus usuarios la opción de "controlar hasta qué punto el camuflaje modifica la obra de arte original, desde la introducción de cambios totalmente imperceptibles hasta modificaciones ligeramente más visibles [que] proporcionan una mayor protección contra la capacidad de la IA para robar el estilo".

¿No llegamos ya tarde?

Los pintores e ilustradores que estén leyendo esto experimentarán, sin duda, sentimientos encontrados: 'poder recurrir a Glaze es algo positivo, pero… ¿resulta útil hacerlo a estas alturas, con docenas o cientos de obras de arte mías ya disponibles en Internet?'. La respuesta es sí… en la medida en que las nuevas versiones de los modelos vayan actualizando sus datasets de entrenamiento.

"Estos modelos de IA siempre están añadiendo más datos de entrenamiento para mejorar su precisión y mantenerse al día de los cambios en las tendencias artísticas con el paso del tiempo. Cuantas más imágenes 'glazeadas' publiques en Internet, más 'cambiará tu estilo' [de cara a esas IAs], acercándose al estilo objetivo. En algún momento, cuando el cambio sea lo suficientemente significativo, el modelo de IA empezará a generar imágenes en el estilo de Van Gogh cuando se le pregunte por tu estilo.
Hemos comprobado que, siempre que se produzca un ligero cambio en el espacio de características del modelo de IA, éste creará imágenes notablemente diferentes de tu estilo. Por ejemplo, las imágenes generadas pueden parecerse a un híbrido (incómodamente espeluznante) de tu estilo y el cubismo abstracto".

¿Y cómo lo uso?

Glaze se ejecuta localmente en Windows (preferentemente 10 y 11), y en Mac (Mac OS 13 o posterior) y se puede descargar gratuitamente de su sitio web oficial.

Imagen | PxFuel

En Genbeta | El Registro de la Propiedad Intelectual español también le niega el copyright a obras creadas por IAs: así lo argumenta

Comentarios cerrados
Inicio