La inteligencia artificial pese a que tiene muchas ventajas para nuestro día a día, también llega a tener usos que nos pueden llegar a asustar. El ejemplo más claro lo tenemos muy reciente en un pueblo de Extremadura donde menores de entre 12 y 14 años han cogido fotografías de niñas de su pueblo y las han desnudado con una IA para difundirlas entre ellos.
Esto es un grave problema, y nosotros hemos podido probar una inteligencia artificial que permite realizar exactamente esto. Y la realidad es que el resultado nos ha dejado de piedra, porque a diferencia de otras como DeepNude, no se cuenta con ningún mensaje que afirme que estamos ante un desnudo falso. Simplemente, se genera a partir de la fotografía que se sube y se va a poder descargar sin problema para comenzar a compartir.
Las IA para desnudar a personas son un auténtico negocio
Como decimos, hemos podido probar una de las inteligencia artificiales más famosas para desnudar a gente. Y el resultado es bastante bueno, manteniendo tonalidades de piel y apareciendo una chica completamente sin ropa (porque si, estos servicios se anuncian casi siempre como IA que van a desnudar solo a mujeres). Y hablamos solo de chicas porque esta IA no desnuda a hombres (como ocurre con otras), obteniendo en este caso un muy mal resultado y para nada realista.
Imagen creada con la IA Stable Diffusion para realizar el desnudo de demostración.
El resultado por ende es bastante realista, y se puede llegar a pensar que la chica efectivamente estaba posando sin ningún tipo de ropa. El único aviso que aparece y que indica que es un fake nude se presenta en la parte inferior a modo de marca de agua donde aparece la URL de la web que se usa para crear estos montajes. Pero obviamente es algo que se puede recortar de una manera muy sencilla.
Los requisitos que debe cumplir una fotografía para que pueda ser desnudada al completo son realmente sencillos de cumplir. Lo más importante de todo es que no se debe llevar un gran abrigo, sino que la ropa debe ser más o menos ligera. Además, únicamente va a poder aparecer una chica en la fotografía, ya que en el caso de que haya varias no va a funcionar correctamente. Y por último la calidad de la luz y que tenga un buen enfoque va a ser fundamental para que la IA pueda detectar a la modelo y desnudarla.
Pero obviamente esta IA no está abierta a todo el mundo, y un reclamo así de desnudar a cualquier persona es un gran negocio para sus desarrolladores. Esto hace que para usar esta IA se tengan que estar comprando diferentes monedas virtuales que se van canjeando por cada desnudo. Aunque el primero de ellos es gratuito para que puedas conocer como funciona la herramienta y su poder.
Por ejemplo, tener cuatro intentos para obtener una imagen de un desnudo integral va a costar dos dólares, existiendo diferentes ofertas para ir logrando cada vez más monedas a menor precio. Y esto es lógicamente un gran negocio para los desarrolladores. Pero también se pueden obtener de manera gratuita al compartir la herramienta con diferentes amigos. Aunque lo verdaderamente claro es que se requiere tener una buena regulación para evitar este tipo de hechos que al final son delictivos.
ClothOff se 'lava las manos' con el uso de estas imágenes
Si nos metemos en los términos y condiciones de esta herramienta de inteligencia artificial, se destaca sobre todo que 'se lavan las manos'. Esto quiere decir que no se responsabilizan del uso que se le vaya a dar a las imágenes que se generan (como por ejemplo extorsionar a alguien). El internauta "es el responsable de no usar la aplicación para fines ilegales o no autorizados" dice concretamente la web que no quiere responsabilidades judiciales de lo que se pueda hacer con su tecnología.
Aunque otro punto importante puede ser el tratamiento de los datos que se realiza con todas las imágenes que se suben o se generan. Y es que en muchas partes de la página antes de generar el contenido se encuentran mensajes en el que recuerdan que no almacenan ningún tipo de dato. Esto da a entender que una vez se ha usado la imagen de entrada en la IA se elimina de su base de datos.
Pero como siempre decimos: es mejor desconfiar siempre de todo. Esto se traduce en que no recomendamos subir imágenes personales ni reales, ya que nunca se puede llegar a saber el tratamiento real que hay detrás de ellos.
Y es que aunque cuenta con una marca de agua en la parte inferior que identifica que está hecha con realidad aumentada, la realidad es que esta se puede eliminar de una manera muy sencilla con técnicas de edición. Esto hace que sea más importante aún desconfiar de absolutamente todo.
Usar estos medios puede salir muy caro... si se comparten
Como hemos comentado anteriormente, estas herramientas pueden ser usadas precisamente para extorsionar a una persona al crear un desnudo falso (que puede parecer muy real). El ejemplo lo tenemos con los menores de un pueblo de Extremadura que habrán usado herramientas similares para llegar a este fin. Y esto es algo que constituye delito.
En concreto nuestra legislación recoge hasta dos años de prisión por este tipo de hechos. El profesor y abogado especialista en Derecho Digital explica que "en España los delitos nunca se regulan por la tecnología, sino lo que se hace con ella, en base a la intención con que se hacen y el resultado". Esto se traduce en que lo verdaderamente importante a ojos de un juez es lo que se hacen con esas fotografía, no el cómo se hacen. Obviamente esto es algo que la AEPD también contempla al poder suponer una clara infracción del RGPD que tenemos en nuestro país.
Si bien, como ocurre en España las penas de cárcel que pueden llegar a los nueve años en el caso de que se trate de pornografía infantil pueden no suponer esta pena de cárcel. Todo depende de la edad de los que cometen la infracción, y en el caso de los menores la pena que se impone es mucho más suave.
Imágenes| arturo meza olivares
En Genbeta | Trucos básicos para saber cómo dar órdenes a una inteligencia artificial y así generar mejores imágenes y textos
Ver 21 comentarios