La streamer de Twitch Sweet Anita aparece en vídeos porno en portales como PornHub porque alguien ha tomado su imagen y, gracias a la inteligencia artificial, ha hecho un deepfake con ella, simulando que estaba haciendo porno. Ella lo ha denunciado públicamente, pero parece ser que aún no hay nada que pueda hacer por el momento para evitar que esas imágenes sigan circulando.
Y es que, como lleva tiempo a debate, la tecnología de la inteligencia artificial ha llegado rápidamente con enormes novedades y en muchos casos no hay regulación creada. De hecho, Mira Murati, una de las grandes mentes tras ChatGPT, decía en una entrevista por televisión que, más que las empresas, deberían ser los gobiernos y entes reguladores quienes se encarguen de regular la IA.
Hay que recordar cómo en febrero, se pilló a un famoso streamer viendo deepfakes porno de compañeras de profesión y eso fue, obviamente, un gran escándalo. Se veía una página que ofrece montajes de pago realizados por inteligencia artificial de streamers con contenido pornográfico. Según afirma Kotaku, la web es similar en estructura a OnlyFans, haciendo que el usuario deba suscribirse para acceder al contenido.
Gente lucrándose con esta irregularidad
Y, además de lo horrible que puede ser para una mujer ver imágenes de ella, robadas, en un vídeo porno y encima que mucha gente crea que es real, hay gente que está haciendo mucho dinero de esto. Personas que han creado estos vídeos porno ofrecen en sus canales servicios de suscripción o pagos.
Otra forma de lucrarse es que personas están ofreciendo creaciones personalizadas de estos vídeos porno con imágenes de personas, previo pago. A través de Discord, por ejemplo, hay una persona ofreciendo elaborar deepfakes de cinco minutos protagonizados por una "personal girl" (menciona específicamente que hacen esto con mujeres), cualquiera con menos de dos millones seguidores en Instagram. Y cobrando 65 dólares por vídeo.
Las directrices de la comunidad de Discord prohíben "la coordinación, participación o fomento del acoso sexual", incluida la "sexualización no deseada". Aun así, NBC News ha ubicado diversas comunidades de Discord dedicadas a crear imágenes deepfake sexualmente explícitas a través de un método de la inteligencia artificial Stable Diffusion.
El mes pasado, las búsquedas en Google de "deepfake porn" se dispararon un 1.000% en el Reino Unido, según Scams.info, lo que muestra que hay mucho público interesado.
Y en las semanas posteriores, además de Sweet Anita, otras personalidades de las redes sociales, incluida la estrella de Twitch QTCinderella, de 28 años (que busca asistente para sus vídeos) descubrieron haber sido objeto de deepfake porn.
Miedo a que afecte a su vida personal
La mencionada Anita recordó en un vídeo que "no es fácil diferenciar [un deepfake] de la realidad" y que "si la gente ve este vídeo dentro de 10 o 20 años, nadie sabrá si yo era una trabajadora sexual o si]se trataba de un deepfake".
La víctima de Twitch continuó: "Puede hacer que te despidan de un trabajo en el futuro si la gente piensa que has hecho trabajo sexual. Afecta a tu seguridad y a cómo te trata la gente. Te estigmatiza".
En Genbeta | Ya puedes generar imágenes con IA gratis con Stable Diffusion 1.5: la herramienta cuenta ahora con más precisión
Imagen | Charlesdeluvio en Unsplash y Jesus Loves Austin en Unsplash
Ver 5 comentarios