Hace sólo dos días abordábamos en Genbeta la preocupación existente con la creciente facilidad y rapidez para crear deepfakes con un alto grado de realismo poniendo el ejemplo de un vídeo falso del youtuber MrBeast. Un par de semanas antes de eso, el caso de los desnudos 'fake' de menores en Almendralejo se convirtió en noticia a nivel nacional.
En general, el auge de los deepfakes ha planteado una serie de desafíos en todo el mundo, ya que las tecnologías de IA avanzan a un ritmo vertiginoso y las herramientas para detectar estos contenidos falsos todavía están en pañales.
Pues bien, buscando dar respuesta a esas preocupaciones, el grupo parlamentario de Sumar ha presentado este viernes en el Congreso de los Diputados una proposición de ley que busca establecer regulaciones claras en el uso de la inteligencia artificial (IA) cuando se creen imágenes, vídeos y audios falsos capaces de suplantar a personas reales.
Los diputados Enrique Santiago (IU), Francisco Sierra (Sumar) y Tesh Sidi (Más País) han sido los encargados de liderar esta iniciativa, que ya ha sido apodada la "ley anti deepfakes", y que tiene como objetivo principal exigir a las herramientas de IA que generen deepfakes que incluyan una señal visual o sonora "clara" (equivalente, vaya, a una 'marca de agua') capaz de indicar que el contenido es falso.
Una completa reforma legal
Más aún, esta proposición de ley modificaría hasta seis leyes, a saber: la ley de protección del derecho al honor, la ley electoral, la ley de la comunicación audiovisual, la ley de competencia desleal, el Código Penal y la ley de enjuiciamiento civil.
Así, por ejemplo, la proposición de ley también introduce "cláusulas para proteger contenidos relacionados con la IA cuando formen parte de obras artísticas o tengan un propósito satírico". Esto significa que si un contenido generado por IA se etiqueta adecuadamente como falso, estará sujeto a las regulaciones habituales sobre libertad de expresión y derecho al honor.
La modificación de la ley de derecho al honor permitirá, además, clasificar la IA como una de las "modalidades que pueden usarse para atacar el derecho a la propia imagen de las personas". La modificación del Código Penal, por otro lado, incorporaría un nuevo tipo de injurias relacionado con el uso de deepfakes.
La modificación de la ley electoral también permitirá regular específicamente el uso malicioso de la IA contra candidatos electorales, convirtiéndolo en delito electoral. Y, en palabras de Enrique Santiago,
"Para que todo esto no quede en un simple brindis al sol, también se introduce una modificación de la ley del enjuiciamiento civil".
La propuesta de Sumar no se limita sólo a cambios legales. También plantea la creación de dos nuevos órganos: un Consejo Consultivo, que asesore y proponga iniciativas regulatorias relacionadas con la IA, y un Consejo de Participación Ciudadana.
Sobre el contenido de la ley
El contenido literal de esta proposición estará disponible en los próximos días en los boletines oficiales del Congreso de los Diputados, una vez la propuesta haya sido registrada en la Cámara.
Sin embargo, si el articulado de la ley se centra, efectivamente, en las "herramientas de IA comercializadas en España", lo cierto es que eso deja fuera a todas las plataformas que no se comercialicen en España (pero que seguirán disponibles de manera más o menos directa en Internet) y a las que no se comercializan en absoluto, como las herramientas open source que cualquiera puede instalar y usar libremente en sus PCs.
Imagen | Original de AntonMST29 modificado mediante IA por Marcos Merino
Ver 40 comentarios