El mundo editorial se está viendo sacudido por un fenómeno tan previsible (a estas alturas) como de difícil solución: la proliferación de biografías falsas generadas por modelos de inteligencia artificial.
Esta tendencia ha cobrado fuerza en plataformas como Amazon, donde autores y lectores se enfrentan ahora, de entre todas las posibles encarnaciones 'sintéticas' de géneros literarios, a una avalancha de biografías que, en lugar de ofrecer relatos verídicos de la vida de figuras destacadas, sencillamente sumergen a los lectores en páginas y páginas de datos falsos y 'de relleno'.
Hace cuatro días, el reconocido académico y experto en IA Ethan Mollick, denunciaba en X la existencia en la tienda de Amazon de una biografía sobre él... creada en su totalidad por IA:
"Aparentemente, tengo una biografía no autorizada que es 100% inventada por IA, 118 páginas de vaguedades repetidas y en bucle sin ningún hecho verdadero. Solo se utilizó mi biografía oficial de la escuela como prompt. Se las apaña para ser a la vez una locura y algo aburrido. Amazon se está viendo completamente sobrepasado".
Para muestra, un botón. Desde luego, aquí no se aplica lo de "se non è vero, è ben trovato":
El fenómeno de las biografÍAs
Por supuesto, el de Mollick no es un mero hecho puntual: detrás de esto hay todo un fenómeno 'editorial', en el que Amazon es el principal protagonista. Por fortuna (para nosotros), es un fenómeno que sólo ha alcanzado el nivel de 'preocupante' dentro de las fronteras de la 'angloesfera', y que aún no es tan frecuente en las versiones hispanohablantes de Amazon (todo se andará).
Mientras, en los Estados Unidos, han surgido varios casos sonados en las últimas semanas. Uno de ellos, el de la escritora tecnológica Kara Swisher, que acaba de lanzar al mercado su libro de memorias "Burn Book", pero que ya días antes de lanzarlo presenció la proliferación en Amazon de biografías sobre ella, manifiestamente generadas por inteligencias artificiales (sobre todo, porque parecen incapaces de aportar ningún dato relevante que no sea más que conocido sobre ella).
"Cuando revisé, había docenas de libros falsos por ahí. Pensé: '¿Qué está pasando con Amazon? ¿Por qué Amazon no detiene esto?'" (Kara Swisher)
Peor aún es que esto ocurra con personas recientemente fallecidas, aunque, precisamente por el interés repentino que esto genera sobre ellas por parte del público, es la situación ideal para motivar la repentina aparición de docenas de biografías generadas por chatbots.
Este ha sido el caso, por ejemplo, del recientemente fallecido Joseph Lelyveld, exeditor ejecutivo del New York Times. El colmo para un periodista: morirte y que la mayoría de lo que se 'escribe' sobre ti sean biografías falsas llenas de distorsiones de la verdad.
Ante esta situación, Amazon ha implementado medidas para combatir esta marea de libros falsos. Aunque la compañía no prohíbe per se la venta de libros generados por IA, sí ha restringido la publicación de ciertos tipos de libros (los 'resúmenes' de otras obras, por ejemplo) y ha intensificado sus esfuerzos para identificar y eliminar contenido que infrinja derechos de propiedad intelectual o genere una 'experiencia negativa' para el usuario.
¿Cómo lo ha restringido? Pues limitando la publicación máxima a sólo tres libros por autor... y día.
En Genbeta | ChatGPT se está usando tanto para escribir relatos que una editorial de ciencia ficción ha tenido que decir 'basta'
Ver 3 comentarios