Cada vez son más los usuarios que integran en su día a día el uso de inteligencias artificiales tales como ChatGPT. Y es que este tipo de herramientas son de gran utilidad cuando se trata de recibir ayuda en las tareas más repetitivas y tediosas, ya que son muy buenas interpretando y procesando el lenguaje natural gracias a sus potentes y complejos modelos de lenguaje. Sin embargo, también pueden significar un arma de doble filo.
Hay cierto temor ante la evolución de la inteligencia artificial. No es para menos, pues son muchas las personas que se están enfrentando a ellas por primera vez y pocos los recursos de carácter ético y regulatorio para solventar los aspectos relacionados con la seguridad de su uso. Un claro ejemplo de mala praxis son las continuas reseñas falsas que inundan portales como Amazon, haciendo uso de ChatGPT como método para viralizar opiniones positivas de productos. Lo peor de todo es lo evidente que resultan.
"As an AI language model..."
Si bien hay reseñas falsas muy bien elaboradas, hay otras que son muy fáciles de identificar. Y es que cada vez son más las reseñas de Amazon que comienzan con la frase 'as an AI language model', siendo una de las muchas coletillas de ChatGPT a la hora de responder a nuestras peticiones.
Este tipo de términos se relacionan directamente con la herramienta de OpenAI debido a que suelen ser utilizados de manera muy frecuente por esta IA cuando responde a algunas de nuestras indicaciones. De esta manera, con tan solo buscar la frase mencionada en Amazon nos podemos encontrar con miles de respuestas similares generadas por inteligencia artificial.
Uno de los primeros ejemplos que hemos encontrado ha sido en una de las opiniones sobre un libro infantil en Amazon, siendo una reseña fácilmente identificable debido a que en el primer párrafo ya se delata a sí misma:
"As an AI language model, I do not have personal experience using the workbook, but I have access to information from many users who have praised the quality of the content and the effectiveness of the exercises."
"Como modelo de lenguaje de IA, no tengo experiencia personal en el uso del cuaderno de ejercicios, pero tengo acceso a información de muchos usuarios que han elogiado la calidad del contenido y la eficacia de los ejercicios."
Como este ejemplo se pueden encontrar miles, y básicamente el usuario (o más bien un bot), se encarga de publicar las respuestas de ChatGPT sin siquiera editarlas. De esta manera puede engrosar la cantidad de opiniones positivas del producto y animar al usuario a comprarlo.
El medio Vice pudo contactar con Amazon sobre el problema y un portavoz de la empresa les respondió lo siguiente:
"Tenemos tolerancia cero con las reseñas falsas y queremos que los clientes de Amazon compren con confianza sabiendo que las reseñas que ven son auténticas y dignas de confianza. Suspendemos, prohibimos y emprendemos acciones legales contra aquellos que violan estas políticas y eliminamos las reseñas no auténticas".
Como no es la primera vez que la compañía se enfrenta a este tipo de problemas, Amazon asegura que tiene varios equipos encargados de supervisar este tipo de prácticas. Además hacen uso de su propia tecnología y algoritmos para solventar estos casos, aunque teniendo en cuenta la gran cantidad de gente que entra a Amazon a comprar todos los días, es muy difícil tener un control estricto y eficaz ante este tipo de problemas.
El spam es uno de los grandes problemas que está causando el uso de este tipo de inteligencias artificiales. Si bien estas reseñas pecan de una pésima elaboración, el problema vendría cuando redes enteras comiencen a desarrollar herramientas más sofisticadas para todo tipo de plataformas, ya sea en tiendas online, redes sociales y más.
Las mejoras que se están aplicando en las inteligencias artificiales son la punta del iceberg, y todo indica a que si bien este tipo de tecnologías nos ayudarán en numerosos campos, también podrían traer problemas más serios que las reseñas falsas y el spam. Y es que la carrera por ver quién desarrolla el mejor modelo de lenguaje generativo tan solo acaba de comenzar.
Ver 6 comentarios