El auge de los bots con inteligencia artificial ha desembocado a su vez en otra serie de cambios sociales imprevistos, como el cuestionamiento de los deberes escolares. Pero quizá lo que muchos no vieron venir fue el efecto que tendría sobre las relaciones personales, con cada vez más personas apostando por buscar 'compañía' en las 'parejas virtuales', bots diseñados para simular relaciones románticas.
Y, sin embargo, OpenAI (la compañía creadora de ChatGPT y, como tal, principal impulsora actual de la IA), acaba de dejar caer un balde de agua fría sobre esta tendencia, coincidiendo con el definitivo lanzamiento de su GPT Store, la tienda de bots personalizados basados en la tecnología de GPT-4.
¿Has visto la película 'Her'? Pues OpenAI no quiere ser quien lance ese producto
Y es que, hace unas horas, OpenAI ha actualizado sus Políticas de Uso para incluir menciones a la nueva GPT Store y a la regulación de la misma. Y a algunos usuarios les ha sorprendido que hayan prohibido explícitamente los GPTs que promueven "fomentar el compañerismo romántico"...
...en el mismo párrafo en que prohíben también los bots que promuevan las palabrotas o la violencia gráfica, o que lleven a cabo "actividades reguladas" (de modo que olvídate también de pedir asesoramiento legal o diagnósticos médicos por esta vía).
La única explicación que dan para esta prohibición expresa de las 'IAs románticas' es que quieren asegurarse "de que los GPT en la GPT Store sean apropiados para todos los usuarios". Y avisan a los creadores de GPTs de que estas políticas "pueden aplicarse automáticamente en el momento del envío o aplicarse retroactivamente tras una revisión adicional".
Por supuesto, el aviso llega después de que estos creadores lleven dos meses desarrollando GPTs para la nueva tienda (que debería haberse lanzado hace un mes, aunque toda la polémica en torno al despido y retorno de Sam Altman como CEO de la compañía echó por la borda el calendario previsto).
Y a algunos de ellos el cambio les ha pillado de improviso (y no les ha sentado muy bien).
Ya están tomando medidas contra los GPTs disponibles
Este desarrollador relata en los foros oficiales de OpenAI cómo, tras una queja de otro usuario, OpenAI ha tomado medidas contra su GPT "Amazing Girlfriends RPG" aun antes de que sea incluido en la GPT Store (recordemos que uno de estos bots puede ser de acceso público aunque no monetice en la tienda):
"Aunque los usuarios aún pueden acceder a mi GPT a través de un enlace, ya no podré publicarlo en la GPT Store en el futuro. Además, las funciones que originalmente funcionaban bien ahora han dejado de hacerlo".
Uno de los usuarios que responden al desarrollador opina sobre el motivo de la adopción de esta política por parte de OpenAI, y puede haber dado con la clave:
"Básicamente, apuesto a que todo se reduce a la imagen pública y la visibilidad. A evitar una historia viral del tipo 'Mi hijo es adicto a los juegos de rol por culpa de su novia IA'".
Las polémicas pueden ir mucho más allá
Aunque lo cierto es que el tipo de historias virales en que pueden desembocar esta clase de relaciones pueden ser mucho más siniestras que eso. ¿Os suena, de hace unos meses, "Un hombre se quita la vida en Bélgica después de mantener conversaciones 'frenéticas' con un chatbot durante seis semanas"?
Ahí la implicada fue la marketplace de bots gratuitos de la app móvil 'Chai' (aunque unos cuantos errores y desinformaciones terminaron culpando de todo al primer bot con IA de la historia, creado hace décadas). Es comprensible que OpenAI no quiera verse implicada en esta clase de polémicas.
Pero hay más razones para querer desligarse de esta clase concreta de bots. El pasado mes de octubre, la revista The Week abordaba los pros y contras de las 'relaciones' 'románticas' con IAs y aunque citaban aspectos 'positivos' ("Hacen que las relaciones de pareja sean accesibles para personas solitarias o marginadas" o "pueden ayudarte a practicar cómo hacer frente a relaciones reales")...
...también citaba otros negativos como que "pueden afectar negativamente a las tasas de natalidad" (lo cual ya no parece muy polémico a estas alturas) o que "pueden perpetuar creencias problemáticas sobre las relaciones". En palabras de una activista contra la violencia de género citada en el artículo:
"Tener la capacidad de desarrollar a alguien a quien controlas y que satisface todos tus caprichos es 'realmente aterrador'".
Imagen | Marcos Merino mediante IA
En Xataka Android | He probado varias apps de novia virtual en Android y es mejor estar soltero
Ver 1 comentarios