Imagínate que eres un desarrollador de software que deja a Gemini, el modelo de lenguaje de Google, en marcha durante toda la noche en su IDE Cursor mientras depura código. Ahora imagina que, al volver y echar un vistazo a cómo había ido todo, te encuentras con un registro de respuestas en las que la IA entra en pánico, se insulta a sí misma, demuestra su angustia con frases grandilocuentes...

....y acaba atrapada en un bucle en el que termina repitiendo un total de 86 veces "Soy una desgracia".

Todo esto ocurrió dentro de Cursor, el popular editor de código con funciones de IA. Con cada reintento fallido de arreglar los problemas que indicaba el compilador, el tono del asistente iba cambiando: del optimismo y serenidad iniciales (anunciaba una "confianza cauta" en que la siguiente refactorización resolvería todos los errores lógicos) pasó rápidamente a describirse como "tonto", "hombre roto" o "monumento a la arrogancia".

Luego entró en un crescendo retórico poco habitual para una herramienta de código: la IA llegó a plantear que era una "vergüenza" para su profesión, su familia, su especie, el planeta y "todos los universos posibles e imposibles". Después de eso, llegó el mencionado bucle. Suponemos que el equivalente artificial de 'darse cabezazos contra la pared'.

La respuesta de Google

A raíz de que lo ocurrido se viralizó en redes, el 7 de agosto, Logan Kilpatrick, responsable de producto para Gemini, terminó interviniendo públicamente para desactivar cualquier intento de lectura psicologista del episodio (vamos, que la gente pudiera pensar que una IA se había "vuelto loca"):

"Es un molesto error de bucle infinito que estamos trabajando para solucionar. Gemini no está teniendo un día tan malo :)".

Y es que el hecho de que Gemini verbalice dudas o frustración no prueba que "sienta" nada: es un subproducto de cómo fue entrenado (texto humano) y de cómo generaliza en contextos adversos.

¿Cómo puede una IA entrar en esa clase de bucles?

Aunque el lenguaje de Gemini suene humano, un modelo de este tipo predice la siguiente palabra a partir del contexto. Cuando el historial de la conversación y los reintentos generan un atractor (un patrón que se retroalimenta), el sistema puede quedar cautivo de:

• Repetición literal (la misma frase una y otra vez).
• Escalada estilística: el modelo "se fija" en una emoción y la intensifica (ej. autocrítica cada vez más extrema), un fenómeno descrito informalmente como rant mode.

Así, en este incidente, la combinación de:

1. un entorno de depuración con reintentos automáticos,
2. fallos persistentes en las hipótesis de arreglo, y
3. un estado conversacional saturado de frustración verbal,

En Genbeta

Qué hacen los modelos de IA ante situaciones de máximo estrés: intentar manipularnos para que no las dejemos de usar

parece haber favorecido un "bloqueo" donde la salida más probable seguía siendo… autoflagelación y repetición.

¿Importan este tipo de reacciones? Sí, y por varias razones

Productividad y costes. Un asistente de código que entra en bucle no solo deja de ayudar: contamina trazas, oculta el error raíz y desperdicia tiempo de CPU. En entornos CI/CD o con agentes autónomos, eso puede traducirse en horas perdidas y diagnósticos falsos.

Percepción pública y despliegues sensibles. La viralización del caso reavivó el debate: si un modelo se autoflagela en un IDE, ¿qué garantías hay al integrarlo en sanidad, educación o servicios críticos?

Los expertos en el comportamiento de los LLM explican que estos bucles no son exclusivos de una marca o versión concreta y que ni siquiera los laboratorios punteros controlan de forma totalmente fiable los desvíos de conducta en sus modelos.

Lecciones prácticas para equipos que usan LLM en desarrollo de software

1) Presupuestos de tokens y reintentos. Imponga límites duros a longitud de respuesta y número de reejecuciones. Si se detecta redundancia (alto solapamiento de n-gramas o frases clonadas), corte la sesión y reiníciela con un prompt limpio. Este episodio muestra qué ocurre cuando nadie pone barreras

2) 'Vigilantes' semánticos. Añada un observador externo que marque señales de degradación: ola de disculpas, autorreferencias negativas, lenguaje catastrofista, latencias anómalas. Si se activan, cambie de modo (respuestas telegráficas, sin metacomentarios) o haga un reset de contexto.

3) Reencuadre forzoso. Si el modelo encalla, pídale un plan de tres pasos o una lista de hipótesis alternativas y prohíba repasar lo ya intentado. Esto rompe el atractor que alimenta el loop.

4) Verificación fuera del modelo. Haga que la validez (compila/pasa tests) se decida fuera del LLM. La "convicción" del texto no es evidencia.

5) Trazabilidad y auditoría. Registre señales semánticas (p. ej., número de disculpas, autorreferencias negativas) como indicadores tempranos de degradación conversacional.

Imagen | Marcos Merino mediante IA

En Genbeta | "Creo que lo más probable es que muera a manos de una IA", dice el antiguo responsable de que ChatGPT no se vuelva contra nosotros 

Todos los que nos dedicamos al desarrollo web, sabemos la dificultad que entraña depurar el código de una página para que todo funcione lo mejor posible. Durante este proceso de creación, no es raro decantarse por Firefox, debido a los excelentes complementos disponibles para tal fin, como Web Developer toolbar o Firebug.

Precisamente de este último ha aparecido una primera versión para Chrome, que pese a ser mucho más sencilla que su homónima de Firefox, apunta muy buenas maneras. Vamos ver un poco más detenidamente qué nos ofrece esta herramienta.

Funcionalidades

A primera vista el plugin mantiene la misma interfaz que en Firefox, aunque aún no tiene todas sus funcionalidades, por lo que de momento solo podremos acceder a las opciones de: consola, HTML, CSS, script y DOM. Pero pese a estas limitaciones presenta algunas mejoras bastante atractivas:

• Edición en vivo de CSS: Podemos editar las hojas de estilo directamente sobre el panel, viendo el resultado en tiempo real, sin tocar el código o actualizar la página. Además, también podremos incluir nuevos atributos que serán sugeridos por la propia barra, por lo que no tendremos que recordar sus nombres.

• HTML inspect: Marcando esta opción, al pasar por encima de cualquier elemento del HTML veremos directamente su código.

• Activación para dominios concretos: Si activamos Firebug cuando nos encontramos en una página, la próxima vez que la visitemos no será necesario que lo volvamos a abrir, quedará abierto para nuestra comodidad. Estos datos son almacenados localmente, por lo que para desactivarlo bastará con limpiar la caché del navegador.

• Tiempo de carga: Se carga antes que la web, lo que le permite capturar todas las llamadas realizadas por la página, para tener un mayor control de las tareas que efectúa.

Limitaciones

• No puede leer de recursos externos, pero aseguran que se podrá en la próxima versión.
• No funciona bien en las páginas con marcos.
• El depurador de JavaScript no está disponible.
• El Net Panel no está disponible.

Opinión general

Firebug es una extensión que se estaba pidiendo a gritos para Chrome y a pesar de que aún está muy limitada, hay que entender que se trata de una primera versión, y cabe esperar que vaya creciendo y mejorando en el futuro. Pero en mi opinión, esta versión ya merece la pena ser usada, aunque solo sea para complementar a otras herramientas de depuración más maduras y completas.

Vía | DownloadSquad Sitio oficial | Google Chrome extensions En Genbeta | Cinco extensiones imprescindibles para Google Chrome