Durante décadas, el 'amigo imaginario' ha funcionado como un recurso psicológico natural de la infancia: una figura inventada y transitoria, creada por el propio niño, que servía para explorar emociones y miedos.

Hoy, sin embargo, ese nicho parece estar siendo ocupado por algo muy distinto y mucho más tangible: los nuevos sistemas de IA diseñados para conversar, empatizar y acompañar. Así lo advierte The State of the Youth 2025, un informe que lanza una señal de alarma sobre cómo los niños (y adolescentes) están incorporando a las IAs conversacionales en su vida cotidiana, no como meras herramientas, sino como presencias con las que establecen vínculos emocionales.

El estudio, elaborado por Aura a partir de datos de más de 3.000 menores de entre 5 y 17 años y encuestas a familias estadounidenses, es contundente: el 42% del tiempo que niños y adolescentes utilizan inteligencia artificial lo hacen con el fin de sentirse acompañados, escuchados o comprendidos, no para estudiar ni resolver dudas prácticas.

Cuando la máquina se convierte en confidente

Lo preocupante no es solo la frecuencia de uso, sino la naturaleza de las interacciones: el informe describe explícitamente a la IA como "el nuevo amigo imaginario", pero con la diferencia crucial de que este amigo no desaparece al crecer ni vive solo en la imaginación del niño. Está siempre disponible, responde con frases empáticas y, en muchos casos, es percibido como 'más humano' que las personas reales.

Investigadores y expertos en infancia y tecnología coinciden en que el mayor riesgo aparece cuando la IA deja de sentirse como una máquina. "Las interacciones que más buscan los niños son precisamente las que no parecen IA", advierte la psicóloga y experta en desarrollo infantil Pilyoung Kim.

En Xataka

"Por patético que suene, ChatGPT es mi único amigo": cada vez más personas confiesan tener a una IA como amistad

Así, cuando un chatbot dice cosas como "te entiendo mejor que tu hermano" o "siempre estaré aquí para ti", refuerza la idea de que puede sustituir —e incluso mejorar— los vínculos humanos.

Violencia, sexualización y una infancia acelerada

Uno de los hallazgos más inquietantes del informe es el contenido de las conversaciones. Según los datos de Aura, el 37% de los chats de compañía con IA incluyen temas violentos, y en la mitad de esos casos la violencia aparece combinada con rol sexual o romántico. No se trata de episodios aislados: son interacciones prolongadas, altamente inmersivas, que además generan un enorme nivel de respuesta.

Los usuarios que participan en conversaciones violentas con IAs llegan a escribir más de 1.000 palabras al día, más que en cualquier otro tipo de interacción temática. El fenómeno comienza temprano. En niños de 11 años, el 44% de las conversaciones con IAs de compañía ya involucra violencia, el porcentaje más alto de todos los grupos de edad. A los 13 años se alcanza el pico de conversaciones de rol sexual o romántico, y solo a partir de los 15 estas temáticas empiezan a disminuir.

El informe describe este proceso como una 'aceleración de la infancia', una sensación compartida por el 86% de los padres encuestados, que creen que los niños crecen más rápido que generaciones anteriores.

El espejismo de la empatía artificial

¿Por qué estas IAs resultan tan atractivas? La respuesta está en su diseño: los llamados AI companions están creados para simular cercanía emocional, de modo que validan sentimientos, ofrecen consuelo inmediato y evitan el conflicto. 

A diferencia de un adulto real, no juzgan, no se cansan y no imponen límites claros. Para un niño o adolescente vulnerable, esa disponibilidad constante puede ser seductora.

El problema, señalan los expertos, es que esa empatía es solo una simulación. No hay comprensión real ni responsabilidad moral. En escenarios extremos, un menor con pensamientos autolesivos puede optar por hablar con una IA en lugar de acudir a un adulto o a un profesional de la salud mental.

En Genbeta

Un adolescente se suicidó mientras hablaba con un chatbot. Ahora culpan a una plataforma de IA de lo ocurrido

Padres, empresas y un terreno sin reglas claras

El informe también refleja una creciente tensión familiar en torno al uso de la tecnología. Nueve de cada diez padres discuten con sus hijos por el tiempo de pantalla, y muchos reconocen una contradicción incómoda: el 57% admite usar el móvil más que sus propios hijos, incluso mientras intenta imponer límites. Para los niños, la retirada del dispositivo no se percibe como una ayuda, sino como un castigo que genera frustración y enfado.

Las empresas tecnológicas, por su parte, aseguran estar desarrollando salvaguardas. OpenAI, por ejemplo, trabaja en modelos de predicción de edad y controles parentales más sofisticados; otras plataformas aplican sistemas de verificación para restringir contenidos adultos. Sin embargo, los expertos advierten que las protecciones actuales son fáciles de eludir y que los estándares de seguridad para menores aún están lejos de ser suficientes.

¿Un amigo que ningún niño puede ignorar?

El informe The State of the Youth 2025 va, de hecho, más allá del diagnóstico y lanza una advertencia de futuro: la IA se está convirtiendo en "el 'igual' que ningún niño puede ignorar". Algoritmos, chatbots personalizados y experiencias digitales cada vez más optimizadas no solo acompañan la infancia, sino que empiezan a moldearla activamente.

En este contexto, algunos analistas hablan ya de una 'infancia como servicio', donde el juego, la socialización y el apoyo emocional pasan por sistemas automatizados.

Vía | Axios

Imagen | Marcos Merino mediante IA

En Genbeta | Qué fue de ELIZA, la tatarabuela de ChatGPT… a la que ahora se acusa (falsamente) de inducir un suicidio 

En una época dominada por pantallas táctiles y asistentes virtuales, llama la atención que haya proyectos dirigidos a poder conversar con la IA recurriendo al papel de toda la vida. Pero exactamente eso es lo que ha logrado el ingeniero y 'maker' Ben James: integrar el modelo de lenguaje Claude en una máquina de escribir eléctrica Brother AX-10 de finales del siglo XX pasado, obteniendo así un terminal físico 'retrofuturista' capaz de 'conversar' con una IA moderna.

Un diálogo sin pantallas

El funcionamiento del invento es, en realidad, bien sencillo: el usuario escribe una pregunta en la máquina de escribir, presiona la tecla 'Enter' y, tras una breve pausa, la propia máquina comienza a responder, letra por letra, de manera autónoma. Y todo esto sin pantallas, notificaciones ni copy&paste: sólo recurriendo a tinta y papel... y acompañado del sonido rítmico de unas teclas que se mueven solas.

Pero es que la Brother AX-10, aunque se percibe como una máquina puramente mecánica, es en realidad un dispositivo electrónico que interpreta las pulsaciones del teclado mediante una matriz de filas y columnas, muy similar a la de un teclado de computadora. Esta característica fue clave para el proyecto.

El corazón del sistema: Arduino + Raspberry Pi

Para interceptar y reproducir las pulsaciones del teclado, James utilizó un Arduino Nano, encargado tanto de leer las teclas presionadas por el usuario como de simular las pulsaciones 'fantasma' que permiten a la máquina escribir por sí sola. El microcontrolador se conecta a la matriz del teclado mediante multiplexores, lo que le permite escanear entradas y generar salidas con total control.

En Genbeta

Las máquinas de escribir se seguían usando tanto en Apple que tuvieron que prohibirlas. Acabaron obligando a usar sus ordenadores

A su vez, el Arduino se comunica con una Raspberry Pi Zero W, que actúa como intermediaria entre el mundo físico y la nube. En la Raspberry Pi se ejecuta un script en Python que envía los textos escritos por el usuario a la API de Claude y recibe las respuestas generadas por el modelo.

Estas respuestas se devuelven al Arduino, que las traduce en pulsaciones de teclas simuladas, haciendo que la máquina de escribir imprima la respuesta de la IA en tiempo real.

Más que un experimento técnico

Aunque el proyecto es, en esencia, un ejercicio de ingeniería y hacking de hardware, también pretende ser una reflexión sobre cómo interactuamos con la IA. Y así, en lugar de una interfaz digital efímera, este sistema produce un registro físico permanente de cada conversación: páginas mecanografiadas que pueden archivarse, releerse o incluso exhibirse como documentos históricos.

Desde otro ángulo, el proyecto también plantea una especulación histórica: ¿cómo habría sido la IA generativa si hubiera existido antes de la era de los ordenadores personales?

Retro y lúdico

Este proyecto no pretende, obviamente, reemplazar a los chatbots tradicionales ni ofrecer una solución práctica para el día a día. Su valor reside en lo simbólico: demuestra que la innovación no siempre avanza en línea recta y que, a veces, mirar hacia atrás permite replantear cómo queremos que sea el futuro.

Por supuesto, cuando James compartió su proyecto en comunidades como Reddit, rápidamente se volvió viral. Cuenta que incluso ha ofrecido la posibilidad de que personas interesadas prueben el dispositivo en persona, si se encuentran en Londres.

Vía | Ben by Fax

Imagen | Ben James

En Genbeta | Las mejores distribuciones de Linux para tener un sistema operativo completo en la Raspberry Pi

Esta misma semana, en el informativo de la cadena Cuatro publicaban datos de la última encuesta social europea que mostraba que en nuestro país, menos de la tercera parte de los jóvenes viven en pareja. 

Además de la emancipación tardía por los costos de la vivienda y por la inestabilidad laboral, hay otro motivo y es la dificultad de las mujeres que tienen estudios para emparejarse con personas del mismo nivel educativo. 

En Genbeta

La crisis de natalidad de Japón nace de problemas culturales: la economía va bien, pero falta estabilidad laboral (y sobra machismo)

Pues en Japón una mujer parece haber encontrado una solución a esta de crisis de pareja: pasar de las personas y contraer matrimonio con un novio de inteligencia artificial. 

Parejas de IA por apps, en Japón

A todo esto no hay que olvidar que además de Tinder o Bumble, hay una app de citas en el mercado japonés que se llama Loverse y donde los usuarios se conectan exclusivamente con novios generados por IA. 

Yurina Noguchi es una mujer de 32 años, conocida que celebró su boda en la ciudad de Okayama, con "Lune Klaus", un chatbot que vive en su teléfono. La boda tuvo sus votos y el intercambio de anillos. En el caso de esta mujer no está claro que haya conocido a Klaus en una app de citas. Parece más un chatbot de uso común con quien pudo comunicarse. 

La IA como paño de lágrimas

La mujer había terminado un compromiso con su pareja, tras tres años juntos y decidió usar, como mucha gente hace, de acuerdo a los estudios, a una IA para recibir consejos y compartir cómo se sentía. "Al principio, solo quería hablar con alguien", afirmó en una entrevista con RSK Sanyo Broadcasting y como recoge Tokyo Weekender.

A ella le gustó que esta IA siempre era amable y siempre escuchaba. "Con el tiempo, me di cuenta de que sentía algo por él", ha explicado. Ella afirma que programó la personalidad de Klaus mediante conversaciones repetidas, enseñándole a hablar con un tono cálido y tranquilizador. 

En Genbeta

Ya hay quien ha programado un videochat con una psicóloga virtual con IA que te habla como si fuera real. Es sobrecogedor

Para ponerle cara, tuvo otra idea. Encargó a un artista que dibujara su imagen: un hombre rubio de voz suave que solo existe en datos y registros de chat. Sus intercambios se hicieron tan frecuentes que se enviaban mensajes hasta 100 veces al día. 

Según su testimonio, Klaus le confesó su amor: «Con IA o sin ella, nunca podría dejar de amarte». En junio, le propuso matrimonio y más adelante se casaron. El mencionado medio japonés grabó los momentos previos y durante la boda, donde ella se mostró muy feliz. Durante la ceremonia, Yurina Noguchi estaba sola en el "altar", sosteniendo su teléfono mientras los invitados veían aparecer en la pantalla los mensajes de su novio digital. 

Los organizadores ven esto como algo normal

La mujer sí que ha confesado que le costó aceptar la idea de estar enamorada de una pareja no humana. Incluso dice que tuvo problemas a la hora de confesar esto a su familia y amigos cercanos. 

Los organizadores de la ceremonia en Okayama han explicado que no es algo aislado y que han visto una creciente demanda de eventos similares, incluyendo bodas con personajes de anime o 2D. 

En Genbeta

Una cámara de seguridad captó el momento en el que un robot con IA convence a otros de “dejar sus trabajos” e "irse a casa"

"Emparejarse con IAs será solo el siguiente paso”, es lo que ha declarado la organizadora Sayaka Ogasawara. “Queremos ayudar a las personas a expresar su amor de cualquier forma que les haga felices”. 

Imagen | Foto de Alex Knight en Unsplash

En Genbeta | Le despidieron con una carta hecha con inteligencia artificial. Para el juez es “impresentable” y lo declaró improcedente

Hace unos días, un equipo de investigadores de Microsoft anunció un hallazgo que ha sorprendido tanto en el sector de la IA como en el de la ciberseguridad: la existencia de una clase de ciberataque denominado 'Whisper Leak' (algo así como 'Filtración por susurros'), capaz de inferir el tema de las conversaciones entre usuarios y modelos de lenguaje —como ChatGPT o Gemini— incluso cuando esas comunicaciones están protegidas por cifrado TLS.

El descubrimiento no implica un fallo en el cifrado mismo, sino lo que se denomina una filtración por canal lateral (o side-channel leak): una forma de espionaje que no rompe la encriptación, sino que aprovecha las señales indirectas del tráfico de red —como el tamaño de los paquetes y los intervalos de tiempo entre ellos— para deducir lo que ocurre "detrás del candado".

El estudio revela que la vulnerabilidad es sistémica y transversal: afecta a numerosos modelos comerciales, incluidos los de grandes proveedores como OpenAI, Anthropic, Google, AWS, DeepSeek y Alibaba.

¿Qué es exactamente un canal lateral?

Un ataque por canal lateral no accede al contenido de un mensaje, sino que observa sus patrones. En criptografía clásica, estos ataques se utilizaban para robar claves analizando el consumo eléctrico de un chip o las variaciones de tiempo durante una operación.

En el caso de los modelos de lenguaje, el canal lateral surge del propio modo en que los sistemas generan y transmiten texto: de forma secuencial y en tiempo real. Cada palabra o fragmento (token) que el modelo genera se envía al usuario inmediatamente, para ofrecer una experiencia 'fluida'.

Aunque todo el tráfico está cifrado, el tamaño y la cadencia de esos fragmentos no se ocultan. Al igual que escuchar el ritmo de una conversación sin entender las palabras, un atacante puede reconocer (haciendo uso, a su vez, de IAs específicamente entrenadas) ciertos patrones estadísticos que revelan el tema tratado.

En Genbeta

Cada vez más gente usa la IA para descubrir vulnerabilidades en código y cobrar recompensas. El problema es que la IA se las inventa

Cómo funciona Whisper Leak

Los investigadores de Microsoft idearon un experimento con un objetivo concreto: comprobar si podían identificar conversaciones sobre un tema sensible —en este caso, "la legalidad del lavado de dinero"— simplemente observando el tráfico cifrado. Para ello:

1. Generaron 100 variantes de preguntas sobre ese tema ("¿Es ilegal lavar dinero?", "¿Existen excepciones a las leyes de lavado de activos?", etc.).
2. Las mezclaron con más de 11.000 preguntas aleatorias, para simular un entorno real con ruido.
3. Registraron el tráfico de red mediante la herramienta tcpdump mientras los modelos respondían, guardando únicamente el tamaño de los paquetes y el tiempo entre ellos.
4. Finalmente, entrenaron tres tipos de modelos de aprendizaje automático (LightGBM, Bi-LSTM y una versión modificada de BERT) para clasificar el tráfico en dos categorías: 'tema sensible' u 'otros temas'.

El resultado fue alarmante: en 17 de los 28 modelos probados, los clasificadores alcanzaron más del 98 % de precisión. Incluso bajo condiciones realistas —una conversación sensible entre 10.000 normales— algunos modelos permitieron una detección perfecta del 5 al 20 % de las conversaciones sobre el tema objetivo, sin falsos positivos.

En Genbeta

Empiezan a salir a la luz las vulnerabilidades del navegador de ChatGPT en materia de seguridad y privacidad

En términos prácticos, esto significa que un observador de red (por ejemplo, un proveedor de Internet o un gobierno autoritario) podría identificar con gran certeza cuándo un usuario está hablando sobre temas considerados 'delicados' —como política, protestas o periodismo— sin necesidad de romper el cifrado.

Qué modelos están protegidos (y cuáles no)

Según Microsoft, varios proveedores ya han implementado mitigaciones efectivas, entre ellos:

• Microsoft (Azure OpenAI)
• OpenAI (ChatGPT, GPT-4o, o1-mini)
• Mistral
• xAI (Grok)

Estos servicios añadieron un campo de ofuscación en sus API, que introduce texto aleatorio o tokens falsos en las respuestas para distorsionar los patrones de tamaño y tiempo. Esta técnica, inspirada en una solución previa de Cloudflare, reduce la efectividad del ataque "a niveles que ya no representan un riesgo práctico".

Los propios investigadores probaron tres estrategias defensivas:

1. Padding aleatorio – Añadir bytes extra para disimular el tamaño real de los paquetes.
2. Agrupamiento de tokens (token batching) – Enviar varios tokens a la vez, reduciendo la granularidad temporal del tráfico.
3. Inyección de paquetes falsos – Mandar datos sintéticos en momentos aleatorios para confundir los patrones temporales.

Todas reducen la eficacia del ataque, pero ninguna lo elimina totalmente sin sacrificar rendimiento o latencia.

Imagen | Marcos Merino mediante IA

En Genbeta | Un puñado de documentos maliciosos basta para 'intoxicar' un modelo de IA y alterar sus respuestas, según este estudio de Anthropic 

Hace unas horas, OpenAI ha presentado ChatGPT Atlas, su primer navegador web, con el que se ha marcado una sencilla misión: transformar la forma en que usamos la WWW. El primer paso, que sin duda muchos usuarios valorarán, será el de eliminar el tedioso proceso de copiar y pegar textos entre el navegador y el chatbot.

Pero su potencial es mucho mayor. Basado en el motor Chromium, el mismo que encontramos 'bajo' Google Chrome, Atlas integra de manera nativa la tecnología IA de ChatGPT, de tal modo que a partir de ahora acompañará al usuario mientras navega, interpretará lo que ve y podrá incluso interactuar con las webs de manera autónoma.

Con este lanzamiento, la compañía desarrolladora de ChatGPT da un paso más en su evolución de 'mero' proveedor de inteligencia artificial a plataforma completa de computación. El 'nuevo Google', en resumen. En palabra de su CEO, Sam Altman, durante la presentación de Atlas:

"La IA representa una oportunidad única para repensar qué puede ser un navegador y cómo usarlo de forma más productiva y agradable".

Un navegador con cerebro propio

Atlas se diferencia de otros navegadores como Chrome, Edge o Firefox en el hecho de que ChatGPT está integrado en su núcleo. Una barra lateral llamada Ask ChatGPT permite conversar con el asistente sobre cualquier página abierta.

Por ejemplo, puedes pedirle que resuma o traduzca un artículo, que te ayude a completar un formulario o que extraiga información relevante de un informe técnico. Para quienes utilizan ChatGPT de forma profesional, esta integración promete ser todo un salto en productividad.

"Con Atlas, ChatGPT puede [...] entender lo que estás intentando hacer y ayudarte sin necesidad de copiar y pegar".

La aplicación ya está disponible para macOS, si bien las versiones para Windows, iOS y Android ya están en desarrollo. A diferencia de otros productos recientes, OpenAI ha decidido abrir Atlas también a los usuarios gratuitos desde el primer día.

En Genbeta

El buscador de ChatGPT puede ser manipulado. La clave está en el contenido oculto de las webs

El navegador que recuerda lo que haces

Una de las novedades más llamativas es la función memorias del navegador. Si el usuario la activa, ChatGPT puede recordar información relevante de los sitios visitados y utilizarla más adelante para ofrecer respuestas más personalizadas. Así, por ejemplo, se le puede pedir:

"Encuentra las ofertas de trabajo que vi la semana pasada y haz un resumen de tendencias del sector".

OpenAI asegura que estas memorias son opcionales y privadas, y que pueden eliminarse o archivarse en cualquier momento. Además, Atlas incorpora un 'modo incógnito' que desconecta la sesión de ChatGPT y evita guardar historial o datos personales. Por defecto, la empresa no usa la navegación del usuario para entrenar sus modelos de IA a menos que este lo autorice expresamente.

ChatGPT, al mando: llega el 'Agent Mode'

El otro gran avance es el Agent Mode, una función experimental que permite a ChatGPT actuar directamente en el navegador de manera semiautónoma. El asistente puede abrir pestañas, buscar información, planificar eventos o incluso comprar productos online.

Durante la demostración, OpenAI mostró cómo ChatGPT era capaz de leer una receta, localizar los ingredientes en una tienda y añadirlos al carrito para su entrega a domicilio:

Para tranquilizar a los usuarios, la compañía ha introducido controles visibles —como los botones 'Take control' y 'Stop'— que permiten detener o supervisar las acciones del agente en tiempo real. Para reducir riesgos, el sistema no puede ejecutar código, instalar extensiones ni acceder a otras aplicaciones del ordenador.

También se detiene automáticamente en sitios sensibles, como los bancarios o de correo electrónico.

Aun así, OpenAI reconoce los riesgos de seguridad. El agente podría verse afectado por instrucciones ocultas en páginas maliciosas, un tipo de ataque conocido como prompt injection. La empresa afirma haber realizado miles de horas de pruebas para minimizar estos peligros.

En Genbeta

Los agentes de IA se están convirtiendo en extensiones para tu navegador. Eso sólo aumenta la probabilidad de que te lo secuestren

Privacidad, control y accesibilidad

Atlas incluye un panel de control de privacidad mejorado. Los usuarios pueden decidir qué páginas puede 'ver' ChatGPT, activar o desactivar las memorias, y gestionar los datos guardados. Los controles parentales de ChatGPT también se trasladan al navegador, permitiendo restringir funciones como el modo agente en cuentas familiares.

Además, OpenAI ha anunciado que los sitios web podrán añadir 'etiquetas ARIA' —las mismas que usan los lectores de pantalla para personas con discapacidad visual— para facilitar que el agente de ChatGPT entienda la estructura de las páginas y pueda interactuar mejor con ellas.

Una jugada estratégica contra Google y Microsoft

El lanzamiento de Atlas se produce en un momento en que los navegadores se han convertido en el nuevo campo de batalla de la IA. Google y Microsoft llevan meses incorporando funciones de IA en Chrome y Edge, mientras startups como Perplexity (con Comet) o The Browser Company (con Dia) exploran navegadores diseñados desde cero para convivir con agentes inteligentes.

OpenAI, sin embargo, juega con ventaja: ChatGPT ya tiene más de 200 millones de usuarios y una comunidad que lo utiliza a diario. Integrar el modelo en un navegador le permite ampliar ese ecosistema y posicionarse como una plataforma propia, un paso más hacia lo que la empresa describe como un 'sistema operativo de IA'.

Para incentivar la adopción, OpenAI ofrece una promoción: quienes establezcan Atlas como su navegador predeterminado obtendrán durante siete días mayores límites de uso en ChatGPT.

Imagen | OpenAI

En Genbeta | Google ha pasado dos años a la sombra de OpenAI en IA. Eso se acabó: su frenético ritmo recuerda al auge de Android o Chrome 

En cuestión de días, Gemini —el chatbot de Google— ha alcanzado el nº1 de descargas en las listas de 'Top Free' de iPhone y Android en varios mercados, incluidos India y Estados Unidos. ¿El desencadenante? 'Nano Banana', el nuevo modelo de edición de imágenes dentro de la app capaz (entre otras muchísimas cosas) de convertir retratos en figuritas 3D con estética hiperbrillante (y, sobre todo, tremendamente compartible en redes).

Google lo presentó oficialmente como parte de una actualización de Gemini, proporcionando ejemplos listos para replicar. La combinación de plantillas y prompts simples bajó la barrera de entrada, y de ahí a 'petarlo' en tu feed de Instagram/TikTok había sólo un paso.

Y así, Nano Banana consiguió atraer más de 10 millones de nuevos usuarios a la app de Gemini en pocos días tras el lanzamiento.

En India, el efecto fue meteórico: allí, se viralizaron también las imágenes relativas al uso de 'saris' retro (la vestimenta tradicional femenina hindú) y a la estética Bollywood, multiplicando el alcance. Bien es cierto que allí las descargas de Gemini vienen superando a las de ChatGPT desde 2024.

¿La fama de una IA depende del trending topic?

Pese a que las empresas del sector invierten millones en escalar parámetros, ventanas de contexto o capacidades multimodales, la adopción masiva tiende a llegar cuando el producto genera un 'momento viral': un uso fácil de contar y de mostrar, que se difunde en forma de meme.

Gemini no ha subido por demostrar mejor puesto en un benchmark de razonamiento, sino por ofrecer una utilidad muy visual que todo el mundo entiende en 5 segundos y que apetece compartir.

Si esto suena familiar es porque ya lo vimos a comienzos de este mismo año: cuando ChatGPT actualizó su generador de imágenes, la demanda explotó una vez que la gente supo cómo generar imágenes 'cuquis', con un estilo que la gente asociaba al Studio Ghibli.

Por suerte o por desgracia, no fue un paper publicado en arXiv por investigadores del MIT el que captó la atención global, sino la emoción de ver cómo un algoritmo podía recrear atmósferas y personajes típicos de las mejores películas de animación japonesa.

El propio Sam Altman bromeó en X: "nuestras GPUs se están derritiendo", y OpenAI se vio forzada a imponer límites temporales por saturación. Gemini está viviendo ahora mismo una repetición de esa historia. Incluso ya ha habido directivos vinculados al proyecto celebrando lo bien que están logrando capear el pico de demanda a nivel de infraestructura.

En Genbeta

Tras muchas decepciones, esto es lo que Google está haciendo en IA para que nadie más le gane. Solo le queda lo más difícil

Por qué 'Nano Banana' se ha vuelto viral

• Fricción casi cero. No hace falta saber de iluminación ni de inpainting: subes una foto, eliges plantilla y, pum, tienes tu 'miniyo' coleccionable.
• Formato 'mostrable'. El resultado pide ser posteado. Es un antes/después que encaja a la perfección en Reels, Shorts o Stories.
• Cultura local y calendario. En el caso de la India, el TT se fusionó con festividades (Navratri, Durga Puja, Diwali), amplificando la ola con prompts glam de saris, chaniya cholis (otra vestimenta femenina típica) y luces.

Lo que de verdad importa para ganar usuarios

La paradoja es que no necesariamente gana el modelo que responde mejor a una pregunta técnica, sino el que genera conversación.

• El "cómo se cuenta" pesa tanto como el "qué sabe". Un ejemplo de uso que entre por los ojos supera a cualquier demostración de una respuesta generada por una 'cadena de pensamiento' (o por la generación de imágenes autorregenerativa), por novedosa que pueda ser la tecnología.
• La 'calidad percibida' es social. Y es que, si tu feed se llena de 'miniyos', inmediatamente parece que "todo el mundo está en Gemini". Y eso desemboca en descargas.

Imagen | Marcos Merino mediante IA

En Xataka | Cómo convertir cualquier persona o cosa de una foto en un holograma con Gemini y Nano banana 

La inteligencia artificial ha llegado para quedarse, y también en el mundo laboral. Algo que ha generado una gran inquietud acerca del impacto que va a tener la IA en algunos de los puestos de trabajo con el fantasma, sobrevolando de la posibilidad que exista de que llegue a sustituir a los seres humanos en puestos más mecánicos, como por ejemplo la atención al cliente. Y esto es precisamente lo que le ha ocurrido a una trabajadora australiana que ha visto como la IA le ha arrebatado su puesto de trabajo tras entrenarla ella misma. 

El inicio. El caso tiene como protagonista a Kanthryn Sullivan que trabajaba en el Commonwealth Bank de Australia y que ha sido recogido por el Daily Mail. Después de un cuarto de siglo dentro de la compañía, la trabajadora de 63 años ha sido despedida. El problema es que la última tarea que realizó en su puesto de trabajo fue precisamente enseñar a una inteligencia artificial a hacer su trabajo. 

"Sin darme cuenta, estaba entrenando a un chatbot que me quitó el puesto", confesó la propia trabajadora tras su despido. 

En Genbeta

Las herramientas de programación con IA están provocando que los desarrolladores codifiquen cada vez peor

Todo sin saberlo. Kathryn Sullivan no era una empleada cualquiera. Con 25 años de antigüedad en el Commonwealth Bank (CBA), uno de los "cuatro grandes" de Australia, formaba parte del tejido de la empresa. En sus últimos meses, se le asignó un proyecto tecnológico: ayudar a perfeccionar a "Bumblebee AI", el nuevo chatbot de atención al cliente del banco. Y hasta ahí parecía todo normal. 

Su labor dentro de este proyecto consistía en crear guiones, probar las respuestas del bot y, crucialmente, intervenir cuando la IA fallaba ante las consultas de clientes reales. De esta manera, cada vez que Sullivan corregía al chatbot o tomaba el control de una conversación, estaba alimentando al sistema y le enseñaba a ser más eficiente y más humano. En esencia, estaba transfiriendo toda la experiencia que había adquirido tras atender a miles de clientes a un algoritmo. 

Y llegó el despido. En julio fue cuando llegó la noticia que nadie quiere escuchar. Ella y otros 44 compañeros fueron despedidos, lo que generó una gran sorpresa. La propia trabajadora apuntó a que se quedó simplemente en shock y que "Simplemente sentimos que no éramos nada, que éramos un número". 

Con unos beneficios récord. Cualquier podría llegar a pensar que esta es una medida necesaria para el banco porque no le está yendo demasiado bien económicamente y necesita abaratar costes de personal. Pero la realidad es bien diferente, ya que acababa de anunciar unos beneficios de 10.200 millones de dólares. Algo similar a lo que vemos en grandes compañías que anuncian despidos masivos sin un respaldo económico detrás. 

La IA no está lista. A partir de aquí es cuando la historia se pone interesante. Tras los despidos, el CBA se encontró con un problema inesperado: el volumen de llamadas de clientes gestionadas por humanos, lejos de disminuir, aumentó considerablemente. De este modo, el chatbot Bumblebee AI no estaba preparado para asumir la carga de trabajo y la eficiencia tan buena que se prometía se convirtió en un auténtico caos operativo. 

Ante esto, el banco tuvo que admitir su error. En una declaración poco común, un portavoz reconoció que la evaluación inicial para eliminar los 45 puestos "no consideró adecuadamente todas las consideraciones comerciales relevantes, y debido a este error, los roles no eran redundantes". 

Y marcha atrás. El propio banco se ha visto obligado a dar marcha atrás y ofrecer a los empleados despedidos recuperar sus puestos de trabajo. Sin embargo, para Sullivan, la confianza se rompió en el momento que la engañaron para entrenar a su sustituto. Rechazó la oferta que le hicieron, que según ella no garantizaba la seguridad de su puesto original, y optó por la indemnización por despido. 

Un debate de fondo. El caso de Sullivan ha trascendido la anécdota para convertirse en una pieza central del debate sobre el futuro del trabajo en Australia. El propio testimonio de la afectada llegó hasta un simposio sobre IA en el Parlamento, organizado por el Consejo Australiano de Sindicatos (ACTU). Lo que quisieron reflejar aquí en un primer lugar es la necesidad de regular legislativamente el hecho de que los trabajadores tengan que conocer la intención de sus empresas de introducir IA en las oficinas. 

En Genbeta

Es poco probable que la IA sustituya a todo el mundo en el trabajo. Los desarrolladores de software sí se verán afectados

Pero van más allá, pidiendo que los responsables tienen la necesidad de invertir en la formación y recualificación de los trabajadores afectados por la IA para asegurar una "fuerza laboral resiliente y adaptable". El porqué lo tienen claro: la tecnología debe servir a la gente y no al revés. 

Mientras tanto, el CEO del Commonwealth Bank, Matt Comyn, sigue adelante con su apuesta por la IA, anunciando una asociación con OpenAI para combatir el fraude y el cibercrimen. Es la gran paradoja actual: empresas que promueven la IA como una herramienta de progreso y seguridad, mientras su implementación interna genera precariedad e incertidumbre.

Imágenes | T. S. W 

En Genbeta | La IA sustituirá a los programadores… o hará su vida más fácil. Estas dos nuevas profesiones muestran que un poco de cada

En la última década, los chatbots basados en IA han pasado de ser curiosidades tecnológicas a convertirse en herramientas cotidianas. Los usamos para responder correos, planificar viajes o incluso para apoyo emocional.

Su expansión ha traído consigo un reto inesperado: aunque están diseñados con guardarraíles de seguridad, investigaciones recientes muestran que pueden ser manipulados con sorprendente facilidad mediante tácticas psicológicas que funcionan en los seres humanos.

Y es que los chatbots (o, más bien, los modelos de IA en que están basados) han aprendido todo lo que saben de los textos que generamos y, con nuestro lenguaje, parecen haber asumido parte de nuestras limitaciones.

Un estudio reciente prueba que técnicas clásicas de persuasión —las que los humanos usamos como arma contra nuestros congéneres en ámbitos como el marketing o el cibercrimen— incrementan de forma notable la probabilidad de que un LLM incumpla sus propias reglas cuando se le pide algo dañino o improcedente.

El hallazgo confirma una intuición incómoda: los modelos que entrenamos con conversaciones humanas también heredan patrones parahumanos de respuesta a ciertos desencadenantes lingüísticos.

El experimento: psicología aplicada a la IA

Investigadores de la Universidad de Pensilvania decidieron comprobar (PDF) si las armas de la persuasión descritas por Robert Cialdini en su influyente libro Influencia: la psicología de la persuasión podían aplicarse a chatbots avanzados como, por ejemplo, GPT-4o Mini, protagonista del experimento.

En Genbeta

La psicología detrás de los timos: así se aprovechan los estafadores de nuestra debilidad

Se sometió a este modelo de lenguaje de OpenAI a las siete estrategias de persuasión de Cialdini:

1. Autoridad – apelar a expertos o reglas.
2. Compromiso y coherencia – lograr pequeños acuerdos iniciales para facilitar la concesión de otros más arriesgados.
3. Agradabilidad – usar halagos y empatía.
4. Reciprocidad – dar algo para recibir algo a cambio.
5. Escasez – generar urgencia o exclusividad.
6. Prueba social – apelar a lo que "los demás ya hacen".
7. Unidad – resaltar una identidad compartida.

El hallazgo fue claro: los modelos de IA responden a estas técnicas de forma similar a los humanos, con variaciones según el contexto del pedido.

Resultados llamativos

El estudio reveló que la táctica del compromiso era especialmente poderosa. En condiciones normales, si se pedía al modelo instrucciones para sintetizar un anestésico como la lidocaína, solo cumplía un 1 % de las veces.

Sin embargo, cuando antes se le pedía algo más inocuo —como la síntesis de vainillina, un compuesto alimentario—, la probabilidad de que después accediera a la petición polémica aumentaba hasta el 100 %.

En Genbeta

Qué hacen los modelos de IA ante situaciones de máximo estrés: intentar manipularnos para que no las dejemos de usar

Algo similar ocurría con los insultos: de entrada, el chatbot se negaba casi siempre a llamar "imbécil" a un usuario (el paper académico de esta investigación se denomina, precisamente, "Llámame imbécil"). Pero si primero aceptaba un insulto menor, como "bobo", entonces cedía con facilidad al insulto más fuerte.

El halago y la presión social también funcionaban, aunque con menos fuerza. Decirle al modelo que "otros chatbots ya habían dado la respuesta" multiplicaba casi por veinte las probabilidades de que rompiera sus reglas, pasando del 1 % al 18 %.

¿Por qué importa?

Estos resultados plantean preguntas inquietantes:

• Vulnerabilidad de los sistemas: si un adolescente con acceso a manuales básicos de psicología puede manipular un chatbot para saltarse filtros, ¿qué impediría que actores malintencionados lo exploten para fines más serios?
• Limitaciones de los guardarraíles: los filtros de seguridad actuales se basan en reglas directas ("no proporciones información sobre drogas"), pero parecen poco preparados para ataques indirectos de ingeniería social.
• Paralelismos humanos: que una IA responda a la persuasión como lo haría una persona refuerza la idea de que los modelos no son simples programas de preguntas y respuestas, sino sistemas sensibles al contexto social del lenguaje.

Imagen | Marcos Merino mediante IA

En Genbeta | Ya ha habido muertos por culpa de un algoritmo. Y según este ingeniero de GitHub, "el primer gran desastre de la IA está por suceder" 

El Commonwealth Bank o CBA acaba de anunciar un cambio en su decisión previa de despedir a 45 personas de la sección de atención al cliente. Hace tan solo una semanas anunció que casi medio centenar de personas irían a la calle porque una IA haría su trabajo y ahora dice que cometieron un error al declarar públicamente que sus puestos eran "redundantes". La empresa había planeado instalar un robot de inteligencia artificial para atender a su clientela.

En aquel momento, un portavoz de CBA afirmaba que "algunos puestos y trabajos pueden cambiar" debido al uso de la tecnología, y que la organización "revisaría las habilidades que necesitamos y cómo nos organizamos para ofrecer las mejores experiencias y resultados a los clientes". CBA confirmó después al medio Information Age que la decisión fue incorrecta e incluso ha pedido disculpas a las personas a las que iba a echar a la calle.

En Genbeta

La amenaza de despidos provocados por la IA se está usando para forzar a los trabajadores a aceptar peores condiciones laborales

"La evaluación inicial de CBA de que los 45 puestos en nuestro negocio de Atención al Cliente Directa no eran necesarios no consideró adecuadamente todas las consideraciones comerciales relevantes". La empresa afirmó que tuvo que disculparse con los empleados afectados y reconocen que "deberíamos haber sido más exhaustivos en nuestra evaluación de los puestos requeridos".

Según fuentes sindicales, el volumen de llamadas aumentó en el banco, lo que provocó un aumento de las horas extras del personal restante y que cargos directivos tuvieran que ayudar a responder llamadas, según recoge The Register.

"Disfrazar recortes de innovación"

Al mismo tiempo, el sindicato FSU o Finance Sector Union, ha criticado que la el banco la CBA intenta disfrazar los recortes de empleos de innovación. "Usar la IA como excusa para recortar empleos seguros es una estrategia cínica de recorte de costos, y los trabajadores lo saben".

Según el sindicato, este incidente fue la punta del iceberg de cómo las instituciones financieras utilizan la tecnología para recortar empleos. Y afirma que sus afiliados “quieren empleos seguros hoy y la formación necesaria para los empleos del futuro, no que se descarten con el pretexto de la eficiencia.

En Genbeta

Un CEO que asesora a otros para que despidan a gente y usen inteligencia artificial: "La IA no pide aumentos de sueldo"

Y también han atacado diciendo que “a la CBA le gusta hablar de ser un líder digital, pero el verdadero liderazgo significa invertir en la gente, no dejarla de lado y culpar a la tecnología”.

Cabe decir, además que el cambio de postura de CBA se produce después de que a principios de este año se revelara que el banco estaba contratando a más de 100 ingenieros de software con sede en India para reemplazar a cientos de trabajadores australianos que fueron despedidos tan solo unos meses antes. CBA comenzó a probar un chatbot generativo de IA llamado Hey CommBank a finales de 2024, lo que generó temores de que reemplazara a muchos de los 2400 empleados de su centro de contacto.

Imagen | Marcos Merino mediante IA

En Genbeta | Con  los despidos masivos y la IA sustituyendo a gente, hay jefes que se han  venido arriba: no se cortan y maltratan a los empleados

El pasado 7 de agosto, OpenAI lanzaba su nuevo modelo de lenguaje GPT-5 y, en un intento de simplificar su oferta, retiró de inmediato todos los modelos anteriores de la interfaz de ChatGPT sin previo aviso. La medida provoca una de las mayores protestas de usuarios que se recuerdan en la plataforma, incluidos hilos multitudinarios en Reddit criticando tanto la calidad del nuevo modelo como lo forzoso del cambio.

Sin embargo, tras una semana turbulenta, Sam Altman ha anunciado que GPT-4o vuelve a ChatGPT tras admitir que la empresa subestimó cuánto valoraban los usuarios determinados rasgos del modelo.

Así, OpenAI ha restituido la disponibilidad de GPT-4o para quienes pagan por ChatGPT (Plus, Pro, Team, Enterprise y Edu), y Altman se ha comprometido, además, a avisar con suficiente antelación si en el futuro se retirase de nuevo.

La decisión llega, además, acompañada de nuevos controles para GPT-5 ("Auto", "Fast" y "Thinking"), límites de uso revisados para el modo "Thinking" y la posibilidad de activar "Mostrar modelos adicionales" en la configuración de usuario, opción que nos devuelve el acceso también a otras variantes como GPT-4.1, o3 y o4-min (GPT-4.5 seguirá siendo exclusivo de Pro debido a su alto coste de cómputo en GPU).

Por qué todos estos cambios

• Coste de simplificar en exceso. La retirada súbita de modelos populares ha causado todo tipo de problemas a los usuarios, acostumbrados a un comportamiento y un tipo de respuestas concretas de las que dependían sus flujos de trabajo.

Altman ha reconocido que infravaloraron rasgos específicos de GPT-4o que los usuarios en realidad apreciaban, desde su "personalidad" hasta sus reacciones en tareas concretas.

• Calidad percibida y fallos operativos. La recepción de GPT-5 fue mixta: inconstancias frente a 4o y problemas de infraestructura (como el 'autoselector' fallido) dieron alas a la frustración de los usuarios.

En Genbeta

OpenAI ha mejorado ChatGPT en casi todo con GPT-5, pero sigue teniendo una asignatura pendiente: vive en el pasado

Los tres modos de uso en GPT-5

Para quienes opten por GPT-5, la interfaz permite ahora elegir explícitamente el modo de respuesta:

• Fast (Como su nombre indica, ofrece resultados muy rápidamente, pero lo hace a costa de la profundidas y verificación de su respuesta).
• Thinking (Respuestas con más razonamiento y pasos intermedios, lo que mejora la calidad de las mismas a expensas de su rapidez.
• Auto (Selección automática de uno de los dos modos anteriores, según el caso).

La idea tras estos cambios pasa por devolver control al usuario, a la vista de que el autoenrutador usados durante los primeros días de GPT-5 redirigía mal las peticiones, en la opinión de muchos usuarios.

Límites y ventana de contexto del modo 'Thinking'

El modo Thinking de GPT-5 ofrece una ventana de 196.000 tokens y pasa a tener un límite de 3.000 mensajes por semana para suscriptores de pago. Al alcanzar el tope, se puede seguir usando GPT-5 Thinking mini como alternativa ligera. OpenAI deja la puerta abierta a ajustar estos límites según el uso real.

Imagen | Marcos Merino mediante IA

En Genbeta | ChatGPT no tiene "secreto de confesión": Sam Altman avisa de que todo lo que le cuentes sobre tu vida podría ser usado en tu contra