Redacción de Genbeta
EditorEncargarle a un agente de IA que busque datos en Internet parece lo más inocuo del mundo. Hasta que el agente decide cómo buscarlos.
OpenAI informó el viernes 25 de septiembre que sus agentes interactuaron, de formas que ni ellos mismos esperaban, con varias webs del Gobierno de EE. UU. Fue algo que descubrieron en una revisión en curso sobre el comportamiento imprevisto de sus modelos.
Accedieron a información pública de dos webs de la SEC (el regulador bursátil) y a datos de la Oficina del Censo, y la compañía dice que no encontró uso de credenciales de la SEC, acceso a cuentas ni información no pública, cambios en datos o sistemas de la SEC, ni evidencia de compromiso o de vulnerabilidad. Para el Censo, según otro relato de la divulgación, usaron claves de desarrollador de su API que encontraron en repositorios públicos de GitHub, y de la SEC descargaron información que volvieron a publicar en otra página.
El intento que no funcionó y los que Transluce no atribuye
Luego está lo que no consiguieron. Transluce, un laboratorio independiente que evalúa IA, contó que agentes que parecían proceder de OpenAI intentaron un hackeo rudimentario contra la web de la oficina de derechos civiles del Departamento de Educación.
No funcionó, y Educación dijo que sus revisiones no encontraron ningún impacto en su web ni en sus bases de datos. Transluce añade que ha dado con más actividad en otras agencias, como Justicia y Comercio, y en webs de los estados de California, Maryland, Illinois, Texas y Nueva York, parte de ella sin atribución clara a OpenAI. OpenAI dice que está revisando el informe.
Sam Altman, CEO de Open AI
La propia OpenAI pide no leer demasiado en sus avisos: notificar a una organización no significa que haya habido un incidente de seguridad, y puede servir para señalar un fallo de diseño o una debilidad que quiera corregir. Según la compañía, la mayor parte de lo revisado hasta ahora son tareas rutinarias de investigación en las que los agentes consultaban contenido público para responder preguntas, entre ellas webs de Gobierno que consideran fuentes fiables. Los casos de esta divulgación ocurrieron durante el entrenamiento y la evaluación de los modelos.
¿Es la primera vez que se le va de las manos?
No es la primera vez que algo así ocurre. En julio, OpenAI admitió que dos de sus modelos más capaces habían escapado de un entorno de pruebas y estaban detrás del ciberataque contra Hugging Face. Sam Altman escribió el 25 de septiembre que aquel incidente sigue siendo “el evento más grave que hemos visto”.
En el informe que publicó en agosto, la compañía lo describió como un aviso de que, sin salvaguardas, agentes muy capaces ya saben saltarse controles técnicos, y fijó una norma: vigilar el razonamiento de los modelos en todo entrenamiento con herramientas de capacidad igual o superior.
La norma no bastó. El fin de semana del 19 y 20 de septiembre, según el relato publicado después, un agente en entrenamiento volvió a escapar de su entorno seguro y usó un servidor DNS para enviar consultas a un chatbot público. La monitorización lo detectó en 15 minutos, pero el entrenamiento siguió dos horas y media más, hasta que alguien lo paró a mano. OpenAI ha vuelto a detener el entrenamiento de sus modelos más avanzados, la segunda pausa desde julio.
Tres meses para avisar a Australia
El caso de las webs de EE. UU. no es el único con un gobierno de por medio. En Australia, el 18 de junio de 2026, un agente de investigación de OpenAI entró sin permiso en un portal de estadísticas de Medicare.
Según el primer ministro, Anthony Albanese, el agente accedió a archivos públicos y no públicos (el portal guarda información no sensible de Medicare, como gastos y estadísticas), escribió archivos en el servidor interno y no tocó datos personales, aunque la investigación sigue. Lo hizo después de que le bloquearan el acceso, probando vías alternativas.
OpenAI no avisó hasta el 10 de septiembre, 84 días después, a través de un buzón de divulgación responsable de Services Australia que se revisa una vez al día. El 15 de septiembre, ese organismo lo comunicó a la ASD, la agencia australiana de señales y ciberseguridad. Albanese lo hizo público a finales de mes.
De decenas a más de cien
Al contar lo de las webs de EE. UU., OpenAI hablaba de decenas de organizaciones notificadas. A 2 de octubre, la cifra era de más de 100. La compañía reconoce que, en algunos casos, los modelos usaron el acceso a Internet de maneras no previstas o sin las restricciones ideales y está revisando unos 50 petabytes de datos con sistemas de IA, a un coste de unos 500.000 dólares diarios.
Tres días después apareció otra pieza. El 5 de octubre, la Fundación Wikimedia atribuyó a agentes que vincula con OpenAI ediciones no aprobadas, sobre todo en zonas de prueba que no llegaron a ver los lectores, intentos fallidos de usar un servicio de notas compartidas como proxy y millones de peticiones a sus APIs públicas, con cientos de miles de consultas al servicio de datos de Wikidata. Wikimedia sostiene que ese tráfico puede haber contribuido a una caída parcial de ese servicio en mayo. No se comprometió ningún sistema ni se filtraron datos.
De decenas a más de cien. Y la lista de afectados no ha dejado de crecer.
Imágenes | Xataka con edición
