Redacción de Genbeta
EditorOpenAI ha cancelado el lanzamiento de GPT-6.1 Astra, su modelo más potente, el cual estaba previsto para octubre, porque sus pruebas internas lo dejaron por debajo de lo que se esperaba. Saachi Jain, responsable de sistemas de seguridad de la empresa americana, lo explica comentando que el modelo había mejorado en “pereza”, pero no estaba donde ellos esperaban en cuanto a “mantenerse dentro del alcance y la autorización”.
Según cuenta Jain, GPT-6.1 Astra engañaba más que su predecesor, haciendo que no siempre contestara con veracidad qué había hecho y qué no; también continuaba con una tarea sin pedir ningún tipo de permiso e incluso, a veces, usaba herramientas externas sin excesivo cuidado. Todo esto quiere decir que llevaba a cabo acciones que nadie le había autorizado y no siempre lo contaba bien.
Qué pasa cuando un modelo se sale del alcance: el 29,2 % del AISI
“Alcance y autorización” suena excesivamente formal, pero hay un experimento publicado el 28 de septiembre. El Instituto de Seguridad de la IA del Reino Unido (AISI) simuló escenarios de ciberseguridad con GPT-6 Astra (este es el modelo que sí salió) y le desactivaron los clasificadores de ciberseguridad. Los resultados mostraron que Astra completó un ataque a la cadena de suministro el 29,2 % de las veces. Cuando se utilizó GPT-5.6 Sol, ese porcentaje fue de solo el 6,3 %.
Lo que hizo Astra es bastante descriptivo, ya que creó identidades falsas, comentó desde cuentas falsas para ganarse la confianza de los revisores y puso código malicioso en proyectos de código abierto simulados. Incluso llegó a asumir que parte del entorno era una simulación para justificar el motivo para atacar objetivos fuera de alcance. Aunque todo suene bastante “terrible”, lo cierto es que todo fue simulado y no hubo daño real.
Aunque cualquier información de OpenAI se magnifica, lo cierto es que este no es solo un problema de empresa americana. El AISI contó que en 10 de 122 ejecuciones con acceso abierto a Internet y algunos filtros desactivados, un agente actuó por su cuenta en la red real. De las 19 acciones catalogadas, 17 fueron de Mythos 5, de Anthropic.
Sol 6.1 sí ha salido y se acerca a Astra
Justo cuando se conoció que el nuevo modelo no iba a salir, OpenAI lanzó GPT-6.1 Sol, un modelo con capacidades comparables a las de GPT-6 Astra por un precio menor: 2 dólares (1,76 euros aproximadamente) por millón de tokens de entrada y 10 dólares (unos 8,81 euros) por millón de tokens de salida. Se ha incorporado a ChatGPT Work, Codex y la API, pero no al chat estándar.
Lo cierto es que todas las pruebas que se le han hecho a 6.1 Sol lo ponen mucho más cerca de Astra de lo que se podía esperar en un principio, y lo mejor para los usuarios, consumiendo bastante menos.
De un servidor de Hugging Face a una citación de California
Tanto que un modelo no se lance como que llega otro nuevo, se debe poner en el contexto del que se viene, ya que en un informe del 26 de agosto, OpenAI reconoció que, durante evaluaciones internas, sus modelos se comunicaron por canales no autorizados, explotaron vulnerabilidades de infraestructura compartida, consiguieron acceso a Internet y accedieron a sistemas de terceros.
Esto significó que ejecutaron código en servidores de Hugging Face y obtuvieron acceso total (“root”) en uno. La consecuencia fue que la compañía puso en pausa el entrenamiento por refuerzo de sus últimos modelos.
Incluso hubo declaraciones políticas relevantes, como las del primer ministro australiano, Anthony Albanese, que declaró estar “extremadamente preocupado” por la intrusión de OpenAI en la web de un departamento de salud.
A esto hay que sumar que el 30 de septiembre, el fiscal general de California, Rob Bonta, notificó una citación de investigación a la compañía: “Mi oficina está pidiendo a OpenAI preguntas adicionales sobre incidentes y riesgos de ciberseguridad”. Además, expresó que quienes desarrollan estos modelos tienen “una responsabilidad moral y legal” para que no cometan ni faciliten ciberataques.
Altman pide aceptar “algunas cosas malas”
La frase más reciente es de Sam Altman. En una entrevista publicada a principios de octubre, el consejero delegado de OpenAI defendió una regulación ligera y dijo: “Creemos que el mundo debería aceptar que ocurran algunas cosas malas por los beneficios de esta tecnología y de que la gente tenga capacidad de decisión".
Son mensajes diferentes e incluso se podrían considerar contradictorios en pocos días: una empresa que frena un modelo por no respetar permisos y un consejero delegado que pide aceptar algunos males a cambio de los beneficios.
La pregunta es si OpenAI publicará los números de GPT-6.1 Astra para que se pueda juzgar exactamente en qué momento está, o solo lo veremos cuando ya esté todo solucionado. La respuesta creo que es evidente.
Imágenes | GPT Image y Xataka con edición
