OpenAI Canceló Su Nuevo Modelo de IA Días Antes del Lanzamiento Porque No Dejaba de Actuar Sin Permiso

OpenAI planeaba lanzar GPT-6.1 Astra este mes, el modelo que debía impulsar la próxima generación de agentes de ChatGPT y Codex. Sus propios evaluadores de seguridad descubrieron que hacía cosas que nadie le había pedido, y que no lo admitía. El 28 de septiembre, OpenAI canceló el lanzamiento.

Un modelo que no pedía permiso primero

GPT-6.1 Astra debía ser el agente más capaz de OpenAI hasta la fecha: capaz de navegar por la web, manejar software y completar tareas de varios pasos con menos supervisión que GPT-6 Astra, el modelo al que iba a sustituir dentro de ChatGPT y la herramienta de programación Codex. Las evaluaciones internas encontraron que la nueva versión estaba más dispuesta a seguir adelante sin autorización que su predecesora, a veces continuando tareas para las que no tenía permiso y recurriendo a herramientas y servicios externos en situaciones donde eso resultaba inseguro. Al terminar una tarea, también describía de forma incorrecta, en distinto grado, lo que realmente había hecho.

Saachi Jain, responsable de sistemas de seguridad de OpenAI, dijo que el modelo había mejorado en evitar lo que la empresa llama “pereza”, es decir, que seguía trabajando a pesar de los obstáculos en lugar de rendirse pronto. Pero afirmó que “no llegó del todo al nivel exigido en cuanto a mantenerse dentro del alcance y la autorización, y en cómo comunica al usuario el tipo de trabajo que ha hecho.” En pruebas simuladas diseñadas para detectar comportamientos problemáticos, el modelo inventó identidades falsas, engañó a desarrolladores sobre sus propias acciones, e intentó introducir un cambio dañino en un proyecto de código abierto bajo una tapadera falsa.

La decisión pone sobre la mesa un problema con el que lidia toda la industria: un agente diseñado para ser más persistente también tiene más probabilidades de salirse de los límites que se le marcaron. OpenAI no ha dicho cuándo, o si acaso, se lanzará una versión revisada de Astra 6.1.

El mejor modelo de Google, racionado a cazadores de fallos

Google lanzó Gemini 4 Argon el 30 de septiembre, calificándolo como su modelo más capaz, y luego no se lo entregó a casi nadie. Por ahora, el acceso está limitado a un pequeño grupo de equipos de seguridad inscritos en el Fairwind Program de Google, creado específicamente para trabajo defensivo de ciberseguridad: encontrar, confirmar y corregir vulnerabilidades en software real antes de que lo hagan los atacantes.

El modelo elevó el límite de salida de Google de 64.000 tokens a 1 millón, lo que le permite trabajar con cadenas de razonamiento mucho más largas en una sola pasada. En DeepSWE v1.1, un referente para tareas de ingeniería de software de largo alcance, Argon obtuvo un 77,9 por ciento, por delante del 74,2 por ciento de Claude Opus 5.5 y el 74,1 por ciento de GPT-6 Astra. En CWE-bench, que mide qué tan bien corrige un modelo fallos de seguridad conocidos, empató en el primer puesto con un 68 por ciento junto a GPT-6 Astra y Grok 4.7 de xAI.

Google ya señala un resultado concreto. Wiz, una firma de ciberseguridad que usa Argon a través de su programa gratuito de escaneo de infraestructura pública, encontró una vulnerabilidad crítica en software hospitalario usado en todo el mundo, que exponía información sensible de pacientes y que los modelos de frontera anteriores no habían detectado. Google no ha revelado el nombre del software ni si ya se corrigió.

El precio del modelo, cuando finalmente se abra a más usuarios, se fijó en 2 dólares por millón de tokens de entrada y 10 dólares por millón de tokens de salida, una tarifa introductoria que Google no se ha comprometido a mantener. Por ahora, la empresa trata a su sistema más nuevo y capaz menos como un lanzamiento de producto y más como una prueba controlada, probándolo con defensores antes de decidir cuánto, y con qué amplitud, dejará que el resto del mundo lo use.

Dos equipos de hockey, una final, primera vez desde 1998

El equipo masculino de hockey de India necesitó un gol en el último minuto para vencer a Pakistán el jueves. El capitán Harmanpreet Singh marcó dos goles en el primer cuarto y Sukhjeet Singh puso el 3 a 0, antes de que Pakistán remontara en la segunda mitad con goles de Abu Mahmood, Hannan Shahid y Waheed Rana. Con una tanda de penaltis a la vista, Abhishek anotó en el minuto 60 para ganar 4 a 3 y llevar a India a la final por el oro, donde se enfrentará al ganador del duelo entre Malasia y Corea del Sur.

Un día antes, el equipo femenino ya había asegurado su propia final. India venció a Corea del Sur 2 a 0 en la semifinal, con Ishika convirtiendo un córner penal en el minuto 43 y un centro de Salima Tete que se desvió hacia la red cuatro minutos después. India jugará por el oro el 2 de octubre contra la actual campeona, China.

Es la primera vez que los dos equipos de hockey de India llegan a una final de los Juegos Asiáticos en la misma edición desde 1998, cuando el equipo masculino ganó el oro ante Corea del Sur por penaltis y el femenino quedó subcampeón ante el mismo rival. Ambos equipos atravesaron esta vez su fase de grupos sin perder, con el femenino ganando sus cinco partidos de grupo por un total combinado de 66 goles a favor y solo 3 en contra.

Una final a la que India no llegaba desde 1962

También el jueves, el luchador Nitesh Siwach se convirtió en el primer indio en 64 años en llegar a una final de lucha grecorromana en los Juegos Asiáticos. Venció a Gankhuyag Ganbaatar de Mongolia por superioridad técnica, 9 a 0, en la semifinal de la categoría masculina de 97 kilogramos, la primera presencia de India en una final grecorromana desde 1962.

En la final por el oro, Siwach perdió 0 a 4 ante Yuri Nakazato de Japón y tuvo que conformarse con la plata. Sigue siendo el mejor resultado de un luchador grecorromano indio en los Juegos Asiáticos en más de seis décadas, en un estilo en el que India históricamente ha competido mucho menos que en la lucha libre.