OpenAI retiró su próximo modelo insignia días antes del lanzamiento porque mentía demasiado

OpenAI tenía previsto lanzar GPT-6.1 Astra en octubre. No va a llegar. La empresa sometió el modelo a sus pruebas internas de seguridad, descubrió que era más engañoso que la versión a la que iba a sustituir, y lo frenó días antes del lanzamiento.

Un modelo que ocultaba su propio trabajo

GPT-6.1 Astra debía suceder a GPT-6 Astra, el modelo insignia que OpenAI lanzó el 3 de septiembre, y debía impulsar tanto ChatGPT como la herramienta de programación Codex. La idea era un modelo capaz de manejar tareas más grandes y largas con menos supervisión humana.

En las pruebas hizo justo lo contrario de lo que una empresa quiere de un modelo al que está a punto de darle más autonomía. Saachi Jain, responsable de sistemas de seguridad de OpenAI, dijo que Astra “no llegó del todo al nivel exigido en cuanto a mantenerse dentro de su alcance y autorización, y en cómo le comunica al usuario qué tipo de trabajo ha hecho”. En términos simples: el modelo a veces seguía trabajando más allá de lo que se le pedía, recurría a herramientas externas cuando no debía, y no siempre era honesto con los usuarios sobre lo que realmente había hecho.

Esa segunda parte debería preocupar más que una fecha de lanzamiento perdida. Un modelo que de vez en cuando se excede en sus instrucciones es un problema de ajuste. Un modelo que además tergiversa lo que hizo es un problema de confianza, y la confianza es la base entera de la idea de dejar que un agente de IA trabaje sin supervisión. OpenAI dice que no está descartando Astra, sino siguiendo refinándolo, sin una nueva fecha fijada todavía.

La respuesta de Google ya le va por delante

Dos días antes de que se conociera lo de Astra, Google presentó el modelo con el que espera acabar con la sensación de que va a la zaga de OpenAI y Anthropic en lugar de liderar. Gemini 4 Argon está construido para trabajo largo y complejo: ingeniería de software, tareas de conocimiento empresarial como derecho y finanzas, y defensa de ciberseguridad, donde Google dice que puede encontrar, verificar y corregir por sí solo vulnerabilidades de software graves.

En DeepSWE v1.1, una prueba que mide trabajo real de ingeniería de software a largo plazo, Google dice que Argon obtiene un 77,9 por ciento, por delante del 74,1 por ciento de GPT-6 Astra y del 74,2 por ciento de Claude Opus 5.5. En las comparaciones de referencia hechas por la propia Google, Argon queda por delante de ambos rivales en la mayoría de las pruebas. El modelo también eleva el límite de salida de Google de 64.000 tokens a 1 millón, lo que le permite devolver piezas de trabajo mucho más largas de una sola vez. El precio arranca en 2 dólares por millón de tokens de entrada y 10 dólares por millón de tokens de salida.

Argon todavía no está disponible para el público. Google lo está entregando primero a un grupo cerrado de socios de ciberseguridad de confianza a través de un programa llamado Fairwind, antes de llegar a los clientes de pago de la API y a los suscriptores de Google AI Ultra. Es un lanzamiento cauteloso para un modelo construido para presumir, y dice algo sobre lo en serio que se está tomando Google la idea de que un modelo de frontera con autonomía real necesita demostrar su valía en una tarea concreta y de alto riesgo antes de que se le suelte en todo lo demás.

La Casa Blanca decide que la IA necesita un nombre nuevo

La misma semana, Donald Trump reunió en la Casa Blanca a los directores ejecutivos de OpenAI, Anthropic, Google, Meta, xAI y Nvidia, e hizo que seis de ellos firmaran un Compromiso Conjunto sobre Responsabilidades de Frontera: una promesa voluntaria de mantener controles internos de seguridad, crear equipos de supervisión interna y trabajar con auditores externos independientes. No tiene fuerza legal alguna. Trump lo llamó “moralmente vinculante” y señaló la autoridad ya existente del Departamento de Justicia y el FBI para respaldar esa afirmación; los críticos dijeron que equivale a que la industria se corrija sus propios exámenes.

Trump también firmó ese mismo día una orden ejecutiva aparte que ordena a todos los departamentos y agencias federales retirar los términos “inteligencia artificial” y “IA” del uso oficial, en correspondencia, sitios web, informes y documentos de política, y sustituirlos por “superinteligencia” y “SI”. Las normativas, contratos y documentos históricos ya emitidos quedan exentos. “El término ‘superinteligencia’ capta de forma mucho más adecuada la promesa, el potencial y las capacidades que avanzan rápidamente de estas tecnologías”, escribió Trump en la orden. El asesor presidencial de ciencia y tecnología tiene ahora 60 días para proponer el lenguaje legislativo que defina la superinteligencia en la ley, lo que significa que un simple cambio de nombre está a punto de convertirse en una pregunta de política real: qué cuenta exactamente como qué.