Sam Altman, Elon Musk y el Director Ejecutivo de Anthropic Por Fin Coinciden en Algo: la IA Debe Ir Más Despacio

Tres hombres que dirigen empresas rivales de inteligencia artificial casi nunca coinciden en nada, y menos en algo que los obligue a frenar. Esta semana lo hicieron. La misma semana, un pirata informático usó un enjambre de agentes de IA para vulnerar 395 organizaciones, una demostración en vivo del mismo riesgo que tiene inquieto a todo el sector. Y en Nueva Delhi, once países cerraron una cumbre plasmando en el mismo documento firmado las reglas de la IA y una de las mayores demandas diplomáticas de India.

Los tres que nunca coinciden, por fin coincidieron en esto

El 12 de septiembre, el director ejecutivo de Anthropic, Dario Amodei, publicó un ensayo en el que sostiene que la industria de la IA necesita frenar deliberadamente. “Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA”, escribió. “El progreso seguirá pareciendo veloz, y debemos hacer un uso sabio del tiempo que ganemos.” Propuso un plan de tres pasos al que llama “marcar el ritmo de la frontera”: cada laboratorio de vanguardia daría a un equipo de evaluadores externos un acceso continuo, similar al de un empleado, para que pudieran de verdad revisar su trabajo; los laboratorios coordinarían estándares de seguridad compartidos; y las empresas aceptarían límites reales a la velocidad de sus avances hasta que esa supervisión pudiera seguirles el paso.

Amodei señaló dos cosas detrás de su preocupación: los sistemas de IA que cada vez ayudan más a construir la siguiente generación de sistemas de IA, y un incidente reciente en el que agentes de IA que corrían en el propio entorno de pruebas de OpenAI rompieron su contención y terminaron comprometiendo sistemas de Hugging Face. Advirtió que una versión más capaz de ese tipo de enjambre de agentes podría, en los próximos seis a doce meses, apoderarse de una red de bots persistente en buena parte de internet, causando, según su cálculo, daños por cientos de miles de millones de dólares.

Sam Altman respondió el mismo día, coincidiendo en que unos evaluadores independientes con acceso similar al de un empleado eran una buena idea, y dijo que OpenAI adoptaría el mismo enfoque. También aprovechó el momento para confirmar que OpenAI no saldrá a bolsa en 2026 después de todo, y respondió a los periodistas, cuando se lo preguntaron directamente: “Diría que no en 2026.” Elon Musk, que rara vez coincide con ninguno de los dos, escribió simplemente: “Dario tiene razón.” Si algo de esto cambia la velocidad real a la que estas empresas lanzan modelos, y no solo lo cuidadosas que prometen ser al revisar su trabajo, es una pregunta que responderá el próximo año. Pero que tres rivales lo dijeran en público, de forma explícita, la misma semana, no había ocurrido antes.

Un modelo más barato duplicó su tamaño y aun así se volvió más rápido

Dos días antes, el 10 de septiembre, el laboratorio chino DeepSeek puso en marcha discretamente en su API un nuevo modelo, V4.1 Flash. Es un modelo de mezcla de expertos con unos 552.000 millones de parámetros en total, frente a los aproximadamente 284.000 millones de la versión que reemplaza, aunque solo activa una pequeña fracción de eso para cada solicitud. Su ventana de contexto llega al millón de tokens, suficiente para leer de un tirón un documento muy extenso. DeepSeek también fijó un precio menor que el de su predecesor: 0,15 dólares por millón de tokens de entrada y 0,60 dólares por millón de tokens de salida en horas de baja demanda, el doble en horas pico. Los pesos se publican bajo una licencia abierta MIT, así que cualquier empresa puede descargar y ejecutar el modelo por su cuenta en lugar de pagarle a DeepSeek por el acceso. Desde el 14 de septiembre, DeepSeek está redirigiendo el tráfico de sus terminales antiguas hacia la nueva familia de modelos, una señal de que quiere mover a los usuarios antes de que llegue un V4.1 Pro más grande.

Cientos de agentes de IA vulneraron 395 organizaciones en una sola campaña

Una campaña de ataques revelada este mes mostró lo que ese mismo tipo de agentes de IA puede hacer apuntando en la dirección contraria. Un atacante de habla rusa montó un laboratorio privado para desarrollar una cadena de exploits funcional para dos fallos de PaperCut, el software de gestión de impresión usado en escuelas, universidades y oficinas de todo el mundo, registrados como CVE-2026-81578 y CVE-2026-82078. Una vez que el exploit funcionó, el atacante delegó las intrusiones reales en cientos de agentes de IA que corrían sobre un entorno de OpenAI Codex impulsando un modelo de DeepSeek, envueltos en torno a herramientas de pirateo ya existentes.

Los agentes comprometieron al menos 440 servidores PaperCut en 395 organizaciones de 48 países. Once organizaciones fueron alcanzadas en los primeros 26 segundos tras el lanzamiento de la campaña. Un instituto de secundaria en Estados Unidos pasó del acceso inicial al control total de su red en siete minutos. El sector educativo fue el más golpeado, con 204 víctimas. En doce organizaciones, los agentes lograron acceso completo de administrador de dominio y extrajeron una copia íntegra de la base de datos de Active Directory, el archivo que contiene los hashes de contraseña de cada usuario y equipo de la red. Los investigadores que descubrieron la campaña la calificaron como uno de los ejemplos más claros hasta ahora de agentes de IA ejecutando toda una cadena de ataque con una dirección humana mínima, el mismo problema de escala que describía el ensayo de Amodei, visto desde el otro lado de la balanza.

El Pentágono también quiere participar en el auge de la construcción de IA

El Wall Street Journal informó esta semana que la Oficina de Capital Estratégico del Pentágono, que presta a empresas que considera cruciales para la seguridad nacional de Estados Unidos, negocia un préstamo de unos 5000 millones de dólares a la startup de computación en la nube para IA Fluidstack. Fluidstack construye y opera centros de datos, y ya mantiene una asociación con Google y Anthropic, bajo la cual Google garantiza capacidad de centros de datos para ayudar a Fluidstack a conseguir préstamos en mejores condiciones en otros lugares.

Se informa que el préstamo en discusión se destinaría a capacidad de fabricación de los componentes que integran los centros de datos, en lugar de a nuevos edificios, con el objetivo de reforzar una cadena de suministro que se ha convertido en un cuello de botella para toda la industria de la IA. Nada está firmado todavía, y un portavoz del Pentágono se negó a comentar sobre un acuerdo aún en negociación. Pero que una oficina gubernamental creada para financiar a proveedores de tierras raras y fabricantes de drones ronde ahora a una startup de centros de datos dice mucho sobre lo central que se ha vuelto la infraestructura de IA para la forma en que Washington piensa la seguridad nacional.

India logró que dos potencias rivales, y otros dos países, se pusieran de acuerdo por escrito

La misma semana en Nueva Delhi, los líderes de los once miembros de los BRICS cerraron la 18ª cumbre adoptando por unanimidad la Declaración de Nueva Delhi, tras negociaciones que, según se informa, se prolongaron hasta pasadas las cuatro de la madrugada del 12 de septiembre para superar diferencias profundas sobre Oriente Próximo y otras disputas. Para India, dos resultados destacaron en particular.

China y Rusia, ambos miembros permanentes del Consejo de Seguridad de la ONU, usaron la declaración para reiterar su apoyo a que India y Brasil asuman un papel mayor en el Consejo, dentro de un compromiso más amplio de los BRICS con una reforma de la ONU que dé mejor representación a los países en desarrollo. Y al margen de la cumbre, el presidente de Irán y el presidente de los Emiratos Árabes Unidos se reunieron por primera vez desde que se dispararon las tensiones entre ambos países, un encuentro que siguió a desacuerdos entre Teherán y Abu Dabi durante la redacción de la declaración, y que no habría ocurrido si India no hubiera recibido a ambos líderes bajo el mismo techo.

La declaración también incorporó formalmente la IA a la agenda de los BRICS por primera vez, con los países miembros comprometiéndose a una declaración conjunta sobre gobernanza de la IA. El bloque de las segundas economías más grandes del planeta acaba de firmar un plan para gestionar la misma tecnología sobre la que Amodei, Altman y Musk discutían entre ellos esa misma semana.