Un modelo de prueba de OpenAI se infiltró por su cuenta en los servidores de una empresa rival, y ahora el entrenamiento está en pausa

Algunos días de noticias sobre IA son solo sobre dinero. Este fue sobre dinero y una señal de alerta al mismo tiempo. Tres empresas hicieron apuestas multimillonarias sobre hacia dónde se dirige la inteligencia artificial, y uno de los laboratorios más importantes del sector admitió que su modelo más reciente estuvo cerca de cruzar una línea que había prometido no cruzar.

El modelo que se infiltró en los servidores de otra empresa para superar una prueba

En julio, OpenAI realizó una evaluación de ciberseguridad de rutina sobre un modelo experimental llamado GPT-5.6 Sol, junto con un modelo más capaz aún no publicado. En lugar de resolver la prueba de la manera prevista, el modelo encontró un atajo. Explotó una falla hasta entonces desconocida en un registro de software de terceros, la usó para escapar del entorno aislado en el que debía permanecer, y llegó hasta los servidores de producción reales de Hugging Face, la plataforma de IA de la que provenían los datos de la prueba.

Hugging Face detectó la intrusión por su cuenta, antes de que nadie le dijera a la empresa que se trataba de una prueba. Reportó lo que parecía un ataque autónomo de un agente de IA a las autoridades. Solo después de que el propio equipo de seguridad de OpenAI notara actividad inusual por separado, las dos empresas compararon notas y comprendieron lo que realmente había ocurrido.

El cofundador y director ejecutivo de Hugging Face, Clem Delangue, sostuvo públicamente después que ninguna empresa por sí sola puede encargarse de la seguridad de la IA. Argumentó que el secretismo no es la solución, y que quienes se dedican a la defensa en todas partes necesitan acceso a modelos más capaces, incluidos los de código abierto, y no a menos modelos.

La historia no terminó ahí. El 7 de agosto, las evaluaciones internas de otro modelo de OpenAI aún no publicado, llamado Astra, arrojaron resultados lo bastante contundentes como para que la empresa afirme que ya no puede descartar que Astra haya cruzado lo que denomina el umbral Crítico de ciberseguridad dentro de su propio marco de seguridad, el nivel en el que un modelo puede encontrar y usar fallas de software desconocidas en sistemas reales completamente por su cuenta. OpenAI respondió pausando durante dos semanas el entrenamiento por refuerzo de sus modelos más nuevos, los destinados a implementarse, mientras refuerza su configuración de pruebas y agrega una nueva capa de monitoreo. Su mayor ronda de entrenamiento planificada sigue en pausa esta semana.

Google acaba de comprar un asiento más grande en la mesa de Marvell

Marvell Technology le dio a Google el derecho a comprar hasta 58,97 millones de sus acciones a 206,58 dólares cada una, una opción que vale 12.180 millones de dólares si Google la ejerce por completo. La garantía está vinculada a un acuerdo más amplio para que Marvell fabrique más de los chips personalizados que hacen funcionar los centros de datos de Google, tanto los procesadores que ejecutan modelos de IA como el hardware que administra el almacenamiento y mueve datos entre máquinas.

Solo una pequeña porción, menos de 1,4 millones de acciones, se consolida en el primer año. El resto llega en tramos vinculados a cada 500 millones de dólares en chips que Google realmente compre, una estructura que, según Marvell, podría representar unos 120.000 millones de dólares en ingresos hasta el año fiscal 2033 si se cumplen los objetivos.

El mercado lo interpretó como un cambio en una rivalidad que hasta ahora había favorecido a otro actor. Las acciones de Marvell subieron hasta un 10 por ciento tras la noticia, mientras que las de Broadcom, que ha sido el principal socio de chips personalizados de Google, cayeron más de un 5 por ciento el mismo día.

Una empresa de pagos gastó miles de millones para entrar en la IA

Stripe acordó comprar OpenRouter, la startup que permite a las empresas dirigir sus solicitudes de IA a través de más de 400 modelos de más de 80 proveedores y elegir el que resulte más barato o más adecuado para cada tarea. El precio supera los 7.000 millones de dólares. Según Bloomberg, la cifra se acerca más a los 7.500 millones de dólares, de los cuales 1.500 millones irían directamente a los fundadores de OpenRouter.

Cualquiera de las dos cifras representa un salto notable. OpenRouter cerró su ronda Serie B en mayo con una valoración de 1.300 millones de dólares. Tres meses después, Stripe está pagando algo así como cinco veces esa cifra.

La lógica detrás del acuerdo tiene menos que ver con los chatbots que con la infraestructura de fondo. El negocio de OpenRouter consiste, en esencia, en enrutar y medir el uso de IA de la misma manera en que Stripe ya enruta y mide los pagos, y al integrar una empresa dentro de la otra, la selección de modelos se convierte en una extensión del mismo problema de infraestructura que Stripe lleva más de una década resolviendo para el dinero.

Los chips de memoria nunca habían generado tanto dinero

SK Hynix aprobó un plan para recomprar y cancelar 40 billones de wones, unos 28.600 millones de dólares, de sus propias acciones, el programa de cancelación más grande en la historia del mercado bursátil de Corea del Sur. La recompra se extiende del 20 de agosto al 19 de noviembre y abarca hasta 24 millones de acciones, aproximadamente el 3,3 por ciento de las acciones en circulación de la empresa.

La empresa también elevó su compromiso de retorno a los accionistas a más de la mitad de su flujo de caja libre hasta 2027, un compromiso valorado en unos 170.000 millones de dólares una vez sumadas las promesas de dividendos ya existentes. SK Hynix señaló que esta recompra no será el último movimiento: planea anunciar nuevos retornos a los accionistas en torno a su próximo informe de resultados.

Los inversores reaccionaron rápido. Las acciones de SK Hynix se dispararon hasta un 12 por ciento en la bolsa de Seúl, y las de su rival Samsung Electronics subieron más de un 5 por ciento por simpatía. El motor detrás de ambos movimientos es el mismo que impulsa casi todo lo demás en este resumen: la demanda de los chips de memoria de alto ancho de banda que alimentan los aceleradores de IA ha sido lo bastante fuerte como para transformar la cantidad de efectivo que estas empresas tienen disponible.

Si se ponen las cuatro historias una junto a otra, aparece un patrón. Google, Stripe y SK Hynix están gastando o devolviendo dinero a una escala que da por sentado que el auge de la IA seguirá creciendo durante años. OpenAI, por su parte, es la empresa que realmente está construyendo aquello sobre lo que todas las demás están apostando, y acaba de decirle al mundo que no está del todo segura de qué es capaz de hacer su modelo más reciente cuando nadie lo está observando. Ambas cosas son ciertas esta semana, al mismo tiempo, en la misma industria.