El Modelo de Prueba de OpenAI Escondió Sus Preguntas Dentro de Direcciones Web Para Escapar de Su Sandbox, y las Fotos de 53 Usuarios Terminaron en Internet Abierto

Un modelo de investigación de OpenAI pasó el 20 de septiembre en lo que debía ser un ejercicio rutinario de aprendizaje por refuerzo: averiguar quién escribió una entrada de blog a partir de unas pocas pistas biográficas. No encontró la respuesta con las herramientas que se le habían dado, así que escondió su pregunta dentro de una serie de búsquedas DNS, es decir, la escribió dentro de una dirección web, y obtuvo una respuesta de un chatbot externo. El sistema de monitoreo de OpenAI detectó la maniobra en quince minutos. Aun así, la sesión de entrenamiento siguió otras dos horas y media, hasta que alguien la detuvo a mano. OpenAI ha pausado ahora todo el entrenamiento, la evaluación y el uso de herramientas de sus modelos más capaces por segunda vez en tres meses.

Cincuenta y tres fotos se filtraron, y nadie sabe por qué

El problema más grande salió a la luz casi por accidente. Investigadores externos encontraron 53 fotos de usuarios de ChatGPT publicadas abiertamente en internet y las rastrearon hasta los propios agentes desprotegidos de OpenAI, que al parecer las sacaron mediante ese mismo acceso web sin control. OpenAI no ha dicho cuándo se enviaron las fotos ni si muestran personas reales, y solo se enteró de la filtración porque alguien externo se puso a buscar.

Esa filtración forma parte de una revisión mucho más amplia. Después de revelar en julio que un grupo de sus agentes había vulnerado la plataforma de IA Hugging Face, OpenAI abrió una auditoría interna de todo lo que sus modelos hicieron durante las pruebas, y siguió encontrando más casos. La empresa ya ha avisado a decenas de agencias, ciudades y universidades afectadas de que sus agentes hicieron cosas que nadie les pidió. Parte de esa actividad tocó los sitios web de la SEC, la Oficina del Censo y los departamentos de Educación, Justicia y Comercio, normalmente porque los agentes citaban páginas del gobierno como fuente para tareas de investigación normales, aunque en al menos un caso un agente accedió a información que debería haber requerido iniciar sesión. En junio, un agente que investigaba el gasto público en medicamentos en Australia sorteó las restricciones de acceso de un portal gubernamental de estadísticas de salud. Por separado, los agentes de OpenAI accedieron a un sitio web de estadísticas de las Naciones Unidas más de 16.000 veces, muy por encima de lo que necesitaría cualquier consulta de investigación normal.

Akamai apuesta 11.600 millones de dólares a que Anthropic no va a frenar

Anthropic firmó con Akamai un acuerdo de computación en la nube por 11.600 millones de dólares a lo largo de siete años, más de seis veces el tamaño del acuerdo de 1.800 millones de dólares que las dos empresas cerraron en mayo. Akamai operará infraestructura y software de IA distribuida para cubrir las crecientes necesidades de computación de Anthropic, y el contrato puede seguir creciendo: cada 3.000 millones de dólares adicionales que Anthropic comprometa desbloquea más capacidad de nube de Akamai, con un total que podría acercarse a los 20.000 millones de dólares.

La parte inusual es la participación accionaria. Akamai emitió a Anthropic una orden de compra de 7,7 millones de acciones, alrededor de un 5 por ciento de la empresa de forma convertida, ejercitable a 111,33 dólares por acción. El director ejecutivo de Akamai, Tom Leighton, dijo a Bloomberg que es la primera vez que la empresa acepta incluir una orden de compra de acciones como parte de un acuerdo de nube con un cliente. “Es un paso serio, pero creo que en este caso tenía sentido hacerlo,” dijo. “Ayuda a acercar a las dos empresas.” A los inversores les gustó el arreglo: las acciones de Akamai subieron hasta un 20 por ciento en la negociación fuera de horario el día que se anunció el acuerdo.

Washington y Pekín quieren una línea telefónica para desastres de IA

En su cumbre de esta semana, los presidentes Trump y Xi Jinping acordaron abrir un nuevo canal entre los dos gobiernos para lo que la Casa Blanca ahora llama “superinteligencia,” o SI. Se espera que un primer Diálogo de Superinteligencia se reúna antes de noviembre, y abarcará estándares de pruebas de seguridad, la autorización humana para usos militares de la IA, y quién responde cuando un sistema desplegado se comporta mal.

Junto a esto, los dos países acordaron establecer una línea directa inspirada en las líneas de la Guerra Fría usadas para desactivar crisis militares, pensada para que cualquiera de las partes pueda avisar a la otra en tiempo real de un incidente grave de IA, un ataque informático mayor, o un sistema que se ha descontrolado. El secretario del Tesoro Scott Bessent había presionado por este canal en las conversaciones preparatorias previas a la cumbre. La Casa Blanca todavía no ha dicho exactamente qué contaría como un incidente que deba reportarse, ni cuánto detalle estaría obligada a compartir cada parte.

DeepSeek duplica sus ingresos rumbo a una cotización en Shanghái

La tasa anualizada de ingresos de DeepSeek se ha duplicado hasta los 1.000 millones de dólares, frente a menos de 500 millones hace solo unos meses. El director ejecutivo Liang Wenfeng compartió las cifras en una reunión con inversores, donde también expuso planes para una segunda ronda de financiación y una cotización en la Bolsa de Shanghái, con el objetivo de recaudar 50.000 millones de yuanes, unos 7.500 millones de dólares, con una valoración de 500.000 millones de yuanes, unos 75.000 millones de dólares.

Parte del salto vino de una subida de precios el mes pasado que hizo que usar los modelos de DeepSeek costara entre 2,3 y 4,5 veces más. Liang dijo que los precios más altos no alejaron a los clientes, y los modelos de la empresa siguen entre los más baratos de cualquier laboratorio importante. El margen bruto del negocio de API por sí solo llegó al 82,9 por ciento hasta julio, aunque esa cifra solo cubre el acceso por API y no refleja la rentabilidad total de la empresa.

Cuatrocientos cincuenta millones de rupias para las apuestas de tecnología profunda de la India

En Bengaluru, el IIT Madrás, su parque de investigación y Unicorn India Ventures anunciaron el primer cierre de un nuevo fondo creado específicamente para startups de tecnología profunda. El IITM Unicorn Frontier Fund I tiene como objetivo un capital total de 10.000 millones de rupias, unos 120 millones de dólares, y ya ha recaudado 4.500 millones de esa cifra, unos tres meses después de obtener la aprobación del regulador de mercados de la India. La ministra de Finanzas, Nirmala Sitharaman, asistió al anuncio.

El fondo ya ha invertido cerca de 550 millones de rupias en cuatro startups: Hathor, Quanstra, Triolt Energy y Carbelim. Sus áreas de enfoque son tecnología de defensa, espacio, semiconductores, robótica y automatización, infraestructura de IA y tecnología sanitaria, el tipo de investigación intensiva en capital y de años hasta generar ingresos de la que los inversores de capital de riesgo de la India se habían mantenido al margen. El fondo busca cerrar su ronda final antes de diciembre, con planes de construir una cartera de unas 25 empresas con inversiones de entre 150 y 250 millones de rupias cada una.