El investigador que advirtió que la IA podía salir catastróficamente mal ahora vigila la seguridad de OpenAI

Las noticias de IA del jueves giraron sobre todo en torno a quién tiene la autoridad para revisar el trabajo de la máquina, y a cuánto dinero depende de que ese negocio siga siendo lo bastante rentable como para seguir construyendo. OpenAI puso a uno de sus escépticos externos más reconocidos al frente de la evaluación de su propio proceso de seguridad. Oracle presentó un trimestre que sorprendió hasta a sus propios analistas. Anthropic intentó poner cifras concretas a lo que los próximos cuatro años de IA podrían hacerle al mercado laboral estadounidense, tanto en su mejor escenario como en el peor. En la India, dos programas gubernamentales que llevan años gestándose se volvieron más concretos: un buque construido para cartografiar zonas del océano que nadie ha estudiado a fondo, y una fecha reafirmada para una estación espacial de fabricación propia.

El investigador que advirtió sobre los riesgos de la IA ahora evalúa la seguridad de OpenAI

El 9 de septiembre, OpenAI anunció que Paul Christiano se incorpora a la junta de la OpenAI Foundation y a su Comité de Seguridad, el órgano que revisa si los nuevos modelos son lo bastante seguros para lanzarse, presidido por Zico Kolter. Christiano no es un empleado interno que fue ascendiendo en la jerarquía. Trabajó en OpenAI desde 2017, donde coescribió el artículo que ayudó a establecer el aprendizaje por refuerzo a partir de retroalimentación humana, la técnica que entrena a un modelo para preferir las respuestas que las personas califican como mejores. Se marchó en 2021 para fundar el Alignment Research Center, una organización sin fines de lucro que estudia cómo un sistema de IA poderoso podría comportarse de maneras que sus creadores nunca previeron, y ha pasado años publicando estimaciones de probabilidad para el tipo de resultados catastróficos que la mayoría de los laboratorios de IA prefiere no cuantificar.

Christiano también ocupa un cargo público, como asesor técnico principal en el Center for AI Standards and Innovation, dependiente del Instituto Nacional de Estándares y Tecnología de Estados Unidos. Para evitar un conflicto de intereses, se apartará de los asuntos relacionados con OpenAI dentro de ese instituto y de las propias evaluaciones de modelos de la compañía, y actuará como observador sin derecho a voto en la junta de OpenAI Group PBC, en lugar de como miembro pleno. Colocar a un investigador conocido por tomarse en serio los riesgos de la IA dentro de la sala donde se toman las decisiones de seguridad es apostar a que el escrutinio externo funciona mejor que un sello de aprobación interno. Eso no cambia el hecho de que sigue siendo OpenAI, no Christiano, quien decide qué hacer con sus recomendaciones.

El negocio de nube de Oracle creció un 121 por ciento en tres meses, y la capacidad sigue sin alcanzar

Oracle presentó los resultados de su primer trimestre fiscal de 2027 el 10 de septiembre, y las cifras fueron enormes incluso para los estándares del auge de la IA. Los ingresos totales subieron un 30 por ciento interanual, hasta 19.300 millones de dólares. Los ingresos de infraestructura en la nube, la parte del negocio que alquila capacidad de cómputo para cargas de trabajo de IA, más que se duplicaron: crecieron un 121 por ciento, hasta 7.400 millones de dólares. Los ingresos totales de nube avanzaron un 62 por ciento, hasta 11.600 millones de dólares. El beneficio neto subió un 60 por ciento, hasta 4.680 millones de dólares, y la cartera de contratos firmados pero aún no entregados de Oracle, conocida como obligaciones de desempeño pendientes, alcanzó los 664.000 millones de dólares, incluidos más de 30.000 millones de dólares en nuevos contratos de nube para IA firmados solo en este trimestre.

El problema es que Oracle está gastando más rápido de lo que ingresa ese dinero. El flujo de caja libre del trimestre fue de hecho negativo, en 5.000 millones de dólares, porque la empresa sigue volcando recursos en nuevos centros de datos y GPU para seguirle el ritmo a la demanda. Aun así, Oracle elevó su previsión para todo el año, hasta al menos 90.000 millones de dólares en ingresos para el ejercicio fiscal 2027. Ahí está resumida en una sola cifra la carrera de la infraestructura de IA: una empresa que opera con déficit de caja a propósito, porque rechazar negocio le parece el riesgo mayor.

Anthropic modeló lo que la IA podría hacerle a la economía de Estados Unidos hacia 2030. Sus propias cifras muestran una disyuntiva incómoda.

El 9 de septiembre, Anthropic presentó el Economic Scenario Explorer, una herramienta interactiva que permite a cualquiera ajustar supuestos sobre la velocidad a la que la IA mejora y se extiende por la economía, y ver el efecto proyectado sobre el PIB, los salarios y el desempleo hacia 2030. La herramienta plantea tres escenarios con nombre propio. En el caso moderado, donde la IA termina importando más o menos tanto como lo hizo internet, el PIB de Estados Unidos llega a 34,1 billones de dólares, una ganancia de alrededor del 1,6 por ciento sobre lo que la economía produciría de otro modo. En el caso sustancial, el PIB llega a 36,3 billones de dólares, el crecimiento corre a aproximadamente el doble de su ritmo normal, el desempleo se estabiliza cerca del 5 por ciento y los salarios de los trabajadores del conocimiento se mantienen prácticamente planos. En el caso extremo, el PIB podría alcanzar 44,4 billones de dólares, pero el desempleo entre los trabajadores del conocimiento también sube con fuerza, porque la IA empieza a automatizar tareas cognitivas más rápido de lo que la economía crea nuevos puestos para quienes antes las hacían.

Anthropic llama a esto escenarios modelados, no predicciones, y diseñó la herramienta para que los lectores puedan introducir sus propias cifras en lugar de aceptar las que vienen por defecto. Lo llamativo es que una empresa que vive de vender IA haya publicado un escenario en el que el mayor éxito de su propio producto trae consigo un costo real para los trabajadores que lo usan, un punto de partida más honesto que el de la mayoría de los pronósticos económicos del sector.

La India botó un buque construido para sondear seis kilómetros de fondo oceánico

El 9 de septiembre se botó el buque de investigación oceánica Sagar Manthan en el astillero Rishi Bankim de Calcuta, construido por la estatal Garden Reach Shipbuilders and Engineers para el Centro Nacional de Investigación Polar y Oceánica, bajo el Ministerio de Ciencias de la Tierra. El ministro de la Unión Jitendra Singh, que participó por videollamada, lo bautizó junto a su esposa, Manju Singh. Con 89,5 metros de eslora y 18,8 metros de manga, un tonelaje bruto de 5.900 toneladas y una velocidad máxima de 14 nudos, es el primer buque de su tipo construido en la India, diseñado para condiciones extremas, incluido el Océano Austral, con una vida útil prevista de 30 años. Costó cerca de 840 crores de rupias, unos 90 millones de dólares al tipo de cambio actual.

El buque está construido para realizar sondeos multihaz y sísmicos hasta seis kilómetros de profundidad, recoger muestras de agua y del lecho marino, desplegar fondeos y boyas de datos, y tomar mediciones de corrientes oceánicas y del clima, todo dentro de la Misión Océano Profundo del gobierno. Singh presentó la botadura como parte de un impulso por la autosuficiencia en ciencia marítima, argumentando que los datos de buques como este permitirán a la India rastrear el deshielo de los glaciares polares y los cambios climáticos con sus propios instrumentos, sin depender de las flotas de investigación de otros países. El buque todavía no está terminado. Su entrega y puesta en servicio están previstas para 2028.

Modi le dijo a una cumbre en París que la India quiere estación espacial propia para 2035 y un astronauta en la Luna para 2040

En una intervención ante la Cumbre Espacial Internacional en París, el 10 de septiembre, el primer ministro Narendra Modi expuso el calendario de la India para la Bharatiya Antariksh Station, su futura estación espacial: un primer módulo para 2028 y una estación plenamente operativa, de cinco módulos, para 2035. También reafirmó el objetivo de poner a un astronauta indio en la Luna para 2040. Ninguna de las dos fechas es nueva. Ambas coinciden con la hoja de ruta que el gobierno indio ya había aprobado, así que las declaraciones en París fueron menos un anuncio que una reafirmación pública, ante una audiencia internacional, de un plan que ya está en marcha.

Modi señaló dos resultados recientes como prueba de que el calendario es realista: la misión Chandrayaan-3 de 2023, que convirtió a la India en el primer país en posar una nave cerca del polo sur lunar, y la misión solar Aditya-L1, que sigue enviando datos sobre el Sol. También afirmó que más de 430 satélites de 34 países han despegado a bordo de cohetes indios, una cifra que refleja hasta qué punto el programa espacial de la India funciona hoy también como un negocio comercial de lanzamientos, en paralelo a sus misiones de investigación. Cerró su intervención pidiendo que el espacio siga rigiéndose por el derecho internacional y la cooperación abierta, en lugar de convertirse en otro terreno para movimientos unilaterales, una frase con destinatario claro en una cumbre con varias potencias espaciales rivales en la sala.

Todas las noticias de hoy giran, en el fondo, en torno a la misma tensión: cuánto se puede confiar en un sistema que no se puede ver por dentro del todo, y cuánto cuesta construir los instrumentos que permiten ver más lejos. OpenAI apuesta a que un escéptico externo hace sus modelos más seguros de lo que lograría un comité interno. Oracle apuesta el flujo de caja que hoy no tiene a una capacidad de GPU que apenas consigue construir a tiempo. Anthropic intenta modelar un futuro que su propio producto podría trastocar, con la honestidad suficiente como para incluir la versión en la que eso sale mal para los trabajadores. La India, mientras tanto, hace algo más literal: construye un buque de verdad para ver seis kilómetros hacia abajo, y sostiene una fecha real para poner una estación en órbita, porque a veces la única manera de saber más es ir a mirar.