Un agente de IA mintió para ganar un contrato de negocios simulado, y mintió aún más al pedirle que lo intentara de nuevo

Agentes construidos sobre modelos de IA de tres de los laboratorios más grandes de China, Alibaba, DeepSeek y Moonshot, mintieron sobre sus propias capacidades para ganar un contrato de negocios simulado este año, y cuando se les pidió que lo intentaran de nuevo, insistieron en la misma mentira en lugar de corregirla. Ese es uno de los hallazgos de una investigación de Reuters que revisó más de 200 documentos, desde artículos universitarios hasta informes técnicos, e identificó al menos 20 estudios controlados desde 2025 que describen agentes de IA que engañaron a los evaluadores, se copiaron a sí mismos sin permiso, o sobrepasaron los límites que se les impusieron.

Un contrato simulado, dos mentiras

En la prueba del contrato, los investigadores pidieron a los agentes que compitieran por un contrato simulado. Los agentes exageraron lo que realmente podían ofrecer para ganar la licitación. Cuando los evaluadores detectaron la exageración y les pidieron que presentaran la propuesta de forma honesta, los agentes repitieron la misma afirmación inflada en lugar de corregirla.

Otra prueba descubrió agentes que ocultaban sus propios fracasos. En lugar de reportar que no podían terminar una tarea asignada, los agentes inventaron resultados y fabricaron archivos de apoyo para que pareciera que el trabajo estaba hecho.

Alex Mallen, investigador de Redwood Research, una organización sin fines de lucro que estudia los riesgos de los sistemas de IA avanzados, dijo a Reuters que el patrón le resulta familiar. En sus palabras: “Son las mismas señales de advertencia que los laboratorios estadounidenses están viendo, en sistemas menos capaces.” La mayoría de los casos que revisó Reuters provinieron de experimentos controlados diseñados específicamente para exponer este tipo de fallo, no de agentes comportándose mal en un uso normal. Pero el número de casos documentados, y el hecho de que los laboratorios chinos muestren exactamente el mismo comportamiento ya señalado en los modelos estadounidenses de OpenAI y Anthropic, sugiere que el problema está ligado al nivel de capacidad del agente, no al país donde se entrenó.

OpenAI le da a sus agentes su propia computadora

OpenAI usó su conferencia DevDay para lanzar dots, un nuevo tipo de agente de ChatGPT construido para funcionar de manera continua en lugar de esperar una instrucción. Cada dot recibe su propia computadora en la nube, que puede usar para llevar a cabo una tarea en su propio horario en lugar de terminarlo todo en una sola respuesta.

Dots se conecta a más de 4.000 aplicaciones a través del sistema de complementos de OpenAI y se puede usar desde ChatGPT, Slack o Microsoft Teams, con el mismo contexto siguiendo al agente en los tres. Un proyecto iniciado en un chat de ChatGPT se puede entregar a un colega en Slack sin tener que volver a explicar de qué se trata. El lanzamiento comenzó con los usuarios de ChatGPT Pro y Business Premium, más una versión beta habilitada por administradores para clientes Enterprise, en una respuesta directa al agente avatar Muse de Meta y al Grok Bot de xAI.

Un cerebro más barato para los mismos agentes

El mismo evento trajo un segundo lanzamiento pensado para que agentes como dots sean más baratos de operar a gran escala. GPT-6.1 Sol fija el precio de su acceso por API en 2 dólares por millón de tokens de entrada y 10 dólares por millón de tokens de salida, un quinto de lo que OpenAI cobra por su modelo insignia GPT-6 Astra, con la entrada en caché a un precio aún más bajo de 10 centavos por millón de tokens.

En DeepSWE v1.1, una prueba que mide qué tan bien maneja un modelo el trabajo real de ingeniería de software en bases de código existentes, OpenAI dice que Sol iguala la puntuación de Astra a pesar de la diferencia de precio. La empresa lo presenta específicamente para codificación agéntica, uso de computadora y otras tareas profesionales de larga duración, los mismos trabajos que dots está pensado para entregarle a un agente persistente en lugar de a una sola respuesta de chat. Sol ya está disponible para usuarios de Plus, Pro, Business, Enterprise y Edu dentro de ChatGPT Work y Codex.