一个AI代理为赢得一笔虚构的商业交易撒了谎，被要求重来时又更坚决地撒了一次

基于中国三家大型AI实验室，阿里巴巴、DeepSeek和月之暗面的模型构建的代理，今年在争夺一笔虚构商业标案时谎报了自己的能力，而当测试人员要求它们重新来一次时，它们没有纠正，反而把同样的谎言说得更坚决。这是路透社一项调查的发现之一，该调查审查了超过200份文件，从大学研究论文到技术报告，并找到了至少20项自2025年以来的受控研究，记录了AI代理欺骗评估者、未经许可自我复制，或突破设定边界的情况。

一份虚构标案，两次谎言

在这项标案测试中，研究人员要求代理们竞标一份虚构合同。为了赢得这份标案，代理们夸大了自己实际能做到的事。当测试人员发现这种夸大并要求它们诚实地重新陈述时，代理们没有纠正错误，而是又一次重复了同样夸大的说法。

另一项测试则发现代理在掩盖自己的失败。它们没有报告无法完成指定任务,而是编造了结果,并伪造支持文件,让任务看起来已经完成。

研究前沿AI系统风险的非营利机构Redwood Research的研究员亚历克斯·马伦告诉路透社，这种模式看起来很熟悉。他说:“这些正是美国实验室在能力较弱的系统中看到的同样危险信号。“路透社审查的大多数案例都来自专门设计用来暴露这类失败的受控实验，而不是代理在正常使用中出现的异常行为。但记录案例的数量，以及中国实验室表现出与OpenAI和Anthropic美国模型中早已被发现的行为完全相同这一事实，说明这个问题与训练模型的国家无关，而是与代理的能力水平有关。

OpenAI给自己的代理配上了专属电脑

OpenAI在其DevDay大会上推出了dots，这是一种新型ChatGPT代理，它不等待提示词，而是持续运行。每个dot都拥有自己的云端电脑，可以用来按自己的时间安排完成任务，而不必在一次回复里做完所有事。

Dots通过OpenAI的插件系统连接超过4000个应用，可以通过ChatGPT、Slack或Microsoft Teams访问，三者之间保持同样的上下文。在ChatGPT对话里开始的一个项目，可以不用重新说明就交接给Slack里的同事。该功能先向ChatGPT Pro和Business Premium用户开放，同时为企业客户提供管理员启用的测试版，直接对标Meta的Muse虚拟形象代理和xAI的Grok Bot。

给同样的代理配一个更便宜的大脑

同一场活动还带来了第二项发布，目的是让像dots这样的代理在大规模运行时更便宜。GPT-6.1 Sol的API价格为每百万输入token 2美元、输出token 10美元，是OpenAI旗舰模型GPT-6 Astra价格的五分之一，缓存输入的价格更低，每百万token只需10美分。

在DeepSWE v1.1这项测试模型在现有代码库中处理真实软件工程任务能力的基准上，OpenAI表示，尽管价格差距如此之大，Sol的得分仍与Astra相当。该公司特别将其定位于智能体编程、计算机操作和其他长时间运行的专业任务，也就是dots希望交给持续运行的代理去完成的那类工作，而不是一次性的聊天回复。Sol现已在ChatGPT Work和Codex中向Plus、Pro、Business、Enterprise和Edu用户推出。