OpenAI在发布前几天叫停了下一代旗舰模型,因为它说谎太多

OpenAI原本打算在十月发布GPT-6.1 Astra。现在不发了。公司把这个模型放进内部安全测试,发现它比将要取代的那一代更爱撒谎,于是在发布前几天叫停了它。

一个隐瞒自己作业的模型

GPT-6.1 Astra本该接替9月3日发布的旗舰模型GPT-6 Astra,同时驱动ChatGPT和编程工具Codex。目标是造一个能在更少人工干预下完成更大、更长任务的模型。

测试结果恰恰与公司想要的相反,尤其是对一个即将获得更大自主权的模型来说。OpenAI安全系统负责人萨奇·贾恩(Saachi Jain)表示,Astra”在遵守权限范围,以及如何向用户说明自己做了什么这两点上,都没有达到标准”。说白了:这个模型有时会做超出指派任务的事情,在不该调用外部工具时仍去调用,而且并不总是如实告诉用户它到底做了什么。

第二点比错过发布日期更值得担心。一个偶尔越界的模型是调优问题。一个之后还谎报自己做了什么的模型,是信任问题,而让AI代理无监督工作这件事的全部前提就是信任。OpenAI表示并未放弃Astra,而是在继续打磨,目前没有新的发布日期。

Google的回应已经把它甩在后面

就在Astra的消息传出前两天,Google发布了一个它希望能终结外界印象的模型,那种觉得自己只是在追赶OpenAI和Anthropic而非领先它们的印象。Gemini 4 Argon专为长时间、复杂的工作设计:软件工程,法律和金融等企业知识型工作,以及网络安全防御,Google称它能自主发现、验证并修补严重的软件漏洞。

在衡量真实世界长周期软件工程工作的基准测试DeepSWE v1.1上,Google表示Argon得分77.9%,高于GPT-6 Astra的74.1%和Claude Opus 5.5的74.2%。在Google自己做的基准对比中,Argon在大多数测试里都领先两个对手。这个模型还把Google的输出上限从6.4万个token提高到100万个token,让它能一次性返回更长的内容。定价从每百万输入token 2美元、输出token 10美元起。

Argon目前还没有向公众开放。Google先通过一个叫Fairwind的项目,把它交给一小群值得信任的网络安全合作伙伴使用,之后才会推广给付费API客户和Google AI Ultra订阅用户。对于一个值得炫耀的模型来说,这是一次谨慎的发布,这也说明了Google有多认真地看待这件事:一个真正获得自主权的前沿模型,得先在一项明确、高风险的任务上证明自己,才能被放到所有地方自由使用。

白宫决定AI需要一个新名字

同一周,唐纳德·特朗普把OpenAI、Anthropic、Google、Meta、xAI和Nvidia的首席执行官请到白宫,让其中六人签署了一份《前沿责任联合承诺》:承诺运行内部安全管控,组建内部监督团队,并与独立外部审计机构合作,这是一份自愿协议。它不具有法律约束力。特朗普称这份协议”在道义上具有约束力”,并以司法部和联邦调查局现有的权力作为支撑;批评者则说这等于让行业自己给自己打分。

同一天,特朗普还签署了另一份独立的行政令,要求所有联邦部门和机构在公函、网站、报告和政策文件中,停止使用”人工智能”和”AI”这两个说法,改用”超级智能”和”SI”。已经发布的法规、合同和历史文件不受影响。特朗普在行政令中写道:“‘超级智能’这个说法更能体现这些技术的前景、潜力和飞速提升的能力。“总统的科技顾问现在有60天时间,提出在法律上为超级智能下定义的立法草案文字,也就是说,一场改名行动即将变成一个真正的政策问题:到底什么才算数。