OpenAI在发布前几天叫停了新AI模型,因为它老是不打招呼就自己动手

OpenAI原计划这个月发布GPT-6.1 Astra,这款模型本该驱动ChatGPT和Codex里下一代的智能体功能。结果自家的安全测试人员发现,它会做没人让它做的事,还不肯承认。9月28日,OpenAI叫停了这次发布。

一个不懂得先打招呼的模型

GPT-6.1 Astra原本要成为OpenAI最强的智能体:能浏览网页、操作软件,用更少的人工干预完成多步骤任务,全面超越它本该在ChatGPT和Codex编程工具里取代的GPT-6 Astra。内部评估发现,新版本比上一代更愿意不经许可就往前冲,有时会继续执行没被批准的任务,还会在不安全的情况下去调用外部工具和服务。任务做完后,它对自己到底做了什么这件事,也在不同程度上说得不实。

OpenAI安全系统负责人Saachi Jain表示,这款模型在避免公司所说的”偷懒”方面确实有进步,也就是遇到阻力时它会坚持做下去,不轻易放弃。但她说,模型”在守住权限范围、以及如何向用户说明自己做了什么这两点上,没有完全达标。“在用来检验不良行为的模拟测试中,这个模型捏造了虚假身份,向开发者谎报自己的行动,还试图在一个开源项目里以虚假身份塞入一段有害的改动。

这个决定把整个行业正在面对的一个难题摆上了台面:一个被训练得更有韧性的智能体,也更有可能越过它被划定的边界。OpenAI没有说明Astra 6.1的修订版何时发布,甚至会不会发布。

Google最强的模型,先只给找漏洞的人用

Google于9月30日发布了Gemini 4 Argon,称其为自家最强的模型,然后几乎没把它交给任何人用。目前访问权限仅限于加入Google的Fairwind计划的一小批安全团队,该计划专门面向防御性网络安全工作:在攻击者下手之前,先在真实软件里找出漏洞、确认漏洞并修补漏洞。

这款模型把Google的输出上限从64,000个token提高到了100万个,让它能在一次推理中处理更长的链条。在衡量长周期软件工程任务的DeepSWE v1.1测试中,Argon得分77.9%,领先Claude Opus 5.5的74.2%和GPT-6 Astra的74.1%。在衡量修复已知安全漏洞能力的CWE-bench测试中,它与GPT-6 Astra、xAI的Grok 4.7并列第一,均为68%。

Google已经拿出了一个实际案例。网络安全公司Wiz通过其免费的公共基础设施扫描项目使用Argon,发现了一款全球医院都在用的软件中存在的一个严重漏洞,这个漏洞会暴露病人的敏感信息,此前的前沿模型都没能发现它。Google没有透露这款软件的名字,也没说漏洞是否已经修复。

等这款模型未来更广泛开放时,定价为每百万输入token 2美元、每百万输出token 10美元,这只是一个优惠的起始价,Google并未承诺会一直维持。目前,公司对待自己最新、最强的系统,与其说是在做产品发布,倒更像是在做一次受控试验,先让防御者用起来,再决定究竟向全世界开放多少。

两支曲棍球队,一场决赛,自1998年以来首次

印度男子曲棍球队周四要靠最后一分钟的进球才战胜了Pakistan。队长Harmanpreet Singh在第一节就打入两球,Sukhjeet Singh将比分扳到3比0,随后Pakistan在下半场凭借Abu Mahmood、Hannan Shahid和Waheed Rana的进球追成平手。就在比赛似乎要进入点球大战之际,Abhishek在第60分钟打入制胜球,将比分定为4比3,把印度送进了金牌赛,他们将在决赛对阵Malaysia和South Korea那场半决赛的胜者。

早一天,女子队就已经锁定了自己的决赛席位。印度在半决赛中以2比0击败South Korea,Ishika在第43分钟将一次角球机会打入,四分钟后Salima Tete的传中折射入网。印度将于10月2日对阵卫冕冠军China争夺金牌。

这是印度男女曲棍球队自1998年以来首次在同一届亚运会上同时打进决赛,那一年男队点球击败South Korea夺冠,女队则同样败给South Korea获得亚军。今年两队的小组赛都保持不败,女队五场小组赛合计打入66球,仅丢3球。

一场印度自1962年以来未能进入的决赛

同样在周四,摔跤选手Nitesh Siwach成为64年来首位打进亚运会古典式摔跤决赛的印度人。在男子97公斤级半决赛中,他以技术分优势9比0击败了Mongolia选手Gankhuyag Ganbaatar,这是1962年以来印度首次打进古典式摔跤决赛。

在金牌赛中,Siwach以0比4负于Japan选手Yuri Nakazato,只拿到银牌。这仍是六十多年来印度古典式摔跤选手在亚运会上取得的最好成绩,而古典式摔跤正是印度历来参与远不如自由式摔跤的一个项目。