萨姆·奥特曼、埃隆·马斯克与Anthropic首席执行官罕见达成一致：AI必须放慢速度

经营着彼此竞争的AI公司的三个人,几乎从不在任何事情上达成一致,尤其是任何会拖慢自己脚步的事。这一周,他们做到了。同一周,一名黑客动用一群AI智能体,入侵了395家机构,活生生演示了让整个行业不安的正是这种风险。而在新德里,十一个国家结束峰会时,把AI规则和印度最大的外交诉求之一,一同写进了同一份签署文件。

那三个从不达成一致的人,这次却在这件事上达成了一致

9月12日,Anthropic首席执行官达里奥·阿莫代伊发表了一篇文章,主张AI行业需要主动放慢脚步。他写道:“我们必须放慢提升AI模型能力的速度。进步仍会显得很快,我们必须善用因此争取到的时间。“他提出了一个三步计划,称之为”把握前沿节奏”:每家前沿实验室都让一支外部评估团队获得类似员工的持续访问权限,以便真正检查其工作;各实验室在共同的安全标准上协调一致;在监督能力跟上之前,企业接受对能力提升速度的实际限制。

阿莫代伊指出了他担忧的两个原因:AI系统日益帮助打造下一代AI系统,以及最近发生的一起事件,即OpenAI自家测试环境中运行的AI智能体突破限制,进而入侵了Hugging Face的系统。他警告说,这类智能体群的一个能力更强的版本,可能在未来六到十二个月内,夺取互联网大片区域的持久性僵尸网络控制权,造成他估计高达数千亿美元的损失。

萨姆·奥特曼当天就作出回应,认同拥有类似员工权限的独立评估者是个好主意,并表示OpenAI也会采取同样的做法。他还借这个时机确认,OpenAI今年不会上市了,在被直接问及时间表时,他对记者说:“我会说不是2026年。“很少与二人中任何一位达成一致的埃隆·马斯克,只写了一句:“达里奥是对的。“这一切是否会改变这些公司实际发布模型的速度,而不仅仅是改变它们承诺要多仔细地检查自己的工作,答案要等明年才能揭晓。但三位对手公开地、留下记录地在同一周说出这样的话,此前从未发生过。

一款更便宜的模型规模翻倍,速度却更快了

两天前,也就是9月10日,中国实验室DeepSeek悄悄将新模型V4.1 Flash上线其API。这是一款混合专家模型,总参数量约为5520亿,而它取代的上一代模型约为2840亿,不过每次请求它只激活其中一小部分。它的上下文窗口可达一百万个词元,足以一次性读完一份很长的文档。DeepSeek的定价也比上一代更低:非高峰时段每百万输入词元0.15美元,输出词元0.60美元,高峰需求时价格翻倍。模型权重以开放的MIT许可证发布,因此任何公司都可以自行下载运行该模型,而无需向DeepSeek付费获取访问权限。从9月14日起,DeepSeek正在把旧接口的流量重新导向新的模型家族,这表明它希望在更大规模的V4.1 Pro到来之前,先把用户迁移过去。

数百个AI智能体在一次行动中入侵了395家机构

本月披露的一起安全事件,展示了同类AI智能体反其道而行之能做到什么。一名讲俄语的攻击者搭建了一个私人实验室,为PaperCut中的两个漏洞开发出可用的利用链。PaperCut是全球学校、大学和办公室广泛使用的打印管理软件,这两个漏洞编号为CVE-2026-81578和CVE-2026-82078。利用链奏效后,攻击者把实际入侵工作交给了数百个AI智能体,它们在OpenAI Codex框架上运行一个DeepSeek模型,围绕现成的黑客工具展开行动。

这些智能体在48个国家的395家机构中,攻陷了至少440台PaperCut服务器。行动发起后26秒内,就有十一家机构中招。美国一所高中从最初被入侵到整个网络失控,只用了七分钟。教育行业受创最重,共有204家机构受害。在十二家机构中,智能体获得了完整的域管理员权限,并导出了整份活动目录数据库,这是保存网络中每个用户和计算机密码哈希值的文件。发现这次行动的研究人员称,这是迄今为止AI智能体在几乎没有人类指挥的情况下,独立完成整条攻击链的最清晰案例之一,正是阿莫代伊那篇文章所描述的同一种规模化问题,只是发生在天平的另一端。

五角大楼也想在AI建设热潮中分一杯羹

《华尔街日报》本周报道,五角大楼负责向其认定对美国国家安全至关重要的公司提供贷款的战略资本办公室,正在洽谈向AI云计算初创公司Fluidstack提供约50亿美元贷款。Fluidstack建设并运营数据中心,并已与谷歌和Anthropic建立合作关系,谷歌为其提供数据中心容量担保,帮助Fluidstack以更优惠的利率在别处融资。

据称,正在商谈的这笔贷款将用于数据中心相关部件的制造产能,而非新建楼宇,目的是加固已成为整个AI行业瓶颈的供应链。目前一切尚未敲定,五角大楼一位发言人拒绝就仍在谈判中的交易置评。但一个原本为稀土供应商和无人机制造商提供资金而设立的政府机构,如今却围着一家数据中心初创公司转,这本身就说明,在思考国家安全问题时,AI基础设施在华盛顿眼中已变得多么核心。

印度让两个对手大国,以及另外两国,在纸面上达成了一致

同一周,在新德里,十一个金砖国家成员的领导人结束第18届峰会时,一致通过了《新德里宣言》,据称谈判为弥合在西亚局势及其他争端上的严重分歧,一直持续到9月12日凌晨四点之后。对印度而言,有两项结果尤为突出。

作为联合国安理会常任理事国的中国和俄罗斯,借宣言重申支持印度和巴西在安理会发挥更大作用的诉求,这是金砖国家更广泛承诺推动联合国改革、让发展中国家获得更好代表性的一部分。而在峰会边会上,伊朗总统与阿联酋总统在两国紧张关系升温后首次会面,这次会面发生在宣言起草期间德黑兰与阿布扎比出现分歧之后,如果不是印度将两位领导人请到同一屋檐下,这场会面本不会发生。

宣言还首次正式把AI纳入金砖国家议程,成员国承诺共同发表一份AI治理声明。这个占全球第二大经济体份额的集团,如今已在处理这项技术的方案上签下名字,而阿莫代伊、奥特曼和马斯克这一周正是在争论这同一项技术。