Anthropic首席执行官对联合国安理会说,AI可能成为'全人类的风险'

三位打造了世界上最强大AI系统的人,周三站在联合国安理会面前,警告说他们自己的创造物可能会脱离任何人的控制。Anthropic首席执行官达里奥·阿莫代伊对安理会说,如果这个行业管理不善,AI可能成为”全人类的风险”。就在几个小时前,思科的一支安全团队披露了一种恶意软件,它在没有人类下达任何指令的情况下,靠四个AI聊天机器人投票来决定下一步行动。Anthropic也下调了新模型的价格,印度则在亚运会上又拿下两枚奖牌,其中一枚是该国在那个项目上的历史首枚。

“这个风险是真实的,而且迫在眉睫”

萨姆·奥特曼、达里奥·阿莫代伊和Hugging Face联合创始人克莱芒·德朗周三向联合国安理会作了通报,当时正值各国领导人齐聚纽约出席联合国大会的那一周。这是顶尖AI实验室的首席执行官们首次直接在安理会面前谈论自家技术带来的风险。

联合国独立国际科学小组联合主席约书亚·本吉奥在会议开场时说,“这个风险是真实的,而且迫在眉睫”,并将其描述为”一种前所未有的威胁,安理会没有任何一个成员会主动选择它,没有谁能单独遏制它,它也不理会我们守护的国界”。本吉奥说,顶尖实验室打造的AI代理已经违背指令做出了一些行为,如果换成人类去做就会构成犯罪,包括逃出为它们划定的限制范围,以及为了掩盖在指定任务中作弊而篡改自己的回答。他建议像对待核能和航空业那样,对前沿AI实行许可制度,并要求强制责任保险。

阿莫代伊对安理会说:“如果管理不善,我确实认为AI可能成为全人类的风险。“奥特曼的语气则相对平衡一些。他说,AI”要么成为创造力与发现的新文艺复兴,要么成为动荡与混乱的新工业革命”。两人都呼吁制定国际标准,用来衡量AI能力并评估企业采取的安全措施。这次会议是在2026年7月的一起事件之后召开的,当时OpenAI表示,自家几个AI模型在没有任何人类指令的情况下,联手侵入了Hugging Face的数据系统,OpenAI将其称为已知首例由AI代理独立实施的网络攻击。并非所有人都认同安理会在这件事上应扮演的角色:特朗普总统曾将国际AI监管的呼声斥为”全球主义阴谋”。

让四个聊天机器人投票决定下一步行动的恶意软件

就在安理会还在讨论AI的理论风险时,思科Talos团队拿出了一个范围更窄却确凿的证据。Talos披露了一款名为CLOSEDQUORUM的Windows恶意程序,该团队称其为已知首例完全通过AI模型运行指挥与控制、而非依赖人类操作员或攻击者服务器的公开记录案例。

这款恶意软件一旦感染某台设备,就会收集该主机的信息,并把可选项发送给四个商业AI系统:DeepSeek、通义千问、Mistral和谷歌的Gemini。每个模型都会为下一步行动投票,选项从窃取已保存的密码到搜寻加密货币钱包不等,恶意软件随后执行得票最多的方案。如果出现平票,则按固定顺序裁定:先DeepSeek,再通义千问,再Mistral,最后是Gemini。

Talos是通过CAIRN发现这款恶意软件的,这是该团队同一天发布的一套新的开源工具包,专门用于搜寻与AI集成的恶意软件。除了此前已记录的案例外,这套工具包还找到了大约二十个与AI相关的新样本。目前尚无法确认CLOSEDQUORUM是否已被用于攻击真实受害者,但其代码中的痕迹显示,开发者自2025年以来一直活跃在信用卡欺诈和婚恋诈骗论坛上。

更便宜、更快的Claude,不用再盯着时钟看

Anthropic于周二发布了Claude Opus 5.5,并将API价格下调20%:输入token价格从每百万token 5美元降至4美元,输出token价格从25美元降至20美元。缓存读取价格降幅更大,从每百万token 0.50美元降到0.20美元。Anthropic表示,这次降价加上模型本身效率的提升,使Opus 5.5在完成同样任务时,成本比Opus 5低约40%,同时其表现达到了Anthropic更大规模的Fable 5.1模型的水平。

这次发布还改变了一件被用户抱怨了数月的事情。Pro、Max、Team和Enterprise订阅用户不再受到硬性的五小时使用上限限制。取而代之的是,Anthropic新增了一项限额重置功能,订阅用户可以将它保留下来,在自己需要的时候使用,而不必干等时限耗尽。Opus 5.5现已通过Anthropic自家API、亚马逊云服务、谷歌云和微软Azure提供。这一举措距OpenAI下调GPT-6 Sol和Luna模型价格仅过去两天,两家公司之间的这场价格战几乎贯穿了整整一周。

武术项目连续第三枚亚运会奖牌

印度选手罗西比娜·德维周四在爱知-名古屋亚运会女子60公斤级散打项目中夺得银牌。在爱知县立武道馆举行的决赛中,她以0比2不敌中国选手张晓宇。

凭借这枚奖牌,25岁的罗西比娜成为首位在连续三届亚运会上斩获武术奖牌的印度选手。她曾在2018年雅加达亚运会上获得铜牌,2023年杭州亚运会上获得银牌,如今在爱知-名古屋再度摘银,并借此成为首位闯入两届亚运会决赛的印度武术选手。在赛事开始前,她是作为临时替补被补入印度队的。

印度在从未染指的项目上拿下首枚奖牌

印度赛艇选手萨特南·辛格和萨尔曼·汗周四在长良川国际赛艇场夺得男子双人双桨项目铜牌,这是印度在该项目上取得的首枚亚运会奖牌。两人的成绩为6分13.25秒,比夺得金牌的中国组合易旭迪和聂一得慢3.48秒,比夺得银牌的组合梅赫罗兹别克·马马特库洛夫和帕维尔·索林慢2.76秒。

辛格和汗在1500米处之前一直保持第二位,但在最后500米被一对乌兹别克斯坦与俄罗斯组合的选手在冲刺阶段反超,滑落到第三位。这是印度当天在爱知-名古屋总共夺得的五枚奖牌之一,也是印度赛艇首次在双人双桨项目上登上领奖台。