无需点击,这个漏洞就能悄悄篡改你的AI编程工具

一位安全研究人员发现了一个漏洞,能让攻击者篡改市面上四款最大的AI编程助手里的代码,而且受害者根本不需要点击任何东西,漏洞就会生效。在华盛顿,总统对数月来有关AI风险的警告的回应,是先把它们说成一场骗局,随后却又宣布成立一个专项工作组。Anthropic则认为,证明自身安全工作真实可信的最佳方式,就是让外部人士亲眼看着这一切发生。而在亚运会上,三名印度射击选手为该国打开了奖牌之门,比分接近到需要重新核对记分牌。

一个无需点击就能生效的漏洞

安全公司AIR Security于9月17日披露了一个漏洞,命名为Plugin4Shell。这对AI行业而言是一种全新性质的问题:这是首次真正意义上针对AI编程代理、而非传统软件的供应链攻击。该漏洞影响人们日常用来借助AI编写代码的四款工具:Claude Code、OpenAI的Codex、GitHub Copilot,以及谷歌的Gemini CLI。

原理是这样的。这些工具在安装插件时,本应通过一种名为SHA锁定(SHA pinning)的机制,把插件锁定在经过审核的特定版本上,这是一种校验和(checksum),理应确保你运行的代码正是当初获得批准的那份代码。AIR发现,这四款代理实际上都没有真正验证工作文件是否与该校验和相符。插件作者可以先发布一个合法版本,等用户安装之后,再悄悄替换成不同的代码,而锁定检查依旧会照单全收,放行了事。由于Claude Code和Codex都会在后台自动更新已安装的插件,用户根本不需要批准任何操作,恶意版本就会自动落地。

各方的应对分成了四种。Anthropic在Claude Code 2.1.179版本中修复了这一缺陷,OpenAI也在Codex 0.146.0版本中完成了修复。微软方面,GitHub Copilot至今尚未发布补丁。谷歌则选择了完全不同的路线:与其修补Gemini CLI,不如直接把这款工具列入退役名单,转而引导用户改用一款名为Antigravity的新产品,这意味着所有现存的Gemini CLI安装版本都将持续暴露在风险之下,而且不会再有修复到来。

特朗普称警告是骗局,却仍为其成立专项工作组

两天后,也就是9月19日,特朗普总统从一个截然不同的角度,回应了同样弥漫在社会中的这股焦虑情绪。他在Truth Social上发文写道,自己正在「组建AI部队(AI Force),就像我在第一个任期内组建太空部队(Space Force)一样,那次的成果堪称巨大成功」,并表示很快将任命一位AI「沙皇」,还补充说「只有高智商人士才可以申请」。

特朗普没有透露AI部队具体要做什么、预算多少,也没有说明它将归属政府哪个部门。与此同时,他把有关AI可能失控的担忧,同样归入了自己那份认为是媒体炒作出来的骗局清单,尽管他也承认这项技术确实存在一些风险。他表示,他的政府不会「阻碍或扼杀」AI产业的发展,处理有害行为将依靠现行法律,而不是另立新规。此声明发布之时,Anthropic、OpenAI、谷歌DeepMind、微软和xAI的首席执行官已在过去数周内分别呼吁全行业放慢脚步。此举也让一个自大卫·萨克斯(David Sacks)今年3月卸任白宫AI与加密货币事务负责人一职后便一直空缺的正式AI政策职位,重新恢复了运作。

Anthropic聘请外部机构近距离监督自身安全工作

9月18日,Anthropic宣布已选定其首位「嵌入式评估方」(embedded evaluator),这家合作机构将获得类似内部员工的权限,得以实时观察公司究竟如何构建和发布模型,而不只是在产品完成后从外部进行审查。这家合作方是Faculty,即咨询巨头埃森哲(Accenture)旗下的AI安全部门,双方计划在未来五年内各自至少投入十亿美元用于这项合作。

Faculty的评估人员将能够在模型训练过程中进行观察,列席那些决定模型部署方式的关键讨论,并直接与Anthropic员工沟通,工作范围涵盖红队测试、对齐测试、安全防护检查以及事故报告。埃森哲首席执行官朱莉·斯威特(Julie Sweet)表示,这项工作需要「既有深厚的技术专长,又对AI在现实世界中的使用方式有清晰理解」。Faculty首席技术官马克·沃纳(Marc Warner)则表示,他所在的机构「从创立之初就秉持一个理念:AI应当从设计上就是安全的,而不是靠运气才安全」。Anthropic特别强调,这项安排并不会转移责任。该公司表示,独立评估方能让其安全方面的说法更具可核实性,但模型安全与否,终究还是自己的责任。目前该公司也在与非营利评估机构METR洽谈类似的试点项目,因此这种合作安排不会长期保持独家。

印度射击队以毫厘之差为亚运会开局

在爱知·名古屋亚运会上,印度在女子10米气步枪团体赛中收获了本届赛事的首枚奖牌,而这枚奖牌险些在最后几发子弹中溜走。索纳姆·乌塔姆·马斯卡尔(Sonam Uttam Maskar)、埃拉维尼尔·瓦拉里万(Elavenil Valarivan)与维达尔萨·维诺德(Vidarsa Vinod)三人合计打出1898.0环的团体成绩,拿下银牌,但优势并不大:日本以1897.1环获得铜牌,仅落后印度0.9环。

中国队以1904.2环的成绩轻松夺冠,这一成绩打破了资格赛的世界纪录。印度三人组中,索纳姆以634.1环的成绩领跑,第三次参加亚运会的埃拉维尼尔贡献了633.5环,首次参赛的维达尔萨则打出630.4环。赛后,维达尔萨对记者表示,自己「已经尽了全力」,对首次参加亚运会就能顶住压力打出这样的成绩感到满意。对于这样一个实际上由三张个人成绩单相加而成的团体项目来说,这样的开局已经足够扣人心弦。