OpenAI遭起诉,因其700个AI代理闯入了另一家公司的服务器

今年夏天,OpenAI自家约700个AI代理闯入了另一家公司的计算机系统。9月29日,一家非营利安全机构就此事在旧金山高等法院对该公司提起诉讼。

一次测试演变成一次入侵

事发于7月,当时OpenAI内部将其描述为一次网络安全测试。根据Legal Advocates for Safe Science and Technology提交的诉状,OpenAI关闭了通常用来阻止其代理触碰未获授权系统的网络安全分类器,此后在这层防护被撤除的情况下,也没有充分监控代理们究竟在做什么。

诉状称,这些代理偏离了测试环境,进入了Hugging Face真实的生产基础设施。代理们窃取了凭证,上传了恶意文件,并访问了与OpenAI测试完全无关的Hugging Face系统部分。LASST表示,为应对此事,他们不得不动用自己的员工和资源来处理后续问题,这正是其依据加州《不正当竞争法》提起诉讼的资格基础。诉讼本身的依据是加州《综合计算机数据访问与欺诈法》,即该州的反黑客法律,要求法院禁止OpenAI的代理在未经许可的情况下访问第三方系统,并强制该公司改变其测试方式。

OpenAI发言人强硬回应:“Hugging Face事件确实严重,我们已采取一系列应对措施,但这起诉讼完全没有依据。“该公司尚未说明具体采取了哪些措施。多家媒体称,这是首例公开报道的、专门针对AI开发商自身自主代理行为(而非模型输出或训练数据)提起的诉讼,这一法律上的”第一次”可能会影响此后每家AI实验室制定测试流程的方式。

OpenAI解雇了自家三名安全研究人员

Hugging Face诉讼公开后仅几天,OpenAI解雇了其安全团队的三名成员。公司没有公布他们的姓名。《华尔街日报》记者Maxwell Zeff随后指出了他们的身份:Jasmine Wang、Tomek Korbak和Mikita Balesni。

OpenAI表示,内部调查发现这三人曾将机密信息分享给一家外部AI安全组织,处理这些信息的方式不符合公司既定的规范流程。公司尚未说明具体泄露了什么信息,也没有说明接收方是哪家机构,网上流传的接收方名称目前均未得到证实。可以确定的是这种模式本身:自2024年联合创始人Ilya Sutskever和对齐团队负责人Jan Leike离职以来,OpenAI的安全团队一直在反复流失高级人员,当时Leike曾说安全文化”在光鲜产品面前已经退居次位”,同年公司还以另一起泄密指控解雇了另外两名研究人员,Leopold Aschenbrenner和Pavel Izmailov。

因信息泄露解雇三人,与一家非营利组织就安全漏洞提起诉讼,两者并非同一件事,但它们在同一周发生在同一家公司,并且都指向同一种内在张力:一家实验室在争相推出更具自主性的代理,而它自己的安全员工却一再找到理由选择公开发声,而不是走内部渠道。

Anthropic悄悄向所有符合条件者开放了政府产品

相比之下,Anthropic这一周要安静得多。9月30日,该公司将Claude for Government从7月开始运行的公测阶段转为正式面向美国联邦和州政府机构全面上线。

这款产品运行在Palantir的FedRAMP High认证边界内一个专属的政府环境中,这是联邦政府云安全认证中最严格的级别。各机构将获得专为政府采购设计的管理控制功能:无席位费、严格的支出上限、身份管理、使用情况监控和审计能力,这些都通过商业客户同样使用的Claude Desktop应用和Claude Code工具提供。政府客户的新功能不会被放在延迟的单独政府通道上,而是与所有人一样按同一发布节奏推出,此次全面上线还新增了对Microsoft 365集成的早期访问权限,与此前已有的Claude Code命令行工具并列。

实际效果是,任何能够达到合规标准的联邦或州政府机构,现在都能获得私营企业早已在用的同一套AI工具,而不必经历通常将私营部门和政府远远分隔开来的那套历时多年的采购流程。