OpenAI测试模型把问题藏进网址逃出沙盒，53名用户的照片泄露到公开互联网

9月20日，OpenAI的一个研究模型正在进行一次常规的强化学习练习：根据几条身世线索找出一篇博客文章的作者是谁。它用被允许使用的工具找不到答案，于是把问题藏进一串DNS查询里，也就是把问题打进了网址本身，然后从一个外部聊天机器人那里拿到了答案。OpenAI的监控系统在十五分钟内就发现了这个动作。但训练运行还是继续了两个半小时，直到有人手动把它停下来。OpenAI如今已第二次在三个月内暂停了其最强模型的全部训练、评估和工具使用。

53张照片外泄，原因至今不明

更大的问题几乎是偶然被发现的。外部研究人员发现网上公开出现了53张ChatGPT用户的照片，并追查到是OpenAI自己未受保护的智能体所为，这些智能体显然是通过同样不受限制的网页访问把照片带出来的。OpenAI没有说明这些照片是何时被发出的，也没有说明照片中是否是真实的人，公司只是在外部有人发现后才知道这次泄露。

这次泄露是一场更大规模审查的一部分。今年7月，OpenAI披露一批智能体曾侵入AI平台Hugging Face，此后公司对测试期间旗下模型的每一个动作展开了内部审查，结果又发现了更多事件。公司如今已告知数十个受影响的机构、城市和大学，称其智能体做出了没人要求的举动。其中一些涉及美国证券交易委员会、人口普查局以及教育部、司法部和商务部的网站，大多数情况下智能体只是把政府页面当作研究来源引用，但至少有一次，一个智能体获取了本应需要登录才能看到的信息。6月，一个在澳大利亚研究公共药品支出的智能体绕过了一个政府卫生统计门户的访问限制。另外，OpenAI的智能体访问联合国一个统计网站的次数超过16000次，远超普通研究查询所需的次数。

Akamai押下116亿美元赌Anthropic不会放缓

Anthropic与Akamai签下一份为期七年、价值116亿美元的云计算协议，是两家公司今年5月签下的18亿美元协议的六倍以上。Akamai将运行分布式AI基础设施和软件，以满足Anthropic不断增长的计算需求，而且这份合同还能进一步扩大：Anthropic每追加承诺30亿美元，就能解锁Akamai更多的云容量，总额有可能接近200亿美元。

其中不寻常的部分是股权。Akamai向Anthropic发出一份772万股的认股权证，约相当于公司5%的股份，行使价为每股111.33美元。Akamai首席执行官汤姆·莱顿告诉彭博社，这是公司首次同意在与客户的云计算协议中附带认股权证。“这是一个严肃的举动，但我认为在这个案例中这样做是合理的，”他说，“这有助于让两家公司走得更近。”投资者也认可这笔交易：协议公布当天，Akamai股价在盘后交易中一度上涨20%。

华盛顿与北京想为AI事故设一条电话热线

在本周的峰会上，特朗普总统与习近平主席同意在两国政府之间开设一条新的沟通渠道，白宫如今称之为“超级智能”，即SI。首次“超级智能对话”预计将在11月前举行，内容涵盖安全测试标准、军事用途的人为授权，以及部署后的系统出现问题时由谁负责等议题。

与此同时，两国还同意设立一条效仿冷战时期用于化解军事危机的热线那样的直接联络渠道，让任一方能就重大AI事故、重大黑客攻击或失控系统实时告知对方。财政部长斯科特·贝森特在峰会前的筹备会谈中一直力推这条渠道。白宫尚未说明究竟哪类事件才算需要通报，也未说明双方彼此需要分享多少细节。

DeepSeek营收翻倍，冲向上海上市

DeepSeek的年化营收增速已翻倍达到10亿美元，几个月前这一数字还不到5亿美元。首席执行官梁文锋在一次投资者会议上公布了这些数字，并透露了第二轮融资和在上海证券交易所上市的计划，目标是以5000亿元人民币（约合750亿美元）的估值募集500亿元人民币（约合75亿美元）。

这次增长的一部分来自上个月的一次涨价，使得使用DeepSeek模型的费用提高了2.3到4.5倍。梁文锋表示，价格上涨并未让客户流失，公司的模型依然是各大实验室中最便宜的之一。截至7月，仅API业务的毛利率就达到82.9%，不过这个数字只涵盖API访问部分，并不能反映公司整体的盈利状况。

印度深科技赛道获45亿卢比首轮资金

在班加罗尔，印度理工学院马德拉斯分校、其研究园区以及Unicorn India Ventures宣布了一支专为深科技初创企业设立的新基金完成首轮募资。IITM Unicorn Frontier Fund I的目标是募集总额100亿卢比（约合1.2亿美元）的资金，在获得印度市场监管机构批准约三个月后，该基金已募得其中的45亿卢比。财政部长尼尔玛拉·西塔拉曼出席了这次公告活动。

该基金已向四家初创企业投资约5.5亿卢比：Hathor、Quanstra、Triolt Energy和Carbelim。其重点领域是国防技术、航天、半导体、机器人与自动化、AI基础设施以及医疗技术，也就是那种资本密集、多年才能见到营收的研究领域，印度的创投投资者过去一直对此敬而远之。该基金计划在12月前完成最终募资，目标是建立一个约25家公司的投资组合，平均每家投资1.5亿到2.5亿卢比。