OpenAI用九个月造出首款芯片,在唯一重要的指标上打败了英伟达最强服务器

OpenAI花了九个月时间,从一张白纸开始设计出一款芯片,如今它在真正决定AI竞赛胜负的那个指标,也就是每瓦特完成的工作量上,击败了英伟达最强的推理服务器。亚马逊即将关闭那个培养了整整一代机器学习模型的众包平台,距离它上线已经过去21年。谷歌正把AI代理送进全球最保守的一批律师事务所。软银正在筹备今年企业债券市场上规模最大的发行之一,只为了让自己对OpenAI的押注继续获得资金支持。而在印度,今年8月企业通过股市募集资金的速度,超过了有记录以来的任何一个月。

OpenAI自研芯片,在英伟达的主场击败了它

OpenAI与博通用九个月时间设计出了一款名为Jalapeño的推理芯片,从最初的草图到台积电代工完成的成品芯片,机架部分则由Celestica负责搭建。本周,一家名为InferenceX的机构公布了首批独立基准测试结果,差距相当悬殊。

在三款大型开源模型上,Jalapeño每千瓦完成的AI工作量是英伟达GB300系统的1.5到1.9倍,延迟最多低3.6倍。对于一家多年来为每一块能买到的英伟达芯片支付高价的公司来说,能造出在能效上击败英伟达当前旗舰产品的芯片,是一件实实在在的大事。

有一个需要说清楚的前提,这种细节最容易在标题里被忽略掉。Jalapeño用的是更新一代的HBM4显存,而作为对比对象的GB300用的是上一代显存。英伟达即将推出的Rubin平台同样会采用HBM4,但目前还没有人拿Jalapeño与它做过对比测试。所以这是一个真实的结果,但还谈不上是与明年的英伟达公平较量。此外,Jalapeño目前也只计划在今年晚些时候进行小批量生产,短期内并不会大规模取代英伟达的硬件。它真正证明的事情范围更窄,但依然重要:一家本身并非芯片制造商的公司,如今已经能在决定数据中心实际运营成本的这项指标上,设计出足以与全球最顶尖芯片制造商正面竞争的产品。

亚马逊关闭了那个培养出整个机器学习时代的平台

亚马逊将于9月30日关闭Mechanical Turk,这个曾被杰夫·贝索斯称为”人造人工智能”的平台就此谢幕。MTurk上线于2005年,让企业把标注图片、转录音频、填写问卷这类小型数字任务发布出去,交给大批领取报酬的人类工作者完成。近二十年来,这些人类劳动一直是大量机器学习研究背后看不见的一层基础,其中就包括早期计算机视觉模型所依赖的图像数据集。

亚马逊停掉的并非只有一款产品。公司旗下更新的数据标注工具SageMaker Ground Truth和Amazon Augmented AI也将在同一天关闭。新一代创业公司,包括Scale AI、Mercor和Prolific在内,已经接手了招募人员训练AI模型这门生意,它们提供的报酬往往更高,任务也比MTurk按件计酬的模式更专业化。

这个时间点颇为耐人寻味。那句曾经用来调侃它的话,“这根本不是AI,只是幕后的一群人在干活”,而就在这句调侃流传多年之后的今年,一家公司却造出了能在基准测试中击败英伟达的芯片。脚手架被撤走,是因为它撑起的那栋楼已经不再需要它了。

谷歌把AI代理送进了大型律师事务所

谷歌云本周推出了Gemini Enterprise for Legal,这是其AI代理平台专门针对律师事务所和企业法务部门打造的版本。克利里·戈特利布、富而德、威嘉以及威廉姆斯与康诺利被列为首批合作伙伴。

这次发布的定位务实而克制,并不追求噱头。该系统能够对接律所已经在用的文档管理和电子取证软件,并且设计上会自动维持律所现有的”伦理墙”,也就是防止某个团队看到另一位客户机密文件的内部规则,而不必依赖律师手动执行。合同审查、尽职调查文件审阅和合规监测是它瞄准的最先三类工作,其法律检索给出的答案也力求以现行法律条文为依据,而不是依赖底层模型在训练过程中恰好学到的内容。

谷歌表示,面向金融服务行业的同类版本已同步上线,医疗健康与生命科学版本将在后续推出。考虑到法庭文件里出现一条AI编造的引用可能付出的代价,大型律所一直是对把实际工作交给AI最为谨慎的行业之一。而谷歌押注的正是,谨慎恰恰意味着商机。

软银大举借债,只为继续给OpenAI输血

软银正在与多家银行洽谈,计划最快于9月发行以美元和欧元计价、规模在100亿到200亿美元之间的债券。这笔资金将用于置换该公司今年早些时候为筹措OpenAI持股资金而借入的400亿美元过桥贷款的一部分。

孙正义旗下这家公司计划到10月为止,向OpenAI累计投入近650亿美元。若最终按上限发行,200亿美元的债券规模将是今年亚洲企业中最大的一笔。据报道,软银还在考虑采用144A发行结构,这种方式能让它把债券卖给范围更广的美国机构投资者群体,而软银上一次这样做已是十多年前的事了。

这些操作并不会改变OpenAI日常运营的方式。它真正说明的是,支撑这轮AI热潮的资金,如今有多大一部分是经由企业债券市场流入,而不是风险投资的支票,风险也因此落在了软银自己的资产负债表上,而不是某只基金身上。

印度迎来史上最强新股发行月

印度股市即将迎来有记录以来新股定价规模最大的一个月,8月排定的股权交易总额接近100亿美元。其中最大的一笔是印度政府出售印度人寿保险公司,也就是该国最大保险公司,股份的交易,规模达32亿美元。曼尼帕尔健康企业则贡献了一笔9.58亿美元的首次公开募股,此外还有一大批规模较小的大宗交易和机构配售。

让这个数字显得格外突出的,是它出现的背景。印度基准股指Nifty 50本月至今其实是下跌的,这说明资金是在集中涌入新股发行,而不是搭乘一轮普遍上涨的市场行情。分析人士认为,原因在于印度本土的共同基金和保险公司如今规模已经足够大、资金也足够充裕,能够独立消化大额交易,再加上散户投资者和重新回流的外资,共同给了企业和政府足够的信心,让他们敢在同一时间定价这么多股票。

一个融资规模创纪录的月份,不像国际象棋夺冠或火箭发射那样容易成为吸引眼球的头条。但这类数字恰恰能说明表面之下有些东西正在起作用,足够充裕的国内储蓄、足够的投资者信心,以及足够旺盛的印度新股需求,让一家政府保险公司和一家连锁医院能在同一个月里同时募集资金,而不会引发市场恐慌。

这些故事说到底,都是关于谁愿意拿真金白银押注未来会发生什么。OpenAI和博通押上了九个月的工程时间,赌自己能在设计上超越全球最大的芯片制造商,而早期数据显示他们赌对了。亚马逊押注的是,AI自己一手创造出来的劳动力市场已经彻底翻篇。软银押注的是数百亿美元的巨额借款,赌OpenAI值这个价。而在孟买,一家政府保险公司和一大批印度企业刚刚押注,无论是本土还是海外的投资者,都已经准备好把真金白银投向这份信心所在。到目前为止,每一笔赌注都在兑现回报。