OpenAI联合Broadcom推出Jalapeño,AI推理芯片战升温
OpenAI首次公开与Broadcom共同开发的定制AI处理器Jalapeño。芯片已进入测试,计划今年晚些时候用于客户服务;消息公布当天,Broadcom小涨,Nvidia小跌,Cerebras财报后重挫。
首次合成约需 20 秒,之后再访即点即听
OpenAI联合Broadcom推出Jalapeño,AI推理芯片战升温
OpenAI首次公开与Broadcom共同开发的定制AI处理器。芯片已进入测试,计划今年晚些时候用于客户服务;消息公布当天,Broadcom小涨,Nvidia小跌,Cerebras财报后重挫。
6月24日,OpenAI公开了名为Jalapeño的首款定制AI处理器。Axios、The Verge和MarketWatch报道称,这枚芯片由OpenAI与Broadcom共同开发,面向大语言模型的推理任务,而非模型训练。
在此之前,OpenAI主要通过采购、租用和测试外部芯片来扩张算力:Nvidia GPU仍是主力,Google TPU和Cerebras等硬件也进入过测试范围。Jalapeño使OpenAI第一次把自己的模型需求写进芯片设计。
九个月后的样品
The Verge报道称,从双方宣布合作到Jalapeño亮相,大约用了9个月。OpenAI已经开始测试样品,并预计在今年晚些时候把它投入客户服务。
Broadcom首席执行官陈福阳在相关报道中称,Jalapeño是多代计算平台的第一步。外界目前看到的仍是方向性表述:性能/瓦特、成本优势和部署计划已经被提及,但制程、功耗、代工、价格和完整测试数据尚未公开。
“成本较传统方案低约50%”的说法,目前缺少可核验的公开基准。OpenAI已经可以确定面对的,是另一笔更日常的账:模型训练完成之后,每一次问答、代码补全、图片生成和语音交互,都还需要新的算力支出。
Nvidia仍在训练端占据优势
Nvidia仍掌握大型模型训练所需的通用GPU生态、CUDA软件栈和集群运维经验。Jalapeño的出现,不等于OpenAI会很快摆脱Nvidia。
用户向ChatGPT或Codex发出请求时,后台运行的是更稳定、更重复、规模也更大的推理流量。Nvidia和AMD仍可承担训练和高弹性通用计算,但若Jalapeño可行,云端推理市场的部分新增需求可能转向客户自有芯片。
Broadcom进入OpenAI供应链
Broadcom过去已经参与过Google TPU等定制ASIC项目。Jalapeño让这家公司进一步进入OpenAI供应链,也使其AI业务不再只围绕网络芯片和交换芯片。
MarketWatch还报道称,Jalapeño相关硬件基础设施涉及电子制造商Celestica。Broadcom在其中的角色不是运营AI云,而是把大客户的设计需求转化为可生产、可部署的芯片和系统。
AI硬件股反应不一
6月24日美股收盘,AI硬件股没有出现单边行情。Investors Business Daily报道称,Broadcom上涨0.5%,收于382.07美元;Nvidia下跌0.5%,收于199美元。新上市的Cerebras在首份财报后下跌19.6%,收于182.26美元。
Cerebras一季度收入同比增长94%,并上调全年收入预期;同一份财报里,毛利率下滑成为投资者抛售的理由。该公司客户包括OpenAI和AWS,客户集中度也因此受到关注。
Jalapeño发布后,投资者没有只看GPU销量。推理成本、毛利率和客户集中度同时进入交易视野:Nvidia仍是训练和通用AI计算的主要供应商,Broadcom受益于客户定制芯片,Cerebras等新公司则需要证明高速增长可以转化为更稳定的利润率。
推理成本进入账本
ChatGPT、Codex和其他AI服务的使用量继续上升,OpenAI需要为每一次请求支付推理成本。自研推理芯片若能大规模部署,OpenAI在价格、产品节奏和供应链上都会有更多空间。
Jalapeño同时会把OpenAI带入更长的硬件周期。模型架构如果快速变化,这枚芯片需要在效率和灵活性之间保持平衡。短期内,它首先是一项降低推理成本的供应链安排,而不是Nvidia地位立即改变的标志。
信源说明:本文综合Axios、The Verge、MarketWatch关于OpenAI与Broadcom推出Jalapeño的报道,以及Investors Business Daily关于Broadcom、Nvidia和Cerebras股价及财报表现的报道整理。部分市场传闻称Jalapeño具备显著成本优势,但公开报道尚未给出完整可核验基准数据,本文未将具体降本比例作为确定事实。参考链接:Axios、The Verge、MarketWatch、Investors Business Daily。
读到这里,说明你关注真正重要的事
锐报每周深度分析直送邮箱——财经、地缘、科技,穿透表象。零广告,零废话。