AI 快讯 编译自 ai_news #芯片#OpenAI#推理成本

OpenAI Jalapeño芯片深度解析:自研ASIC如何降低推理成本,对中文用户意味着什么?

OpenAI联合Broadcom推出自研Jalapeño芯片,专为LLM推理优化,旨在降低对Nvidia的依赖和运营成本。本文解析其技术细节、财务逻辑,并探讨对中文圈用户的影响:国内是否有平替?监管与合规如何?

编译发布 2026/06/25 原文发布 2026/06/25

一句话看懂

OpenAI联合Broadcom推出自研Jalapeño芯片,专为LLM推理设计,目标降低对Nvidia的依赖和运营成本,首批部署预计2026年底。

详细发生了什么

OpenAI的财务状况严重受基础设施成本拖累。Nvidia高端处理器利润率约75%,而OpenAI每赚1美元仅保留33美分利润。去年,维持ChatGPT服务器运行花费了84亿美元,随着周活跃用户达9亿,今年运营成本预计升至140亿美元。未来八年,OpenAI承诺投入约1.4万亿美元用于计算资源,而其年收入仅250亿美元。

为扭转局面,OpenAI与Broadcom合作开发了Jalapeño芯片,这是一款专用集成电路(ASIC),专为大语言模型推理优化,而非通用AI负载。OpenAI提供核心架构设计,Broadcom负责硅工程和高速网络集成,台积电负责制造,Celestica负责板级和机架系统。早期样品已能运行未发布的GPT-5.3-Codex-Spark模型,达到目标生产频率和功耗。

该芯片通过减少数据移动来提升实际利用率,并集成Broadcom的Tomahawk网络芯片,实现大规模集群通信。OpenAI借此从纯软件公司转型为垂直整合基础设施公司,类似苹果的软硬件一体化策略。

尽管起步较晚(谷歌2015年部署TPU,亚马逊已出货超百万自研芯片),OpenAI利用自身语言模型自动化硬件设计流程,从白板设计到流片仅用9个月,形成“模型辅助设计硬件”的独特反馈循环。首批部署计划2026年底开始,与微软等合作伙伴共同推进吉瓦级数据中心集成。

中文圈视角

对中文用户而言,Jalapeño芯片的直接影响有限——OpenAI服务在国内需通过API或代理访问,且受数据出境限制。但这一趋势值得关注:

  1. 国产替代加速:国内厂商如华为(昇腾)、百度(昆仑芯)、寒武纪等也在研发AI推理芯片,但生态成熟度与Nvidia差距较大。OpenAI自研芯片的成功可能刺激国内厂商加大投入,推动国产芯片在推理场景的落地。

  2. 成本降低的间接利好:若OpenAI通过自研芯片降低推理成本,API价格可能下调,国内开发者通过合法渠道调用OpenAI模型的成本将下降。但需注意,国内监管要求生成式AI服务必须使用通过备案的模型,直接调用OpenAI API可能不合规。

  3. 技术路线启示:Jalapeño芯片专为LLM推理优化,而非通用计算,这提示国内芯片设计者应聚焦特定场景(如长文本推理、多模态),而非盲目追求通用算力。

  4. 供应链风险:芯片制造依赖台积电,地缘政治因素可能影响供应。国内厂商需加强自主制造能力,避免被“卡脖子”。

几条值得记住的细节

  • OpenAI去年运营成本84亿美元,今年预计140亿美元,周活跃用户9亿。
  • Jalapeño芯片从设计到流片仅9个月,利用自身模型加速硬件设计。
  • 首批部署2026年底,与微软等合作,目标吉瓦级数据中心。
  • Nvidia高端处理器利润率75%,OpenAI利润率仅33%。
  • 未来八年OpenAI承诺投入约1.4万亿美元用于计算资源。

一句话总结

OpenAI自研芯片降低推理成本,长期可能惠及API用户,但国内需关注国产替代和合规路径。