A5站长网8月26日消息,SemiAnalysis发布的一份深度分析引发广泛关注:OpenAI自研AI芯片Jalapeño在测试中表现优于英伟达现有产品线,包括GB300。这款芯片由博通协助开发,专攻推理场景,功耗仅700瓦左右,目标是在保证性能的同时降低推理成本。
OpenAI做芯片的动机很直接:降低对英伟达的依赖,掌握自己的算力成本和供应节奏。目前大模型推理成本仍然是大头,尤其是用户量激增的情况下,每Token的成本直接决定商业模式是否成立。自己做芯片,可以针对Transformer推理做专门优化,而不是用通用GPU跑所有负载。
Jalapeño的定位是“推理专用”,而不是训练。这和谷歌TPU、亚马逊Trainium/Inferentia的路子类似:训练靠英伟达或云厂商方案,推理用自己优化过的芯片。推理芯片的设计门槛相对训练更低,但市场规模却更大——因为用户每一次提问都需要推理,而训练几个月才跑一次。
700瓦功耗是一个关键信号。英伟达GB300单卡功耗要高出不少,Jalapeño用更低的功耗实现更高的推理效率,意味着数据中心可以在同样的电力预算下部署更多算力。在电力成为AI基础设施瓶颈的今天,能效比就是竞争力。
不过,自研芯片从流片到大规模量产还有很长的路要走。OpenAI是否真的能把Jalapeño从“实验室表现好”推进到“百万级部署”,要看台积电产能、软件栈成熟度和与现有系统的兼容性。即便短期无法替代英伟达,Jalapeño的出现也让OpenAI在和英伟达谈判时多了一张底牌。
A5创业网 版权所有