Jalapeño
-
OpenAI 称自研 Jalapeño 芯片可带来更低延迟推理,但并非替代英伟达
OpenAI 公布自研推理芯片 Jalapeño 的基准测试结果,称其在每瓦 AI 工作量和端到端延迟上优于英伟达 GB200 / GB300 对照成绩。但该芯片短期内不会取代英伟达,更像是 OpenAI 为自身推理负载补上一层算力控制能力。
-
OpenAI 首次公布 Jalapeño 推理芯片成绩:以更省电方式追赶英伟达 GB300
OpenAI 在 Hot Chips 大会上首次披露 Jalapeño 推理系统基准成绩。在 InferenceX 测试中,其每瓦完成工作量为对比系统的 1.5 至 1.9 倍,端到端延迟约为 28% 至 59%。