推理算力

OpenAI 在 Hot Chips 大会上首次披露 Jalapeño 推理系统基准成绩。在 InferenceX 测试中，其每瓦完成工作量为对比系统的 1.5 至 1.9 倍，端到端延迟约为 28% 至 59%。