KV Cache
-
DeepSeek 将缓存价格压到 0.02 元:一次面向推理成本的结构性调整
DeepSeek 新模型 V4.1 Flash 将 KV Cache 内存占用压缩到前一代的 1/4,并将缓存命中价格降至 0.02 元。这次调价背后,是推理成本结构的变化。
-
大模型推理团队共用一个Key,并不会直接降低缓存命中率
团队共用一个大模型推理套餐,并不会因为共用 API key 而直接降低缓存命中率。真正影响命中率的是 prompt 前缀是否稳定、可复用。