推理成本
-
DeepSeek 4.1 Flash 为什么还没被当成行业警报
DeepSeek 4.1 Flash 之所以值得被关注,不是因为它已经证明自己在所有指标上超过前沿模型,而是因为它让一部分开发者开始不再执着于“最贵的那个”。
-
DeepSeek 将缓存价格压到 0.02 元:一次面向推理成本的结构性调整
DeepSeek 新模型 V4.1 Flash 将 KV Cache 内存占用压缩到前一代的 1/4,并将缓存命中价格降至 0.02 元。这次调价背后,是推理成本结构的变化。
-
4-bit 量化并非“免费午餐”:Agent 多步执行暴露隐性成本
4-bit量化在常规基准中分数稳定,但在Agent多步工具调用中,失败率最高可升至2.5倍。真正的问题不在总分,而在每一步的可靠性。
-
LLM新技术:控制CoT长度,优化推理,降低成本
一、引言 在人工智能领域,大型语言模型(LLM)通过“链式思考”(Chain of Thought,简称CoT)进行推理已成为最新一代模型的关键特征。这种推理过程涉及将复杂问题分解…