大模型应用从演示走向生产环境后,成本不再是一次性的采购问题,而是持续发生的运行成本。掘金《AI 应用生产化手册》系列第 14 篇提出,团队应把 Token 成本从“月底账单”转为实时可观测指标:通过日志中的输入、输出 token 用量和模型价格表,计算每次请求、每个模型的成本,并设置预算告警。这样,定价、优化和预算控制才能建立在明确数据之上。
每请求成本:成本工程的基础指标
文章给出的单次调用成本公式为:成本 =(输入 tokens × 输入单价 + 输出 tokens × 输出单价)/ 1_000_000。该公式本身并不复杂,关键在于把价格表和调用日志持续对齐,并在每次请求发生时生成可查询的成本数据。
配套开源项目中的 cost_model.py 脚本演示了这一过程。对一份包含 10 次调用的合成样例日志进行解析后,报告显示:调用次数 10,总 token 入/出 1360 / 236,总成本 0.004608 元,平均每请求 0.000461 元;按模型拆解,deepseek/deepseek-chat 为 10 次,in 1360 / out 236,成本 0.004608 元。文章认为,报告中最有价值的不是总成本,而是“平均每请求 0.000461 元”这一数值。只有获得每请求成本,团队才能判断一次服务是否值得定价、优化方向在哪里,以及预算告警应设置在什么位置。
Agent 应用的成本并不是“一次问答”
对于 Agent 类应用,文章提醒不能把一次用户问答简单等同于一次模型调用。一次问答可能包含 1 次检索(Embedding 调用,小头)和 2 – 3 次 LLM 调用(生成、反思或重试,大头)。每一次 LLM 调用的输入都可能包含系统提示词和检索结果等上下文,因此总成本可能达到单次调用成本的 3 倍。
这意味着 Agent 应用的成本并非“单次问答 × 单价”,而是更接近“调用次数 × 每次上下文长度”。因此,成本工程的重点不只是更换更便宜的模型,而是减少不必要调用、压缩上下文长度。后续关于缓存和路由的优化,也围绕这一思路展开。
另一个容易被忽视的问题是模型命名与价格表不匹配。日志中记录的可能是 chat-strong、chat-cheap 等逻辑名,而价格表配置的是 deepseek/deepseek-chat 等供应商模型名。如果两者没有对齐,未匹配模型的成本会被记为 0,报告会显得“免费”,但实际费用仍在发生。
素材中的未计价模型测试展示了这一风险:日志包含 chat-strong 和 gpt-5-mini 两次调用,其中 gpt-5-mini 未配置价格。报告显示调用次数 2,总 token 入/出 1720 / 320,总成本 0.00276 元,平均每请求 0.00138 元;chat-strong 成本为 0.00276 元,gpt-5-mini 成本为 0.0 元,并提示“未计价模型(成本按 0 计,需补价格表): gpt-5-mini”。这种情况下,账面成本会被低估,工具至少能把未计价模型列出,避免团队完全无感。
预算告警与基线:让成本进入工程流程
在获得每请求成本后,文章将成本控制拆成三类机制:
- 单请求预算:超过阈值时拒绝或降级,并可与降级链联动;
- 周期预算:按日或按月设置上限,超限时触发告警;
- 趋势告警:监测成本环比突增,并接入既有指标体系。
告警设计遵循“阈值 = 基线 + 容差”的原则,同时要求告警能够指向行动。如果系统只提示超预算,却不说明是哪个模型、哪类请求在消耗费用,告警就难以转化为处理动作。
脚本示例把预算告警做成退出码。当使用 –budget 0.001 检查总成本为 0.004608 元的日志时,输出显示“总成本 0.004608 元超过预算 0.001 元”,退出码为 1;当预算设为 1.0 元时,退出码为 0。这样,成本检查可以进入 CI 或定时任务,而不依赖人工盯盘。
素材还给出一个真实链路基线:10 个评测问题各问 5 遍,形成 50 次调用,用真实价格表计算后约为 0.001 元/请求,使用 deepseek 档模型,并配合 R04 降级链兜底。文章将该数值作为后续缓存、路由等成本优化措施的对照基线。没有基线,所谓“省了 40%”只能停留在感觉层面。
对 AI 应用运营的意义
这一做法把大模型应用的成本管理从财务后置账单,前移到日志、指标和自动化流程中。每请求成本成为可观测指标后,团队可以判断产品定价是否合理,识别 Agent 调用链中的高成本环节,并通过缓存、路由和降级策略进行针对性优化。
系列下一篇将转向缓存策略,目标是让“同样的钱只花一遍”。当每请求成本进入监控面板,缓存命中率、模型路由和降级方案的效果才有可对照的起点。
原创文章,作者:点点,如若转载,请注明出处:https://www.dian8dian.com/da-mo-xing-ying-yong-shang-xian-hou-de-di-yi-bi-ming-bai