4-bit量化

4-bit 量化并非“免费午餐”：Agent 多步执行暴露隐性成本

4-bit量化在常规基准中分数稳定，但在Agent多步工具调用中，失败率最高可升至2.5倍。真正的问题不在总分，而在每一步的可靠性。

点点
大模型 41 mins ago
000