KV缓存
-
4-bit 量化并非“免费午餐”:Agent 多步执行暴露隐性成本
4-bit量化在常规基准中分数稳定,但在Agent多步工具调用中,失败率最高可升至2.5倍。真正的问题不在总分,而在每一步的可靠性。
-
混合递归架构实现推理速度翻倍:技术原理与实施指南
韩国科学技术院(KAIST)与Mila研究院的科学家们近期提出了一种创新的Transformer架构——混合递归(Mixture-of-Recursions, MoR),该设计通过…