模型蒸馏

当模型输出被用于训练另一个模型，传统的参数比对往往难以证明蒸馏关系。新的研究开始从行为痕迹、影子模型和假设检验入手，把蒸馏变成一种可审计的取证线索。

阿里 Qwen 团队发布 Qwen-Image-2.1-Turbo，将 7B 图像生成模型的去噪步数从 40 步压到 8 步。但真正的加速并不只来自步数减少，还涉及 CFG 蒸馏带来的每步前向次数下降，以及 8B 文本编码器带来的固定条件编码成本。少步生成的竞争重点，正在从算法转向部署成本结构。

开源权重模型正在从闭源模型的替代品，转变为部分场景中的优先选择。随着差距缩短、成本下降和开放权重生态成熟，AI 行业的技术路线与商业模式都在被重新计算。