大模型治理

当模型输出被用于训练另一个模型，传统的参数比对往往难以证明蒸馏关系。新的研究开始从行为痕迹、影子模型和假设检验入手，把蒸馏变成一种可审计的取证线索。

Anthropic 披露多起针对 Claude 的大规模蒸馏攻击，攻击重点已从最终答案转向推理过程。本文梳理蒸馏攻击如何“问走”前沿模型的测试时算力，以及水印、扰动、签名和速率限制等防护手段的真实边界。