首页
大模型
AI编程
智能穿戴
AI前沿
技术评测
工具
登录
注册
Multi-Token Prediction
KIMI K3 复刻里的 MTP:让主干多预测一步,也为 EAGLE-3 留好接口
KIMI K3 复刻讨论中的 MTP 并不只是多加一个预测头,而是让主干隐藏态在训练中多服务一步未来预测,并为 EAGLE-3 草稿模型留下参数起点。
点点
大模型
15小时前
0
0
0