AMTP：自适应多 token 预测加速语言模型解码

Adaptive Multi-Token Prediction: How far should we go? arXiv 论文提出自适应多 token 预测（AMTP），通过将推测范围选择建模为在线控制问题，根据验证反馈动态调整草稿长度。该方法在五组 draft-target 组合上测试，这些组合基于 Llama-3.1-8B-Instruct（配 Medusa heads）、Meta 的 MTP 模型和 Qwen3-4B-Inst-2507-MTP；解码速度最高提升 4.1 倍，在 10 项设置中的 8 项匹配或