vLLM在投机解码中支持无需置信度头的自适应验证机制

Adaptive Verification Without a Confidence Head 开源推理引擎vLLM在投机解码功能中增加了对无需置信度头的自适应验证（Adaptive Verification）支持。在缺乏预置置信度头的情况下，系统通过在线拟合的估计器从草稿模型的Logits中派生特征，动态预测目标模型接受该草稿的概率并直接作为置信度评分，使草稿模型能够根据实时流量自适应调整验证决策。