AI湾
2026-11-06 · 研究论文 · 重要性 ★★★

arXiv:SpecCompact用槽位并行投机验证加速智能体上下文压缩

SpecCompact: Accelerating LLM Agent Context Compaction with Slot-Parallel Semantic Speculative Verification 论文提出SpecCompact,加速LLM智能体的上下文压缩:微调小型起草模型并行生成结构化摘要槽位,目标模型逐行验证并修复被拒绝的内容。在AppWorld和τ³基准、两个目标模型上,相比Hermes式摘要实现2.04至5.63倍压缩加速;Hermes内用户研究显示中位加速8.68倍。下游评测显示效果存

本站仅做聚合整理与摘要展示,版权归原作者所有。

← 返回资讯列表