AI湾
2026-10-23 · 研究论文 · 重要性 ★★★

arXiv 论文提出 LongZero:利用零数据强化学习提升大模型长上下文推理

LongZero: Enhancing Long-Context Reasoning in LLMs from Zero Data 来自 arXiv 的预印本论文提出了名为 LongZero 的长上下文推理训练方法,无需依赖人工标注或外部语料。该方法让大语言模型先以紧凑结构自生成问答与支持证据,再将证据扩充为多文档上下文,并结合多跳推理与多轮检索任务执行 GRPO 训练。实验显示,该方法在五个长上下文推理基准上的表现均优于基于外部语料合成数据的强化学习基线。

一手来源:arXiv cs.CL ↗

本站仅做聚合整理与来源标注,版权归原作者所有。

← 返回资讯列表