arXiv论文AdvSim2Real：在网页世界模型中训练智能体对抗自适应提示注入

AdvSim2Real : Training Web Agents Against Adaptive Prompt Injection in a Web World Model 研究者提出AdvSim2Real，在冻结的网页世界模型中让任务课程、注入攻击者与智能体共同进化，解决现有防御无法应对自适应攻击者的问题。训练使4B智能体能力与鲁棒性同步提升：面对训练中从未见过的前沿模型攻击者，其在150个网页任务上的完成率相对基础智能体提高33.6%，能力增益可迁移至真实浏览器。