arXiv 论文提出 HoS 机制：通过注意力门控增强提示词注入防御

Heads of Security: Learned Attention Gates Improve Prompt Injection Robustness 研究人员提出了名为 Heads of Security (HoS) 的提示词注入防御方案，通过微量可学习的逐头注意力门控在模型内部实现指令与数据的严格隔离。该方法学习如何在受信任与不可信 token 之间重新分配注意力，使模型在处理不可信内容的同时不执行其中注入的恶意指令。评测表明，在黑盒攻击 RL-Hammer 下，GPT-OSS-20B 攻击成功率自 97