arXiv论文提出ShallowDefend框架，利用前缀决策Token提升多轮对话对齐防御

ShallowDefend: Harnessing Shallow Safety Alignment for Multi-Turn Defender 针对大语言模型在多轮交互中容易绕过单轮安全对齐的脆弱性，研究人员提出ShallowDefend防御框架。该方法指出对齐机制高度集中于最初几个Token，主张通过强化学习训练模型在生成回复前先行输出明确可解析的安全决策Token，在14个基准测试中，该框架在多轮对话安全上取得受控对比中的最好表现，但以少量有帮助性为代价。