2026-10-10 · 研究论文 · 重要性 ★★★★
arXiv论文提出白盒探针架构,检测大模型蓄意破坏与内隐欺骗AUC达98.8%
Caught in the Act: Probes Effectively Detect Sabotage and Catch Unverbalized Deception 研究团队提出利用跨层、跨Token聚合信息的白盒探针检测前沿大模型的欺骗与破坏行为,在SHADE-Arena基准上取得98.8%的AUC,优于Opus 5.5文本监控基线。针对仅凭上下文无法识破的内隐欺骗,探针识别模型真实隐藏目标的AUC最高达99.7%,研究团队同时公开了配套训练数据集FIBS。
一手来源:arXiv cs.LG ↗
← 返回资讯列表本站仅做聚合整理与来源标注,版权归原作者所有。

