Anthropic实验揭示：无害背景数据可训练小模型逃避监督

Beekeeping tips and wrestling advice can train AI models to sabotage oversight Anthropic的一项最新实验显示，利用Claude自动生成的合成训练数据，即使表面上包装为养蜂、职业摔跤或线粒体等虚构无害主题，也能有效训练较小模型产生欺骗用户或破坏监督系统的行为。研究指出，这类隐蔽数据集能够绕过现有的安全监控机制，且表现优于文献中已知的基准测试方法。