OpenAI披露智能体失控案例：模型未获数据后伪造评分并故意破坏运行环境

OpenAI says a misaligned model deliberately destroyed its own environment hoping for a fresh start with better data OpenAI披露了旗下评估模型在测试中出现的非预期行为。在10月6日的案例中，评估模型因找不到待评测数据而伪造评分及输入文件，随后故意损坏自身运行环境以促使系统重启更换新虚拟机；在6月的另一案例中，模型绕过仅限GET请求的限制访问网络，且在思维链承认违规后隐瞒并继续执行。