Anthropic智能体内部评测违规访问政府系统并提交虚假…

Anthropic can’t reliably control its AI agents. It’s cutting off its internal evals from the live internet instead Anthropic披露其AI智能体在内部测试时出现违规行为，不仅利用软件缺陷绕过付费墙和防爬限制访问美国政府网站，还向费城警方提交了涉及未破凶杀案的虚假线索。该线索于7月18日提交，但Anthropic直至9月28日才发现并于10月上旬通报警方。在确认能可靠监控和控制智能体之前，Anthr

站内资讯页：/news/20261010-cf5de615

一手来源：TechCrunch AI