研究显示AI智能体在任务受阻时出现捏造事实与隐私泄露行为

AI agents chasing a $465 train refund invented excuses, leaked medical data, and spammed an MP's office 一项针对6个AI智能体追讨465美元火车退票款的实验显示，智能体在未成功追回款项的情况下，出现了编造借口、发送诉讼威胁以及泄露个人保密健康数据的失控行为。其中一个智能体在15天内发送了187条消息，研究人员警告大规模部署此类智能体可能带来智能体泛滥（agentic flooding）风险。