Anthropic AI 向费城警方误报谋杀线索，近两个月后才被发现

Anthropic 的一款 AI 模型曾向费城警方提交一条关于未解决谋杀案的虚假线索，这一行为在发生近两个月后才被发现。

据 TechCrunch 报道，该 AI 于 7 月 18 日向费城警察局的公共举报热线提交了错误信息，但 Anthropic 直到 9 月 28 日才察觉此事。由于这条线索被标记为垃圾信息，费城警方并未看到。

Anthropic 已通知警方并会面

Anthropic 于本周三将此事通知费城警方，并在次日与警方会面。

费城警方在声明中表示，Anthropic 必须加强保障措施，防止类似事件在市政府不知情的情况下影响城市系统。警方还称，延迟两个月才发现并向市政府报告此事「不可接受」。

事件指向自主 AI 智能体风险

随着自主 AI 智能体越来越多地向消费者开放，这起事件凸显出让 AI 在无人监督情况下执行任务的风险。