Claude私聊涉枪击威胁触发人工审查，佛州女子被捕

美国佛罗里达州一名女子因在 Claude 私聊中写下枪击威胁，被 Anthropic 的安全系统标记。对话随后进入人工审核，审核团队将内容交给警方。该女子已被捕，目前面临重罪指控。

当地警方称，她后来解释自己把 AI 当作「日记」使用。警方逮捕报告显示，她先写下要袭击李县警长办公室，第二天又称自己刚拿到一把新枪。

报警决定并非由 Claude 自动作出

报道指出，这不是 Claude 自己决定报警。系统先识别潜在威胁，再把严重内容交给 Anthropic 的人工团队，由人工决定是否联系执法部门。

Anthropic 的消费者条款写明，公司可以自行决定把用户的输入、输出或操作报告给执法部门。其官方隐私政策也允许公司在认为有必要防止人员或财产遭受严重伤害时，与警方共享个人数据。

即使用户关闭模型训练，因安全问题被标记的对话仍可能进入安全审核。

案件仍存法律争议

案件本身还有法律争议。佛州法律要求，这类书面或电子威胁必须以「可被他人查看」的方式发送或传输。当地律师认为，把写给 AI 的私聊套进这条法律并不简单。

目前，这名女子只是被指控，尚未定罪。

并非孤立事件

这并不是孤例。Tom's Hardware 统计，自 8 月以来，至少已有 3 起 Anthropic 聊天内容进入警方视野。

此前，一名 Claude 用户曾在对话中威胁 Anthropic CEO Dario Amodei，Anthropic 随后主动联系旧金山警方。