她说自己只是把 Claude 当日记用;Anthropic 的审核流程并不区分“写给自己看”和“说给别人听”。
据外媒援引的逮捕报告,这起案件的链条并不复杂:Claude 的安全系统会扫描对话里可能构成威胁的关键词与内容,严重程度够高的会升级给人工审核;审核人员判断这条需要上报,于是把材料交给了执法部门,之后由李县警长办公室(LCSO)的情报探员接手。当事人在家中被带走,过程中没有发生冲突。
指控依据的是佛州法典 836.10 条——以书面或电子方式威胁实施大规模枪击或恐怖行为。这一条在佛州属于二级重罪,最高可判 15 年监禁并处最高 1 万美元罚款。从罪名名称就能看出,它针对的是“以书面或电子方式”发出的威胁——聊天记录恰好落在这个范围里。
据报道,当事人事后告诉警方,她把 Claude 当成一本日记在用。这个辩解恰好戳中了问题的核心:很多人和聊天机器人说话时的心理预期,确实更接近写日记或自言自语,而不是在公开场合发帖。但从平台角度看,对话是存放在服务商服务器上的数据,安全系统不会因为“用户觉得这是私密空间”就停止扫描。
当地警方的表态更直接,大意是:用户要明白,你从来都不是真正匿名的。
把时间线拉长看,这已经不是孤例。据外媒梳理:
三起案件间隔不到两个月,说明这条“自动标记 → 人工复核 → 移交执法”的通道已经在常态化运转,而不是偶发的个案处理。Anthropic 9 月 10 日生效的隐私政策也写明,在“合理必要”时可以为防止对任何人或财产的严重伤害而与执法部门共享数据——本案正是这条条款落地的样子。
真正值得追问的不是“该不该报”——对一个明确点名目标、又提到新枪的威胁,大多数人会认为上报合理——而是标准本身几乎不透明。哪些关键词会触发升级、人工审核员看到的是单条消息还是整段上下文、误报如何申诉、数据交出前是否需要法律文书,这些 Anthropic 都没有公开细则。
OpenAI 等同行也有类似的人工复核与上报机制,行业在这件事上的方向是一致的。差别只在于透明度:当聊天框越来越像人们倾诉的地方,平台迟早要回答一个问题——它到底是日记本,还是一个会在必要时打电话的旁观者。目前的答案,显然是后者。