一名自称把AI当日记本使用的佛州女子，如今面临重罪指控——而读到这本“日记”并让她陷入麻烦的人，正是她从未打算展示的对象。

据当地媒体WINK News报道，来自博尼塔斯普林斯的Carli Michelle Heller被捕，原因是调查人员发现她于9月26日写道要“枪击”李县治安官办公室。调查显示，她的Claude账户中的对话表明，她在次日已获得一把新枪。

根据逮捕报告，Anthropic的平台会监测用户对话中的关键词和威胁性内容。由于这些言论的严重性，相关内容被升级至人工审核团队，后者将其上报执法部门。副警长确认了Heller的身份，前往其住所并将其顺利拘留。她被控以书面形式实施暴力威胁。

Anthropic的文件并未隐瞒这些安排。该公司的消费者条款保留“全权酌情”将用户的输入、输出或行为上报执法部门的权利。其隐私政策（2026年9月10日生效）也允许在公司善意认为披露对于防止严重伤害属合理必要时，与警方共享数据。

实际上，即使选择退出数据用于模型训练的用户，也只能将Anthropic的保留期限从五年缩短至三个月，这意味着聊天记录从来都不是完全私密的。同一政策还指出，被标记为安全审核的对话仍会用于提升Anthropic检测有害内容的能力——也就是说，一条被标记的日记条目可能最终成为检测器的训练素材。对于像Heller描述的那样把Claude当作日记本的用户而言，这些就是运行规则：条目可能因威胁性内容被监测，被保留数月甚至数年，而当审核团队认为言论严重时，还会被上报警方。

Heller并非第一例。《旧金山标准报》9月报道称，一名用户因涉嫌写道自己购买了AR-15并将CEO Dario Amodei置于十字准线中，被Anthropic转介给警方。一名员工告诉警官，他当时并未感到直接担忧，并以公司政策为由拒绝展示相关消息。该用户告诉《旧金山标准报》，他只是在开玩笑，且在该报道刊发时他并未被逮捕或起诉。Anthropic一位发言人称此事件是“我们的安全保障流程按预期运作”。该公司拒绝透露是否会对针对其自身员工的威胁采取不同处理方式。这两次转介的结果也不同：在《旧金山标准报》报道时，较早的案子未产生任何逮捕或指控，而Heller则被拘留并被起诉。

这不仅仅是Anthropic的问题。在不列颠哥伦比亚省坦布勒岭2月发生造成八人死亡的校园枪击案后，OpenAI表示，它曾在2025年6月考虑提醒加拿大警方，但最终认定该账户未显示出迫近且可信的严重人身伤害风险，Decrypt此前报道过。OpenAI自己的2025年8月政策文章规定，针对他人的威胁会被转给人工审核员，后者可能将其移交执法部门。综合来看，这些事件表明，聊天机器人对话是否应移交警方的判断权掌握在公司自身手中——而迄今为止，两种结果都出现过。

Heller已定于11月出庭——这起案件始于一条她从未打算让任何人看到的日记。