Жительница Флориды, которая, по ее словам, использует ИИ как дневник, теперь обвиняется в тяжком преступлении — а тем, кто прочитал ее записи и направил дело в суд, оказался человек, которому она никогда не собиралась их показывать.

Карли Мишель Хеллер из Бонита-Спрингс была арестована после того, как следователи установили, что 26 сентября она написала, что «расстреляет» офис шерифа округа Ли, сообщает местное издание WINK News. По данным расследования, в ее аккаунте Claude были переписки, указывающие, что к следующему дню она приобрела новое оружие.

Согласно отчету об аресте, платформа Anthropic отслеживает переписку пользователей на предмет ключевых фраз и угрожающего контента. Из-за серьезности заявлений они были переданы команде ручной проверки, которая сообщила о них правоохранительным органам. Депутаты установили личность Хеллер, пришли к ней домой и задержали ее без инцидентов. Ей предъявлено обвинение в письменной угрозе насилия.

Документы Anthropic ничего из этого не скрывают. Потребительские условия компании оставляют за ней право по собственному «единоличному усмотрению» сообщать правоохранительным органам о вводимых данных, результатах или действиях пользователя. Ее политика конфиденциальности, действующая с 10 сентября 2026 года, также допускает передачу данных полиции, если компания добросовестно полагает, что раскрытие разумно необходимо для предотвращения серьезного вреда.

На практике даже пользователи, отказавшиеся от использования своих данных для обучения моделей, лишь сокращают срок хранения данных Anthropic с пяти лет до трех месяцев, то есть переписка никогда не бывает полностью приватной. Та же политика гласит, что переписки, помеченные для проверки безопасности, все равно используются для улучшения способности Anthropic выявлять вредоносный контент — а значит, помеченная запись дневника может стать обучающим материалом для детекторов. Для пользователей, которые обращаются с Claude так, как описала Хеллер, — как с дневником, — это правила работы: записи могут отслеживаться на угрожающий контент, храниться месяцами или годами и, если команда проверки сочтет заявления серьезными, передаваться полиции.\nХеллер — не первая. San Francisco Standard сообщало в сентябре, что Anthropic передала полиции дело пользователя, который, по утверждению следствия, написал, что купил AR-15 и держит в прицеле генерального директора Дарио Амодеи. Сотрудник рассказал офицерам, что не видит непосредственной угрозы безопасности, и отказался показывать сообщения, сославшись на политику компании. Пользователь сообщил Standard, что шутил, и на момент публикации статьи он не был арестован и ему не предъявлены обвинения. Представитель Anthropic назвал этот случай примером того, «как наш процесс защиты работает по задумке». Компания отказалась уточнить, относится ли она иначе к угрозам в адрес собственных сотрудников. Эти два обращения также завершились по-разному: в более раннем случае на момент публикации Standard не было ни ареста, ни обвинений, тогда как Хеллер была задержана и ей предъявлены обвинения.

Это проблема не только Anthropic. После февральской стрельбы в школе в Тамблер-Ридж, Британская Колумбия, в которой погибли восемь человек, OpenAI заявила, что в июне 2025 года рассматривала возможность уведомления канадской полиции, но пришла к выводу, что аккаунт не указывал на непосредственный и достоверный риск серьезного физического вреда, как ранее сообщал Decrypt. Собственный публикация OpenAI о политике от августа 2025 года направляет угрозы в адрес других лиц рецензентам-людям, которые могут передать их в правоохранительные органы. Все эти случаи показывают, что решение о том, оправдывает ли переписка с чат-ботом обращение в полицию, принимают сами компании — и до сих пор оно принималось в обе стороны.

У Хеллер назначено судебное заседание на ноябрь — следующий шаг в деле, которое началось с записи, предназначенной не для чужих глаз.