Mieszkanka Florydy, która mówi, że używa sztucznej inteligencji jak dziennika, stoi teraz w obliczu zarzutu klasy felony — a czytelnik, który doprowadził ją do tego punktu, to osoba, której nigdy nie zamierzała tego pokazywać.

Carli Michelle Heller z Bonita Springs została aresztowana po tym, jak śledczy ustalili, że 26 września napisała, iż "otworzy ogień" do biura szeryfa hrabstwa Lee, według lokalnego serwisu WINK News. Z postępowania wynika, że jej konto Claude zawierało rozmowy wskazujące, że do następnego dnia zdobyła nową broń.

Według raportu z aresztowania platforma Anthropicu monitoruje rozmowy użytkowników pod kątem kluczowych fraz i treningów o charakterze groźb. Ze względu na wagę wypowiedzi trafiły one do ludzkiego zespołu weryfikacyjnego, który zgłosił je organom ścigania. Zastępcy szeryfa ustalili tożsamość Heller, udali się do jej domu i zatrzymali ją bez incydentu. Została oskarżona o pisemne grożenie przemocą.

Dokumenty Anthropicu niczego w tym zakresie nie ukrywają. Warunki konsumenckie firmy zastrzegają sobie prawo — według "wyłącznego uznania" Anthropicu — do zgłaszania danych wejściowych, wyjściowych lub działań użytkownika organom ścigania. Polityka prywatności, obowiązująca od 10 września 2026 r., zezwala również na udostępnie danych policji, gdy firma w dobrej wierze uzna, że ujawnienie jest rozsądnie niezbędne, aby zapobiec poważnej szkodzie.

W praktyce użytkownicy, którzy rezygnują z wykorzystywania ich danych do treningu modeli, jedynie skracają okres przechowywania danych przez Anthropic z pięciu lat do trzech miesięcy, co oznacza, że rozmowy nigdy nie są w pełni prywatne. Ta sama polityka stanowi, że rozmowy oflagowane do przeglądu bezpieczeństwa są nadal wykorzystywane do poprawy zdolności Anthropicu do wykrywania szkodliwych treści — co oznacza, że oflagowany wpis z dziennika może trafić do materiałów treningowych dla systemów detekcji. Dla użytkowników, którzy traktują Claude'a tak jak Heller opisała — jak dziennik — to są zasady działania: wpisy mogą być monitorowane pod kątem groźb, przechowywane przez miesiące lub lata, a gdy zespół weryfikacyjny uzna wypowiedzi za poważne, zgłaszane policji.

Heller nie jest pierwsza. San Francisco Standard poinformował, że we wrześniu Anthropic przekazał policji sprawę użytkownika, który — jak zarzucono — napisał, że kupił karabin AR-15 i miał CEO Dario Amodeiego na muszce. Pracownik powiedział funkcjonariuszom, że nie był natychmiast zaniepokojony o bezpieczeństwo i odmówił pokazania wiadomości, powołując się na politykę firmy. Użytkownik powiedział Standardowi, że żartował, i w momencie publikacji artykułu nie został aresztowany ani oskarżony. Rzecznik Anthropicu określił całe zajście jako "nasz proces zabezpieczeń działający zgodnie z przeznaczeniem". Firma odmówiła powiedzenia, czy traktuje groźby wobec własnych pracowników inaczej. Te dwa zgłoszenia zakończyły się też inaczej: w wcześniejszej sprawie — wg stanu na moment publikacji Standardu — nie doszło do aresztowania ani zarzutów, podczas gdy Heller została zatrzymana i oskarżona.

To nie jest tylko problem Anthropicu. Po lutowej strzelaninie w szkole w Tumbler Ridge w Kolumbii Brytyjskiej, w której zginęło osiem osób, OpenAI oświadczyło, że w czerwcu 2025 r. rozważało powiadomienie kanadyjskiej policji, ale doszło do wniosku, że konto nie wykazywało bezpośredniego i wiarygodnego ryzyka poważnej krzywdy fizycznej, jak wcześniej informował Decrypt. Własny policyjny post OpenAI z sierpnia 2025 r. kieruje groźby wobec innych do ludzkich weryfikatorów, którzy mogą przekazać je organom ścigania. Wszystkie te przypadki razem pokazują, że ocena, czy rozmowa zbotem uzasadnia zgłoszenie policji, należy do samych firm — a dotychczas kończyła się dwukierunkowo.

Heller ma wyznaczoną rozprawę na listopad — kolejny etap sprawy, która zaczęła się od wpisu, którego nigdy nie zamierzała pokazać nikomu innemu.