Une femme de Floride qui dit utiliser l'IA comme un journal intime est aujourd'hui poursuivie pour un crime — et la personne qui l'a lue derrière elle était quelqu'un à qui elle n'avait jamais eu l'intention de le montrer.

Carli Michelle Heller, de Bonita Springs, a été arrêtée après que les enquêteurs ont découvert qu'elle avait écrit le 26 septembre qu'elle allait « ouvrir le feu » sur le bureau du shérif du comté de Lee, selon le média local WINK News. Selon l'enquête, son compte Claude montrait des conversations indiquant qu'elle avait obtenu une nouvelle arme dès le lendemain.

Selon le rapport d'arrestation, la plateforme d'Anthropic surveille les conversations des utilisateurs à la recherche de phrases clés et de contenus menaçants. En raison de la gravité des propos, ceux-ci ont été transmis à une équipe d'examen humain, qui les a signalés aux forces de l'ordre. Les adjoints ont identifié Heller, se sont rendus à son domicile et l'ont placée en garde à vue sans incident. Elle est inculpée de menace de violence par écrit.

Les documents d'Anthropic ne cachent rien de tout cela. Les conditions grand public de l'entreprise se réservent le droit, à la « seule discrétion » d'Anthropic, de signaler les entrées, sorties ou actions d'un utilisateur aux forces de l'ordre. Sa politique de confidentialité, en vigueur depuis le 10 septembre 2026, autorise également le partage de données avec la police lorsque l'entreprise a des raisons de croire, de bonne foi, que la divulgation est raisonnablement nécessaire pour prévenir un préjudice grave.

En pratique, même les utilisateurs qui refusent que leurs données soient utilisées pour l'entraînement des modèles ne font que réduire la période de conservation d'Anthropic de cinq ans à trois mois, ce qui signifie que les conversations ne sont jamais totalement privées. La même politique indique que les conversations signalées pour examen de sécurité sont toujours utilisées pour améliorer la capacité d'Anthropic à détecter les contenus nuisibles — autrement dit, une entrée de journal signalée peut se retrouver comme matériel d'entraînement pour les détecteurs. Pour les utilisateurs traitent Claude comme Heller l'a décrit — comme un journal intime — voici les règles en vigueur : les écrits peuvent être surveillés pour des contenus menaçants, conservés pendant des mois ou des années et, lorsqu'une équipe d'examen juge les propos graves, signalés à la police.

Heller n'est pas la première. Le San Francisco Standard rapportait en septembre qu'Anthropic avait signalé un utilisateur à la police après qu'il aurait écrit qu'il avait acheté un AR-15 et avait le PDG Dario Amodei dans sa ligne de mire. Un employé a indiqué aux policiers qu'il n'était pas immédiatement préoccupé par la sécurité et a refusé de montrer les messages, invoquant la politique de l'entreprise. L'utilisateur a déclaré au Standard qu'il plaisantait, et il n'avait été ni arrêté ni inculpé au moment de la publication de l'article. Un porte-parole d'Anthropic a qualifié l'épisode de « processus de protection fonctionnant comme prévu ». L'entreprise a refusé de dire si elle traite différemment les menaces contre ses propres employés. Les deux signalements ont également connu des issues différentes : le premier cas n'avait donné lieu à aucune arrestation ni inculpation au moment du reportage du Standard, tandis que Heller a été placée en garde à vue et inculpée.

Ce n'est pas seulement un problème d'Anthropic. Après la fusillade de février dans une école de Tumbler Ridge, en Colombie-Britannique, qui a fait huit morts, OpenAI a déclaré avoir envisagé d'alerter la police canadienne en juin 2025, mais avait conclu que le compte ne montrait pas de risque imminent et crédible de préjudice physique grave, comme Decrypt l'avait précédemment rapporté. Le propre billet de politique d'août 2025 d'OpenAI oriente les menaces contre autrui vers des examinateurs humains qui peuvent les signaler aux autorités. Prises ensemble, ces affaires montrent que la décision de savoir si une conversation avec un chatbot justifie un signalement à la police relève des entreprises elles-mêmes — et, jusqu'à présent, elle a été tranchée dans les deux sens.

Heller comparaîtra en novembre — la prochaine étape d'une affaire qui a commencé par un écrit qu'elle n'avait jamais destiné à d'autres lecteurs.