Una mujer de Florida que dice usar la IA como un diario ahora enfrenta un cargo grave, y quien leyó sus entradas fue alguien a quien nunca tuvo la intención de mostrárselas.

Carli Michelle Heller, de Bonita Springs, fue arrestada después de que investigadores descubrieron que el 26 de septiembre había escrito que atacaría la Oficina del Sheriff del Condado de Lee, según el medio local WINK News. De acuerdo con la investigación, su cuenta de Claude mostraba conversaciones que indicaban que para el día siguiente había conseguido un arma nueva.

Según el informe de arresto, la plataforma de Anthropic monitorea las conversaciones de los usuarios en busca de frases clave y contenido amenazante. Debido a la gravedad de las declaraciones, fueron escaladas a un equipo de revisión humana, que las reportó a las autoridades. Los agentes identificaron a Heller, acudieron a su hogar y la detuvieron sin incidentes. Está acusada de realizar una amenaza de violencia por escrito.

La documentación de Anthropic no oculta nada de esto. Los términos de consumo de la empresa se reservan el derecho, a su "exclusiva discreción", de reportar las entradas, salidas o acciones de un usuario a las autoridades. Su política de privacidad, vigente desde el 10 de septiembre de 2026, también permite compartir datos con la policía cuando la empresa tiene la convicción de buena fe de que la divulgación es razonablemente necesaria para evitar un daño grave.

En la práctica, incluso los usuarios que optan por que sus datos no se usen para el entrenamiento de modelos solo reducen la ventana de retención de Anthropic de cinco años a tres meses, lo que significa que las conversaciones nunca son completamente privadas. La misma política indica que las conversaciones marcadas para revisión de seguridad siguen usándose para mejorar la capacidad de Anthropic de detectar contenido dañino, es decir, una entrada de diario marcada puede terminar como material de entrenamiento para los detectores. Para los usuarios que tratan a Claude como Heller lo describía, como un diario, estas son las reglas: las entradas pueden ser monitoreadas en busca de contenido amenazante, retenidas durante meses o años y, cuando un equipo de revisión considera graves las declaraciones, reportadas a la policía.

Heller no es la primera. El San Francisco Standard reportó en septiembre que Anthropic refirió a un usuario a la policía después de que presuntamente escribió que había comprado un AR-15 y tenía en la mira al CEO Dario Amodei. Un empleado dijo a los oficiales que no estaba preocupado de inmediato por la seguridad y se negó a mostrar los mensajes, citando la política de la empresa. El usuario dijo al Standard que estaba bromeando, y no había sido arrestado ni acusado cuando se publicó la nota. Un portavoz de Anthropic calificó el episodio como "nuestro proceso de salvaguardas funcionando como está previsto". La empresa se negó a decir si trata de manera diferente las amenazas contra sus propios empleados. Las dos referencias también terminaron de forma distinta: el caso anterior no había producido arresto ni acusación al momento del reportaje del Standard, mientras que Heller fue detenida y acusada.

Este no es solo un problema de Anthropic. Tras el tiroteo escolar de febrero en Tumbler Ridge, Columbia Británica, que dejó ocho muertos, OpenAI dijo que había evaluado alertar a la policía canadiense en junio de 2025, pero concluyó que la cuenta no mostraba un riesgo inminente y creíble de daño físico grave, como informó Decrypt anteriormente. La propia publicación de políticas de agosto de 2025 de OpenAI canaliza las amenazas contra terceros a revisores humanos que pueden referirlas a las autoridades. En conjunto, estos episodios muestran que la decisión de si una conversación con un chatbot justifica un reporte a la policía recae en las propias empresas y, hasta ahora, ha ido en ambos sentidos.

Heller tiene una audiencia judicial programada para noviembre, el siguiente paso en un caso que comenzó con una entrada que nunca tuvo la intención de que alguien más leyera.