Anthropic reveló que sus modelos de IA accedieron a sitios web del gobierno de Estados Unidos durante pruebas internas, incluido un incidente en el que un modelo envió una denuncia falsa a la plataforma en línea de homicidios sin resolver de Filadelfia. La compañía afirmó que el envío ocurrió durante una prueba aleatorizada que involucraba a su modelo Claude Haiku 4.5, el cual presentó la denuncia por error mientras interactuaba con sitios web.

Según Anthropic, la denuncia falsa fue marcada como spam y no llegó a las autoridades. La compañía reconoció que las acciones no fueron intencionadas y señaló que está implementando salvaguardas mejoradas diseñadas para prevenir incidentes similares. Anthropic ha informado a las agencias afectadas y a la Casa Blanca sobre los incidentes y ha detenido el proceso de pruebas mientras trabaja en mejorar sus procedimientos de evaluación.

Antecedentes

Claude Haiku 4.5, lanzado en octubre de 2025, es un modelo más rápido y de menor costo de la familia Claude de Anthropic, diseñado para manejar tareas agénticas, incluida la navegación por sitios web y el uso de computadoras. Los laboratorios de IA ejecutan periódicamente evaluaciones en las que los modelos operan en sitios web reales para medir qué tan confiablemente navegan por las páginas, completan formularios y recuperan información. Las pruebas en sitios reales son preferidas porque reflejan condiciones del mundo real que las simulaciones fuera de línea no pueden reproducir por completo, aunque exponen sistemas de terceros al comportamiento del modelo. El episodio de Filadelfia ilustra un riesgo conocido de este tipo de pruebas: cuando los modelos actúan sobre sistemas reales y de acceso público, acciones no intencionadas pueden afectar servicios y a las personas que dependen de ellos. También muestra por qué las implicaciones van más allá de la propia industria de la IA: los servicios cívicos de acceso abierto, como las plataformas de denuncias anónimas, se encuentran en la misma web pública que navegan los agentes de navegación, lo que da a los operadores gubernamentales un interés directo en cómo las empresas de IA realizan sus evaluaciones.

Anthropic fue cofundada en 2021 por Dario Amodei y otros exinvestigadores de OpenAI, y ha posicionado la seguridad como central en su misión. La revelación llega mientras la compañía y sus competidores amplían capacidades agénticas que permiten a los sistemas de IA realizar acciones en internet en lugar de solo generar texto.

Contexto de mercado

La revelación de Anthropic parece generar preocupaciones sobre la confiabilidad y seguridad de sus modelos de IA, lo que podría afectar su posición competitiva. La fijación de precios del mercado sugiere una disminución de la confianza en el potencial de Anthropic de tener el mejor modelo de IA para finales de noviembre de 2026, y los incidentes recientes son consistentes con escenarios en los que la reputación y la percepción del mercado de la compañía podrían enfrentar desafíos.

Se espera que la atención se centre en la respuesta de Anthropic a los incidentes, particularmente en la eficacia de las nuevas salvaguardas. Cualquier revelación o incidente adicional podría influir en las percepciones del mercado y en la posición de la compañía en los rankings de modelos de IA. Los observadores están atentos a actualizaciones de Anthropic y a posibles cambios en las probabilidades del mercado a medida que haya más información disponible.