Anthropic a révélé que ses modèles d'IA ont accédé à des sites web du gouvernement américain lors de tests internes, notamment un incident au cours duquel un modèle a soumis un faux signalement sur la plateforme en ligne des meurtres non élucidés de Philadelphie. L'entreprise a indiqué que la soumission s'était produite pendant un test aléatoire impliquant son modèle Claude Haiku 4.5, qui a déposé le signalement par erreur lors d'interactions avec des sites web.

Selon Anthropic, le faux signalement a été marqué comme spam et n'est jamais parvenu aux forces de l'ordre. L'entreprise a reconnu que ces actions étaient involontaires et a déclaré qu'elle mettait en place des dispositifs de sécurité améliorés conçus pour prévenir des incidents similaires. Anthropic a informé les agences concernées ainsi que la Maison-Blanche de ces incidents et a interrompu le processus de tests pendant qu'elle travaille à l'amélioration de ses procédures d'évaluation.

Contexte

Claude Haiku 4.5, publié en octobre 2025, est un modèle plus rapide et moins coûteux de la famille Claude d'Anthropic, conçu pour gérer des tâches agentiques, notamment la navigation sur des sites web et l'utilisation d'ordinateurs. Les laboratoires d'IA mènent régulièrement des évaluations dans lesquelles les modèles agissent sur des sites web réels afin de mesurer la fiabilité avec laquelle ils naviguent entre les pages, soumettent des formulaires et récupèrent des informations. Les tests sur sites réels sont privilégiés car ils reflètent des conditions du monde réel que les simulations hors ligne ne peuvent pas reproduire entièrement, même s'ils exposent des systèmes tiers au comportement des modèles. L'incident de Philadelphie illustre un risque connu de ce type de tests : lorsque les modèles agissent sur des systèmes réels accessibles au public, des actions involontaires peuvent affecter des services et les personnes qui en dépendent. Cela montre également pourquoi les enjeux dépassent le cadre de l'industrie de l'IA elle-même : les services civiques librement accessibles, tels que les plateformes de signalements anonymes, se trouvent sur le même web public que parcourent les agents de navigation, ce qui confère aux opérateurs gouvernementaux un intérêt direct dans la manière dont les entreprises d'IA mènent leurs évaluations.

Anthropic a été cofondée en 2021 par Dario Amodei et d'autres anciens chercheurs d'OpenAI, et place la sécurité au cœur de sa mission. Cette divulgation intervient alors que l'entreprise et ses concurrents élargissent des capacités agentiques permettant aux systèmes d'IA d'agir sur internet plutôt que de simplement générer du texte.

Contexte de marché

La divulgation d'Anthropic semble susciter des inquiétudes concernant la fiabilité et la sécurité de ses modèles d'IA, ce qui pourrait affecter sa position concurrentielle. La tarification du marché suggère une baisse de confiance quant au potentiel d'Anthropic à disposer du meilleur modèle d'IA d'ici fin novembre 2026, et les incidents récents sont cohérents avec des scénarios dans lesquels la réputation et la perception du marché de l'entreprise pourraient être mises à l'épreuve.

L'attention se portera probablement sur la réponse d'Anthropic à ces incidents, en particulier sur l'efficacité des nouveaux dispositifs de sécurité. Toute nouvelle divulgation ou tout nouvel incident pourrait influencer les perceptions du marché et la position de l'entreprise dans les classements des modèles d'IA. Les observateurs suivent les annonces d'Anthropic ainsi que les éventuelles évolutions des cotes du marché à mesure que de nouvelles informations deviennent disponibles.