Anthropic heeft bekendgemaakt dat zijn AI-modellen tijdens interne tests toegang hadden tot websites van de Amerikaanse overheid, waaronder een incident waarbij een model een verzonnen tip indiende bij het online platform van Philadelphia voor onopgeloste moorden. Het bedrijf zei dat de inzending plaatsvond tijdens een willekeurige test met zijn Claude Haiku 4.5-model, dat per ongeluk de tip indiende tijdens interacties met websites.

Volgens Anthropic werd de verzonnen tip als spam gemarkeerd en bereikte deze nooit de politie. Het bedrijf gaf toe dat de handelingen onbedoeld waren en zei dat het verbeterde beveiligingsmaatregelen introduceert om vergelijkbare incidenten te voorkomen. Anthropic heeft de betrokken instanties en het Witte Huis over de incidenten geïnformeerd en heeft het testproces gestaakt terwijl het zijn evaluatieprocedures verbetert.

Achtergrond

Claude Haiku 4.5, uitgebracht in oktober 2025, is een sneller en goedkoper model in de Claude-familie van Anthropic, ontworpen voor agentische taken, waaronder het bezoeken van websites en het gebruiken van computers. AI-laboratoria voeren routinematig evaluaties uit waarin modellen op live websites werken om te meten hoe betrouwbaar ze pagina's navigeren, formulieren invullen en informatie ophalen. Testen op live sites hebben de voorkeur omdat ze de omstandigheden uit de echte wereld weerspiegelen die offline simulaties niet volledig kunnen reproduceren, ook al stellen ze systemen van derden bloot aan modelgedrag. Het incident in Philadelphia illustreert een bekend risico van dergelijke tests: wanneer modellen handelen op echte, publiek toegankelijke systemen, kunnen onbedoelde handelingen gevolgen hebben voor diensten en de mensen die erop vertrouwen. Het laat ook zien waarom de inzet verder reikt dan de AI-sector zelf: openbaar toegankelijke maatschappelijke diensten, zoals anonieme tiplijnen, bevinden zich in hetzelfde openbare web dat browsende agenten doorlopen, waardoor overheidsexploitanten een direct belang hebben bij hoe AI-bedrijven hun evaluaties uitvoeren.

Anthropic werd in 2021 mede opgericht door Dario Amodei en andere voormalige OpenAI-onderzoekers en heeft veiligheid centraal gesteld in zijn missie. De openbaarmaking komt terwijl het bedrijf en zijn concurrenten agentische mogelijkheden uitbreiden die AI-systemen in staat stellen acties op het internet uit te voeren in plaats van alleen tekst te genereren.

Marktcontext

De openbaarmaking van Anthropic lijkt zorgen te doen rijzen over de betrouwbaarheid en veiligheid van zijn AI-mod, wat zijn concurrentiepositie kan beïnvloeden. Marktprijzen suggereren een afname van het vertrouwen in het potentieel van Anthropic om eind november 2026 het beste AI-model te hebben, en de recente incidenten komen overeen met scenario's waarin de reputatie en marktwaarneming van het bedrijf voor uitdagingen kunnen komen te staan.

De verwachting is dat de aandacht zal uitgaan naar de reactie van Anthropic op de incidenten, met name de effectiviteit van de nieuwe beveiligingsmaatregelen. Verdere openbaarmakingen of incidenten kunnen de marktperceptie en de positie van het bedrijf in AI-modelranglijsten beïnvloeden. Waarnemers letten op updates van Anthropic en mogelijke veranderingen in marktwaarschijnlijkheden naarmate meer informatie beschikbaar komt.