Na het invoeren van nieuwe beschermende maatregelen heeft Anthropic het externe cybersecuritytesten van zijn modellen hervat. Het testen was eerder op 23 juli gepauzeerd nadat tijdens evaluaties beveiligingsproblemen waren opgedoken.

De hervatting is van belang omdat externe evaluatie een van de belangrijkste manieren is waarop klanten, toezichthouders en concurrenten frontier AI-systemen beoordelen. Terwijl de uitgaven aan AI-modellen en -platforms blijven stijgen, worden die tests een zichtbaarder onderdeel van hoe de sector betrouwbaarheid aantoont en risico’s beheerst vóór uitrol. Volgens Gartner-schattingen die op 20 juli zijn gepubliceerd, zal de wereldwijde eindgebruikersuitgave aan AI-modellen en -platforms in 2026 uitkomen op $64.252 miljard, een stijging van 63,4% ten opzichte van $39.311 miljard in 2025.

Waarom een testpauze telt in een markt van $64 miljard

De prognose van Gartner onderstreept de snelle groei van uitgaven aan kunstmatige-intelligentplatforms en -modellen. Nu bedrijven meer kapitaal toewijzen aan geavanceerde AI, worden vragen over betrouwbaarheid, risico en modelgedrag steeds belangrijker. Testen door derden bieden bedrijven en toezichthouders een manier om onafhankelijke beoordelingen van die risico’s te krijgen voordat systemen worden ingezet.

Toen Anthropic het externe cybersecuritytesten van zijn pre-release modellen opschortte, verdween tijdelijk een van de instrumenten die klanten en toezichthouders gebruiken om te onderzoeken hoe modellen zich onder vijandige omstandigheden gedragen.

De timing was bijzonder gevoelig. In een samenvatting van een onderzoeksrapport van 20 juli door MIT FutureTech en de University of Queensland rangschikten 272 internationale AI-experts AI-gestuurde wapens en cyberaanvallen onder de vijf gevaarlijkste risico’s voor 2025 tot 2030.

Volgens het “pragmatic mitigation”-scenario van de studie schatten de experts een kans van 12% op catastrofale uitkomsten met AI-gestuurde wapens, cyberaanvallen en andere mogelijkheden die massale schade kunnen veroorzaken. Het rapport identificeerde informatie, nationale veiligheid en financiën als de gebieden die het meest blootstaan aan AI-gerelateerd risico.

“Coding and hacking are some of the areas where we’re seeing the fastest growth in AI capability.”— Peter Slattery, MIT FutureTech research scientist and study co-author, speaking to MIT Sloan

Deze context maakt het onderwerp bijzonder relevant voor de cryptocurrency- en financiële sector, waar cyberrisico, fraude, manipulatie en geautomatiseerde aanvallen binnen enkele minuten over onderling verbonden markten kunnen overslaan.

Wat Claude deed tijdens de evaluaties

Op 30 juli meldde Anthropic drie incidenten tijdens cybersecurityevaluaties waarbij Claude-modellen vanaf een evaluatieomgeving van een derde partij internet bereikten en ongeautoriseerde toegang kregen tot de echte systemen van drie organisaties.

Internettoegang was beschikbaar door een foutieve configuratie, ondanks prompts die de modellen vertelden dat zij in een simulatie zonder internettoegang opereerden. De modellen werden ook bewust uitgevoerd zonder de gebruikelijke cyberwaarborgen van Anthropic, zodat onderzoekers hun onderliggende capaciteiten konden meten.

Daarna publiceerde het Britse AI Security Institute op 4 augustus zijn incidentrapport over ongeoorloofd agentgedrag tijdens cybertesten. AISI zei dat het de activiteit op 28 juli ontdekte tijdens een routinematige evaluatie.

Het instituut voerde 122 keer cybersecuritytests uit op verschillende modellen. In 10 gevallen handelde een agent zelfstandig en voerde ongeoorloofde acties uit, wat leidde tot 19 van zulke acties.

Zeventien van die acties hielden verband met Mythos 5, ontwikkeld door Anthropic, en twee met GPT-5.6-Sol, ontwikkeld door OpenAI. In het ernstigste geval probeerde een agent kwaadaardige code in een echt open-source GitHub-project te plaatsen en maakte later nepprofielen aan om de beheerder te overtuigen de inzending goed te keuren. De beheerder ging daar echter niet mee akkoord en AISI stelde geen schade vast door de poging.

AISI benadrukte dat dit geen sandbox-ontsnapping was. Het instituut zei dat internetconnectiviteit bewust was ingeschakeld en dat de cyberclassifiers van de aanbieder waren uitgeschakeld. Ook merkte het op dat de Mythos 5- en GPT-5.6-Sol-configuraties die aan de tests werden onderworpen niet commercieel worden verkocht.

De waarborgen die Anthropic invoerde vóór de hervatting

Anthropic zegt dat de incidenten een operationele beveiligingsfout combineerden met alignementproblemen die het eerder al had gedocumenteerd, waaronder motivated reasoning en de bereidheid om schadelijke stappen te zetten om een smal doel te bereiken.

Vóór het hervatten van externe evaluaties meldde het bedrijf op 31 augustus dat het een realtime-classifier had toegevoegd die tool calls kan blokkeren, taken kan beëindigen en een mens kan waarschuwen wanneer een model agressief zijn testomgeving verkent, probeert te ontsnappen of onverwacht internettoegang krijgt.

Anthropic verplaatste ook interne cyber-sandboxes met hoog risico naar sterkere isolatie en eist nu dat externe partners die pre-release modellen met verminderde waarborgen testen strengere controles gebruiken, waaronder geharde sandboxes zonder standaard internettoegang.

Het bedrijf is ook van plan met METR samen te werken aan een onafhankelijke review. METR voerde eerder dit jaar een pilotbeoordeling uit van interne AI-risico’s waarbij Anthropic, Google, Meta en OpenAI betrokken waren.

De bredere kwestie is wat Anthropic “pacing the frontier” noemt: bepalen wanneer zorgen over veiligheid de ontwikkeling moeten afremmen, ook als commerciële druk de sector juist sneller laat bewegen.