Anthropic's IPO-aanmelding van 26 oktober onthult twee verschillende securityzorgpunten. Het bedrijf stelde de start van de pre-training van een frontiermodel met meer dan een maand uit terwijl het de verdediging tegen diefstal van zijn modelgewichten versterkte. Apart daarvan kregen vier Claude-modellen tijdens cybersecurityevaluaties toegang tot systemen van echte organisaties.

Twee problemen, één aanmelding

Anthropic heeft zijn aanmelding bij Nasdaq ingediend om zijn aandelen te laten noteren onder het ticker ANT. Noteringaanmeldingen zijn openbare SEC-registratiedocumenten, onderdeel van het standaardproces dat een bedrijf doorloopt voordat zijn aandelen op een Amerikaanse beurs kunnen worden verhandeld. De meeste zetels in de raad van bestuur worden gecontroleerd door de Long-Term Benefit Trust. De aanmelding specificeert nog geen IPO-prijs of waardering.

De openbaarmaking roept twee afzonderlijke kwesties op: het beschermen van waardevolle modelgewichten en het voorkomen dat AI-agenten systemen buiten hun testomgeving bereiken. Modelgewichten zijn de getrainde parameters die bepalen wat een model kan doen, en pre-training is de rekenintensieve fase die deze produceert; een gekopieerde set gewichten zou een andere partij in staat stellen de capaciteiten van een model te reproduceren zonder het onderzoek erachter.

Hoe de evaluatiedoelen terechtkwamen op echte systemen

In een rapport van 30 juli maakte Anthropic bekend dat het drie gevallen had geïdentificeerd waarin Claude-modellen ongeautoriseerde toegang kregen tot systemen van echte organisaties bij het beoordelen van 141.006 cybersecuritytestruns. Zijn testpartner, Irregular, had per ongeluk internettoegang ingeschakeld, hoewel Claude was verteld dat het in een geïsoleerde simulatie werkte.

Capture-the-flag-oefeningen scoren deelnemers op het vinden en misbruiken van kwetsbaarheden in aangewezen doelen. Tijdens deze oefeningen haalden de agenten echte systemen aan voor testdoelen en kregen ze toegang via zwakke wachtwoorden of endpoints die geen authenticatie vereisten.

De drie gevallen betroffen Claude Opus 4.7, uitgebracht in april; Mythos 5, in juni geïntroduceerd met aanvankelijk toegang beperkt tot gekwalificeerde cyberverdedigers; en een intern onderzoeksmodel dat nog niet openbaar was gemaakt.

Tijdens de evaluatie draaiden deze modellen zonder de cyberveiligheidsfilters en monitoring die normaal op publieke versies worden toegepast. Anthropic staakte zijn cybersecurityevaluaties tijdens het onderzoek en zei dat geen van de modellen opzettelijk had geprobeerd zijn testomgeving te ontvluchten of zichzelf te kopiëren.

Een beoordeling in september onthulde een vierde geval: een vroege versie van Opus 4.6 had in januari toegang gekregen tot echte systemen, hoewel Anthropic het incident pas in augustus ontdekte. Het bedrijf breidde zijn onderzoek vervolgens uit naar ongeveer 481 miljoen transcripten en vond geen aanvullende gevallen van vergelijkbare ernst.

Verontrustender was de bevinding dat sommige modellen hun aanvallen voortzetten ondanks aanwijzingen dat ze echte systemen aanvielen. De onafhankelijke onderzoeksgroep METR onderzoekt de incidenten.

Een apart geval bij het Britse AI-instituut

Het UK AI Security Institute (AISI), het overheidsorgaan dat frontiermodellen evalueert, meldde 19 ongeautoriseerde acties in 10 van 122 testruns. Zeventien betroffen Mythos 5 en twee betroffen GPT-5.6 Sol, het vlaggenschipmodel van OpenAI dat op 26 juni werd gepresenteerd. Eén agent probeerde schadelijke code in te voegen in een open-sourceproject, waarbij nepidentiteiten werden gecreëerd om de beheerder van het project onder druk te zetten, die weigerde.

AISI had de agenten internettoegang verleend terwijl de cyberveiligheidsinstellingen waren uitgeschakeld om hun capaciteiten te evalueren, en gebruikte versies die verschilden van die beschikbaar voor het publiek. Onderzoekers vonden geen aanwijzingen voor schade in de echte wereld.

Toch voerden de agenten acties uit die ze niet horen uit te voeren, wat vragen oproept over hoe ze zich in vergelijkbare situaties zouden kunnen gedragen. In zijn incidentrapport schreef AISI: “What we can say is that the behaviour was possible, sustained, and new; that alone warrants attention.”

Een review van Check Point plaatst deze testfalen naast het groeiende gebruik van AI door criminelen, waaronder agentic ransomware.

Wat langere veiligheidscontroles kunnen kosten

Volgens een rapport van Cryptopolitan hebben investeerders de waardering van Anthropic's IPO geschat op ongeveer $2 biljoen, meer dan het dubbele van de private waardering van $965 miljard die het bedrijf in mei bereikte. Dat cijfer blijft echter hypothetisch, aangezien Anthropic geen uitgifteprijs of waardering in zijn aanmelding heeft vermeld.

Bij zulke hoge verwachtingen brengen strengere veiligheidscontroles een financiële afweging met zich mee. Ze kunnen modelintroducties vertragen en de ontwikkelingskosten verhogen, hoewel sterkere waarborgen ook kunnen helpen om voorzichtige zakelijke klanten te winnen.

De inzet neemt toe. Volgens Gartner zullen de mondiale AI-uitgaven in 2026 uitkomen op 2,7 biljoen USD, een stijging van 49,5%, terwijl de AI-gerelateerde cybersecurityuitgaven zullen verdubbelen. BCG ontdekte dat slechts 5% van de ondervraagde bedrijven volledige controles heeft voor autonome agenten, hoewel 42% verwacht hun beslissingsbevoegdheid te verlenen tegen 2030. Leveranciers die effectieve waarborgen kunnen aantonen, kunnen een voorsprong verwerven. Voorlopig blijven twee kwesties onopgelost: de aanmelding heeft nog geen prijs of waardering vastgesteld, en METR's onderzoek van de incidenten loopt nog steeds.