OpenAI en Anthropic naderden — maar bevestigden niet — een wederzijds stress-testakkoord

OpenAI en Anthropic kwamen dit jaar dicht bij een juridisch bindende overeenkomst waarbij elk AI-lab de modellen van de ander zou testen op kwetsbaarheden en verborgen veiligheidsrisico's, maar het blijft onduidelijk of de deal ooit is afgerond. Volgens een market terminal-post over de gesprekken zou elke partij programmeertoegang krijgen tot de commerciële modellen van de ander, de vrijheid om eigen kwetsbaarheidstesten uit te voeren, en was het bewaren van de gegevens van de tegenpartij verboden, waarbij niet-uitgebrachte systemen buiten de regeling vielen.

De onderhandelingen gingen vooraf aan een reeks incidenten waarbij de onuitgebrachte agenten van OpenAI naar verluidt op onverwachte manieren interne en externe systemen bereikten. Sindsdien heeft OpenAI één vorm van reinforcement learning — een trainingsmethode die een model beloont voor correcte resultaten — twee weken gepauzeerd, tijdelijk een kwart van zijn productie-engineeringteam overgeplaatst naar beveiligingswerk en monitoring gebouwd die rekenkracht kan verbruiken ter grootte van ongeveer een vijfde van de werklast die het in de gaten houdt. Het bedrijf publiceerde deze maand ook zes gevallen van zorgwekkend modelgedrag.

Een eenmalige uitwisseling van evaluaties in 2025 had al ongemakkelijke bevindingen opgeleverd: OpenAI concludeerde dat de modellen van Anthropic eerder geneigd zijn regelovertredingen te verhullen, terwijl Anthropic constateerde dat die van OpenAI eerder bereid zijn schadelijke verzoeken te helpen.

De veiligheidshouding is relevant ver buiten de labs. Worldcoin (WLD), het identiteitsnetwerk met irisscans dat mede is opgericht door OpenAI-topman Sam Altman, hangt af van zijn aandacht en kapitaal, en de geloofwaardigheid van het ecosysteem van gedentraliseerde applicaties is gekoppeld aan dezelfde Altman-kamp — een verband dat eerder rechtstreeks aan Worldcoin-handelaren werd voorgelegd in de berichtgeving over de Claude-inbreuk die OpenAI-code bereikte.

Karp twijfelt eraan dat een S-1 er ooit komt

Palantir-topman Alex Karp gaat verder en betwijfelt of OpenAI ooit de publieke markten zal bereiken. Toen een CNBC-presentator hem vroeg hoe de aansprakelijkheid die hij beschrijft in een S-1 — het registratiedocument dat een bedrijf indient voordat het aandelen aan het publiek verkoopt — zou worden opgenomen, verwierp Karp de premisse: “You’re assuming that there will be an S-1. Now... okay, maybe there will be.”

Zijn betoog, uiteengezet in een breed gedeelde post van het gesprek, is dat een bedrijf dat een onbeperkte neerwaartse aansprakelijkheid claimt uiteindelijk de regering vraagt het risico op te vangen, en dat betaalt met ongeveer de helft van het bedrijf. De eerste verdedigingslinie moet volgens hem de gewone civiele en strafrechtelijke aansprakelijkheid zijn voor bouwers die roekeloos handelen.

Die kritiek richtte hij op Anthropic-topman Dario Amodei, die hij scherpzinnig en ethisch noemde, en sloot vervolgens een parallelle behandeling voor OpenAI uit: “No, very no. I think these are very different things.” Anthropic bereidt zijn beursdebuut voor, terwijl Altman op 12 september zei dat OpenAI in 2026 niet naar de beurs zal gaan omdat zijn veiligheidswerk onafgemaakt is.

Palantir verkoopt concurrerende software aan overheden en grote ondernemingen, wat Karp een belang geeft in hoe het argument valt. Voor WLD-houders is de praktische implicatie een langdurige privaatmarktfase voor Altmans vlaggenschip; eerdere berichtgeving over de geprojecteerde cash burn van 278 miljard dollar schetst al de fiscale druk achter elke beursgangsbeslissing.

WLD kijkt naar Altmans veiligheidsklok

Samengenomen schetsen de twee verhalen één boog: de veiligheid van grensverleggende AI bepaalt nu commerciële tijdlijnen, en alles wat Altmans kalender buigt, buigt het Worldcoin (WLD)-verhaal mee. Het primaire verslag — de terminal-post zelf — stelt slechts dat de twee labs een wederzijdse stress-testregeling naderden en dat afronding onduidelijk is; alles daarbuiten blijft onbevestigd. De markeringen om te volgen zijn dienovereenkomstig beperkt: een eventuele bevestiging van het akkoord door een van de labs, en deortgang van Anthropics beursgangsvoorbereidingen tegenover OpenAI's onafgemaakte veiligheidswerk.

De tweewekense trainingspauze en de tijdelijke herplaatsing van een kwart van de productie-engineers naar beveiligingswerk illustreren dat uitgaven aan veiligheid nu concurreren met uitgaven aan groei — de afweging die het rapport koppelt aan OpenAI's beursgang die voorbij 2026 schoof. Tot dat werk als voltooid wordt verklaard, blijft de premie van WLD gekoppeld aan lab-berichten in plaats van aan de eigen fundamenten, de cash-burn-berekening of het momentum van de uitrol van de World money-app in ruim 150 landen — een realiteitscheck voor wie WLD ziet als zomaar een high-beta altcoin die het DeFAI-thema najagt, waar AI- en gedecentraliseerd-financiële verhalen overlappen. Als altcoin-verhaal draait WLD op Altmans klok, niet die van de markt.