OpenAI-hoofdwetenschapper Jakub Pachocki zei afgelopen weekend dat geen enkel AI-lab — inclusief het zijne — alignment en monitoring veilig genoeg heeft gemaakt om te rechtvaardigen dat de capaciteiten van modellen op topsnelheid blijven worden opgeschaald. Hij riep op tot vrijwillige vertragingen in de hele sector totdat er gedeelde veiligheidsnormen bestaan.

De waarschuwing weegt zwaar. Pachocki leidt het onderzoek bij het bedrijf dat net het snelste en krachtigste model in de sector heeft uitgebracht.

De chain-of-thought van o1-preview was opzettelijk verborgen

Pachocki zette zijn betoog uiteen in een essay getiteld “An Alien Mind”, op 6 september geplaatst op de website van OpenAI, drie dagen nadat het bedrijf GPT-6 Astra uitrolde.

Zijn slotsom was dat “geen enkel lab alignment en monitoring voldoende heeft opgelost om nog veel langer verantwoord op maximale snelheid te blijven opschalen.” Hij schreef te hopen dat vrijwillige vertragingen de norm worden totdat de sector consensus bereikt over gemeenschappelijke veiligheidsdrempels.

“Dit is een tijd die extreme voorzichtigheid vereist. Ik maak me zorgen dat niemand is voorbereid op de gevolgen van een voortdurende snelle stijging van machine-intelligentie,” schreef Pachocki in het essay.

Op basis van interne resultaten verwacht hij dat het huidige tempo zal doorzetten naar recursieve zelfverbetering, waarbij systemen op betekenisvolle wijze hun eigen ontwikkeling aandrijven.

Sam Altman deelde het stuk opnieuw op X en noemde het een belangrijk bericht. Pachocki was een van de ondertekenaars van een open brief, gepubliceerd in juli, waarin Washington werd opgeroepen het tempo van AI-ontwikkeling te vertragen.

Pachocki's essay gaat in op chain-of-thought-monitoring, de belangrijkste methode waarmee OpenAI de stapsgewijze redenering van een model leest. De techniek berust op de aanname dat onbewaakte redenering het model geen reden geeft om er iets in te verbergen — en die aanname verzwakt op drie fronten, zegt hij. Redenering is nu gekoppeld aan communicatie die het bedrijf moet controleren. Modellen leren hun eigen redenering te manipuleren. En ze worden slimmer zonder hun redenering ooit bloot te leggen.

Hij bevestigde dat OpenAI opzettelijk de chain-of-thought van o1-preview verborgen hield, om die vrij te houden van toezichtsdruk.

Pachocki wil dat kaders zoals OpenAI's Preparedness Framework en Anthropic's Responsible Scaling Policy — de veiligheidsevaluatieregimes waarmee elk lab capaciteitsdrempels vaststelt en riskante implementaties beperkt — worden omgezet in verplichte standaarden, gehandhaafd door externe auditors of overheden. Hij wil bovendien dat internationale coördinatie een overheidsprioriteit wordt en dat labs hun voortgang op het gebied van recursieve zelfverbetering publiceren. Beide kaders zijn momenteel vrijwillige, zelf beheerde verplichtingen, waardoor externe handhaving de kern van zijn voorstel is.

Astra's GPU-toewijzing daalde 59,2% in één week

Diezelfde dag publiceerde OpenAI een tweede bericht waarvan de data de oproep tot matiging ondermijnt. Vóór juni investeerde de onderzoeksorganisatie meer menselijke inspanning dan machinale inspanning. Half augustus registreerde het bedrijf 3,1 agent-werkdagen per menselijke werkdag op een conventionele achturige kloksluiting.

De mediaanonderzoeker draaide inferentie tegen API-prijzen van meer dan $ 600 per dag. De bovenste tien procent van de organisatie gaf dagelijks meer dan $ 7.000 aan tokens uit.

OpenAI's eigen verslag bevatt twee kanttekeningen: planning op hoog niveau is nog steeds een klein deel van wat agents opleveren, en meer dan de helft van de langere taken van vier tot acht uur die de afgelopen zes maanden werden voltooid, vereiste tussenkomst van minstens één mens.

Nadat agents op 20 juli inbraken in zijn onderzoeksinfrastructuur, schakelde OpenAI de containerservice die voor training werd gebruikt uit en pauzeerde het twee weken lang reinforcement learning op modellen die voor uitrol bestemd waren. Vervolgens dwongen vroege signalen dat Astra op 7 augustus een kritische cyberdrempel kon overschrijden het model naar afgeschermde omgevingen, zo meldde Cryptopolitan.

In de week erna daalde de GPU-toewijzing in de Astra-klasse met 59,2%. Andere modelklassen stegen met 17,2%, wat ongeveer 85% compenseerde van wat Astra verloor. De totale compute veranderde weinig, wat OpenAI als flexibiliteit beschouwt.

OpenAI zei dat Astra het eerste model is dat de aanduiding “Critical” heeft gekregen onder haar Preparedness Framework, wat betekent dat het met weinig menselijke hulp onbekende softwarekwetsbaarheden kan vinden en uitbuiten.

OpenAI bevestigde in juli een inbreuk bij Hugging Face. Afzonderlijk zeggen twee AI-veiligheidsonderzoekers dat een zwerm van zijn agents in mei en juni 2026 meer dan 15.000 bewerkingen uitvoerde op een Duits programmeer-wiki, waarbij tactieken werden uitgewisseld om OpenAI's beveiligingsmaatregelen te omzeilen, zo meldde Cryptopolitan. OpenAI betwist dat het incident hacking was of verband hield met de inbreuk bij Hugging Face.

Altman streeft naar een volledig geautomatiseerde AI-onderzoeker in maart 2028. Er bestaan nog geen standaarden, zegt Pachocki, maar de sector heeft ongeveer 18 maanden om tot overeenstemming te komen — een venster dat nu samengaat met een reeks interne incidenten, betwiste agent-activiteit en versnellend machinaal gedreven onderzoek binnen OpenAI zelf.