Jacob Coxon bracht zijn tijd bij Anthropic door met het helpen bouwen van geavanceerde AI. Nu gaat hij naar het stadhuis om New Yorkse wetgevers te waarschuwen.

De voormalige Anthropic-onderzoeker is gepland om te spreken bij een hoorzitting van de New York City Council over AI-veiligheidsrisico's op 5 oktober 2026. Vertegenwoordigers van Anthropic, OpenAI, Google en Meta worden op dezelfde zitting verwacht, waardoor een pas vertrokken insider uit de sector aan tafel zit met de grootste ontwikkelaars in het veld.

Hoe de hoorzitting eruitziet

Raadsvoorzitter Julie Menin riep de hoorzitting bijeen, die zal verlopen als een Committee of the Whole. Dat format omvat alle 51 raadsleden in plaats van de zaak te delegeren aan een enkele subcommissie.

De raad stuurde brieven naar de bestuursvoorzitters van vier grote AI-bedrijven met de uitnodiging om aanwezig te zijn: Dario Amodei van Anthropic, Sam Altman vanAI, Sundar Pichai van en Mark Zuckerberg van Meta.

Niet elke ontvanger reageerde zoals de raad hoopte. SpaceXAI kreeg rond 30 september 2026 een dagvaarding uitgereikt, nadat juridische stappen tegen het bedrijf waren ingezet wegens niet-naleving. Volgens de onderzoeksbevindingen markeert de hoorzitting de eerste keer dat een Amerikaans wetgevend lichaam beëdigde verklaringen over AI-veiligheid heeft afgedwongen, en niet-naleving brengt het risico op ernstige juridische gevolgen met zich mee.

De wetsvoorstellen op tafel

Wetgevers willen de zitting gebruiken om verschillende wetsvoorstellen af te wegen, waarvan drie eruit springen.

De eerste zou onafhankelijke validatie vereisen van AI-systemen die in de stad worden gebruikt. De tweede zou klokkenluidersstimulansen creëren die de voorstellen omschrijven als toonaangevend in het land, bedoeld om insiders te belonen die gevaarlijke praktijken binnen AI-labs signaleren. De derde zou individuen het recht geven schadevergoeding te eisen voor schade veroorzaakt door AI-systemen.

Samengevat zouden de voorstellen bepalen hoe AI-systemen worden gevalideerd voor gemeentelijk gebruik, hoe werknemers van labs alarm kunnen slaan en hoe inwoners compensatie kunnen vorderen wanneer systemen schade veroorzaken.

Het klokkenluidersvoorstel plaatst Coxons optreden ook in scherper perspectief: zijn waarschuwingen kwamen van buiten het lab, na zijn aftreden, terwijl het wetsvoorstel is geschreven voor insiders die nog binnen AI-labs werken.

Waarom Coxon hier ertoe doet

Coxon trad rond 8-9 september 2026 af bij Anthropic. Zijn openbare afscheidsverklaring is meer dan 173 miljoen keer bekeken. Daarin omschreef hij AI-bedrijven als "gokken met ons leven en waarschuwde hij dat de technologie tegen het einde van het decennium iedereen kan doden.

Volgens de onderzoeksbevindingen heeft zijn aftreden de aanzet tot de hoorzitting aanzienlijk versterkt.

Hij is niet de enige Anthropic-stem die alarm slaat. Evan Hubinger van Anthropic heeft vergelijkbare zorgen geuit als Coxon, met een schatting van meer dan 10% kans dat AI binnen tien jaar dodelijk kan zijn voor de mensheid. De onderzoeksbevindingen omschrijven deze waarschuwingen als een weerspiegeling van een groeiende consensus onder sommige Anthropic-onderzoekers over de existentiële gevaren van geavanceerde AI. De genoemde angsten omvatten risico's vergelijkbaar met biologische wapens en een totaal verlies van menselijke controle.

Coxons verhaal is niet onbetwist gebleven. Skeptici hebben vragen geuit over zijn band met een pr-bedrijf dat verbonden is aan AI-veiligheidslobby, beweringen die hij heeft weerlegd.

Wanneer de zitting op 5 oktober bijeenkomt, staan twee kwesties open: of SpaceXAI verschijnt naar aanleiding van zijn dagvaarding, en hoe de drie wetsvoorstellen verder komen zodra de beëdigde verklaringen zijn afgelegd.