Het ontslag van een onderzoeker bij een van de bekendste kunstmatige-intelligentiebedrijven ter wereld, gevolgd door waarschuwingen dat de technologie de mensheid binnen tien jaar zou kunnen uitroeien, lijkt de actie van het Congres op het gebied van AI-veiligheid te hebben versneld.

Het ontslag van Jacob Coxon bij Anthropic op 8 september 2026 heeft na jaren van academische publicaties en conferenties, die maar beperkte actie opleverden, momentum gecreëerd voor bindende federale regels. In de dagen daarna hebben meer dan 20 leden van het Congres publiekelijk opgeroepen tot strenger toezicht. Tegelijkertijd werkt een tweeledig gesteunde groep senatoren aan wetgeving die ontwikkelaars van krachtige AI-modellen een wettelijke “zorgplicht” zou opleggen. Het voorstel zou belangrijke veiligheidsmaatregelen omzetten van vrijwillige toezeggingen van bedrijven in wettelijke verplichtingen.

Het wetsvoorstel en de voorstanders

Senatoren Amy Klobuchar, John Thune en Ted Cruz leiden de inspanning. Hun voorgestelde wetgeving zou vrijwillige veiligheidstoezeggingen van AI-bedrijven omzetten in afdwingbare wettelijke vereisten.

De kernbepalingen van het wetsvoorstel zouden voorschrijven dat geavanceerde AI-systemen vóór hun introductie veiligheidstests ondergaan. Ook zouden onafhankelijke audits door derden en gestandaardiseerde rapportage door ontwikkelaars verplicht worden. Daarnaast zou het voorstel de overheid de bevoegdheid geven om in te grijpen en de introductie van AI-modellen die als gevaarlijk worden beschouwd tegen te houden. Deze bepalingen zouden tests, externe beoordeling en transparantie tot centrale voorwaarden maken voor de introductie van de krachtigste systemen.

Volgens de voorgestelde regels zouden bedrijven die frontier-AI-modellen ontwikkelen een formele zorgplicht hebben. Zij zouden met juridische gevolgen te maken kunnen krijgen als hun systemen schade veroorzaken en de bedrijven geen redelijke voorzorgsmaatregelen hebben genomen.

OpenAI heeft publiekelijk steun uitgesproken voor verplichte nationale veiligheidsnormen en robuuste testprotocollen. Dat standpunt is opvallend, omdat het bedrijf rechtstreeks aan de voorgestelde vereisten zou worden onderworpen.

Zorgen die het debat aanjagen

Evan Hubinger, een andere onderzoeker bij Anthropic, heeft publiekelijk geschat dat de kans op een door AI veroorzaakte uitstervingsgebeurtenis in het komende decennium groter is dan 10%.

Anthropic heeft ook een dreigingsrapport gepubliceerd waarin vraagtekens worden gezet bij de veiligheid van enkele nieuwere AI-modellen van het bedrijf, met name vanwege hun potentiële bijdrage aan de ontwikkeling van biologische wapens.

Wetgevende obstakels

Verschillende wetgevers hebben gewaarschuwd dat het moeilijk zal zijn om technisch deugdelijke regels op te stellen voor een technologie die zich sneller ontwikkelt dan het Congres hoorzittingen kan plannen. De tussentijdse verkiezingen van november vormen een extra complicatie. Sommige leden zijn mogelijk terughoudend om over een technisch complex regelgevingskader te stemmen terwijl zij campagne voeren voor herverkiezing.

De volgende fase van het debat zal daarom draaien om de vraag of wetgevers werkbare normen voor tests, audits, rapportage en overheidsingrijpen kunnen definiëren voordat de verkiezingskalender verdere actie beperkt. Zolang die details niet zijn uitgewerkt, blijft het voorstel een poging om afdwingbare federale veiligheidseisen vast te leggen en vormt het geen operationeel regelgevingskader.

Bron: CryptoBriefing