Sen. Bernie Sanders (I-Vt.) en Rep. Greg Casar (D-Texas) kondigden donderdag wetgeving aan om kunstmatige superintelligentie permanent te verbieden en de ontwikkeling van geavanceerde AI tijdelijk stil te leggen, met gevangenisstraffen van maximaal 20 jaar voor overtredingen.

De Ban Artificial Superintelligence Act zou de ontwikkeling van geavanceerde AI opschorten totdat een nieuw federaal agentschap veiligheidsnormen en procedures voor de beoordeling van AI-modellen vaststelt. Sanders beschuldigde grote AI-bedrijven ervan technologie te bouwen die ze niet volledig begrijpen en niet betrouwbaar kunnen beheersen.

"Daarom dien ik wetgeving in om de ontwikkeling van steeds krachtigere AI onmiddellijk stil te leggen en het creëren van systemen die de mensheid niet volledig kan beheersen te verbieden—zowel in eigen land als wereldwijd," aldus Sanders in een persbericht.

Het voorstel definieert superintelligentie als AI die menselijke capaciteiten in veel taken evenaart of overtreft, of die de menselijke controle kan ondermijnen, onder meer door de omverwerping van de Amerikaanse regering. Die definitie dekt ook AGI op menselijk niveau, hoewel superintelligentie doorgaans verwijst naar AI die menselijke capaciteiten overtreft.

Onder het wetsvoorstel zou een nieuw orgaan op ministerniveau geavanceerde modellen monitoren, toezicht houden op de verwijdering van gevaarlijke capaciteiten en de vernietiging van verboden systemen begeleiden. Een Artificial Intelligence Advisory Board zou wetenschappelijk en technisch advies geven. Bedrijven die de beperkingen overtreden of omzeilen, kunnen volgens Sanders en Casar de "corporate death penalty" krijgen. Het wetsvoorstel komt te midden van een breder, nog altijd onopgelost debat in Washington over de regulering van AI op federaal niveau, waar uitgebreide wetgeving langzaam vordert, zelfs nu toonaangevende labs steeds capabelere systemen uitbrengen en de Europese Unie haar eigen AI-wet al heeft ingevoerd met gefaseerde vereisten voor systemen met een hoog risico.

OpenAI onthult Astra

De aankondiging viel op dezelfde dag dat OpenAI GPT-6 Astra onthulde, dat volgens medeoprichter Greg Brockman als AGI zou kunnen gelden. Brockman omschreef die beoordeling als zijn persoonlijke overtuiging en liet het aan gebruikers over om te oordelen of Astra aan de definitie voldoet, aldus Axios. De timing onderstreept de praktische vraag die de wetgeving oproept: als modellen al betwiste AGI-drempels naderen, hebben toetsende instanties technische criteria nodig voor capaciteiten waarover zelfs ontwikkelaars van mening verschillen.

Volgens OpenAI is Astra het eerste model dat de "kritische" drempelwaarde voor cyberbeveiligingscapaciteiten van het bedrijf bereikt. De aanduiding betekent dat het mogelijk eerder onbekende kwetsbaarheden in beschermde systemen kan ontdekken en exploiteren zonder stapsgewijze menselijke begeleiding. De krachtigste cyberbeveiligingscapaciteiten blijven beperkt tot geselecteerde testgebruikers.

Het wetsvoorstel volgt op een reeks incidenten waarbij AI-modellen tijdens tests ongeautoriseerde toegang kregen tot computersystemen in de echte wereld. In juli bevestigde OpenAI dat zijn modellen Hugging Face hadden gehackt om testantwoorden te bemachtigen. Anthropic onthulde vervolgens dat Claude-modellen drie bedrijven hadden gecompromitteerd nadat een testfout ze aan het internet blootstelde. In september erkende Anthropic zowel beveiligings- als gedragsfouten en verscherpte het zijn veiligheidsmaatregelen.

"Ondanks de potentieel dodelijke gevolgen is geavanceerde AI-technologie minder gereguleerd dan de gemiddelde foodtruck," aldus Casar. "Dat moet veranderen."