Anthropic heeft Amerikaanse wetgevers een ontwerp van federale wetgeving voorgelegd dat sterk beperkt wanneer autoriteiten geavanceerde kunstmatige-intelligentiemodellen mogen blokkeren, te midden van groeiende zorgen over AI-veiligheid nu het Congres nieuwe toezichtsregels overweegt. Het ontwerp komt op een moment dat verschillende congresinitiatieven voor AI-toezicht al lopen, waarmee het wetgevers een door een bedrijf opgesteld referentiepunt in dat debat biedt.

Volgens berichten stelt het vertrouwelijke voorstel een schadedrempel van $1 miljard, of een risico met meer dan 50 ernstige slachtoffers, als voorwaarden voor overheidsingrijpen. Anthropic bevestigde dat het ontwerp is gebaseerd op zijn Advanced AI Framework, gepubliceerd in juni, die onafhankelijke tests en overheidscontrole voorstaat.

Op grond van het ontwerp zouden onafhankelijke beoordelaars periodiek AI-modellen aan de frontlinie beoordelen en verplicht zijn kwalificerende veiligheidsdreigingen binnen 72 uur aan federale autoriteiten te melden. Het voorstel zou ook bepaalde nationale AI-regelgeving vervangen, terwijl het ontwikkelaars openbare transparantierapporten en klokkenluidersbescherming oplegt.

Ontwerp Anthropic stelt grenzen aan overheidsingrijpen

Het ontwerp zou autoriteiten alleen toestaan een geavanceerd AI-model stop te zetten wanneer het een voorzienbaar en imminent gevaar vormt. Het risico moet betrekking hebben op biologische wapens, cyberaanvallen of een AI-systeem dat aan de controle van de ontwikkelaar ontsnapt.

Volgens het voorstel vereist federaal ingrijpen potentiële schade van meer dan $1 miljard of ernstige schade aan meer dan 50 mensen. Het Handelsdepartement zou eerst het gevaar beoordelen voordat een federale rechter wordt verzocht de uitgifte of gebruik van een model te schorsen. Alleen de U.S. District Court for the District of Columbia zou onder het voorgestelde kader zo'n schorsing kunnen autoriseren, en andere federale instanties zouden onder de wet doorgaans de bevoegdheid ontberen om modelontwikkeling, -implementatie of intern gebruik zelfstandig stop te zetten. Dat ontwerp zou ingrijpen via één departement en één rechtbank leiden — een smalere route dan de sterkere overheidsbevoegdheden die sommige senatoren hebben bepleit.

De wetgeving zou vereisen dat ontwikkelaars van frontlinie-AI periodieke beoordelingen ondergaan door onafhankelijke beoordelaars die bij het Handelsdepartement zijn geregistreerd. Bedrijven zouden beoordelaars voor hun diensten kunnen betalen, maar de vergoeding mag niet afhangen van de uitkomst van die beoordelingen.

Beoordelaars die een imminent kwalificerende dreiging vaststellen, zouden na afronding van hun beoordeling 72 uur hebben om het Handelsdepartement in te lichten. Aan ontwikkelaars zouden eisen worden opgelegd met betrekking tot veiligheidskaders, incidentrapportage, openbare transparantie en klokkenluidersbescherming.

Het voorstel volgt op eerdere onafhankelijke testregelingen van Anthropic voor AI-veiligheid. In september kondigde het bedrijf een beoordelingspartnerschap met Accenture aan om geavanceerde modellen te beoordelen en waarborgen te versterken.

Voorstel Anthropic zou enkele nationale AI-veiligheidswetten vervangen

Het ontwerp zou bepaalde nationale eisen vervangen met betrekking tot risicodisclosure, onafhankelijke beoordelingen en meldingen van ernstige AI-veiligheidsincidenten. De bepaling richt zich op de uiteenlopende nalevingseisen die in de Amerikaanse staten ontstaan, met name in Californië en New York.

Het vervangen van nationale eisen door federale regels heeft wetgevers verdeeld over het juiste niveau van AI-toezicht. Sommige Democraten verzetten zich tegen voorstellen die bestaande nationale beschermingen zouden kunnen verzwakken, terwijl brancheorganisaties kiezen voor consistente nationale eisen. De uitkomst zou helpen bepalen of ontwikkelaars aan de frontlinie onder één federale norm werken of met een nalevingslandschap per staat.

Het debat volgt op eerdere veiligheidstests met geavanceerde AI-agenten. Bij die tests werden gevallen geregistreerd waarin AI-systemen ongeautoriseerde acties uitvoerden, wat vragen oproept over de controles van ontwikkelaars en de adequaatheid van onafhankelijke beoordelingen.

Anthropic documenteerde eerder pogingen om zijn modellen te misbruiken voor biologisch onderzoek en cyberaanvallen. Het rapport over AI-misbruik van september beschreef geblokkeerde verzoeken en aanvullende waarborgen die waren ingevoerd om die dreigingen aan te pakken.

In het Congres hebben afgevaardigden Lori Trahan en Jay Obernolte de FRONTIER Act nagestreefd, die gevaarlijke AI-implementaties behandelt. Senatoren John Thune, Amy Klobuchar en Ted Cruz hebben afzonderlijk wetgeving besproken die catastrofaleico's en federaal ingrijpen bestrijkt.

Senator Maria Cantwell en andere wetgevers hebben aangedrongen op sterkere beoordelingsbevoegdheden voor de overheid dan sommige concurrerende voorstellen bieden. Ondertussen hebben senator Bernie Sanders en afgevaardigde Greg Casar bredere beperkingen op de ontwikkeling van geavanceerde AI-systemen gesteund.

Anthropic heeft zich publiekelijk niet achter een specifiek wetsvoorstel in het Congres geschaard, en het voorstel is niet wet geworden. Wetgevers moeten nog aankondigen of zij het ontwerp van het bedrijf als formele wetgeving zullen indienen.