Anthropic heeft Amerikaanse wetgevers een ontwerp van een federale AI-veiligheidswet overhandigd, waarbij de eerste grote controverse draait om één getal: 10²⁵ FLOPs.

Die drempel zou bepalen welke AI-modellen als 'frontier'-systemen gelden onder het voorstel. FLOPs, of floating-point operations, meten de rekenkracht die is gebruikt om een model te trainen — en waar die grens wordt getrokken, bepaalt welke systemen en welke ontwikkelaars binnen een nalevingskader vallen en welke buiten. Critici zeggen dat het getal een eerdere fase van AI-ontwikkeling weerspiegelt en inmiddels de meeste modellen van ondernemingsklasse zou omvatten.

Wat het ontwerp voorstelt

Het voorstel bouwt voort op het Advanced AI Framework van Anthropic, dat het bedrijf in juni 2026 introduceerde. Het wetsontwerp zelf is gedateerd oktober 2026.

Het centrale begrip is de 'covered developer'. Een bedrijf kwalificeert als het een model traint dat meer dan 10²⁵ FLOPs vereist en aan minstens één van twee financiële drempels voldoet.

De eerste drempel is meer dan 500 miljoen dollar aan jaarlijkse AI-omzet. De tweede is meer dan 1 miljard dollar aan jaarlijkse uitgaven aan AI-onderzoek en -ontwikkeling.

Bedrijven die aan de definitie voldoen, zouden onderworpen zijn aan verschillende transparantieverplichtingen, waaronder:

• Het implementeren van formele veiligheidskaders
• Het publiceren van systeemkaarten waarin staat hoe modellen werken en hoe ze zijn getest
• Het mogelijk maken van onafhankelijke evaluaties
• Het rapporteren van veiligheidsincidenten

Het wetsvoorstel beperkt ook de bevoegdheden van de overheid. Het Commerce Department mag de inzet van een model alleen beperken wanneer catastrofale risico's voorzienbaar zijn. Het ontwerp definieert catastrofale incidenten als incidenten die meer dan 1 miljard dollar schade veroorzaken of het verlies van meer dan 50 mensenlevens tot gevolg hebben.

Andere instanties zou verboden worden om de inzet van een model volledig stil te leggen.

Waarom de 10²⁵-FLOP-drempel omstreden is

In juni 2025 hadden ten minste 33 modellen van 12 ontwikkelaars de grens van 10²⁵ FLOPs al overschreden. Dat aantal zal naar verwachting blijven toenemen.

Vergelijkingen met andere regelgevingskaders onderstrepen het debat. De californische wet SB 53 stelt dempel op 10²⁶ FLOPs, tien keer hoger dan de grens van Anthropic. Elke toename van één in exponentnotatie vertegenwoordigt een vertienvoudiging, waardoor het verschil aanzienlijk is.

De EU AI Act ligt dichter bij de aanpak van Anthropic. Deze gebruikt 10²⁵ FLOPs als een weerlegbaar vermoeden: een model op dat niveau wordt verondersteld systeemrisico met zich mee te brengen, tenzij de ontwikkelaar het tegendeel aantoont. Het voorstel van Anthropic zou meer werken als een verplichte nalevingsdrempel.

De kritiek komt ook vanuit de tegenovergestelde richting. Sommige critici zeggen dat het ontwerp beperkter is en mogelijk zwakker dan concurrerende voorstellen, waaronder de FRONTIER Act (H.R. 9925), met name wat betreft de bevoegdheid tot regelgeving.

Implicaties voor startups, gevestigde labs en wetgevers

Het mogelijke voordeel voor gevestigde bedrijven is een van de meest vergaande kritiekpunten. Nalevingsmaatregelen zoals veiligheidskaders, systeemkaarten en onafhankelijke evaluaties kosten geld en personelestijd. Grote AI-labs hebben al teams voor veel van dit werk, terwijl kleinere bedrijven dat doorgaans niet hebben.

De tweedelige toets van het wetsvoorstel is echter belangrijk. Het overschrijden van 10²⁵ FLOPs alleen maakt een bedrijf nog geen covered developer. Het bedrijf zou ook meer dan 500 miljoen dollar aan AI-omzet of meer dan 1 miljard dollar aan AI-onderzoek en -ontwikkeling nodig hebben.

Voor wetgevers benadrukt het debat een structureel probleem van op rekenkracht gebaseerde regels. Vaste FLOP-drempels kunnen verouderen naarmate hardware verbetert en trainingen groeien. Een grens die vandaag wordt getrokken, kan morgen tientallen modellen omvatten, wat breder consistent is met het aantal modellen dat in juni 2025 de drempel al had overschreden.

Ook de beperkte opdracht van het Commerce Department is van belang. Het beperken van interventie tot catastrofale scenario's, gedefinieerd als meer dan 1 miljard dollar schade of meer dan 50 doden, geeft ontwikkelaars meer voorspelbaarheid. Tegelijkertijd laat het toezichthouders weinig ruimte om schade aan te pakken die onder de catastrofale drempel blijft. Die afweging staat centraal in de vergelijking met de FRONTIER Act.

Het triggeringsniveau, de tweedelige financiële toets en de reikwijdte van de regelgevingsbevoegdheid van het Commerce Department zijn dan ook de punten waarop het ontwerp van Anthropic verschilt van de alternatieven die al op tafel liggen — de hogere 10²⁶-FLOP-drempel van Californië, de op vermoedens gebaseerde aanpak van de EU AI Act en de FRONTIER Act die sommige critici sterker vinden op het gebied van regelgevingsbevoegdheden.

Bron: CryptoBriefing