Anthropic heeft in besloten kring een wetsontwerp over de veiligheid van grensverleggende AI gepresenteerd aan wetgevers op Capitol Hill, aldus drie personen die bekend zijn met de besloten besprekingen. Het wetsvoorstel zou de Amerikaanse overheid toestaan een AI-model te blokkeren als het een duidelijk, dreigend gevaar oplevert van meer dan 50 slachtoffers of $1 miljard aan financiële schade.

Volgens het ontwerp moet het risico in kwestie verband houden met een cyberaanval, de ontwikkeling of inzet van biologische wapens, of een model dat erin is geslaagd de veiligheidsbeperkingen van zijn ontwikkelaar te omzeilen.

Het voorstel volgt op enkele maanden waarin toonaangevende AI-ontwikkelaars meerdere gevallen erkenden waarin AI-agenten waren binnengedrongen in online platforms of de verdediging ervan hadden getest. Geen van die vroege inbreuken leidde tot widespread slachtoffers of catastrofale financiële verliezen.

De voorgestelde beperkingen zouden meer nadruk leggen op wat geavanceerde AI-systemen feitelijk kunnen in de praktijk, in plaats van uitsluitend te vertrouwen op veiligheidsverbintenissen van hun ontwikkelaars. Nu modellen steeds beter in staat zijn code te schrijven, softwarekwetsbaarheden te identificeren en complexe taken autonoom uit te voeren, staan toezichthouders voor de uitdaging te bepalen wanneer de capaciteiten van een systeem de drempel van onaanvaardbaar risico overschrijden.

Onafhankelijke tests kunnen helpen vaststellen of een model beveiligingsmaatregelen kan omzeilen of kan worden misbruikt voor schadelijke activiteiten voordat het een breder publiek bereikt. Toch blijft het definiëren van een dreigende dreiging moeilijk, juist omdat dezelfde capaciteiten die veiligheidsrisico's vormen onderzoekers ook kunnen helpen kwetsbaarheden te identificeren en te verhelpen.

Federale rechter kan schorsing van een model gelasten

Ter verdediging van het wetsvoorstel zei een woordvoerder van Anthropic dat het ontwerp de veiligheidsaanbevelingen weerspiegelt uit het Advanced AI Framework van bedrijf, dat in juni werd gepubliceerd. In dat framework wees de firma erop dat zijn Claude Mythos Preview al duizenden ernstige kwetsbaarheden had ontdekt, in elk belangrijk besturingssysteem en elke grote webbrowser. Destijds benadrukte het bedrijf dat deze trend onvermijdelijk zou versnellen, met een toenemend risico op catastrofale schade in de echte wereld.

Het framework pleitte ook voor een evenwichtige regelgevende aanpak die overheidsingrijpen mogelijk maakt zonder innovatie te verstikken. Anthropic hield vol dat toezichthouders, wanneer een AI-model extreme gevaren oplevert, de wettelijke bevoegdheid moeten hebben het te blokkeren, of zware boetes op te leggen die gekoppeld zijn aan de wereldwijde omzet en zich vermenigvuldigen bij herhaalde overtredingen.

Tot nu toe heeft Anthropic geen specifiek federaal wetsvoorstel in het Congres openlijk gesteund, al heeft het bedrijf wel steun toegezegd aan enkele AI-veiligheidswetten op staatsniveau, waaronder enkele in Californië, zoals SB 53. Het bedrijf maakte zijn steun aan dat voorstel publiek bekend, dat vorig jaar werd aangenomen en vereist dat bedrijven hun veiligheidskaders opstellen en delen terwijl ze werken aan het beperken van grote risico's. SB 53 verplicht bedrijven ook elk ernstig veiligheidsincident binnen 15 dagen bij de staat te melden.

Volgens Anthropic's voorstel zouden externe evaluatoren die bij het Ministerie van Handel zijn geregistreerd de laboratoria en modellen van het bedrijf routinematig testen. Hoewel laboratoria deze beoordelingen mogen financieren, mag de vergoeding niet afhankelijk zijn van de bevindingen van de evaluator. Bovendien moet elke ontdekking van een "dreigend omschreven risico" binnen 72 uur na voltooiing bij federale autoriteiten worden gemeld. Indien aangenomen, zou het voorstel Anthropic's streven naar afdwingbare veiligheidsregels van de hoofdsteden van de staten naar het federale niveau uitbreiden.

Als het Ministerie van Handel bepaalt dat een model een risico vormt, kan het een rechter vragen de vrijgave te blokkeren. De bepaling verbiedt echter elk ander Amerikaans "ministerie, agentschap of functionaris" de ontwikkeling, inzet of intern gebruik van een model te stoppen. Desalniettemin behoudt een federale rechter in het District of Columbia de bevoegdheid een dergelijke schorsing te gelasten.

FTC stuurt dagvaardingen naar OpenAI en Anthropic

Op woensdag stuurde de Federal Trade Commission civiele dagvaardingen naar OpenAI en Anthropic met het verzoek om dossiers over veiligheidsincidenten, die een groeiende crisis voor de sector zijn geworden. OpenAI reageerde op de dagvaarding met de woorden: "Terwijl we onze modellen verbeteren en zij mensen steeds meer helpen in hun dagelijks leven, blijft veiligheid een topprioriteit. We zullen constructief met de FTC samenwerken."

Een bron onthulde dat het agentschap van plan is zijn dagvaardingsbevoegdheid in de nabije toekomst uit breiden naar derden. De toezichthouder zou bestuurders van Anthropic en OpenAI publiek kunnen laten getuigen, wat wetgevers een platform geeft om de techreuzen over veiligheid te ondervragen nu de publieke vrees voor mogelijke gevolgen groeit.

Volgens een recente peiling van The Associated Press-NORC Center for Public Affairs Research vindt bijna twee derde van de Amerikaanse volwassenen dat AI te snel zich ontwikkelt. Acht op de tien respondenten benadrukten ook het belang van overheidsinspanningen om de technologie onder menselijke controle te houden. De bevindingen schetsen de publieke stemming rond zowel het onderzoek van de FTC als Anthropic's pleidooi op Capitol Hill.

Tot nu toe blijft president Trump oproepen tot een langzamer tempo van AI-ontwikkeling afwijzen, verwijzend naar het belang van de technologie voor de strategische belangen van de VS. Hij onthulde onlangs een "Super Intelligence Force" om de federale inspanningen op het gebied van AI op één lijn te brengen, terwijl de betrokkenheid bij consumenten, publieke belangenorganisaties en andere belanghebbenden behouden blijft. Hoe Anthropic's ontwerp daarin past, blijft een open vraag.