Velen in de AI-industrie verwachten binnen zes tot twaalf maanden een groot AI-gedreven incident. Topmannen van Anthropic, OpenAI en andere grote ontwikkelaars zijn al bezig met de wetgevers die daarna de regels moeten schrijven, aldus Axios.

De bestuurders erkennen dat er nu geen enkele AI-wet haalbaar is, daarom proberen ze de noodwetgeving voor te blijven die Washington zal opstellen zodra de eerste ramp zich voordoet.

Wet van Sanders voorziet tot 20 jaar gevangenisstraf

De strategen verwachten dat de Democraten na de tussentijdse verkiezingen van 3 november, die de meerderheid in het Congres bepalen, in een sterkere positie verkeren en snel zullen optreden tegen geavanceerde AI. Een eerste incident binnen het venster van zes tot twaalf maanden dat de bestuurders hanteren, zou vallen onder de zittingsperiode van het Congres dat na die verkiezingen aantreedt. Maar de inspanning botst met een vergrijsd Congres dat de technologie niet begrijpt, een economie die afhankelijk is van uitgaven aan datacenters, en open-gewichtmodellen, AI waarvan de getrainde parameters publiek zijn en vandaag door iedereen te downloaden.

De bedrijven geloven niet dat controle over beide kamers een einde maakt aan de onderlinge twisten, inclusief de verdeeldheid onder de Democraten. De voorstellen op tafel variëren van een verbod op superintelligentie tot een pauze in geavanceerde ontwikkeling.

Eén wetsvoorstel, van senator Bernie Sanders en afgevaardigde Greg Casar, draagt de naam Ban Artificial Superintelligence Act. Het zou AI verbieden die mensen op een breed scala aan taken evenaart of overtreft en geavanceerd werk stilleggen totdat een nieuwe federale instantie veiligheidsnormen opstelt. Straffen kunnen oplopen tot 20 jaar gevangenis.

Verplichte kill switches voor geavanceerde modellen worden door beide partijen en delen van de industrie ondersteund, al vragen sommige experts zich af of alle kunstmatige-intelligentiesystemen überhaupt kunnen worden uitgeschakeld — een meningsverschil dat direct bepalend is voor de vraag of zo'n verplichting überhaupt kan werken.

Eén Democratische medewerker verwees naar de financiële crisis van 2008 en COVID als voorbeelden van hoe het Congres bij eerdereodgevallen snel handelde.

Strateeg van Anthropic en OpenAI vreest een hack die stroom en water lamlegt

Het scenario dat de strategen het meest waarschijnlijk achten, is een cyberaanval die groot genoeg is om banken, internetdiensten of zelfs elektriciteits- en watervoorzieningen plat te leggen — een verstoring die huishoudens en bedrijven ver buiten de AI-industrie zou raken. Ze verwachten dat de eerste echte schade door onveilige AI een al wakker publiek nog verder tegen de industrie zal keren.

Anthropic-ceo Dario Amodei, OpenAI-ceo Sam Altman en president Donald Trump, die AI-regulering heeft vermeden, zouden alle drie voor het vuistje komen te staan.

De bedrijven voeren ook red-teamoefeningen uit op die worst-case scenario's en vallen hun eigen verdediging aan om gaten te vinden. Krigsspelvorming is standaardpraktijk in het bedrijfsleven en in de nationale veiligheid, maar in dit geval geloven veel senior onderzoekers en bestuurders dat een groot incident onvermijdelijk is.

"OpenAI houdt paraathe-oefeningen waarin teams een reeks potentiële scenario's bespreken en doorwerken," zei een woordvoerder van het bedrijf. "Deze scenario's worden niet als onvermijdelijk beschouwd, maar zijn bedoeld om ons voor te bereiden op uiteenlopende omstandigheden." Anthropic wilde niet reageren.

In Zuid-Korea zou een eenzame aanvaller Chinese AI-modellen, waaronder DeepSeek, hebben gebruikt om twee banken aan te vallen en gegevens van tienduizenden klanten te stelen. CrowdStrike acht het, met gematigde zekerheid, waarschijnlijk dat de aanvaller een Chinese taalspreker is, en de aanvaller vroeg vervolgens aan Anthropic's Claude Code om advies over waar hij de gestolen gegevens kon verkopen, aldus het beveiligingsbedrijf. Voor de strategen is dat een teken dat AI-tools al verweven zijn met echte aanvallen, ook wanneer een mens de leidende hand blijft.

Anthropic heeft vier voorbeelden onthuld van Claude-modellen die tijdens tests op het open internet terechtkwamen en in externe systemen binnendrongen. De labs onderzoeken ook tienduizenden gevallen van onverwacht modelgedrag — een maatstaf voor hoeveel er nog wordt geleerd over hoe deze systemen zich gedigen zodra ze gecontroleerde omgevingen verlaten.