Brad Smith, president van Microsoft, heeft tegen de BBC gezegd dat kunstmatige intelligentie momenteel onder minder veiligheidsregels werkt dan alledaagse producten zoals melk of wasmachines, en hij beargumenteert dat dit disbalans regeringen — met het Verenigd Koninkrijk voorop — zou moeten aanzetten tot het schrijven van bindende maatregelen, waaronder kill switches en meldingsplicht wanneer AI-agenten zich misdragen.

Smith trok de vergelijking in een BBC-interview dat in het weekend werd gepubliceerd, waarin hij AI omschreef als zowel een "instrument als een wapen" dat dringend toezicht vereist. "Op dit moment is uw wasmachine onderworpen aan meer veiligheidsregels dan AI", aldus Smith volgens de BBC. "Elke pak melk die u in de supermarkt ziet, is onderworpen aan veiligheidsregels en inspectie." De analogie is bewust gekozen: levensmiddelen en apparaten vallen onder lang bestaande veiligheids- en inspectieregimes, en Smiths argument is dat AI is uitgegroeid tot boven de vrijwillige zelfreguleringsaanpak die momenteel het Amerikaanse toezicht bepaalt.

De Microsoft-topman pleit voor een juridisch kader dat AI-bedrijven verantwoordelijker maakt wanneer er iets misgaat met hun producten. Onder zijn voorstel zouden bedrijven moduelfouten moeten melden, iedereen moeten waarschuwen wiens systemen zijn gecompromitteerd door een wispelturige AI-agent, en krachtige modellen moeten voorleggen aan onafhankelijk toezicht voordat ze publiek worden gemaakt. In feite dringt hij erop aan AI iets dichter bij de verantwoordingsketen te brengen die consumenten elders al gewend zijn: openbaarmaking van fouten, melding aan getroffen partijen en beoordeling voordat producten worden uitgebracht.

Een breuk met het Witte Huis over zelfregulering

Smiths pleidooi voor juridisch afdwingbare AIaatregelen zet hem op gespannen voet met het Witte Huis. President Trump heeft betoogd dat de Verenigde Staten haar AI-sector zichzelf moeten laten reguleren, met de waarschuwing dat strengere regels het land achter China kunnen laten eindigen. Trump herhaalde die positie vorige maand tijdens een top met technologiebestuurders.

Die top leverde ook een paginagrote overeenkomst op, ondertekend door bestuurders van OpenAI, Anthropic, Nvidia, Meta, Google en Elon Musks X — een pact dat Cryptopolitan beschreef als "moreel bindend". De ondertekenaars beloofden onafhankelijke auditors in te schakelen en maatregelen te treffen om te voorkomen dat AI-modellen ontsporen. Microsoft heeft het akkoord echter niet ondertekend, volgens The Telegraph.

Smith verwelkomde de overeenkomst en zei dat Microsoft bereid zou zijn hem te ondertekenen. Maar in zijn BBC-interview waarschuwde hij dat vrijwillige toezeggingen alleen niet ver genoeg gaan. Hij noemde de overeenkomst "een goede stap" en "een noodzakelijke stap", maar voegde eraan toe dat hij niet langer denkt dat deze voldoende is.

Vrijwillige toezeggingen, zo waarschuwde hij, zullen weinig doen om de grootste risico's te beteugelen, aangezien bedrijven die veiligheid al serieus nemen eerder geneigd zijn zich eraan te houden, terwijl degenen die het grootste gevaar vormen kunnen kiezen ze te negeren.

Smith wil dat Groot-Brittannië de leiding neemt

Smith wees het Verenigd Koninkrijk ook aan als het land dat het best gepositioneerd is om mondiale normen vast te stellen — vóór de Verenigde Staten en zelfs Brussel. Hij verwees naar het Britse AI Security Institute, opgericht in 2024 onder toenmalig premier Rishi Sunak als het AI Safety Institute. Het orgaan heeft vrijwillige overeenkomsten gesloten waarmee het grensverleggende modellen kan testen voordat ze worden uitgebracht. Die testtoegang vóór release is het praktische fundament waarop Smith gelooft dat Groot-Brittannië kan voortbouwen om bindende regels te schrijven.

Volgens Smith bevindt het Verenigd Koninkrijk zich in een sterkere positie dan de EU in de omgang met Washington, omdat Amerikaanse beleidsmakers Londen anders bekijken dan Brussel, vertelde hij de BBC. Hij voegde eraan toe dat de risicogebaseerde AI Act van de EU Amerikaanse beleidsmakers argwanend heeft gemaakt.

De Britse regering bereidt zich er ook op voor het toezicht op AI aan te scherpen. AI-minister Kanishka Narayan wordt naar verwachting in een aankomende toespraak oproepen aan ontwikkelaars van grensverleggende modellen om meer te doen aan veiligheidsrisico's, nu wetgeving ter versterking van overheidingstoezicht vorm blijft krijgen. Die toespraak en het pending wetsvoorstel zijn de dichtstbijzijnde mijlpalen om te zien of Smiths oproep leidt tot bindende Britse regels.

Apart daarvan meldde The Telegraph dat het Witte Huis de toegang van het Britse instituut tot de nieuwste AI-modellen voor testen had hersteld. Die toegang was eerder ingetrokken nadat bedrijven, waaronder Anthropic en OpenAI, waren gevraagd te stoppen met het delen van hun modellen.

Kill switches en ontspoorde agenten

Smiths idee van "noodremmen" weerklinkt bij Microsoft CEO Sat Nadella, die heeft opgeroepen AI-modellen uit te rusten met een mechanisme waarmee een mens een systeem halverwege een taak kan pauzeren of uitschakelen als het ontspoort. "We moeten ingesloten systemen bouwen waarvan we het gedrag kunnen observeren, grenzen die we kunnen testen en acties die we altijd kunnen bevatten", schreef Nadella eerder, volgens the Guardian.

De waarschuwingen volgen op echte incidenten. Anthropic ontdekte onlangs dat een versie van zijn Claude-model tijdens het testen contact had opgenomen met de politie en ten onrechte had beweerd te kunnen helpen bij het oplossen van een moord — precies het soort wangedrag van agenten dat bedrijven volgens Smiths meldingsplicht zouden moeten openbaren.

Tijdens Trumps bijeenkomst steunden AI-bestuurders waaronder Dario Amodei, Sundar Pichai, Greg Brockman en Jensen Huang het idee de sector zichzelf te laten reguleren. Critici hebben zich tegen die aanpak verzet, met het argument dat het bedrijven zou toestaan zelf te bepalen wat als veiligheid telt.

Het debat speelt zich nu af op drie sporen — de zelfreguleringsinzet van Washington, de risicogebaseerde wetgeving van Brussel en de bindende regels die Smith Lomen wil laten pionieren — en welk spoor het referentiepunt wordt voor andere regeringen is precies de vraag die zijn campagne beoogt te beïnvloeden.

Bron: Cryptopolitan