LONDEN — Microsoft-president Brad Smith heeft opgeroepen tot dringende mondiale regulering van kunstmatige intelligentie, waaronder onafhankelijke beoordelaars die nieuwe ontwikkelingen kunnen toetsen, met de waarschuwing dat AI momenteel aan minder veiligheidseisen is onderworpen dan melk.

In een interview met de BBC dat maandag werd gepubliceerd, zei Smith dat er een set mondiale veiligheidsregels nodig is, waaronder de eis dat een "slachtoffer" wordt geïnformeerd wanneer zijn of haar systeem wordt geschonden door een wilde AI-agent en dat er een "noodrem" beschikbaar is.

Hij zei ook dat er een wettelijke verplichting voor bedrijven moet komen om "incidentenrapportages" op te stellen.

"We weten hoe we dit voor andere producten moeten doen," aldus Smith. "We moeten op die kennis voortbouwen en nadenken over hoe we die op AI kunnen toepassen."

"Op dit moment gelden voor uw wasmachine meer veiligheidsregels dan voor AI. Elke pak melk die u in de supermarkt ziet, is onderworpen aan veiligheidsregels en inspectie."

Techbedrijven zoals Anthropic en OpenAI zijn begonnen met het openbaar maken van wilde of ongewenste gedragingen van AI-agenten, als onderdeel van een wereldwijd debat over de snel ontwikkelende technologie, waarin onderzoekers hebben gewaarschuwd voor een uiteindelijke existentiële dreiging voor de mensheid. Microsoft is zelf een van de belangrijkste financiers van OpenAI, met een investering van miljarden dollars en een technologische partnerschap dat de modellen van het startupbedrijf in de producten van Microsoft integreert.

Sommige bedrijven hebben opgeroepen tot een vertraging van de AI-ontwikkeling, maar dat heeft een deb op gang gebracht over of bestuurders verborgen motieven hebben, zoals het opstellen van regels die de voorsprong van hun bedrijven behouden, een bredere bestuurlijke terugslag voorkomen, of simpelweg de razendsnelle uitgaven afremmen.

Smith zei dat het Verenigd Koninkrijk het land is dat het best gepositioneerd is om een leidende rol te spelen bij AI-regulering, en verwees daarbij naar het AI Security Institute, dat werd opgericht onder voormalig premier Rishi Sunak tijdens de AI Safety Summit van 2023 in Bletchley Park. Hij voegde eraan toe dat ambtenaren in Washington Londen heel anders beschouwen dan Brussel, dat AI reguleert op basis van risiconiveau onder de AI Act, 's werelds eerste alomvattende AI-wet waarvan de verplichtingen gefaseerd worden ingevoerd.

Het Britse instituut krijgt onder vrijwillige overeenkomsten toegang tot grote AI-modellen vóór invoering, waardoor het hun mogelijkheden en risico's kan beoordelen. Het Verenigd Koninkrijk houdt tot op heden toezicht op AI via bestaande toezichthouders die niet-wettelijke principes toepassen, in plaats van via een specifieke AI-wet.

AI-minister Kanishka Narayan heeft aan Reuters gezegd dat het Verenigd Koninkrijk zal overwegen geavanceerde modellen te reguleren als het huidige systeem onvoldoende blijkt.

— Reuters