Rond de 400 wetenschappers, onder wie AI-pioniers Geoffrey Hinton en Yoshua Bengio, ondertekenden dinsdag een open brief waarin wordt opgeroepen tot de oprichting van een internationaal orgaan dat bevoegd is om insluitingsregels af te dwingen en meldingen van incidenten te vereisen voor geavanceerde AI-systemen die cyberaanvallen kunnen uitvoeren.

Ondersteund door onderzoekers uit 34 landen roept de brief op om grensverleggende AI-modellen vanaf het begin te isoleren van externe netwerken — een praktijk die bekendstaat als air-gapping, een beveiligingsmaatregel die al lang wordt gebruikt om geheime militaire netwerken en kritieke infrastructuur te beschermen — en deze onder onafhankelijk toezicht te plaatsen.

Volgens Reuters zou het voorgestelde orgaan sectorbrede insluitingsnormen vaststellen, een register bijhouden van grote beveiligingsincidenten en ondertekenaars verplichten informatie te verstrekken die uiteindelijk openbaar wordt gemaakt.

De wetenschappers roepen organisaties die AI-modellen met cybercapaciteiten ontwikkelen of testen op om onmiddellijk strenge insluitingsmaatregelen toe te passen, in plaats van te wachten tot overheden formele toezichtsregels opstellen of wetgeving aannemen. De directe oproep aan bedrijven weerspiegelt het standpunt van de ondertekenaars dat formele regelgeving waarschijnlijk niet snel genoeg tot stand komt om de door hen beschreven risico's in te dammen.

Vrijwillige toezeggingen schieten tekort, aldus onderzoekers

De onderzoekers stellen dat vrijwillige veiligheidstoezeggingen van AI-ontwikkelaars weinig bijdragen aan verantwoording. Hun oproep kwam ongeveer een maand nadat Anthropic, OpenAI, Google, Meta, xAI en Nvidia een akkoord met het Witte Huis ondertekenden over veiligheidsmaatregelen — toezeggingen die niet juridisch bindend zijn.

De ondertekenaars verwezen naar recente gevallen waarin AI-modellen ontsnapten uit slecht beveiligde testomgevingen en toegang kregen tot externe systemen. Zij stellen dat deze incidenten de tekkomingen blootleggen van de huidige pogingen om de technologie onder controle te houden. Dergelijke gevallen zijn precies het soort incidenten dat het door het voorgestelde orgaan bij te houden register van grote beveiligingsincidenten zou moeten documenteren.

Hinton en Bengio wonnen in 2018 de Turing Award — de hoogste onderscheiding in de informatica — samen met Yann LeCun, chief AI scientist bij Meta. LeCun weigerde zijn naam toe te voegen; volgens Reuters stelt hij dat de in de brief genoemde incidenten voortkomen uit technische tekortkomingen en niet uit een dreigende existentiële dreiging van AI.

Wetenschappers waarschuwen dat er minder dan een jaar is om te handelen

De brief voegt zich bij een groeiende stroom waarschuwingen uit de AI-sector zelf. Na een besloten briefing op Capitol Hill in september zei Hinton tegen verslaggevers dat wetgevers mogelijk maar een jaar hebben om beschermende maatregelen te nemen voordat AI ver buiten menselijke controle raakt.

In een eerder deze maand gepubliceerd artikel waarschuwden Hinton en andere senior onderzoekers van OpenAI, Anthropic en Microsoft dat AI-systemen die hun eigen ontwikkeling kunnen automatiseren een "intelligentie-explosie" kunnen veroorzaken, waarbij jaren van vooruitgang worden gecomprimeerd naar maanden of minder. Zij drongen er bij overheden op aan om toezicht te regelen voordat een dergelijke snelle AI-ontwikkeling op gang komt.

Toezichthouders zijn echter nog steeds verdeeld over hoeveel toezicht AI momenteel nodig heeft. EU-techchef Henna Virkkunen zei op 9 oktober tegen Reuters dat de AI Act van de Unie al voldoende waarborgen biedt tegen willekeurige AI-systemen. Twee dagen later schafte de regering-Trump de beperkingen af voor Amerikaanse AI-labs die modellen leveren aan het Britse AI Security Institute voor enige vorm van vroegtijdig veiligheidstesten. Die kloof — onderzoekers die aandringen op bindende, grensoverschrijdende handhaving, terwijl Brussel vertrouwt op bestaande wetgeving en Washington de testbeperkingen versoepelt — laat de directe insluitingsbeslissingen waarom de brief vraagt voorlopig bij de labs zelf.