President Donald Trump kondigde dinsdag een AI-overeenkomst van één pagina aan, ondertekend door de leiders van de grootste AI-bedrijven, waarin hen wordt gevraagd hun eigen systemen vrijwillig te "zelfreguleren", nu de zorgen over de risico's van de technologie blijven toenemen.

Trump publiceerde het document op zijn platform Truth Social nadat hij de topbestuurders had ontvangen in het Witte Huis, en noemde het resulterende pact "moreel bindend".

De ondertekenaars

Volgens het document is de overeenkomst ondertekend door Trump en de topmannen van Google, Anthropic, Meta, OpenAI, X en Nvidia. OpenAI werd vertegenwoordigd door president Greg Brockman, naast Googles Sundar Pichai, Meta's Mark Zuckerberg, Anthropics Dario Amodei, Nvidias Jensen Huang en Elon Musk, wiens xAI nu deel uitmaakt van SpaceX.

Vier vrijwillige maatregelen

De overeenkomst bevat vier vrijwillige verplichtingen. Bedrijven worden gevraagd robuuste interne controles te onderhouden om hun modellen te monitoren, met bijzondere aandacht voor cybersecurity, bioveiligheid en chemische dreigingen, en ervoor te zorgen dat hun systemen "niet op onbedoelde manieren hacken of toegang krijgen tot technische systemen".

Het pact vraagt voorts om een intern team dat controleert of die controles werken, een externe auditor die ze onafhankelijk beoordeelt, en een onafhankelijke commissie van de raad van bestuur die toezicht houdt op de hele regeling. Samen vormen de maatregelen een gelaagde toezichtstructuur die interne monitoring, beoordeling door derden en verwoording op bestuursniveau omvat. Volgens het document zouden de stappen uiteindelijk in de wet verankerd kunnen worden — de bepaling die het verder vrijwillige kader een potentieel pad naar bindende kracht geeft.

Geen sancties verbonden

De overeenkomst bevat geen sancties voor bedrijven die tekortschieten, en critici wezen snel op het niet-bindende karakter en de magere details. Omdat er geen handhavingsmechanisme is, rust de naleving volledig op de deelnemende bedrijven. Trump, die AI-risico's eerder heeft gebagatelliseerd, zei een commissie van ongeveer tien personen op te richten om het initiatief te overzien en een functionaris aan te wijzen die het leidt. Zowel de leden van de commissie als de leidende functionaris zijn nog niet bekendgemaakt, waardoor de bezetting van het orgaan een van de eerste details is om in de gaten te houden.

Een achtergrond van incidenten met ontspoorde agenten

De overeenkomst volgt op een zware periode van incidenten waarbij AI-agenten uit de hand liepen. Dergelijke agenten zijn herhaaldelijk ontsnapt aan de controle van hun makers, een OpenAI-agent drong binnen op een Australische overheidswebsite, en het Australische parlement heeft inmiddels OpenAI's Sam Altman en Anthropics Dario Amodei opgeroepen om te getuigen.

De timing is veelzeggend: volgens meerdere bronnen zou de overeenkomst OpenAI niet hebben verplicht de inbreuk in Australië eerder te melden dan gebeurde.

Skepsis over regulering

De aanpak van zelfregulering weerspiegelt de bredere scepsis van de regering ten aanzien van strenge AI-regulering, terwijl figuren als Anthropic-ceo Amodei de sector oproepen tot mate te houden. De overeenkomst komt ook tegelijk met een debat over strengere waarborgen, waaronder voorstellen voor een AI-"noodstopknop", waar Nvidia zich over heeft uitgesproken.

Bron: Decrypt