Het Witte Huis heeft een 'moreel bindend' vrijwillig veiligheidsakkoord gepresenteerd, ondertekend door president Donald Trump samen met de leiders van de grootste AI-bedrijven van de Verenigde Staten, en het voorstel heeft een scheuring veroorzaakt in het Congres over de vraag of het gesteund moet worden.

De kritiek van Capitol Hill komt voort uit frustratie dat eerdere vrijwillige waarborgen tekortschoten, waaronder de regeling van juli 2023 tussen president Joe Biden en Amazon, Anthropic, Google, Meta, Microsoft en OpenAI.

Wie ondertekenden het AI-akkoord van september?

Volgens het document dat Trump op Truth Social plaatste, ondertekende de president het akkoord samen met zes bedrijfsleiders: Sundar Pichai van Google, Dario Amodei van Anthropic, Mark Zuckerberg van Meta, Jensen Huang van Nvidia, Greg Brockman van OpenAI en Elon Musk van X.

Volgens Roll Call zei voorzitter van het Huis van Afgevaardigden Mike Johnson dat de ondertekenaars tijdens de lunchbijeenkomst het 'White House Accord on Super Intelligence' aannamen. De opinieblab meldde dat "elk bedrijf verantwoordelijk is voor de veilige ontwikkeling van zijn eigen technologie" onder het 'Joint Commitment on Frontier Responsibilities'.

Het document specificeert naar verluidt vier verplichtingen:

• De bedrijven zijn overeengekomen interne controles en monitoring op hun modellen uit te voeren.
• Ze zijn overeengekomen een extern bureau in te huren voor onafhankelijke beoordeling.
• Een onafhankelijke commissie beoordeelt interne auditrapporten en lost eventuele problemen op.

Het akkoord stelt bovendien dat de ondertekenaars "regelmatig zullen samenkomen om normen en best practices vast te stellen", en de tekst geeft toe dat het "op termijn zinvol kan zijn om deze stappen in wet- of regelgeving te verankeren." Of zulke beloftes kunnen dienen als vervanging voor afdwingbare regels, is precies de kloof die nu door het Congres loopt.

Trump: 'Ik denk dat het moreel bindend is'

Toen hij naar het akkoord werd gevraagd, antwoordde Trump: "Ik denk dat het moreel bindend is." Op zijn gebruikelijke maniere maakte de president de vergelijking groter: "Het is op een bepaalde manier bijna als een grondwet."

Trump bleef bij het standpunt dat de sector zichzelf moet controleren: "Ik zie enorme zelfregulering, en ze begrijpen dat ze zichzelf moeten controleren." Waarom hij die oplossing verkiest? "Hun bedrijven staan op het spel", voegde hij eraan toe.

Trump kwam ook terug op zijn peiling in het weekend om kunstmatige intelligentie om te dopen naar 'Super Intelligence', en zei een executive order daartoe te zullen ondertekenen. Daarnaast kondigde hij plannen aan voor een commissie van tien personen die hem binnen enkele dagen moet helpen een 'AI-czar' aan te wijzen. De keuze van de czar is de eerstvolgende stap om in de gaten te houden; voor de executive order is nog geen tijdlijn aangegeven.

Het Congres staat niet achter het AI-akkoord

Niet iedereen op Capitol Hall stond achter de aard van de bijeenkomst, waar wetgevers van waren uitgesloten, of achter de omvang van de resolutie, die volgens hen de urgentie van een situatie niet adresseren die escaleerde nadat Jacob Coxon, voormalig onderzoeker bij OpenAI en Anthropic, waarschuwde dat AIons allemaal kan doden tegen het einde van het decennium."

OpenAI, Anthropic en Meta hebben allemaal gevallen gemeld waarin wilde modellen systemen probeerden die nooit tot hen gemachtigd waren, waaronder federale databases.

In een verklaring na de bijeenkomst zei de Democratische senator Mark Warner van Virginia dat de bedrijven zelf waarschuwen dat de technologie sneller gaat dan de waarborgen. "Wat is het antwoord van de president? Het hernoemen en de bedrijven die het ontwikkelen vertellen zichzelf te reguleren", aldus Warner.

Warner had die dinsdag al geprobeerd een wetsvoorstel in gang te zetten. Op de vloer van de Senaat vroeg hij unanieme instemming — een snelle procedure die bezwaar van één senator kan blokkeren — om een AI Safety Board binnen het Ministerie van Handel op te richten, dat afdwingbare normen kon vaststellen, toegang tot nieuwe grensmodellen kon eisen ten minste 45 dagen vóór uitgave, en incidentrapporten binnen 30 dagen kon eisen, of binnen 72 uur bij dreigende nationale veiligheidsbedreigingen. Geen van de vermelde toezeggingen in het akkoord omvat vergelijkbare toegang vóór uitgave of vaste rapportagedeadlines.

Voorzitter van het Commercie-comité Ted Cruz van Texas maakte bezwaar en het wetsvoorstel liep vast. Senator Brian Schatz, een Democraat uit Hawaï en mede-indiener, vroeg zich af of bedrijven die "koersen naar de grootste IPO's uit de menselijke geschiedenis" zich vrijwillig zouden beheersen.

Het verzet kwam niet alleen van Democraten: de Republikein Josh Hawley uit Missouri schreef in een opiniestuk in de Washington Post dat grensmodellen verplichte tests vóór inzet zouden moeten ondergaan. Johnson beloofde op zijn beurt dat het Congres "het roer stevig in handen zou houden", maar deed geen toezeggingen over wetgeving.

Warners oordeel nu lijkt sterk op zijn oordeel toen: de beloftes waren "een stap in de goede richting", zei hij in 2023, "maar we hebben meer nodig dan industrieafspraken."