OpenAI heeft leden van het Congres gevraagd of concurrerende bedrijven op het gebied van kunstmatige intelligentie wettelijk mogen afspreken de ontwikkeling te vertragen, meldt WIRED. De toenadering komt op het moment dat OpenAI-hoofdwetenschapper Jakub Pachocki de sector oproept gedeelde veiligheidsnormen vast te stellen en vrijwillige pauzes te overwegen totdat ontwikkelaars beter kunnen aantonen dat hun systemen veilig zijn.

WIRED meldde, op basis van bronnen dicht bij OpenAI, dat het bedrijf de afgelopen weken aan wetgevers heeft gevraagd of een overeenkomst tussen AI-ontwikkelaars om de vooruitgang te vertragen in strijd zou kunnen zijn met mededingingswetten. Een regeling die de concurrentie beperkt, zou mededingingsrechtelijke zorgen kunnen oproepen. Wetgeving die is ingediend door senatoren Adam Schiff en Jim Banks zou bepaalde samenwerkingen op het gebied van veiligheid beschermen als de betrokken partijen het ministerie van Justitie vooraf informeren.

Volgens experts maken financiering en concurrentiedruk het voor bedrijven moeilijk om de ontwikkeling zelfstandig te vertragen. “De commerciële en geopolitieke concurrentie op het gebied van AI is ongelooflijk intens, wat leidt tot een zorgwekkende dynamiek waarin bedrijven worden gestimuleerd om producten uit te brengen voordat de risico’s ervan volledig zijn begrepen,” zei Miranda Bogen, hoofdtechnoloog bij het Center for Democracy and Technology, tegen Decrypt.

“Zelfs wanneer medewerkers intern weten dat meer onderzoek en tests nodig zijn, staan hun bedrijven onder enorme druk om bochten af te snijden en cruciale veiligheidstests over te slaan, ondanks de toenemende hoeveelheid bewijs over de gevolgen van te snel handelen,” voegde ze eraan toe.

De discussie speelt zich af terwijl de Verenigde Staten en China strijden om leiderschap op het gebied van AI. De Amerikaanse president Donald Trump stelde in mei een AI-uitvoeringsbesluit uit uit bezorgdheid dat het de voorsprong van Amerika op China zou kunnen verzwakken. Later ondertekende hij het besluit in juni, waarmee een vrijwillig beoordelingsproces voor geavanceerde modellen vóór hun release werd ingesteld.

Financiële prikkels kunnen een nog directer obstakel vormen voor coördinatie. “Elke vooruitgang onder de huidige omstandigheden levert vele miljoenen of miljarden meer aan financiering op en geeft de makers van die vooruitgang een grotere machts- en invloedpositie,” zei Duncan Sabien, hoofd communicatie bij het Machine Intelligence Research Institute, tegen Decrypt.

Sabien zei dat de dynamiek van de wapenwedloop reëel is en dat OpenAI en Anthropic onder druk staan om ondanks onzekere risico’s door te gaan met ontwikkelen. Elk nieuw systeem kan helpen om capabelere opvolgers te produceren, waardoor een concurrent op voorsprong kan komen als een van beide bedrijven zonder een gezamenlijke overeenkomst vertraagt.

“Dit geldt vooral omdat de vooruitgang in intelligentie zich opstapelt; elk nieuw systeem maakt het eenvoudiger om het volgende, geavanceerdere systeem te trainen en in te zetten,” zei hij. “Zonder een of ander coördinatiemechanisme betekent een stap terug simpelweg dat de ander een voorsprong krijgt.”

OpenAI legde in augustus intern werk aan Astra stil omdat er sterkere waarborgen tegen cyberbeveiligingsrisico’s ontbraken. In februari versoepelden zowel OpenAI als Anthropic echter hun veiligheidsverplichtingen. Anthropic-hoofdwetenschapper Jared Kaplan stelde dat het minder zinvol was om de ontwikkeling zelfstandig te vertragen zolang concurrenten vooruit bleven gaan.

Het debat laaide deze week op nadat voormalig Anthropic-ingenieur Jacob Coxon publiekelijk zijn ontslag aankondigde. Hij verwees daarbij naar zorgen over de risico’s die voortdurende AI-ontwikkeling voor de mensheid met zich meebrengt.

“De mensen die AI bouwen geloven oprecht dat het ons allemaal voor het einde van het decennium zou kunnen doden,” zei Coxon op X. Hij voegde eraan toe dat het geen “marketingstunt” was. “Als er al iets is, zullen veel leidinggevenden en senior onderzoekers hun formuleringen in de pers zo inkleden dat ze verstandig klinken — maar ik hoor dezelfde mensen privé angst uitspreken. Geen enkele andere menselijke activiteit brengt dit niveau van gevaar met zich mee,” schreef hij.

Sabien zei dat onderzoekers weinig zouden kunnen bereiken door te vertrekken als iemand anders hun plaats eenvoudig inneemt. “Als genoeg van hen tot het gedeelde inzicht komen dat ze allemaal moeten stoppen, kunnen ze de coördinatiebarrière doorbreken en samen stoppen, in plaats van simpelweg te worden vervangen door de volgende, iets minder voorzichtige persoon,” zei hij.