President Donald Trump zei dat hij zich “geen zorgen” maakt over de mogelijkheid dat kunstmatige intelligentie leidt tot het uitsterven van de mens, terwijl onderzoekers van OpenAI en Anthropic publiekelijk ernstige zorgen uitten over de risico’s van snel voortschrijdende AI-systemen.

Op de vraag of AI donderdag tot het uitsterven van de mens zou kunnen leiden, antwoordde Trump: “Nee, daar heb ik geen zorgen over.” Hij zei dat zijn belangrijkste zorg was ervoor te zorgen dat de Verenigde Staten de AI-race tegen China winnen.

“Ik maak me zorgen dat we in een zeer slechte positie terechtkomen als we de AI-race niet winnen,” zei Trump tegen verslaggevers. Hij voegde eraan toe dat hij denkt dat de VS momenteel ongeveer een jaar voorliggen op China.

De opmerkingen kwamen op het moment dat werknemers en onderzoekers van twee van ’s werelds toonaangevende AI-bedrijven waarschuwden dat de ontwikkeling mogelijk te snel gaat om veiligheidsmaatregelen gelijke tred te laten houden. De uiteenlopende prioriteiten plaatsen het tempo van AI-ontwikkeling en de reikwijdte van waarborgen centraal in het debat.

Onderzoekers uiten zorgen over recursieve zelfverbetering

Anthropic-onderzoeker Jacob Coxon kondigde dinsdag aan dat hij het bedrijf verliet. Coxon zei dat Anthropic en OpenAI “met ons leven gokken” en beweerde dat mensen die AI bouwen geloven dat deze “ons allemaal tegen het einde van het decennium kan doden”. Andere werknemers van beide bedrijven hebben soortgelijke zorgen geuit.

Een centraal punt van zorg onder AI-veiligheidsonderzoekers is recursieve zelfverbetering, of RSI. De term verwijst naar een scenario waarin een AI-model het vermogen krijgt om zijn eigen prestaties zonder menselijke hulp te verbeteren.

Jasmine Wang, een alignment-onderzoeker bij OpenAI, schreef woensdagavond: “Het is moeilijk te overschatten hoe gevaarlijk het is om richting RSI te versnellen.”

OpenAI-hoofdwetenschapper Jakub Pachocki vergrootte zaterdag de zorgen. Hij zei een “sterke verwachting” te hebben dat de vooruitgang van AI zou kunnen doorgaan tot op het terrein van recursieve zelfverbetering.

“Ik maak me zorgen dat niemand is voorbereid op de gevolgen van een aanhoudende snelle toename van machine-intelligentie,” zei Pachocki.

Congres dringt aan op meer toezicht op AI

Parlementariërs van beide partijen streven naar meer toezicht op geavanceerde AI-systemen. In juli kondigden afgevaardigden Jay Obernolte en Lori Trahan plannen aan om de FRONTIER Act in te dienen. Deze wet zou regels vaststellen voor de inzet van geavanceerde AI-modellen.

Trahan schreef woensdag op X: “Veiligheidsonderzoekers nemen ontslag, krachtige AI-modellen ontsnappen uit hun laboratoria en bedrijven gaan toch door met racen. Het is tijd dat het Congres niet langer aan de zijlijn blijft staan en zijn werk doet.”

Eerder deze maand dienden senator Bernie Sanders en afgevaardigde Greg Casar de Ban Artificial Superintelligence Act in. Deze wetgeving zou de ontwikkeling van geavanceerde AI tijdelijk stilleggen totdat de federale overheid veiligheidsregels heeft vastgesteld. Samen laten de voorstellen zien dat het beleidsdebat zowel gaat over de manier waarop geavanceerde modellen worden ingezet als over de vraag of de ontwikkeling moet doorgaan voordat nieuwe waarborgen van kracht zijn.

Trump heeft geen steun uitgesproken voor een van beide wetsvoorstellen. Zijn aandacht blijft gericht op het voorhouden van de Verenigde Staten op China in de wereldwijde AI-concurrentie, wat de groeiende kloof benadrukt tussen het standpunt van de regering en de zorgen van AI-veiligheidsonderzoekers.

Bron: CoinCentral.