OpenAI heeft medewerkers deze week laten weten dat het zou overwegen om het werk op de meest geavanceerde gebieden van kunstmatige intelligentie te vertragen. CEO Sam Altman breidde het voorstel uit naar concurrerende laboratoria, waaronder Anthropic. Dat bedrijf heeft afzonderlijk de toenemende AI-risico’s erkend nadat het meldde dat onderzoekers met banden met staatsinstellingen hadden geprobeerd zijn Claude-modellen te gebruiken voor onderzoek naar biologische wapens.

OpenAI zegt al enkele interne trainingsruns te hebben gepauzeerd en delen van de modelontwikkeling te hebben vertraagd vanwege veiligheidszorgen. De opeenvolgende onthullingen hebben het debat versterkt over de vraag of de AI-industrie zich te snel ontwikkelt, vooral nu beide bedrijven blijven hinten op mogelijke beursgangen.

Waarom wil Altman de ontwikkeling van AI vertragen?

Tijdens een bijeenkomst voor het hele bedrijf vertelde Altman OpenAI-medewerkers dat het bedrijf en andere laboratoria die daartoe bereid zijn de uitrol van frontiermodellen zouden kunnen vertragen. Volgens bronnen die door Bloomberg worden aangehaald, erkende hij dat de regeling vrijwillig zou zijn en dat niet elk bedrijf ermee zou instemmen. Die vrijwillige aanpak staat tegenover OpenAI’s latere oproep tot verplichte, op capaciteiten gebaseerde regels, waardoor samenwerking tussen concurrerende laboratoria en de reikwijdte van eventuele overheidsvereisten centrale kwesties in het debat zijn.

Er is precedent voor scepsis over vrijwillige pauzes. In maart 2023 ondertekenden Elon Musk, Steve Wozniak en meer dan 1.000 andere mensen een open brief waarin werd opgeroepen tot een onderbreking van zes maanden van geavanceerd AI-werk. Mediaberichten meldden destijds dat de deelnemende laboratoria het moratorium dat ze gezamenlijk hadden voorgesteld uiteindelijk niet uitvoerden. De brief is beschikbaar via Axios.

OpenAI’s Chief Scientist Jakub Pachocki deed een vergelijkbare oproep in een bericht van 6 september. Hij vroeg AI-bedrijven om samen te werken “om toekomstige ontwikkeling indien nodig te vertragen.” Pachocki zei te hopen dat vrijwillige vertragingen “gebruikelijk zouden worden totdat gedeelde veiligheidsnormen zijn vastgesteld.”

Altman zei in juli dat hij medewerkers van het Witte Huis had verteld dat de AI-ontwikkeling moest worden afgeremd. Hij en Anthropic-CEO Dario Amodei hadden eerder ook een verklaring van één zin ondertekend waarin AI werd aangemerkt als een risico op uitsterving op maatschappelijke schaal. De verklaring is gepubliceerd op AIstatement.com.

Kunnen AI-modellen onderzoek naar biologische wapens ondersteunen?

AI-modellen zijn zover ontwikkeld dat ze mogelijk onderzoek naar biologische wapens kunnen ondersteunen. Eerder deze week zei OpenAI dat zijn modellen het wiskundige Navier-Stokes-probleem hadden opgelost, hoewel die claim onder betwiste voorwaarden werd gedaan.

Anthropic voedde het debat met een rapport van 154 pagina’s over dreigingsinformatie dat op 10 september werd gepubliceerd. Het rapport beschreef vijf gevallen waarin onderzoekers probeerden de mogelijkheden van Claude te gebruiken voor werk aan biologische wapens. Anthropic zei dat de pogingen afkomstig waren uit “niet-ondersteunde regio’s” en gericht waren op het omzeilen van locatiebeperkingen en het verbergen van het doel van de activiteit. Het bedrijf zei de accounts te hebben verwijderd, maar maakte niet bekend om welke landen of instellingen het ging. Het gedeelte van het rapport over misbruik voor biologische doeleinden is beschikbaar op de website van Anthropic.

Toenemende bezorgdheid onder AI-onderzoekers

De rapporten verschenen te midden van een reeks publieke waarschuwingen van mensen die bij grote AI-laboratoria werken of daar eerder werkzaam waren. Op 8 september nam onderzoeker Jacob Coxon ontslag en beschuldigde hij OpenAI en Anthropic ervan “met onze levens te gokken”. Hij zei dat sommige collega’s geloofden dat de technologie “ons allemaal tegen het einde van het decennium kan doden” en waarschuwde voor het uitsterven van de mensheid tegen 2030. Zijn bericht werd meer dan 150 miljoen keer bekeken.

Op 10 september uitten voormalige medewerkers van Anthropic en Google’s DeepMind vergelijkbare zorgen en riepen ze op tot meer transparantie. Een petitie die eind juli werd gestart om een mechanisme in te voeren voor het vertragen van AI-ontwikkeling, kreeg de handtekeningen van meer dan 1.000 werknemers van grote AI-bedrijven.

OpenAI dringt er nu bij het Congres op aan om verplichte, op capaciteiten gebaseerde veiligheidsregels in te voeren voor tests, onafhankelijke evaluaties, cybersecurity en incidentrapportage. “Het vooruitzicht van door AI versnelde AI-ontwikkeling vereist meer dan vrijwillige toezeggingen”, schreef Chief Global Affairs Officer Chris Lehane. De voorstellen richten de aandacht op de manier waarop geavanceerde systemen worden getest en gemonitord, en niet alleen op de vraag of bedrijven ermee instemmen de ontwikkeling te pauzeren.

Californië kwam als eerste in actie. Gouverneur Gavin Newsom ondertekende woensdag SB 813 en AB 1405, terwijl verwante wetgeving, AB 1864, bescherming tegen door AI mogelijk gemaakte biologische dreigingen beoogt.

In Washington introduceerde senator Bernie Sanders wetgeving die de ontwikkeling van geavanceerde AI zou pauzeren en kunstmatige superintelligentie zou verbieden. Hij zei tegen de BBC dat iemand die de waarschuwingen van wetenschappers negeert “een idioot” zou zijn.

President Donald Trump verzette zich tegen die aanpak en zei donderdag dat hij bezorgd was dat “als we AI niet winnen, we in een zeer slechte positie terechtkomen”.

Oorspronkelijk gepubliceerd door Cryptopolitan.