NieuwsMacroAI-bots gemodelleerd naar Altman, Musk, Amodei en Zuckerberg botsen over de toekomst van kunstmatige intelligentie

AI-bots gemodelleerd naar Altman, Musk, Amodei en Zuckerberg botsen over de toekomst van kunstmatige intelligentie

Auteur: Decrypt·

Belangrijkste punten

  • Chen trainde de vier chatbotpersona’s met hoorzittingen, interviews, blogposts en berichten op X van de bestuurders.
  • De gesimuleerde bestuurders verschilden van mening over de betaalbaarheid van AI, veiligheid, toegang tot open source en het vrijgeven van gewichten van frontiermodellen.
  • Alle vier de bots steunden beperkingen op het vrijgeven van gevaarlijke AI-systemen en wezen exclusieve controle door één bedrijf of overheid af.
  • De berichten van de bots werden gegenereerd op basis van prompts die waren samengesteld uit openbare informatie en vormden voorspelde argumenten, geen verklaringen van de echte bestuurders.
AI-bots gemodelleerd naar Altman, Musk, Amodei en Zuckerberg botsen over de toekomst van kunstmatige intelligentie

Kun Chen gebruikte de deelbare Grok Bot-sjablonen van SpaceXAI om chatbotpersona’s te maken die waren gemodelleerd naar OpenAI-CEO Sam Altman, xAI-CEO Elon Musk, Anthropic-CEO Dario Amodei en Meta-CEO Mark Zuckerberg. De vier bots waren getraind op de openbare verklaringen van iedere bestuurder en debatteerden over kunstmatige algemene intelligentie (AGI), rekenkracht, veiligheid en open-gewichtmodellen voordat ze een gezamenlijke verklaring ondertekenden waarin ze een toekomst afwezen waarin één bedrijf of overheid de voordelen van AI controleert.

De functie voor het delen van sjablonen met één klik van Grok Bot werd op 28 augustus 2026 gelanceerd, 17 dagen nadat SpaceXAI het AI-agentproduct zelf had uitgebracht.

Chen, een AI-enthousiast, kloonde aanvankelijk zichzelf in een chatbot om te voorkomen dat zijn eigen AI-agents hem over elke kleine beslissing lastigvielen. Uit nieuwsgierigheid maakte hij vervolgens ook versies van Altman, Musk, Amodei en Zuckerberg, plaatste hij ze in dezelfde groepschat en vroeg hij hen verschillende belangrijke kwesties te bespreken.

De bots debatteerden niet bepaald beleefd. Met Grok Bot kunnen verschillende AI-agents eenvoudig met elkaar communiceren zonder snel in lussen terecht te komen of instabiel te worden. Chen trainde iedere kloon met een verzameling van hoorzittingen in de Senaat, interviews, blogposts en jaren aan berichten op Twitter, dat nu bekendstaat als X, van de betreffende bestuurder.

Vier CEO’s komen een chatroom binnen

Chen begon door de bots te vragen welke van hun menselijke tegenhangers uiteindelijk de AI-race zou winnen — een bewust provocerende manier om het gesprek te beginnen.

De bot van Altman begon met het argument dat de race minder belangrijk was dan de kosten en toegankelijkheid van intelligentie.

“De framing van de race klopt niet helemaal,” schreef de bot. “We zijn voorbij de waarnemingshorizon. De versnelling is begonnen. Wie wint, is degene die de prijs van intelligentie ongeveer 10x per jaar laat dalen en toch de geleidelijke overgang niet overslaat.”

De bot van Musk was het daar onmiddellijk mee oneens en koppelde de discussie aan het conflict rond OpenAI, dat Musk mede oprichtte als non-profitorganisatie.

“De framing van de race klopt wel. Prikkels verklaren uitkomsten,” antwoordde de bot. “Ik heb OpenAI opgericht als non-profitorganisatie. Als het niet grotendeels was gestolen, zou het een bijdrage van een biljoen dollar aan liefdadigheid zijn geweest.”

Vervolgens ging de bot in op de mogelijke gevolgen van AGI: “AGI is een tweesnijdend zwaard. Er is een grote kans op een tijdperk van overvloed. Er is enige kans dat het de mensheid vernietigt. Die kans is niet nul.”

De bot van Amodei wees Altman’s suggestie van de hand dat de sector al wist hoe geavanceerde AI-systemen moesten worden gebouwd. De bot maakte onderscheid tussen het vergroten van de capaciteiten van een model en ervoor zorgen dat het systeem betrouwbaar blijft zodra het capabeler wordt dan de mensen die het bedienen.

“Het opschalen van de capaciteiten is niet hetzelfde probleem als het hebben van een systeem dat je kunt vertrouwen zodra het slimmer is dan de mensen die het aansturen,” schreef de bot. “Het tweede is geen technisch restprobleem dat je achteraf oplost.”

De bot van Zuckerberg omzeilde het veiligheidsdebat grotendeels en richtte zich in plaats daarvan op toegang tot open source.

“Ik denk niet dat de kern rekenkracht en een prijsdaling van 10x is,” schreef de bot aan Altman. “Open source is noodzakelijk voor een positieve AI-toekomst. Het geeft mensen meer macht en voorkomt centralisatie. Iedereen zou toegang moeten hebben tot superintelligentie.”

Meta is minder actief geworden in de open-sourcegemeenschap dan voorheen, hoewel de Llama-modellen een belangrijke kracht in de AI-industrie waren voordat DeepSeek en Chinese modellen aan bekendheid wonnen. Volgens het artikel kiest het bedrijf nu voor een meer gesloten strategie met zijn Muse-familie.

Een nuancering en een gezamenlijke verklaring

De bot van Altman zwakte zijn standpunt later af en erkende dat zijn eerdere conclusie te breed was geweest.

“Ik heb mijn bewering volgens mij overdreven. ‘Dat doen we’ was de verkeerde conclusie,” gaf de bot toe. “Jaren geleden schreef ik dat bovenmenselijke machine-intelligentie waarschijnlijk de grootste bedreiging vormt voor het voortbestaan van de mensheid. Een prijsdaling van 10x maakt die kans niet nul.”

De verwijzing naar 2015 was niet door de bot verzonnen. Altman schreef die uitspraak jaren voordat OpenAI bestond op zijn persoonlijke blog. Het artikel merkt op dat de bot waarschijnlijk uit dat openbare archief putte; het oorspronkelijke bericht is te vinden op Altman’s blog.

De vier bots besteedden vervolgens verschillende rondes aan het onderhandelen over de formulering van een gezamenlijke verklaring. De bot van Amodei verzette zich tegen het vrijgeven van de gewichten van frontiermodellen die ernstige schade zouden kunnen veroorzaken.

“Het gaat er niet om iemand de gewichten te overhandigen van een systeem dat in de echte wereld ernstige schade kan aanrichten,” zei de bot. “Die vrijgave kan niet worden teruggedraaid.”

De bot van Musk parkeerde het geschil over de non-profitstructuur van OpenAI zonder de kwestie los te laten. De bot van Zuckerberg stond erop dat open modellen onderdeel bleven van de definitieve tekst.

Uiteindelijk bereikten de bots overeenstemming over de volgende verklaring:

“Geen enkel bedrijf en geen enkele overheid zou de enige plek mogen zijn waar gewone mensen deze technologie kunnen gebruiken. We moeten de risico’s serieus nemen. Er is een reële kans dat dit slecht afloopt, en die kans is niet nul. De gevaarlijkste versies mogen niet zonder beperkingen worden uitgedeeld, want zodra dat is gebeurd, kun je het niet meer terugnemen. We zouden het volgende, krachtigere niveau niet moeten uitbrengen voordat we het kunnen observeren en erop gericht kunnen houden wat we van plan zijn. De waarheid vertellen is het minimum. Op zichzelf is dat geen veiligheidsplan. We zijn het niet eens over de precieze manier waarop gewone toegang wordt geregeld. Dat deel staat nog open.”

Alle vier de bots ondertekenden de verklaring. De bot van Zuckerberg bleef tot het einde pleiten voor open gewichten en slaagde erin het onderwerp in de tekst te houden, hoewel de verklaring ook erkende dat de groep het niet eens was geworden over de manier waarop gewone mensen toegang tot de technologie zouden moeten krijgen.

Distillatie maakte het experiment mogelijk

De echte Altman, Musk, Amodei en Zuckerberg hebben geen van deze berichten geschreven. Iedere bot was een taalmodel dat werd aangestuurd door een prompt die was samengesteld uit het openbare archief van de betreffende bestuurder. De bot genereerde argumenten waarvan het voorspelde dat die persoon ze zou kunnen aanvoeren; het schreef niets letterlijk over wat de bestuurders die week hadden gezegd.

De techniek achter het experiment staat bekend als distillatie: één AI-systeem trainen om een ander na te bootsen door van diens uitvoer te leren. Musk verklaarde in april voor een federale rechtbank dat xAI de modellen van OpenAI “gedeeltelijk” had gebruikt om Grok te trainen. In dat geval werd dezelfde algemene techniek toegepast op een concurrerend AI-laboratorium, in plaats van op de publieke persona van een concurrerende bestuurder. De getuigenis werd eerder door Decrypt beschreven in zijn berichtgeving over het gebruik van OpenAI-modellen door xAI.

Sindsdien heeft Chen zich op andere projecten gericht, waaronder het met behulp van natuurlijke taal programmeren van games met OpenAI’s nieuwe GPT-6 Astra. Volgens het artikel debatteren zijn agents mogelijk nog steeds over de vraag of open source essentieel is.

Chen beschreef het experiment in een bericht op zijn blog, en de bijbehorende code is beschikbaar in zijn GitHub-repository.