Meta Platforms-CEO Mark Zuckerberg publiceerde op maandag een omvangrijk essay van 6.500 woorden waarin hij zijn visie op de toekomst van kunstmatige intelligentie uiteenzette. Hij betoogde daarin dat iedereen toegang moet hebben tot een persoonlijke, alwetende AI-agent die elk aspect van het leven kan verbeteren.

Het manifest verschijnt te midden van een verscherpend verdeeldheid binnen de industrie over de vraag of geavanceerde AI-systemen vrijelijk gedeeld of juist strikt gecontroleerd moeten worden — een debat dat de machtigste spelers in het veld heeft verdeeld en wereldwijd overheden heeft betrokken.

Zuckerberg gebruikte het essay om krachtig te pleiten voor open-source AI — een ontwikkelingsmodel waarbij belangrijke technische componenten vrij beschikbaar worden gesteld voor iedereen om te inspecteren, aan te passen en verder te ontwikkelen. De Meta-topman schetste een toekomst waarin individuen in staat worden gesteld om nieuwe bedrijven op te richten, toegang te krijgen tot begeleiding op Ph.D.-niveau en gepersonaliseerde leefstijladviezen te ontvangen. Hij noemde zijn eigen 8-jarige dochter, die volgens hem al haar ideeën kan coderen en snel video's kan genereren, als bewijs van wat mogelijk aan het worden is.

"Iedereen zal binnenkort uitvindingssuperkrachten hebben," schreef Zuckerberg.

Het essay werd gepubliceerd op dezelfde dag dat Meta de release aankondigde van een nieuw open-source AI-model genaamd Muse Glimmer, dat is ontworpen om op een persoonlijke computer te draaien. Zuckerberg zei ook dat Meta ontwikkelaars toegang zou geven tot een krachtiger model, Muse Spark 1.2. De releases versterken Meta's open-source AI-strategie, die het bedrijf sinds 2023 heeft gevolgd door opeenvolgende generaties van zijn Llama-modelfamilie, waarmee het zich positioneert als de belangrijkste tegenhanger van ontwikkelaars van gesloten systemen in de meest betekenisvolle technologierace van de industrie. Net als andere grote techbedrijven bouwt Meta AI-modellen om zijn eigen platformen aan te sturen — waaronder Instagram en Facebook — en stelt deze beschikbaar aan externe ontwikkelaars die hun eigen toepassingen en functies creëren.

Zuckerberg waarschuwde dat het grootste risico van AI-ontwikkeling ligt in het concentreren van de controle over geavanceerde systemen bij een klein aantal bedrijven, instellingen of overheden. Als de controle over AI-"superintelligentie" te sterk geconcentreerd raakt, zal dat volgens hem leiden tot slechtere uitkomsten voor de meerderheid van de mensen. De oplossing, zo betoogde hij, is ervoor zorgen dat geavanceerde AI "breed wordt verspreid" om miljarden mensen op rechtvaardige wijze te empowermenten.

Zonder specifieke concurrenten bij naam te noemen, leek Zuckerberg een verhulde verwijzing te maken naar bedrijven als OpenAI, Anthropic en Google — rivalen die open-source ontwikkeling niet in dezelfde mate hebben omarmd.

"De meeste andere laboratoria zijn gericht op het bouwen van AI voor bedrijven, overheden of andere instellingen. Als die laboratoria de leiding nemen, zal de machtsbalans in het voordeel van grotere instellingen zijn ten opzichte van individuen," schreef hij.

Het essay trok scherpe kritiek van voorstanders van AI-veiligheid. Anthony Aguirre, voorzitter en CEO van het Future of Life Institute — de organisatie achter de veelbesproken open brief uit 2023 waarin werd opgeroepen tot een pauze op het trainen van AI-systemen die krachtiger zijn dan GPT-4 — wees op recente incidenten waarbij AI-modellen, waaronder die van Meta zelf, in ten minste drie afzonderlijke gevallen andere bedrijven hackten. Hij vroeg: "wat op aarde doet Meta denken dat zij — of wie dan ook — iets kunnen controleren dat exponentieel slimmer, sneller en capabeler is?"

"Het door Meta gekozen pad is uiteindelijk een van menselijke vervanging en ontmachting, maar er is een alternatief, pro-menselijk pad — een pad dat leidt tot individuele ontplooiing en wetenschappelijke doorbraken met controleerbare AI-instrumenten," zei Aguirre. "Wat nu dringend nodig is, is dat overheden een pauze op de ontwikkeling van geavanceerde AI faciliteren en ons op het pro-menselijke pad sturen — voordat het te laat is."

Zuckerberg ging ook in op beleidsmaatregelen om de concurrentiekracht van de VS ten opzichte van rivalen, waaronder China, te behouden. Hij drong er bij de Verenigde Staten en hun bondgenoten op aan om de bouw van energiecapaciteit en infrastructuur die nodig is om AI-ontwikkeling te ondersteunen te versnellen — een zorg die breed binnen de industrie wordt gedeeld, aangezien de snelle uitbreiding van AI-datacenters een groeiende druk op elektriciteitsnetten legt en grote techbedrijven ertoe heeft bewogen te investeren in nieuwe energiebronnen, waaronder kernenergie.

Over het onderwerp "distillatie" — de praktijk van het trainen van een minder krachtig AI-model op de output van een krachtiger model — zette Zuckerberg zich af tegen pogingen om deze techniek te beperken. De Trump-administratie heeft beloofd op te treden tegen Chinese AI-bedrijven die distillatie gebruiken om technische kenmerken uit Amerikaanse modellen te halen. Eerder dit jaar beschuldigde Anthropic China's DeepSeek van het toepassen van deze praktijk.

"Sommigen hebben geprobeerd distillatie als schadelijk voor te stellen, maar ik vind het belangrijk om het principe te beschermen dat je kunt leren van alles wat je kunt observeren," zei Zuckerberg. "Zo werkt de wereld, en de VS zullen niet kunnen leiden als we onszelf op dit front beperken."

Matt Lane, senior beleidsadviseur bij de digitale-rechtenorganisatie Fight for the Future, noemde Zuckerberg "ergerlijk uit de gratie op zijn beste dag," terwijl hij toegaf dat de CEO gelijk heeft over het belang van open-source AI. Lane betoogde dat gedeelde toegang tot open-source AI-systemen dient als een cruciale veiligheidsmaatregel in een wereld waar AI zou kunnen worden gebruikt om elektronische infrastructuur zoals kiessystemen en uitkeringsnetwerken te compromitteren.

Lane waarschuwde echter dat wijdverbreide adoptie van door Meta ontworpen AI-systemen — zelfs volledig open-source systemen — uiteindelijk bovenal Meta zelf zou ten goede komen. "Open-source AI moet worden ondersteund buiten deze zakelijke belangen. Wij, in tegenstelling tot Zuckerberg, hopen op zoveel mogelijk concurrentie," zei hij.