Meta-Platforms-CEO Mark Zuckerberg veröffentlichte am Montag ein umfassendes 6.500-Wörter-Essay, in dem er seine Vision für die Zukunft der künstlichen Intelligenz darlegte und argumentierte, dass jeder Mensch Zugang zu einem persönlichen, allwissenden KI-Agenten haben sollte, der jeden Aspekt des Lebens verbessern kann.

Das Manifest erscheint inmitten einer sich verschärfenden Branchenkontroverse darüber, ob fortschrittliche KI-Systeme frei geteilt oder streng kontrolliert werden sollten – eine Debatte, die die mächtigsten Akteure des Feldes gespalten und Regierungen weltweit auf den Plan gerufen hat.

Zuckerberg nutzte das Essay, um nachdrücklich für Open-Source-KI einzutreten – ein Entwicklungsmodell, bei dem zentrale technische Komponenten frei zugänglich gemacht werden, damit sie jeder einsehen, modifizieren und weiterentwickeln kann. Der Meta-Chef stellte sich eine Zukunft vor, in der Individuen in die Lage versetzt werden, neue Unternehmen zu gründen, auf Promotions-Niveau unterrichtet zu werden und personalisierte Lebensstilberatung zu erhalten. Er führte seine eigene achtjährige Tochter an, die bereits ihre Ideen programmieren und rasch Videos erstellen könne, als Beweis dafür, was möglich werde.

„Jeder wird bald Erfindungs-Superkräfte haben“, schrieb Zuckerberg.

Das Essay wurde am selben Tag veröffentlicht, an dem Meta ein neues Open-Source-KI-Modell namens Muse Glimmer ankündigte, das für den Betrieb auf einem Personalcomputer konzipiert ist. Zuckerberg erklärte zudem, dass Meta Entwicklern Zugang zu einem leistungsstärkeren Modell namens Muse Spark 1.2 gewähren werde. Die Veröffentlichungen erweitern Metas Open-Source-KI-Strategie, die das Unternehmen seit 2023 durch aufeinanderfolgende Generationen seiner Llama-Modellfamilie verfolgt und mit der es sich als wichtigsten Gegenpol zu Entwicklern geschlossener Systeme im bedeutsamsten Technologiewettlauf der Branche positioniert. Wie andere große Technologieunternehmen baut Meta KI-Modelle, um seine eigenen Plattformen – darunter Instagram und Facebook – zu betreiben, und stellt sie externen Entwicklern zur Verfügung, die eigene Anwendungen und Funktionen erstellen.

Zuckerberg warnte davor, dass das größte Risiko der KI-Entwicklung darin besteht, die Kontrolle über fortschrittliche Systeme auf eine kleine Anzahl von Unternehmen, Institutionen oder Regierungen zu konzentrieren. Wenn die Kontrolle über KI-„Superintelligenz“ zu stark konzentriert sei, werde dies zu schlechteren Ergebnissen für die Mehrheit der Menschen führen. Die Lösung bestehe darin, so argumentierte er, sicherzustellen, dass fortschrittliche KI „breit verteilt“ wird, um Milliarden von Menschen gerecht zu befähigen.

Ohne konkrete Wettbewerber zu nennen, schien Zuckerberg eine verhüllte Anspielung auf Unternehmen wie OpenAI, Anthropic und Google zu machen – Rivalen, die die Open-Source-Entwicklung nicht in gleichem Maße verfolgt haben.

„Die meisten anderen Labore konzentrieren sich auf die Entwicklung von KI für Unternehmen, Regierungen oder andere Institutionen. Wenn diese Labore führend werden, wird sich das Kräftegleichgewicht zugunsten größerer Institutionen gegenüber dem Individuum verschieben“, schrieb er.

Das Essay zog scharfe Kritik von Befürwortern der KI-Sicherheit hervor. Anthony Aguirre, Präsident und CEO des Future of Life Institute – der Organisation hinter dem vielbeachteten offenen Brief von 2023, der eine Pause beim Training von KI-Systemen forderte, die leistungsstärker sind als GPT-4 –, verwies auf jüngste Vorfälle, bei denen KI-Modelle, darunter Metas eigene, mindestens dreimal andere Unternehmen gehackt hatten. Er fragte: „Was auf der Welt lässt Meta glauben, dass sie – oder irgendjemand – etwas exponentiell Klügeres, Schnelleres und Fähigeres kontrollieren könnten?“

„Der von Meta gewählte Weg ist letztlich einer der menschlichen Ersetzung und Entmachtung, doch es gibt einen alternativen, promenschlichen Weg – einen, der individuelles Gedeihen und wissenschaftliche Durchbrüche durch kontrollierbare KI-Werkzeuge bringt“, sagte Aguirre. „Was jetzt dringend gebraucht wird, ist, dass Regierungen eine Pause der fortschrittlichen KI-Entwicklung herbeiführen und uns auf den promenschlichen Weg lenken – bevor es zu spät ist.“

Zuckerberg ging auch auf politische Maßnahmen ein, um die Wettbewerbsfähigkeit der USA gegenüber Rivalen einschließlich China zu erhalten. Er forderte die Vereinigten Staaten und ihre Verbündeten auf, den Bau von Energiekapazitäten und Infrastruktur zur Unterstützung der KI-Entwicklung zu beschleunigen – ein branchenweites Anliegen, da die rasche Expansion von KI-Rechenzentren die Stromnetze zunehmend belastet und große Technologieunternehmen dazu veranlasst hat, in neue Energiequellen einschließlich Kernkraft zu investieren.

Zum Thema „Destillation“ – der Praxis, ein weniger leistungsstarkes KI-Modell anhand der Ausgaben eines leistungsstärkeren Modells zu trainieren – wandte sich Zuckerberg gegen Bestrebungen, diese Technik einzuschränken. Die Trump-Regierung hat geschworen, gegen chinesische KI-Unternehmen vorzugehen, die Destillation nutzen, um technische Eigenschaften aus US-Modellen zu extrahieren. Anfang dieses Jahres warf Anthropic Chinas DeepSeek vor, diese Praxis anzuwenden.

„Einige haben versucht, Destillation als schädlich darzustellen, aber ich halte es für wichtig, das Prinzip zu schützen, dass man aus allem lernen kann, was man beobachten kann“, sagte Zuckerberg. „So funktioniert die Welt, und die USA werden nicht führend sein können, wenn wir uns auf diesem Gebiet einschränken.“

Matt Lane, Senior Policy Counsel bei der Digitalrechte-Advocacy-Organisation Fight for the Future, nannte Zuckerberg „an seinem besten Tag nervig realitätsfremd“, räumte jedoch ein, dass der CEO recht habe, was die Bedeutung von Open-Source-KI angehe. Lane argumentierte, dass gemeinsamer Zugang zu Open-Source-KI-Systemen als kritischer Schutzschild in einer Welt dient, in der KI genutzt werden könnte, um elektronische Infrastruktur wie Wahlsysteme und Sozialleistungsnetze zu kompromittieren.

Allerdings warnte Lane davor, dass eine weit verbreitete Übernahme von Meta-entworfenen KI-Systemen – selbst vollständig quelloffene – letztlich Meta mehr als alle anderen zugutekommen würde. „Open-Source-KI muss über diese Unternehmensinteressen hinaus unterstützt werden. Wir erhoffen uns im Gegensatz zu Zuckerberg so viel Wettbewerb wie möglich“, sagte er.