Bill Gates fordert gesetzlich verpflichtende KI-Sicherheitsvorkehrungen, während sich die globalen Investitionen auf über 1 Billion Dollar belaufen
Wichtige Erkenntnisse
- •Bill Gates sagte NBC News, dass KI-Unternehmen sich nicht selbst regulieren sollten, und bat den Kongress, festzulegen, wie Entwickler Risiken überwachen und welche Sicherheitsvorkehrungen sie umsetzen müssen.
- •Gates warnte, dass KI mächtig genug ist, um Ereignisse mit einer Milliarde Todesopfern zu verursachen, wenn fortschrittliche Systeme in falsche Hände geraten, und bezeichnete Compliance-Pflichten zugleich als geringen Aufwand, nicht als Fortschrittsbremse.
- •Die Branchenführer sind gespalten: Anthropics Dario Amodei und OpenAI-CEO Sam Altman sind offen für kollektive Verlangsamung oder Pausen, während Metas Mark Zuckerberg eine Branchenkoordinierung zugunsten individueller Entscheidungen ablehnt.
- •Goldman Sachs prognostiziert globale KI-Investitionen von über 1 Billion Dollar in 2026, darunter rund 581 Milliarden Dollar in den USA, mit kumulierten Ausgaben von nahezu 1,8 Billionen Dollar seit 2022.
- •Der EU AI Act legt bereits Dokumentations-, Urheberrechts- und Transparenzpflichten für Allzweck-KI-Modelle fest und stuft Modelle mit mehr als 10^25 FLOP als systemrelevant ein, während US-Senatsunterhändler eine verbindliche Fürorgepflicht für Entwickler prüfen.
Bill Gates hat gewarnt, dass Unternehmen im Bereich der künstlichen Intelligenz nicht sich selbst überlassen werden sollten, und die Gesetzgeber in Washington aufgefordert, formelle Sicherheitsregeln für die schnell wachsende Branche festzulegen.
Der Microsoft-Mitgründer legte seine Position in einem NBC-News-Interview dar, das am 25. September veröffentlicht wurde, zwei Tage bevor das vollständige Gespräch bei „Meet the Press“ ausgestrahlt wurde. Sein Aufruf zur staatlichen Aufsicht kommt zu einem entscheidenden Zeitpunkt: Goldman Sachs prognostiziert, dass die globalen KI-Investitionen 2026 die Marke von 1 Billion Dollar übertreffen werden. Vor diesem Hintergrund könnten neue Sicherheitsanforderungen erhebliche Folgen für die Entwickler haben, die KI-Systeme bauen, für die Investoren, die sie finanzieren, und für die Unternehmen, die an der Umsetzung der Sicherheitssysteme arbeiten, die zur Durchsetzung neuer Regeln erforderlich sind.
„Niemand hält Selbstregulierung für ausreichend“
Auf die Frage der Moderatorin Kristen Welker, ob der Kongress handeln müsse, antwortete Gates: „Absolut.“
„Niemand hält Selbstregulierung für ausreichend“, sagte Gates. Nach seiner Ansicht sollten Gesetzgeber und Vollzugsbehörden festlegen, wie KI-Unternehmen Risiken überwachen und welche Sicherheitsvorkehrungen sie treffen müssen. Er bezeichnete die daraus entstehenden Pflichten für Entwickler als „ein wenig Aufwand“, nicht als Bremse für den Fortschritt.
Seine Sorge geht weit über den üblichen Missbrauch hinaus. Im Gespräch mit NBC sagte Gates, KI sei „zweifellos mächtig genug, um Ereignisse auszulösen, die, wissen Sie, eine Milliarde Todesopfer verursachen“, insbesondere wenn fortgeschrittene Systeme in die Hände von Personen mit bösen Absichten gelangen.
Die Branchenführer sind sich uneinig, wie weit die Sicherheitsvorkehrungen gehen sollten. Anthropics CEO Dario Amodei hat die Idee einer „vollständigen Verlangsamung oder sogar einer ‚Pause‘“ als extremste Form kollektiver Drosselung angesprochen. OpenAI-CEO Sam Altman hat eine ähnliche Sorge geußert und argumentiert, dass „eine Verlangsamung diesen Aufwand durchaus wert sei“ und dass der Druck, der Konkurrenz voraus zu bleiben, keine Entschuldigung für rücksichtsloses Handeln sein dürfe.
Metas CEO Mark Zuckerberg vertritt die entgegengesetzte Position. In einem Interview mit NBC News sagte er: „Ich glaube nicht, dass wir eine artweite Koordinierung der Branche brauchen.“ Zuckerberg bevorzugt einen Ansatz, bei dem einzelne Labs nur dann bremsen, wenn sie selbst Sicherheitsrisiken sehen. Der Austausch unterstreicht eine tiefere Spaltung an der Branchenspitze darüber, ob KI-Governance sektorweit koordiniert oder den einzelnen Unternehmen überlassen werden sollte. Der Streit ist nicht nur philosophisch: Verbindliche US-Regeln würden für die gesamte Branche gelten, unabhängig von der Haltung einzelner Labs.
Gates will Risiken managen, nicht die Entwicklung stoppen
Gates fordert nicht, dass der Technologiesektor die Entwicklung von KI-Systemen einstellt. In einem Aufsatz, der im August auf seinem Gates-Notes-Blog erschien, schrieb er, dass künstliche Intelligenz „entweder der größte Gleichmacher sein wird, der je erfunden wurde, oder die schlimmste Quelle der Ungerechtigkeit“.
Er fügte hinzu, dass er einem glaubwürdigen Plan für eine koordinierte globale Verlangsamung der KI-Entwicklung wahrscheinlich zustimmen würde, although er bezweifelte, dass ein solcher Plan wirksam sein könnte, angesichts der wirtschaftlichen und politischen Kräfte, die eine Fortsetzung der Entwicklung begünstigen.
Seine Haltung dreht sich also weniger um den Stopp neuer Entwicklungen als um die Vorsorge: die Vorbereitung von Unternehmen, Regierungen und Einzelpersonen auf eine Technologie, die bereits in Bereichen wie Medizin, Recht, Software und Kundenservice Anwendung findet.
Ein 1-Billion-Dollar-Markt wartet auf die Regeln
Die Debatte über Sicherheitsvorkehrungen findet statt, während Kapital in die KI strömt, was die Einsatzhöhe jeder neuen Regulierung erhöht. Goldman Sachs erwartet, dass die globalen KI-Investitionen 2026 1 Billion Dollar übersteigen werden, darunter rund 581 Milliarden Dollar in den USA, während sich die kumulierten Investitionen seit 2022 bis Jahresende 1,8 Billionen Dollar nähern könnten.
Doch die Vorteile sind ungleich verteilt. Microsofts KI-Diffusionsdaten zeigen eine wachsende Kluft zwischen dem Globalen Norden und dem Globalen Süden, während die OECD hervorhebt, dass die KI-Kapazitäten weiterhin auf eine Handvoll Länder und Unternehmen beschränkt sind.
Dieses Ungleichgewicht macht die Regulierung zu einem noch schwierigeren Balanceakt. Stärkere Schutzmaßnahmen könnten Risiken verringern, doch für kleine Labors und weniger wohlhabende Länder könnten die zusätzlichen Kosten der Einhaltung sehr schwer zu tragen sein.
Ein regulatorisches Flickenteppich entsteht bereits
Eine wachsende Zahl von Belegen stützt den Fall für eine strengere Aufsicht. Der Internationale KI-Sicherheitsbericht 2026, der unter der Leitung des Turing-Awardewinners Yoshua Bengio erstellt und von mehr als 100 Experten des Fachgebiets verfasst wurde, beschreibt bestehende Gefahren und die potenziellen künftigen Bedrohungen durch die zunehmenden Fähigkeiten von KI-Systemen.
Regierungen bauen derweil bereits Regeln um diese Risiken auf. Laut TRM Labs entsteht ein neuer globaler „Flickenteppich“ der KI-Regulierung, da Länder unterschiedliche Ansätze bei Governance, Umsetzung und Rechenschaftspflicht verfolgen.
Die Europäische Union verfolgt diese Ziele entschlossener als die meisten anderen Rechtsordnungen. Nach dem EU AI Act müssen Anbieter von Allzweck-KI-Modellen strenge Pflichten in Bezug auf Dokumentation, Urheberrecht und Transparenz über Trainingsdaten einhalten. Modelle, die mehr als 10^25 FLOP verwenden — Gleitkommaoperationen, ein Maß für die Rechenleistung, die zum Trainieren eines Modells eingesetzt wird —, gelten als systemrelevant und unterliegen zusätzlichen Anforderungen an Modellevaluierung, Risikomanagement, Störfallberichterstattung und Cybersicherheit.
Die Compliance-Ausgaben steigen mit der Regulierung. Laut Gartner werden die Ausgaben von Organisationen für die Absicherung von KI bis 2027 um 68,7 % auf fast 4,8 Milliarden Dollar steigen, mit Prognosen von nahezu 7,7 Milliarden Dollar im Jahr 2028.
Washington bewegt sich ebenfalls in Richtung eines robusteren regulatorischen Rahmens. Bislang haben sich die USA in erster Linie auf freiwillige Verpflichtungen einzelner Unternehmen gestützt und nicht auf einen verbindlichen Bundesrahmen, der mit dem der EU vergleichbar wäre. Wie Cryptopolitan berichtete, prüfen Senatsunterhändler eine überparteiliche Initiative zur Festlegung einer „Fürsorgepflicht“ für KI-Entwickler, die es der Regierung ermöglichen könnte, die Freigabe unsicherer Modelle zu verhindern. Bei Genehmigung würde die Maßnahme die von Gates geforderten Sicherheitsvorkehrungen aus dem Bereich freiwilliger Verpflichtungen in rechtlich bindende Verantwortlichkeiten überführen. Die Gespräche befinden sich noch in einem explorativen Stadium, sodass Umfang, Bedingungen und Zeitplan eines verbindlichen US-Rahmens offen bleiben.
