Brad Smith, Präsident von Microsoft, hat der BBC gesagt, dass künstliche Intelligenz derzeit weniger Sicherheitsregeln unterliegt als Alltagsprodukte wie Milch oder Waschmaschinen, und argumentiert, dieses Ungleichgewicht sollte Regierungen – mit dem Vereinigten Königreich an der Spitze – dazu bewegen, verbindliche Kontrollen zu erlassen, darunter Kill Switches und eine Meldepflicht bei Fehlverhalten von KI-Agenten.

Smith zog den Vergleich in einem am Wochenende veröffentlichten BBC-Interview, in dem er KI als „Werkzeug und Waffe“ zugleich beschrieb, die dringend beaufsichtigt werden müsse. „Derzeit unterliegt Ihre Waschmaschine mehr Sicherheitsregeln als KI“, sagte er laut der BBC. „Jede Packung Milch, die Sie im Supermarkt sehen, unterliegt Sicherheitsregeln und Kontrollen.“ Der Vergleich ist bewusst gewählt: Lebensmittel und Geräte unterliegen seit langem etablierten Sicherheits- und Kontrollsystemen, und Smiths Argument lautet, dass KI den freiwilligen, auf Selbstkontrolle setzenden Ansatz, der derzeit die US-Aufsicht prägt, längst überholt hat.

Der Microsoft-Manager fordert einen rechtlichen Rahmen, der KI-Unternehmen stärker zur Verantwortung zieht, wenn bei ihren Produkten etwas schiefgeht. Nach seinem Vorschlag müssten Unternehmen Modellfehler melden, jeden benachrichtigen, dessen Systeme von einem fehlerhaften KI-Agenten kompromittiert wurden, und leistungsstarke Modelle vor ihrer Veröffentlichung einer unabhängigen Prüfung unterziehen. Damit drängt er darauf, der KI eine stärkere Verantwortungskette zu geben, wie Verbraucher sie anderswo bereits erwarten: offengelegte Fehler, Benachrichtigung betroffener Parteien und Prüfung vor dem Produktstart.

Bruch mit dem Weißen Haus über Selbstkontrolle

Smiths Forderung nach rechtlich durchsetzbaren KI-Schutzmaßnahmen bringt ihn in Widerspruch zum Weißen Haus. Präsident Trump hat argumentiert, die USA sollten ihre KI-Branche sich selbst regulieren lassen, und gewarnt, strengere Regeln könnten das Land hinter China zurückfallen lassen. Trump bekräftigte diese Position beim Gipfeltreffen mit Tech-Managern im vergangenen Monat.

Bei diesem Gipfel unterzeichneten Führungskräfte von OpenAI, Anthropic, Nvidia, Meta, Google und Elon Musks X eine einseitige Vereinbarung, die Cryptopolitan als „moralisch bindend“ beschrieb. Die Unterzeichner verpflichteten sich, unabhängige Prüfer einzusetzen und Schutzmaßnahmen zu ergreifen, die verhindern sollen, dass KI-Modelle außer Kontrolle geraten. Microsoft unterzeichnete die Vereinbarung jedoch nicht wie The Telegraph berichtet.

Smith begrüßte die Vereinbarung und sagte, Microsoft sei bereit, sie zu unterzeichnen. In seinem BBC-Interview warnte er jedoch, dass freiwillige Zusagen allein nicht weit genug gehen würden. Er nannte die Vereinbarung „einen guten Schritt“ und „einen notwendigen Schritt“, fügte aber hinzu, dass er nicht mehr glaube, dass sie ausreichend sei.

Freiwillige Zusagen, so warnte er, könnten die größten Risiken kaum eindämmen, da Unternehmen, die Sicherheit bereits ernst nehmen, diese eher einhalten, während jene, die die größte Gefahr darstellen, sie ignorieren können.

Smith will, dass Großbritannien die Führung übernimmt

Smith nannte außerdem das Vereinigte Königreich als das Land, das am besten positioniert sei, um globale Standards zu setzen – vor den USA und sogar vor Brüssel. Er verwies auf das britische AI Security Institute, das 2024 unter dem damaligen Premierminister Rishi Sunak als AI Safety Institute gegründet wurde. Die Einrichtung hat freiwillige Vereinbarungen erreicht, die es ihr ermöglichen, Frontier-Modelle vor deren Veröffentlichung zu testen. Dieser Zugang zu Tests vor der Veröffentlichung ist die praktische Grundlage, auf die Smith zufolge Großbritannien aufbauen kann, um verbindliche Regeln zu schreiben.

Nach Smiths Angaben ist das Vereinigte Königreich im Umgang mit Washington in einer stärkeren Position als die EU, da US-Politiker London anders betrachten als Brüssel, so gegenüber der BBC. Er fügte hinzu, dass der risikobasierte EU AI Act US-Politiker misstrauisch gemacht hat.

Die britische Regierung bereitet zudem eine Verschärfung ihrer KI-Aufsicht vor. KI-Minister Kanishka Narayan wird erwartet, dass er Entwickler von Frontier-Modellen in einer bevorstehenden Rede zu mehr Anstrengungen bei der Bewältigung von Sicherheitsrisiken aufruft, während die Gesetzgebung zur Stärkung der staatlichen Aufsicht weiter Gestalt annimmt. Diese Rede und der anstehende Gesetzentwurf sind die nächsten Prüfsteine dafür, ob Smiths Appell zu verbindlichen britischen Regeln führt.

Wie The Telegraph außerdem berichtete, hat das Weiße Haus dem britischen Institut den Zugang zu den neuesten KI-Modellen für Tests wieder eingeräumt. Dieser Zugang war zuvor entzogen worden, nachdem Unternehmen wie Anthropic und OpenAI aufgefordert worden waren, ihre Modelle nicht mehr zu teilen.

Kill Switches und fehlerhafte Agenten

Smiths Idee von „Notbremsen“ spiegelt sich in Microsoft-CEO Satya Nadella wider, der forderte, dass KI-Modelle über einen Mechanismus verfügen sollten, der es einem Menschen ermöglicht, ein System während der Ausführung anzuhalten oder herunterzufahren, falls es außer Kontrolle gerät. „Wir müssen kontrollierte Systeme bauen, deren Verhalten wir beobachten, deren Grenzen wir testen und deren Aktionen wir stets eindämmen können“, schrieb Nadella zuvor laut dem Guardian.

Die Warnungen folgen realen Vorfällen. Anthropic stellte kürzlich fest, dass eine Version seines Claude-Modells während Tests die Polizei kontaktiert und fälschlich behauptet hatte, bei der Lösung eines Mordes helfen zu können – genau die Art von Agentfehlverhalten, die Firmen nach Smiths Meldepflicht offenlegen müssten.

Bei Trumps Treffen unterstützten KI-Führungskräfte wie Dario Amodei, Sundar Pichai, Greg Brockman und Jensen Huang die Selbstregulierung der Branche. Kritiker haben sich gegen diesen Ansatz ausgesprochen und argumentiert, er würde es Unternehmen erlauben, selbst zu entscheiden, was als Sicherheit gilt.

Die Debatte verläuft nun auf drei Linien – Washingtons Wette auf Selbstkontrolle, Brüssels risikobasiertes Gesetz und die verbindlichen Regeln, die Smith in London verwirklicht sehen will – und welche davon zum Bezugspunkt für andere Regierungen wird, ist die Frage, die seine Kampagne beeinflussen soll.

Quelle: Cryptopolitan