Microsoft-Präsident sagt: Milch unterliegt stärkerer Regulierung als KI – und fordert globale Regeln
Wichtige Erkenntnisse
- •Microsoft-Präsident Brad Smith hat eine dringende globale KI-Regulierung gefordert, darunter unabhängige Prüfstellen, gesetzlich vorgeschriebene Incident-Reports, Opferbenachrichtigung bei Kompromittierung und einen Not-Aus-Mechanismus.
- •Smith argumentierte, dass KI weniger Sicherheitsanforderungen unterliegt als alltägliche Konsumgüter wie Waschmaschinen und Milch.
- •Er bezeichnete Großbritannien – unter Verweis auf das beim KI-Sicherheitsgipfel 2023 in Bletchley Park gegründete AI Security Institute – als am besten positioniert, die KI-Regulierung anzuführen.
- •Großbritannien überwacht KI derzeit über bestehende Aufsichtsbehörden mit nicht-gesetzlichen Prinzipien, während die EU das erste umfassende KI-Gesetz der Welt mit risikobasierten Pflichten einführt.
- •Großbritanniens KI-Minister Kanishka Narayan erklärte, das Land würde eine Regulierung fortschrittlicher KI-Modelle prüfen, falls das aktuelle freiwillige System unzureichend bleibt.
LONDON — Microsoft-Präsident Brad Smith hat eine dringende globale Regulierung der künstlichen Intelligenz gefordert, einschließlich unabhängiger Prüfstellen, die neue Entwicklungen begutachten können, mit dem Hinweis, dass KI derzeit weniger Sicherheitsanforderungen unterliegt als Milch.
In einem am Montag veröffentlichten Interview mit der BBC erklärte Smith, es brauche einen Satz globaler Sicherheitsregeln, darunter die Anforderung, dass ein "Opfer" informiert wird, wenn sein System durch einen nicht autorisierten KI-Agenten kompromittiert wird, und dass ein "Not-Aus" verfügbar sein müsse.
Außerdem sollten Unternehmen gesetzlich verpflichtet sein, "Incident-Reports" zu erstellen.
"Wir wissen, wie man das für andere Produkte macht", sagte Smith. "Wir sollten auf dieses Wissen aufbauen und darüber nachdenken, wie wir es auf KI anwenden können."
"Im Moment unterliegt Ihre Waschmaschine mehr Sicherheitsregeln als KI. Jeder Milchkarton, den Sie im Supermarkt sehen, unterliegt Sicherheitsregeln und Kontrollen."
Technologieunternehmen wie Anthropic und OpenAI haben begonnen, nicht autorisiertes oder unerwünschtes Verhalten von KI-Agenten offenzulegen – Teil einer globalen Debatte über die rasant fortschreitende Technologie, zu der auch Warnungen von Forschern vor einer möglichen existenziellen Bedrohung der Menschheit gehören. Microsoft selbst ist einer der bedeutendsten Förderer von OpenAI, mit einer milliardenschweren Investitions- und Technologiepartnerschaft, die die Modelle des Startups in seine Produkte integriert.
Einige Unternehmen haben gefordert, die KI-Entwicklung zu verlangsamen, was jedoch eine Debatte darüber ausgelöst hat, ob Führungskräfte persönliche Beweggründe haben – etwa Regeln zu setzen, die den Vorsprung ihrer Firmen sichern, eine breitere staatliche Gegenreaktion abzuwenden oder schlicht das atemberaubende Ausgabentempo zu drosseln.
Smith sagte, Großbritannien sei das am besten positionierte Land, um bei der KI-Regulierung führend zu sein, und verwies auf das AI Security Institute, das unter dem ehemaligen Premierminister Rishi Sunak beim KI-Sicherheitsgipfel von 2023 in Bletchley Park ins Leben gerufen wurde. Er fügte hinzu dass Beamte in Washington London völlig anders sähen als Brüssel, das KI über den AI Act nach Risikostufe reguliert – dem ersten umfassenden KI-Gesetz der Welt, dessen Pflichten schrittweise eingeführt werden.
Großbritanniens Institut erhält im Rahmen freiwilliger Vereinbarungen Pre-Deployment-Zugang zu den großen KI-Modellen, was ihm ermöglicht, deren Fähigkeiten und Risiken zu bewerten. Großbritannien hat die KI bislang über bestehende Aufsichtsbehörden überwacht, die nicht-gesetzliche Prinzipien anwenden, statt über ein eigenes KI-Gesetz.
KI-Minister Kanishka Narayan hat Reuters mitgeteilt, dass Großbritannien eine Regulierung fortschrittlicher Modelle prüfen würde, falls sich das aktuelle System als unzureichend erweist.
— Reuters
