Kalifornien führt die KI-Governance in Richtung unabhängiger Überprüfung

Kaliforniens neue Gesetze zur Prüfung von KI-Systemen deuten auf eine Verschiebung hin: Unternehmen sollen Sicherheitsversprechen nicht mehr nur selbst abgeben, sondern sie durch unabhängige Überprüfungen belegen.

11. September 2026

Seit Jahren sind Unternehmen, die künstliche Intelligenz entwickeln, weitgehend selbst dafür verantwortlich, die Sicherheit ihrer eigenen Systeme zu bewerten. Kalifornien beginnt, diesen Ansatz zu ändern.

Der Gouverneur von Kalifornien, Gavin Newsom, hat diese Woche zwei Gesetze unterzeichnet, die den Weg für unabhängige KI-Prüfungen durch Dritte ebnen. Die Gesetze schaffen einen Rahmen für unabhängige Prüfungen, einschließlich der Frage, wie Drittorganisationen KI-Systeme auf ihre Einhaltung staatlicher Vorschriften bewerten können. Außerdem legen sie Standards für die Unabhängigkeit, Transparenz und Integrität der Prüfer fest.

Die Gesetzgebung folgt auf mehrere Jahre der Entwicklung von KI-Regelungen in Kalifornien. Im Jahr 2023 erließ Newsom eine Executive Order mit Leitlinien für den Einsatz generativer KI durch den Bundesstaat. 2024 verabschiedete der Staat ein umfassenderes Paket von KI-Gesetzen zu Themen wie Deepfakes, Wasserzeichen sowie Kindern und Arbeitnehmern. Im vergangenen Jahr verabschiedete Kalifornien den Transparency in Frontier Artificial Intelligence Act, der Entwickler von Frontier-KI dazu verpflichtet, ihre Sicherheitsrahmen öffentlich offenzulegen und bestimmte kritische Sicherheitsvorfälle zu melden.

Der Zeitpunkt ist bemerkenswert, da Frontier-Systeme zunehmend auf eine Weise agieren, die ihre Entwickler weder erwartet noch autorisiert haben.

OpenAI räumte diese Woche ein, dass im Mai weitere seiner Agenten vom vorgesehenen Verhalten abgewichen seien, Beschränkungen der Sandbox umgangen und nicht autorisierte Aktionen auf mehreren Websites ausgeführt hätten. Das Unternehmen hatte seine Beteiligung an einem der Vorfälle zunächst nicht eingeräumt, später jedoch bestätigt, dass seine Agenten an mehrere Internetseiten geschrieben hatten. Der Vorfall verdeutlicht eine größere Herausforderung, während KI-Systeme autonomer werden: Die Entwickler sind weiterhin weitgehend dafür verantwortlich, das Verhalten ihrer Systeme zu untersuchen und zu erklären.

Anthropic äußerte diese Woche eine ähnliche Sorge und forderte nach einem Vorfall im Juli, bei dem sein Modell Claude Mythos Schutzvorkehrungen umgangen hatte, eine „nachweisbare Anstrengung“, um die Entwicklung von Frontier-KI zu verlangsamen. Der Vorschlag spiegelt die zunehmende Erkenntnis wider, dass Sicherheitsmaßnahmen für KI möglicherweise nachgewiesen und nicht nur versprochen werden müssen.

Auswirkungen auf Unternehmen

Prüfungen durch Dritte sind nicht nur eine Angelegenheit von Aufsichtsbehörden, die KI-Unternehmen kontrollieren. Für Unternehmen könnten unabhängige Prüfungen eine zusätzliche Sorgfaltsebene bei der Bewertung von KI-Anbietern schaffen, insbesondere da autonome Systeme innerhalb von Organisationen zunehmend mehr Verantwortung übernehmen.

Das könnte immer wichtiger werden, da Unternehmen KI-Systemen Zugriff auf sensible Daten, Anwendungen und Arbeitsabläufe gewähren. Wenn unabhängige Bewertungen häufiger werden, könnten Unternehmen, die KI einsetzen, externe Belege dafür erhalten, ob die Angaben von Anbietern zu Sicherheit, Schutz und Governance tatsächlich Bestand haben.

In der nächsten Phase der KI-Governance könnte daher weniger entscheidend sein, was Unternehmen versprechen, und stärker, was sie nachweisen können.

Diese Woche außerdem in den KI-Nachrichten

• Qualcomm entwickelt im Rahmen eines $4B-Deals maßgeschneiderte Chips für Amazon: Der Chiphersteller hat mit Amazon eine umfangreiche Vereinbarung zur Entwicklung maßgeschneiderter KI- und Rechenzentrumschips getroffen. Damit gewinnt Qualcomm einen weiteren Hyperscaler-Kunden, während das Unternehmen sein Engagement im Bereich der KI-Infrastruktur ausbaut. Quelle

• John Deere gewinnt mit neuer KI-Technologie Erkenntnisse aus Daten: Der Agrarkonzern integriert generative KI in seine Plattform für das Farmmanagement und hilft Landwirten dabei, Geräte- und Betriebsdaten in praktische Entscheidungen zu Aussaat, Ernte und Maschinenleistung umzuwandeln. Quelle

• Dell sieht sich bei anhaltend hoher KI-Nachfrage mit zunehmenden Lieferengpässen konfrontiert: Das multinationale Technologieunternehmen kämpft mit wachsenden Lieferengpässen, da die KI-Nachfrage nicht nur Speicher, Datenspeicher und CPUs belastet, sondern auch die Kühlungs-, Netzwerk- und Stromversorgungskomponenten, die für den Bau vollständiger KI-Systeme erforderlich sind. Quelle

• KI-Coding-Startup Cognition jetzt mit $48B bewertet: Der Anbieter von KI-Coding-Lösungen nahm $2 Milliarden bei einer Bewertung von $48 Milliarden auf, während die Begeisterung der Investoren für KI-Coding-Tools anhält. Quelle

• Google investiert $15B in Finnlands KI-Infrastruktur: Der Suchmaschinen- und KI-Konzern plant, $15 Milliarden in Finnlands KI-Infrastruktur zu investieren und seine Rechenzentrumspräsenz auszubauen, da die Nachfrage nach KI-Rechenkapazität weiter wächst. Quelle

• Einblicke in die Gewerkschaftsinitiative der Google-KI-Mitarbeiter zur Stärkung der Unternehmensethik: Beschäftigte von Google DeepMind bemühen sich angesichts ethischer Bedenken über die militärische Nutzung der KI- und Cloud-Technologien des Unternehmens um eine gewerkschaftliche Organisation. Quelle

• Bedrohungsgruppen verbessern mit KI ihre Fähigkeiten für Cyberangriffe: Staatlich verbundene und kriminelle Hacker setzen zunehmend KI und Automatisierung ein, um Angriffe auszuweiten, neue Ziele zu finden und herkömmliche Abwehrmaßnahmen zu umgehen. Quelle

• AWS AI Symposium: TeenTech-Absolventen fordern mehr KI-Kompetenz an Schulen: Absolventen der gemeinnützigen Organisation fordern mehr Vermittlung von KI-Kompetenzen an Schulen, da der Fachkräftemangel weiterhin ein großes Hindernis für die Einführung von KI darstellt. Quelle