Neue Vorschriften für die Entwicklung und Nutzung von Modellen der künstlichen Intelligenz sind nun in der gesamten Europäischen Union durchsetzbar und markieren einen Wendepunkt für die globale KI-Governance.

Das 2024 ursprünglich verabschiedete EU-Gesetz über künstliche Intelligenz wurde in den Mitgliedstaaten am 2. August durchsetzbar. Die Verordnung führt weitreichende Transparenzanforderungen für Organisationen ein, die KI-Systeme einsetzen, und positioniert die EU als weltweit führende Regulierungsbehörde für künstliche Intelligenz. Der Schritt folgt auf den früheren regulatorischen Meilenstein der EU mit der Datenschutz-Grundverordnung (DSGVO) im Jahr 2018, die ebenfalls Regeln etablierte, die viele internationale Unternehmen global übernahmen, um den Zugang zum europäischen Markt zu erhalten — ein Effekt, der oft als der "Brussels Effect" bezeichnet wird.

Laut dem offiziellen AI Act-Portal ist das Gesetz die umfassendste jemals irgendwo auf der Welt verabschiedete KI-Gesetzgebung.

Dennoch werden Durchsetzungsprobleme erwartet. Es gibt keine bestehenden regulatorischen Präzedenzfälle, und die Technologie entwickelt sich weiterhin rasant. Die beträchtlichen finanziellen Ressourcen führender KI-Entwickler und -Anbieter könnten zusammen mit der Besorgnis der US-Regierung über das, was sie als unfaire Behandlung amerikanischer Unternehmen wahrnimmt, zu Spannungen führen. Gleichzeitig entwickeln andere Jurisdiktionen eigene Ansätze — die Vereinigten Staaten haben Durchführungsverordnungen zur KI-Sicherheit erlassen, das Vereinigte Königreich hat internationale KI-Gipfel einberufen und China hat eigene Regeln für generative KI verabschiedet — wodurch die Umsetzung der EU weltweit als vielbeachteter Referenzpunkt gilt.

Trotz dieser Herausforderungen betonten EU-Vertreter, dass die Sicherheit der Nutzer im Zentrum der Gesetzgebung steht.

"As AI grows increasingly capable and integrated into everyday life, the AI Act helps ensure that AI is developed, deployed, and used safely, giving people and businesses across the EU greater confidence in the technology," sagte die EU in einer Erklärung.

Transparenzmaßnahmen treten in Kraft

Mehrere konkrete Transparenzanforderungen sind für in der EU tätige KI-Anbieter nun verbindlich:

• Chatbots und ähnliche Systeme müssen den Nutzern offenlegen, dass sie mit KI interagieren.
• Deepfakes müssen verpflichtend gekennzeichnet werden.
• KI-generierte oder veränderte Inhalte müssen maschinenlesbare Markierungen tragen, damit sie leicht erkannt werden können.

Regeln für General-Purpose-KI eingeführt

Auch die Bestimmungen des Gesetzes für Anbieter von General-Purpose-KI-(GPAI)-Modellen treten in dieser Phase in Kraft. GPAI-Modelle sind definiert als solche, die "can perform many different tasks and can be used in a wide range of tools and services, including AI agents."

Diese Regeln gelten auch für die fortschrittlichsten GPAI-Modelle, die potenziell schädliche systemische Risiken bergen, darunter:

• Chemische, biologische, radiologische und nukleare Zwischenfälle
• Cyberdelikte, einschließlich Fällen von AI acting outside of human control

Zusätzlich müssen Anbieter klare Informationen über die Inhalte offenlegen, mit denen ihre Modelle trainiert wurden.

Strenge Pflichten für Hochrisiko-Anwendungen stehen bevor

Strenge Verpflichtungen für Entwickler von KI in "high-risk"-Anwendungen — darunter Gesundheit, Sicherheit und Grundrechte — sollen ab Dezember des kommenden Jahres durchgesetzt werden. Der gestaffelte Umsetzungszeitplan spiegelt die Komplexität der Anwendung von Regeln über unterschiedliche Risikostufen hinweg wider, von verbotenen Verwendungen wie Social Scoring und bestimmten biometrischen Kategorisierungen bis hin zu Transparenzpflichten für begrenzt riskante Anwendungen und weitgehend unregulierten Anwendungen mit minimalem Risiko.

Reaktion der Branche

Während einige in der Technologiebranche befürchten, dass die Durchsetzung die Entwicklung verlangsamen könnte, haben bereits mehr als 200 Unternehmen den EU-Verhaltenskodex zur Transparenz KI-generierter Inhalte unterzeichnet, einen Rahmen mit Leitlinien für die Erstellung und Kennzeichnung von KI-Ergebnissen. Zu den Unterzeichnern gehören Anthropic, OpenAI, Meta, Microsoft und Google.

Durchsetzungsrahmen

Die Durchsetzung wird vor allem vom kürzlich eingerichteten EU AI Office und den nationalen Behörden in den Mitgliedstaaten übernommen. Das AI Act sieht bei Verstößen gegen verbotene KI-Praktiken Strafen von bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes vor — je nachdem, welcher Betrag höher ist —, mit niedrigeren Bußgeldstufen für andere Kategorien von Verstößen.

"With the AI Act, we [have] established a clear, risk-based and durable framework for trustworthy AI -- one that gives innovators legal certainty while protecting the public interest," sagte Henna Virkkunen, die Vizepräsidentin der Europäischen Kommission für technologische Souveränität, Sicherheit und Demokratie. "As enforcement begins, we are taking an important step toward AI that people and businesses can understand and trust."