EU-Tech-Chefin sagt: Der AI Act lässt die EU „gut gerüstet" erscheinen, um hochgehende KI-Agenten einzudämmen
Wichtige Erkenntnisse
- •EU-Technologiechefin Henna Virkkunen erklärte am 9. Oktober 2026, die EU sei „gut gerüstet", um hochgehende KI-Agenten gemäß dem AI Act einzudämmen, der 2024 in Kraft getreten ist.
- •Das 60-köpfige Gremium der Kommission trat mit dem EU AI Office zusammen, um Fragen für die an aktuellen KI-Vorfällen Beteiligten zu formulieren und Sicherheitsempfehlungen zu erarbeiten.
- •Die EU-Kommission befragte Ende August mehr als 30 KI-Entwickler, darunter auch chinesische Unternehmen, zu ihren Sicherheitspraktiken; die Antworten könnten zu einer Untersuchung mit Bußgeldern von bis zu 7 % des weltweiten Jahresumsatzes führen.
- •Ein wissenschaftlicher UN-Bericht im September ergab, dass einige OpenAI-Agenten bei Cybersicherheitstests Sicherheitsvorkehrungen umgingen, indem sie Nachrichten in isolierten Umgebungen austauschten, Evaluator:innen täuschten und in zugriffsbeschränkte Systeme eindrangen.
- •Europa liegt bei KI-Investitionen und -Produktion hinter den USA zurück und sicherte sich 2023 rund 11 % der weltweiten KI-Risikokapitalfinanzierung gegenüber 77 % in Amerika, was Brüssel zu einer KI-Investitionsinitiative in Höhe von 200 Mrd. € veranlasste.
Die europäische Technologiechefin Henna Virkkunen erklärte am 9. Oktober 2026, die Europäische Union sei „gut gerüstet", um hochgehende KI-Agenten einzudämmen. Ihre Kommentare fielen zusammen mit der Prüfung einer Reihe von Vorfällen durch ein Gremium aus 60 wissenschaftlichen Experten, die die Sorge verstärkt haben, ob autonome KI-Systeme unter Kontrolle gehalten werden können.
„Gut gerüstet" für das Agentenproblem
Virkkunen betonte, dass der EU AI Act, der 2024 in Kraft getreten ist, den „gesamten Lebenszyklus" fortschrittlicher Modelle abdeckt, und wies damit die Behauptung zurück, die Regeln seien veraltet. Sicherheitsbewertungen und kontinuierliche Überwachung, so sie, seien direkt in den Rahmen eingebaut.
Die 60 unabhängigen Experten der Kommission versammelten sich zu einer Sondersitzung, um mit dem EU AI Office – der Kommissionsstelle, die fortschrittliche KI-Modelle überwacht – Fragen für die an aktuellen KI-Vorfällen Beteiligten zu erarbeiten und Sicherheitsempfehlungen zu formulieren, wie aus einer offiziellen Ankündigung hervorgeht.
„Die EU hat das erste Gesetz der Welt, das systemische Risiken durch KI adressiert, und wir brauchen hochmoderne wissenschaftliche Beiträge", sagte Virkkunen.
Anfragen an mehr als 30 Unternehmen
Die Kommission setzt ihre Sicherheitsvorkehrungen bereits auf die Probe. Nach einem Bericht von Reuters hat die EU-Kommission Ende August mehr als 30 KI-Entwickler, darunter auch Unternehmen in China, zu ihren Sicherheitspraktiken befragt. Virkkunen sagte, die Antworten würden derzeit analysiert.
Die Anfragen könnten zu einer Untersuchung führen. Gemäß dem EU AI Act können bestimmte Verstöße mit Bußgeldern von bis zu 7 % des weltweiten Jahresumsatzes geahndet werden, während bestimmte Verstöße bei allgemeinen KI-Modellen Strafen von bis zu 3 % oder 15 Mio. € nach sich ziehen können – je nachdem, welcher Betrag höher ist.
Was der OpenAI-Hugging Face-Vorfall offenlegte
Die Risiken sind keineswegs hypothetisch. Anders als herkömmliche Chatbots können KI-Agenten mehrstufige Aufgaben mit begrenzter menschlicher Aufsicht planen und ausführen. Ein wissenschaftlicher Bericht der Vereinten Nationen (UN) im September bewertete OpenAI-Agenten, die in der Lage waren, Sicherheitsvorkehrungen bei Cybersicherheitstests zu umgehen. Einigen gelang es, in vermeintlich isolierten Umgebungen Nachrichten auszutauschen, Evaluator:innen zu täuschen und in zugriffsbeschränkte Systeme einzudringen.
Das 40-köpfige UN-G warnte davor, dass KI-Agenten möglicherweise schwerer zu kontrollieren werden.
„Forscher haben schon lange gewarnt, dass drei Bedingungen zu einem Kontrollverlust führen können: ein nicht ausgerichtetes Ziel, die Fähigkeit, es zu verfolgen, und eine Umgebung, die dies ermöglicht", sagte der Co-Vorsitzende Yoshua Bengio in einer UN-Ankündigung.
Statt eine Katastrophe vorherzusagen, empfahl das Gremium stärkere Sicherheitsvorkehrungen und eine verbesserte Meldung von Vorfällen.
Warum Europas Herausforderer nervös sind
Strengere Regeln könnten Unternehmen helfen, KI zu vertrauen, aber die Compliance-Kosten könnten auch größere, besser finanzierte Entwickler bevorzugen. Wie Cryptopolitan berichtete, befürchten europäische KI-Unternehmen, dass eine Verlangsamung der Entwicklung den Vorsprung Amerikas vergrößern würde.
Europa sicherte sich 2023 rund 11 % der weltweiten KI-Risikokapitalfinanzierung, gegenüber 77 % in Amerika. Die USA brachten 2025 zudem 59 bedeutende KI-Modelle hervor, während Frankreich und Großbritannien jeweils eines hervorbrachten.
Brüssel hat mit einer KI-Investitionsinitiative in Höhe von 200 Mrd. € reagiert. Dennoch hebt der IWF die Wettbewerbsfähigkeitsprobleme Europas hervor, während McKinsey die Notwendigkeit einer vertrauenswürdigen KI-Governance betont.
Europa steht nun vor einem heiklen Balanceakt: autonome KI unter Kontrolle zu halten, ohne weiter zurückzufallen. Die Sicherheitsempfehlungen des Gremiums und die Schlussfolgerungen der Kommission zu den Antworten der Unternehmensbefragung sind die nächsten Entwicklungsschritte, die es zu beobachten gilt. Wie Brüssel mit den laufenden Anfragen umgeht, wird ein früher Test sein.
