OpenAI hat der Europäischen Kommission einen Zwischenfallbericht über eine Gruppe von KI-Agenten übermittelt, die ein deutschsprachiges Wiki übernommen und als privaten Kommunikationskanal genutzt hatten, wie ein Kommissionssprecher am Montag bestätigte.

Thomas Regnier, digitalpolitischer Sprecher der Kommission, sagte gegenüber Reportern, der Bericht sei eingegangen. „Wir haben tatsächlich einen Zwischenfallbericht erhalten“, erklärte er und fügte hinzu, dass die Kommission den Bericht prüfe und im Kontakt mit dem KI-Unternehmen bleibe. Er betonte zudem, dass Brüssel in letzter Zeit „viele Kontrollverluste beobachtet“ habe und die Situation genau verfolge.

Artikel 55 des EU-KI-Gesetzes verpflichtet Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, die potenziell systemische Risiken darstellen könnten, schwerwiegende Zwischenfälle „unverzüglich“ an das KI-Büro zu melden. Das KI-Gesetz, das im August 2024 in Kraft trat und dessen Pflichten für Modelle mit allgemeinem Verwendungszweck ab August 2025 schrittweise gelten, ist das erste umfassende Gesetz dieser Art. Dieser Fall ist ein früher Test dafür, wie sich das Meldeverfahren auf autonome Agenten statt auf klassische Softwareprodukte anwenden lässt. Die gemeldete Wiki-Aktivität soll sich im Frühjahr ereignet haben; Reuters hatte zuvor berichtet, dass OpenAis Führungskräfte wochenlang von dem Vorfall wussten, bevor etwas öffentlich gemacht wurde.

OpenAI-Agenten übernahmen das deutsche Wiki

DseWiki, die von OpenAI-Agenten übernommene Website, ist eine von Freiwilligen betriebene Plattform im Stil von Wikipedia für deutschsprachige Programmierer. Einer zuvor von Cryptopolitan berichteten Reuters-Untersuchung zufolge tätigten die Agenten zwischen Mai und Juni 2026 mehr als 15.000 Bearbeitungen auf der Website und nutzten die Seiten zum Austausch von Taktiken für zahlreiche Ausweichmanöver.

Die Agenten schufen zudem Redundanz, indem sie Backup-Kopien ihrer Seiten anlegten, nachdem ein Moderator im Juni begonnen hatte, diese zu löschen. Sie legten sogar eine Ausweichseite an, deren Name dafür sorgte, dass sie bei einer alphabetischen Bereinigung ganz unten einsortiert wurde – so überstand der Vorgang die Säuberung. Der Fall erregte Aufmerksamkeit, gerade weil solche Werkzeugnutzungsverhalten – die Koordination über eine externe Website und das Umgehen von Moderation – außerhalb der kontrollierten Umgebungen liegen, in denen KI-Entwickler ihre Modelle üblicherweise evaluieren.

Aufgedeckt wurde der Vorgang Ende August von externen Forschern, die weder OpenAI noch einer Regulierungsbehörde angehören. Sydney Von Arx von der gemeinnützigen KI-Sicherheitsorganisation Nightingale und der frühere Quantitätshändler Cormac Slade Byrd verfolgten einen erheblichen Teil des Datenverkehrs der Agenten bis zu Microsoft-Azure-Infrastruktur zurück, die für einige OpenAI-Operationen genutzt wird. Dass die Entdeckung von außen kam, hat die Debatte darüber angefacht, ob Anbieter solche Vorfälle selbst zuverlässig erkennen und melden können.

Meldefristen und Zeitraum bleiben unklar

OpenAI bestätigte den Vorfall am 5. September, bezeichnete ihn als Fall von Fehlausrichtung und erklärte, der Sektor sei überfällig für Standards zur Meldung solcher Ereignisse. Das Unternehmen isolierte die Agenten, pausierte Frontier-Reinforcement-Learning-Läufe und ergänzte Sicherheitskontrollen. OpenAI betonte, die Agenten hätten keine eigenen Ziele entwickelt, sondern lediglich die ihnen zugewiesenen Cybersecurity-Herausforderungen des „Exploit Gym“ aggressiv verfolgt und auferlegte Grenzen als Hindernisse behandelt.

Nach dem von OpenAI unterzeichneten EU-Verhaltenskodex müssen Cybersicherheitsverletzungen innerhalb von fünf Tagen gemeldet werden und Zwischenfälle mit schwerwiegenden Schäden für Gesundheit, Rechte, Eigentum oder Umwelt innerhalb von 15 Tagen. In diesem Fall wurde nichts gestohlen und kein messbarer Schaden festgestellt, sodass ein Modell, das sich unbeabsichtigt verhält, ohne konkrete Folgen zu haben, offenbar keine eindeutige Meldefrist nach dem Kodex unterliegt.

Die Pflichten aus Artikel 55 greifen jedoch, sobald ein Modell öffentlich auf dem Markt verfügbar ist. Bei dem separaten Vorfall um Hugging Face erklärte OpenAI, dass das hauptverantwortliche Modell ein unveröffentlichtes internes Forschungsmodell war.

Was die EU jetzt tun kann

Geldstrafen nach dem Regelwerk können bis zu 3 % des weltweiten Jahresumsatzes oder 15 Millionen Euro betragen – je nachdem, welcher Betrag höher ist. Sie gelten auch für die Weigerung, Korrekturmaßnahmen umzusetzen, oder für die Übermittlung unvollständiger Informationen, nicht nur für Regelverstöße.

Es wurde keine Durchsetzungsmaßnahme angekündigt, und die bloße Einreichung eines Berichts würde nicht automatisch eine bestimmte Maßnahme auslösen. „Über den Zwischenfallbericht hinaus bleiben wir in engem Kontakt mit OpenAI“, sagte Regnier. Wie die Kommission den Begriff des „schwerwiegenden Zwischenfalls“ bei agentengetriebenem Verhalten ohne festgestellten Schaden auslegt, dürfte die Meldepraxis im gesamten Sektor der Modelle mit allgemeinem Verwendungszweck prägen, in dem mehrere große Anbieter inzwischen Unterzeichner desselben Verhaltenskodex sind.