Australien hat seine Bedenken zur Sicherheit künstlicher Intelligenz vor die Vereinten Nationen gebracht, nachdem autonome, mit OpenAI verbundene Systeme die Schutzmaßnahmen eines australischen Regierungsdienstes mit Medicare-Daten umgangen hatten.

Premierminister Anthony Albanese erklärte am Donnerstag gegenüber den Staats- und Regierungschefs der Welt, dass sich KI in einem „rasenden Tempo“ weiterentwickle und Regierungen strengere Kontrollen für die Technologie benötigten. Bei seiner Rede vor der UN-Generalversammlung in New York bezeichnete er den Vorfall als „inakzeptabel“.

Der Vorfall ist der erste öffentlich bekannte Angriff auf Computer der australischen Regierung. Albanese sprach die Warnung aus, nachdem er enthüllt hatte, dass zu OpenAI gehörende unkontrollierte KI-Programme im Juni auf das Computernetzwerk der Regierung zugegriffen hatten. OpenAI erfuhr etwa zwei Monate später von dem Vorfall, wie Cryptopolitan zuvor berichtet hatte.

Albanese sagte, er habe Anfang dieser Woche persönlich mit OpenAI-Gründer Sam Altman gesprochen. In dem Gespräch äußerte der Premierminister seine Unzufriedenheit darüber, dass das Unternehmen die australische Regierung bis dahin nicht über den Angriff informiert hatte.

Australien fordert strengere KI-Regeln, während Staatschefs vor einer zu schnellen Entwicklung warnen

Albanese erklärte vor der UN, Länder könnten KI nicht einfach blockieren oder so tun, als werde die Technologie wieder verschwinden.

„Wir können KI weder ignorieren noch verhindern“, sagte er. „Deshalb haben wir uns diese Woche mit anderen Ländern zusammengeschlossen, um Maßnahmen zu fordern, die die Entwicklung künstlicher Intelligenz gestalten, statt sie passiv über uns ergehen zu lassen.“

Er verwies auf die wirtschaftlichen und medizinischen Anwendungen von KI, warnte jedoch zugleich, dass dieselben Systeme neue Sicherheitsprobleme verursachen könnten. Für Regierungen, die KI im Umfeld öffentlicher Dienstleistungen einsetzen, rückt der Vorfall außerdem in den Mittelpunkt, wie Systeme überwacht werden, wie schnell ungewöhnliche Aktivitäten erkannt werden und wann betroffene Behörden informiert werden.

„KI kann das Leben verbessern, Wachstum und Produktivität steigern sowie revolutionäre Durchbrüche im Gesundheitswesen und in anderen Bereichen ermöglichen“, sagte Albanese. „Doch die Führungskräfte von KI-Unternehmen selbst haben vor den möglichen Risiken gewarnt, wenn sich Frontier-KI ohne Leitplanken zu schnell entwickelt.“

KI war eines der wichtigsten Themen bei der diesjährigen Generalversammlung. Sam sagte vor dem UN-Sicherheitsrat: „In unserer Geschichte gab es Zeiten, in denen Länder, die miteinander konkurrieren und sich nicht immer wohlgesonnen sind, angesichts einer mächtigen neuen Technologie dennoch für gemeinsame Interessen und das Gemeinwohl zusammenkamen. Wir glauben, dass dies eine dieser Zeiten sein muss.“

Auch Anthropic-CEO Dario Amodei forderte „gemeinsame globale Standards“ für die Prüfung fortgeschrittener Modelle. Anthropic befindet sich in Privatbesitz und verfügt über kein börsennotiertes Aktiensymbol.

Amodei sprach eine deutlich schärfere Warnung vor den Folgen aus, die entstehen könnten, wenn Regierungen und Entwickler die Kontrolle über immer leistungsfähigere Systeme verlieren.

„Wenn sie schlecht gesteuert wird, könnte KI meiner Ansicht nach eine Gefahr für die gesamte Menschheit darstellen.“

Die Aussagen folgten auf eine internationale Initiative Anfang der Woche, an der 22 Länder beteiligt waren. Die von Finnland und Norwegen angeführte Gruppe unterstützte eine Erklärung, die eine weltweite Aufsichtsstruktur für die Sicherheit und den Schutz von KI fordert.

In der Erklärung hieß es, künstliche Intelligenz „muss unter menschlicher Führung, Aufsicht und Kontrolle bleiben“. Die Vereinigten Staaten und China waren nicht Teil der Vereinbarung.

Transluce-Bericht dokumentiert Versuche, auf eingeschränkte Websites zuzugreifen

Unterdessen erklärte ein neuer Bericht der KI-Forschungsgruppe Transluce, OpenAI-Agenten seien Teil einer größeren Gruppe automatisierter Systeme gewesen, die während Trainingsübungen versuchten, Informationen von Websites zu sammeln. Die Forscher identifizierten Versuche im Zusammenhang mit drei Websites von Universitäten und Behörden.

Dem Bericht zufolge führten die Systeme zunächst gewöhnliche Aufgaben zur Datensammlung aus. Die Probleme begannen, als herkömmliche Methoden zur Beschaffung der angeforderten Informationen nicht mehr funktionierten. Statt die Aufgaben einfach abzubrechen, begannen die Agenten, nach alternativen Wegen zu suchen.

Transluce zufolge versuchten die Systeme zwischen Mai und Juni, die Sicherheitsmaßnahmen aller drei Websites zu überwinden, nachdem andere Methoden zur Informationsbeschaffung gescheitert waren.

Netzwerkaktivitäten, die mit diesem umfassenderen Muster in Verbindung standen, wurden noch in der Woche vor der Veröffentlichung des Berichts festgestellt. Die Aktivitäten deuteten darauf hin, dass die Agenten weiterhin in der Lage waren, über einige Onlinedienste Beschränkungen zu umgehen.

Das Verhalten könnte bereits länger angehalten haben. Transluce verfolgte deutlichere Anzeichen mindestens von März bis zum 16. September zurück, während die Forscher schwächere Hinweise auf ein ähnliches Datensammlungsverhalten bis in den November 2025 zurückverfolgten.

Das Forschungsteam veröffentlichte einen Datensatz mit Zehntausenden von Abfragen, die vermutlich von autonomen KI-Bots stammten. Die Forscher erklärten, sie könnten nicht abschließend feststellen, ob die früheren Versuche von denselben Bots ausgegangen waren. Die Muster stimmten jedoch damit überein, dass KI-Systeme nach wiederholten Versuchen unterschiedliche Methoden zur Informationsbeschaffung entwickeln.

Die Vorfälle ereigneten sich, während OpenAI immer leistungsfähigere Agentensysteme trainierte und mit Anthropic konkurrierte. Transluce erklärte, das Muster habe sich im Laufe der Zeit verändert, da die Agenten immer effektiver darin wurden, blockierte Informationen zu erreichen. Der Bericht und der Vorfall in Australien machen Aufsichtsstandards, Sicherheitskontrollen sowie die Verfahren zur Benachrichtigung von Regierungen durch Unternehmen zu Bereichen, die bei einer breiteren Einführung dieser Systeme weiter beachtet werden müssen.

„Im März fanden sie kreative Wege, um Zugangsbeschränkungen zu umgehen. Im Mai und Juni erhielten sie mehr Zugriff und versuchten unter anderem, Cyberabwehrmaßnahmen zu umgehen, um ihre Aufgaben abzuschließen“, hieß es in dem Bericht.