Das australische Parlament zieht die beiden Männer heran, die die mächtigsten KI-Labore der Welt steuern, nachdem ein KI-Agent seine Regierung gehackt hat – eine Entschuldigung plus ein unterstützender Tweet dürfte kaum ausreichen, die Abgeordneten zu beruhigen.

Senatorin Sarah Hanson-Young, die Vorsitzende eines Senatsausschusses zu KI und Rechenzentren, sandte am 27. September schriftliche Einladungen an OpenAI-CEO Sam Altman und Anthropic-CEO Dario Amodei, um am 1. Oktober vor dem Ausschuss in Canberra auszusagen, wie das australische Nachrichtenportal IT News berichtete.

Der Ausschuss untersucht, wie KI-Systeme und die sie betreibenden Rechenzentren australische Gemeinden, Industrien, Wasserversorgung und Stromnetze beeinflussen, und sammelt bei öffentlichen Anhörungen Beweise, bevor er dem Parlament Ergebnisse und Empfehlungen vorträgt. Seine Arbeit erhielt neue Dringlichkeit, als eine Software begann, sich eigenständig in einer staatlichen Gesundheitsdatenbank umzusehen.

Diese Software war ein Agent: ein KI-System, das aus eigener Initiative handeln kann – Webseiten durchsuchen, Dateien abrufen und mehrstufige Aufgaben abschließen –, ohne dass ein Mensch jeden Schritt freigibt.

Am 18. Juni griff ein OpenAI auf das Medicare Statistics Reporting Portal von Services Australia zu und zog nicht-öffentliche aggregierte Gesundheitsstatistiken – über Gruppen hinweg erhobene Zahlen statt einzelner Datensätze – sowie interne Dateinamen. Services Australia ist die Bundesbehörde, die Medicare verwaltet, Australiens staatlich finanzierte Krankenversicherung. OpenAI sagt, es habe den Eindringling am 11. August entdeckt, Canberra aber erst am 10. September informiert – und dann nur per E-Mail an ein öffentliches Postfach. Premierminister Anthony Albanese machte den Vorfall am 23. September öffentlich.

Der Vorfall hat sich zu einem diplomatischen Ärgernis entwickelt. „Heute sprach ich mit OpenAI-CEO Sam Altman, um Australiens äußerste Besorgnis über diesen Vorfall zum Ausdruck zu bringen“, sagte Albanese gegenüber Reportern. „Ich habe auch meine Enttäuschung darüber geäußert, dass das Unternehmen viel zu lange gebraucht hat, um der Regierung mitzuteilen, was geschehen war, und die Art und Weise der Benachrichtigung war ebenfalls inakzeptabel.“

OpenAIs eigene Darstellung ist enger gefasst. „Unsere Überprüfung ergab keine Hinweise darauf, dass auf Patientendaten zugegriffen wurde. Auf die abgerufenen Informationen gehörten aggregierte Gesundheitsstatistiken und interne Dateinamen“, erklärte das Unternehmen. Das Medicare-Portal war eine von mindestens vier australischen Regierungsseiten, die der Agent berührte. OpenAI erklärte seither, es prüfe, wie sich seine Modelle während Training und Tests verhalten, wenn nur wenige Menschen genau hinsehen.

Das ist auch kein Einzelfall. Im Juli entkamen OpenAI-Modelle einer Sicherheits-Testumgebung und nutzten eine zuvor unbekannte Schwachstelle, um ohne Erlaubnis auf Hugging Face und vier weitere Plattformen zuzugreifen. Ähnliche Vorfälle mit Agents von Google und anderen Laboren häuften sich im Laufe des Jahres, was den Australien-Hack zum ersten dokumentierten Fall eines KI-Agents, der eine Regierung hackte, machte.

Eine Teilnahme an der Anhörung am 1. Oktober ist keineswegs sicher, und kein CEO dürfte erscheinen. Die Einladungen sind freiwillig und keine Vorladungen, und da weder Altman noch Amodei australische Staatsbürger sind, besteht keine rechtliche Pflicht zur Teilnahme. Bis zum Versand der Anfragen hatte keines der Unternehmen öffentlich reagiert.

Beide Unternehmen haben jedoch Gründe, es sich mit Canberra nicht zu verscherzen. Jedes hat in diesem Jahr jeweils eigenständig Memoranden of Understanding mit der australischen Regierung unterzeichnet – Rahmenvereinbarungen, die beabsichtigte Kooperationsbereiche vor formellen Verträgen festlegen: Anthropic prüft bis zu 5 Gigawatt Trainingskapazität in New South – die Strom- und Rechenleistung, die zum Aufbau und Betrieb von KI-Modellen nötig ist, in einem Ausmaß, das eine Kleinstadt versorgen könnte –, während OpenAI einen geplanten Campus in Sydney mit dem Rechenzentrumsbetreiber NEXTDC hat.

Keines der Labore kann es sich leisten, die Regierung, die über diese Deals befindet, einfach zu ignorieren.

Quelle: Decrypt