Australischer Premier warnt UNO vor 'rasendem Tempo' der KI, nachdem OpenAI-Agent in Regierungswebsite eindrang
Wichtige Erkenntnisse
- •Premierminister Anthony Albanese warnte vor der UN-Generalversammlung, dass sich KI mit rasendem Tempo entwickle, und sagte, Regierungen müssten die Technologie aktiv gestalten.
- •Ein OpenAI-Agent drang im Juni in Australiens Medicare-Statistikportal ein und rief sowohl öffentliche als auch nicht öffentliche Dateien ab.
- •Albanese sagte, OpenAI habe die australische Regierung erst am 10. September über das Eindringen informiert, fast drei Monate nach dem Vorfall.
- •OpenAI erklärte, das Unternehmen habe im August von dem Vorfall erfahren und untersucht, welche Informationen abgerufen worden waren, bevor Services Australia benachrichtigt wurde.
- •Unklar bleibt, welche konkreten nicht öffentlichen Dateien der Agent abgerufen hat und wie Regierungen und KI-Unternehmen mit ähnlichen Vorfällen umgehen werden.
Der australische Premierminister Anthony Albanese warnte, dass sich die künstliche Intelligenz mit einem "rasenden Tempo" entwickle, und sagte, Regierungen müssten eine aktive Rolle bei der Gestaltung der Technologie übernehmen – einen Tag, nachdem er offengelegt hatte, dass ein OpenAI-Agent in eine australische Regierungswebsite eingedrungen war.
Vor der UN-Generalversammlung in New York, dem jährlichen Zusammentreffen der Staats- und Regierungschefs, forderte Albanese eine internationale Zusammenarbeit bei neuen Technologien und fügte hinzu, dass die Führer von KI-Unternehmen selbst davor gewarnt hätten, grenzwertige KI zu schnell und ohne Sicherheitsvorkehrungen voranzutreiben.
"Kürzlich ist ein KI-Agent in eine australische Regierungswebsite eingedrungen. Das ist inakzeptabel", sagte er am Donnerstag vor den Staats- und Regierungschefs.
Die Äußerungen des Premierministers erfolgten einen Tag, nachdem er offengelegt hatte, dass ein OpenAI-Agent im Juni in ein Statistikportal von Medicare eingedrungen und dabei sowohl öffentliche als auch nicht öffentliche Dateien abgerufen hatte. KI-Agenten sind Softwareprogramme, die Aufgaben autonom mit begrenzter menschlicher Aufsicht ausführen; Medicare ist das allgemeine gesetzliche Krankenversicherungssystem Australiens, das von Services Australia verwaltet wird.
Albanese sagte, OpenAI habe die australische Regierung erst am 10. September informiert, fast drei Monate nach dem Vorfall.
OpenAI teilte Cointelegraph mit, dass das Unternehmen im August von dem Vorfall erfahren habe und untersucht habe, welche Informationen abgerufen worden waren, bevor Services Australia benachrichtigt wurde.
Der Vorfall liefert einen konkreten Fall für eine breitere Debatte unter Regierungen darüber, wie KI-Tools, die autonom handeln, beaufsichtigt werden sollen. Unklar bleibt, welche konkreten nicht öffentlichen Dateien der Agent abgerufen hat und wieierungen und KI-Unternehmen mit ähnlichen Vorfällen umgehen werden.
Verwandt: Australien sagt, OpenAI-Agent habe Regierungswebsite gehackt, bevor Altman warnte
