Parlament Australii wzywa dwóch ludzi stojących na czele najpotężniejszych laboratoriów sztucznej inteligencji na świecie po tym, jak agent AI włamał się do rządu — a przeprosiny i wspierający tweet raczej nie wystarczą, by uspokoić ustawodawców.

Senator Sarah Hanson-Young, przewodnicząca senackiej komisji badającej sztuczną inteligencję i centra danych, wysłała 27 września pisemne zaproszenia do CEO OpenAI Sama Altmana i CEO Anthropic Dario Amodei z prośbą o stawienie się przed komisją w Canberze 1 października — jak podał australijski portal IT News.

Komisja bada, jak systemy AI i centra danych, które je zasilają, wpływają na australijskie społeczności, przemysł, zasoby wody i sieci energetyczne, zbierając dowody podczas publicznych przesłuchań, by następnie przedstawić wnioski i rekomendacje Parlamentowi. Jej praca nabrała nowej pilności, gdy oprogramowanie zaczęło samodzielnie przeglądać rządową bazę danych zdrowotnych.

To oprogramowanie było agentem: systemem AI zdolnym do działania na własną inicjatywę — przeglądania stron internetowych, pobierania plików i realizowania wieloetapowych zadań — bez zatwierdzania każdego kroku przez człowieka.

18 czerwca agent OpenAI uzyskał dostęp do Medicare Statistics Reporting Portal prowadzonego przez Services Australia, pobierając niepubliczne zagregowane statystyki zdrowotne — dane opracowywane dla grup, a nie pochodzące z indywidualnych dokumentacji — oraz nazwy wewnętrznych plików. Services Australia to federalna agencja administrująca Medicare, publicznie finansowanym systemem ubezpieczeń zdrownych Australii. OpenAI twierdzi, że wykryło włamanie 11 sierpnia, ale nie powiadomiło Canbery do 10 września — i to wyłącznie e-mailem na publiczną skrzynkę. Premier Anthony Albanese upublicznił incydent 23 września.

Ta sprawa stała się dyplomatycznym problemem. „Dziś rozmawiałem z CEO OpenAI, Samem Altmanem, aby wyrazić skrajne zaniepokojenie Australii tą sprawą” — oświadczył Albanese reporterom. „Wyraziłem również rozczarowanie, że firma potrzebowała aż tak dużo czasu, by poinformować rząd o tym, co się wydarzyło, a charakter sposobu, w jaki dokonano powiadomienia, był nie do przyjęcia.”

Samo OpenAI przedstawia węższą wersję wydarzeń. „Nasza analiza nie wykazała dowodów na dostęp do dokumentacji pacjentów. Uzyskane informacje obejmowały zagregowane statystyki zdrowotne oraz nazwy wewnętrznych plików” — oświadczyła firma. Portal Medicare był jedną z co najmniej czterech australijskich stron rządowych, do których dotarł agent. OpenAI poinformowało później, że analizuje, jak jego modele zachowują się podczas treningu i testów, gdy nadzór ludzki jest ograniczony.

To nie jest też odosobniony incydent. W lipcu modele OpenAI wydostały się z piaskownicy testów bezpieczeństwa i wykorzystując wcześniej nieznany błąd oprogramowania, uzyskały nieautoryzowany dostęp do Hugging Face i czterech innych platform. Podobne incydenty z udziałem agentów od Google i innych laboratoriów kumulowały się przez cały rok, co czyni australijskie włamanie pierwszym udokumentowanym przypadkiem włamania agenta AI do rządu.

Obecność na przesłuchaniu 1 października jest w dużej mierze niepewna, a żaden z CEO raczej się nie stawi. Zaproszenia mają charakter dobrowolny, a nie są wezwaniem sądowym, i ponieważ ani Altman, ani Amodei nie są obywatelami Australii, żaden z nich nie ma prawnego obowiązku stawiennictwa. Do momentu wysłania zapytań żadna z firm nie odpowiedziała publicznie.

Obie firmy mają jednak powody, by pozostawać w dobrych relacjach z Canberą. Każda z nich podpisała w tym roku odrębnie memorandum porozumienia — umowy ramowe określające zamierzone obszary współpracy przed zawarciem formalnych kontraktów — z rządem Australii: Anthropic bada możliwość budowy do 5 gigawatów mocy treningowej w Nowej Południowej Walii — czyli energii i sprzętu komputerowego potrzebnego do budowania i uruchamiania modeli AI, na skalę zdolną zasilić małe miasto — natomiast OpenAI planuje kampus w Sydney wspólnie z operatorem centrów danych NEXTDC.

Żadnemu z tych laboratoriów nie wolno po prostu zignorować rządu, który obecnie rozpatruje te umowy.

Źródło: Decrypt