W tym tygodniu OpenAI poinformowało pracowników, że rozważy spowolnienie prac nad najbardziej zaawansowanymi obszarami sztucznej inteligencji. Dyrektor generalny Sam Altman rozszerzył propozycję na konkurencyjne laboratoria, w tym Anthropic, które niezależnie przyznało, że ryzyko związane z AI rośnie, po tym jak poinformowało, że badacze powiązani z instytucjami państwowymi próbowali wykorzystać modele Claude do badań nad bronią biologiczną.

OpenAI poinformowało, że z powodu obaw dotyczących bezpieczeństwa wstrzymało już część wewnętrznych treningów i spowolniło niektóre prace nad rozwojem modeli. Kolejne ujawniane informacje nasiliły debatę o tym, czy branża AI rozwija się zbyt szybko, szczególnie w sytuacji, gdy obie firmy nadal sygnalizują możliwe oferty publiczne.

Dlaczego Altman chce spowolnić rozwój AI?

Podczas spotkania całej firmy Altman powiedział pracownikom OpenAI, że firma i inne chętne laboratoria mogłyby spowolnić udostępnianie modeli przełomowych. Według źródeł cytowanych przez Bloomberg przyznał, że takie porozumienie miałoby dobrowolny charakter i że nie każda firma zgodziłaby się w nim uczestniczyć. To dobrowolne podejście kontrastuje z późniejszym apelem OpenAI o obowiązkowe przepisy oparte na możliwościach modeli, czyniąc koordynację między konkurującymi laboratoriami oraz zakres ewentualnych wymogów rządowych kluczowymi kwestiami debaty.

Istnieją podstawy do sceptycyzmu wobec dobrowolnych przerw. W marcu 2023 roku Elon Musk, Steve Wozniak i ponad 1 000 innych osób podpisali list otwarty wzywający do sześciomiesięcznego wstrzymania prac nad zaawansowaną AI. Ówczesne doniesienia medialne wskazywały, że uczestniczące w inicjatywie laboratoria ostatecznie nie wdrożyły wspólnie zaproponowanego moratorium. List jest dostępny za pośrednictwem Axios.

Główny naukowiec OpenAI Jakub Pachocki wystosował podobny apel w poście z 6 września, wzywając firmy zajmujące się AI do koordynacji „aby w razie potrzeby spowolnić przyszły rozwój”. Pachocki wyraził nadzieję, że dobrowolne spowolnienia „staną się powszechną praktyką do czasu ustanowienia wspólnych progów bezpieczeństwa”.

W lipcu Altman powiedział, że poinformował przedstawicieli Białego Domu o potrzebie spowolnienia rozwoju AI. Wraz z dyrektorem generalnym Anthropic Dario Amodeiem podpisał wcześniej także jednowierszowe oświadczenie, w którym uznano AI za zagrożenie wyginięciem na skalę społeczną. Oświadczenie opublikowano na stronie AIstatement.com.

Czy modele AI mogą wspierać badania nad bronią biologiczną?

Modele AI rozwinęły się do poziomu, na którym mogą być zdolne do wspierania badań nad bronią biologiczną. Wcześniej w tym tygodniu OpenAI poinformowało, że jego modele rozwiązały problem matematyczny Naviera-Stokesa, choć twierdzenie to przedstawiono w kontestowanych warunkach.

Anthropic wniósł nowy materiał do tej debaty w 154-stronicowym raporcie wywiadu o zagrożeniach, opublikowanym 10 września. Raport opisywał pięć przypadków, w których badacze próbowali wykorzystać możliwości Claude'a do wsparcia prac nad bronią biologiczną. Anthropic poinformował, że próby pochodziły z „nieobsługiwanych regionów” i obejmowały działania mające na celu obejście ograniczeń lokalizacyjnych oraz ukrycie celu aktywności. Firma podała, że usunęła powiązane konta, ale nie wskazała zaangażowanych państw ani instytucji. Sekcja raportu dotycząca niewłaściwego wykorzystania w obszarze biologii jest dostępna na stronie Anthropic.

Rosnące obawy wśród badaczy AI

Raporty pojawiły się w czasie serii publicznych ostrzeżeń ze strony osób pracujących obecnie lub wcześniej związanych z największymi laboratoriami AI. 8 września badacz Jacob Coxon zrezygnował z pracy i oskarżył OpenAI oraz Anthropic o „igranie naszym życiem”. Powiedział, że niektórzy jego koledzy uważają, iż technologia może „zabić nas wszystkich przed końcem dekady”, i ostrzegł przed wyginięciem ludzkości do 2030 roku. Jego post uzyskał ponad 150 milionów wyświetleń.

10 września byli pracownicy Anthropic i Google DeepMind wyrazili podobne obawy i wezwali do większej przejrzystości. Petycja uruchomiona pod koniec lipca w celu ustanowienia mechanizmu spowalniania rozwoju AI zebrała podpisy ponad 1 000 pracowników największych firm z branży AI.

OpenAI wzywa obecnie Kongres do przyjęcia obowiązkowych, opartych na możliwościach modeli zasad bezpieczeństwa obejmujących testowanie, niezależne oceny, cyberbezpieczeństwo i raportowanie incydentów. „Perspektywa rozwoju AI przyspieszanego przez AI wymaga czegoś więcej niż dobrowolnych zobowiązań” — napisał dyrektor ds. globalnych relacji Chris Lehane. Propozycje koncentrują się na tym, jak zaawansowane systemy będą testowane i monitorowane, a nie wyłącznie na tym, czy firmy zgodzą się wstrzymać rozwój.

Kalifornia zareagowała jako pierwsza. Gubernator Gavin Newsom podpisał w środę ustawy SB 813 i AB 1405, podczas gdy powiązana z nimi ustawa AB 1864 ma chronić przed zagrożeniami biologicznymi stwarzanymi przez AI.

W Waszyngtonie senator Bernie Sanders przedstawił projekt ustawy, który wstrzymałby rozwój zaawansowanej AI i zakazał sztucznej superinteligencji. W rozmowie z BBC powiedział, że lekceważenie ostrzeżeń naukowców uczyniłoby z kogoś „idiotę”.

Prezydent Donald Trump sprzeciwił się takiemu podejściu, mówiąc w czwartek, że obawia się, iż „jeśli nie wygramy w AI, znajdziemy się w bardzo złej sytuacji”.

Pierwotnie opublikowano w Cryptopolitan.