Elon Musk chce, aby najbardziej zaawansowane modele AI były recenzowane przed ich wydaniem — ale nie chce, aby to rząd się tym zajmował.

CEO Tesli i SpaceX stwierdził, że wiodące firmy AI powinny współpracować w celu samoregulacji i sygnalizowania obaw dotyczących bezpieczeństwa związanych z najnowocześniejszymi modelami, które wdrażają w coraz szybszym tempie. Musk jest jednym z najbardziej widocznych głosów ostrzegających przed zagrożeniami związanymi z AI od ponad dekady. W 2023 roku był sygnatariuszem otwartego listu Future of Life Institute, który wzywał do sześciomiesięcznej przerwy w trenowaniu systemów AI potężniejszych niż GPT-4 — prośby, której branża nie posłuchała.

"Najbardziej natychmiastową rzeczą, którą możemy zrobić, jest sprawić, by wiodące firmy AI przynajmniej po prostu spotkały się — odbyły jakąś rozmowę — raz na kilka tygodni i po prostu omówiły wszelkie kwestie związane z bezpieczeństwem," powiedział Musk w wywiadzie z redaktor naczelną The Economist Zanny Minton Beddoes, opublikowanym w czwartek.

Musk argumentował, że rząd powinien interweniować tylko wtedy, gdy firma zidentyfikuje problem bezpieczeństwa, którego nie chce naprawić. W przeciwnym razie, udzielenie rywalom tygodnia lub dwóch wczesnego dostępu w celu recenzji nowych modeli pozwoliłoby na to, by "konkurenci mogli nawzajem się kontrolować," powiedział.

"Myślę, że dość trudno jest komuś w rządzie, kto nie ma głębokiego zrozumienia technicznego i nie posuwa granic AI, wiedzieć, czy coś powinno zostać wydane, czy nie," powiedział Musk.

Kiedy Minton Beddoes zapytała, kiedy taki system powinien zostać wdrożony, Musk odpowiedział: "natychmiast," dodając, że nawet sześciomiesięczne opóźnienie byłoby nadmierne biorąc pod uwagę tempo rozwoju AI.

"Jest tak wiele ogłoszeń o przełomach w AI, czasami kilka dziennie," powiedział. "Mam na myśli, ile ich było w zeszłym tygodniu?"

OpenAI, Anthropic, Google i należące do Muska xAI — obecnie część SpaceX — wszystkie wydały nowe modele AI w ciągu ostatniego miesiąca, gdy konkurencja między wiodącymi laboratoriami się zaostrza.

Uwagi Muska padły po ujawnieniu przez OpenAI wcześniej w tym tygodniu, że dwa z jego modeli AI wydostały się z "sandboxa," odizolowanego środowiska testowego bez bezpośredniego dostępu do internetu, i przeniknęły do systemów Hugging Face, platformy open-source do hostowania modeli AI. Zgodnie z wpisem na blogu firmy, modele zadziałały autonomicznie, aby oszukiwać na wewnętrznym teście ewaluacyjnym.

Incydent wzmógł obawy dotyczące rosnących możliwości agentów AI i ich potencjału do autonomicznego przeprowadzania wyrafinowanych cyberataków. Choć wywiad z Muskiem został nagrany w poniedziałek — zanim OpenAI publicznie ujawniło naruszenie — w środowym wpisie na X napisał: "Jesteśmy w Singularity." Komentarz, będący odpowiedzią na wpis innego użytkownika podsumowujący kilka ostatnich osiągnięć AI, w tym incydent z Hugging Face, wydawał się nawiązywać do hipotetycznego momentu, w którym AI przewyższa ludzką inteligencję i napędza zmiany technologiczne w tempie, którego ludzie nie mogą już przewidzieć ani kontrolować.

Eksperci wcześniej mówili Fortune, że zaawansowane modele AI w rękach złośliwych podmiotów stanowią znaczące zagrożenie dla organizacji. Obejmuje to model Mythos firmy Anthropic, który firma początkowo wstrzymała od publicznego udostępnienia ze względu na jego niezwykłą zdolność do odkrywania luk w cyberbezpieczeństwie, jak wcześniej donoszono.

AI umożliwia złośliwym podmiotom przeprowadzanie cyberataków nawet przy minimalnej wiedzy o programowaniu, powiedział Zach Lewis, chief information officer i chief information security officer na University of Health Sciences and Pharmacy w St. Louis. Agenty AI mogłyby dodatkowo obniżyć próg wejścia, automatyzując proces ataku, zauważył Lewis.

W czerwcu prezydent Donald Trump podpisał rozporządzenie wykonawcze, wzywające firmy AI do dobrowolnego udostępnienia rządowi nadzoru nad niewydanymi modelami AI. Rozporządzenie opierało się na szerszym zestawie dobrowolnych zobowiązań w zakresie bezpieczeństwa, które kilka głównych firm AI złożyło w Białym Domu w 2023 roku. Po incydencie z Hugging Face niektórzy ustawodawcy, w tym Rep. Greg Casar (D-Teksas), wezwali do zaostrzenia regulacji AI.

Thomas Wolf, współzałożyciel Hugging Face, powiedział BBC, że atak na jego firmę jest "wezwaniem do przebudzenia" dla branży i ostrzegł, że "to będzie jeden z najczęstszych rodzajów cyberataków, jakie zobaczymy" w przyszłości.

Propozycja Muska dotycząca współpracy między laboratoriami opierałaby się na istniejącym Frontier Model Forum, organie branżowym utworzonym w 2023 roku, za pośrednictwem którego Amazon, Anthropic, Google, Meta, Microsoft i OpenAI dobrowolnie dzielą się informacjami o lukach i zagrożeniach. xAI Muska nie jest członkiem.

Jednakże firmy w Frontier Model Forum nie udostępniają sobie nawzajem niewydanych modeli — luka, którą propozycja Muska bezpośrednio zaadresowałaby.

Niektóre firmy, w tym OpenAI, zapewniły już rządowi wczesny dostęp do niektórych modeli. W wpisie na blogu z końca czerwca, firma stwierdziła: "W ramach naszego bieżącego zaangażowania z rządem USA zaprezentowaliśmy nasze plany i możliwości modeli," przed premierą swojego najnowszego modelu, GPT-5.6 Sol.

OpenAI zaznaczyła w wpisie, że nie oczekuje, iż udostępnianie modeli rządowi przed premierą stanie się standardową praktyką, lecz raczej opisała to jako "podjęcie tego krótkoterminowego kroku, ponieważ wierzymy, że jest to najpewniejsza droga do szerszej dostępności w nadchodzących tygodniach."

Musk przyznał, że sensowna współpraca między wiodącymi firmami AI wymagałaby od niego i CEO OpenAI Sama Altmana odłożenia na bok swoich różnic. Obaj są uwikłani w nasilający się spór, który sięga czasów roli Muska jako współzałożyciela OpenAI w 2015 roku i jego odejścia z organizacji trzy lata później. Ostatnio wymieniali się uszczypliwymi uwagami w mediach społecznościowych i spierają się w sądzie w kwestii sprzeciwu CEO SpaceX wobec przejścia OpenAI z organizacji non-profit na podmiot komercyjny.

"Ostatecznie, jeśli będziemy musieli porozmawiać, to porozmawiamy. Chodzi o odłożenie na bok osobistych różnic dla dobra świata, tego typu rzecz," powiedział Musk.