Gdy przywódcy czołowych amerykańskich laboratoriów sztucznej inteligencji ostrzegają, że systemy, które sami budują, mogą stanowić zagrożenie dla ludzkości, nasuwa się oczywiste pytanie: co mają do zyskania?

Odpowiedź — według ekspertów, analityków i byłych ewaluatorów rządowych, z którymi rozmawiała Associated Press — może częściowo leżeć w polityce, a częściowo w biznesie. Firmy wyglądają na te, które zabiegają o przychylność opinii publicznej przed wyborami do Kongresu USA, jednocześnie przygotowując się pod kątem znacznych sum, jakie ich laboratoria i inwestorzy mogą zarobić na długo oczekiwanych debiutach giełdowych — pierwszych publicznych oferowanych akcjach (IPO), w ramach których firmy po raz pierwszy sprzedają udział inwestorom publicznym — na niespokojnym rynku.

Prezesi Anthropic i OpenAI niedawno oświadczyli, że najbardziej zaawansowane modele AI w kraju są na tyle potężne, że są niebezpieczne, argumentując, że muszą być regulowane i niezależnie testowane przed udostępnieniem. W rzadkim przejawie jedności obaj przywódcy szkicow niepokojące scenariusze w esejach, postach w mediach społecznościowych i przemówieniach na ONZ.

Przy okazji kształtują debatę o tym, jak ich technologia powinna być kontrolowana. Według ekspertów rozmawiających z AP swoje retoryką firmy wyglądają na zabiegające o przychylność opinii publicznej i wyznaczające warunki własnych protokołów bezpieczeństwa na nieregulowanym rynku.

Rezygnacja staje się okazją komunikacyjną

Te cele mogą nie do końca pokrywać się z intencjami Jacoba Coxona, inżyniera Anthropic, który w tym miesiącu zrezygnował z pracy postem na X, wzywając do wstrzymania rozwoju technologii, aby „ponadludzkie” systemy — AI zdolniejsze od człowieka w większości zadań poznawczych — nie wymknęły się spod kontroli swoich twórców. Firmy jednak potraktowały jego post jako okazję, by wyróżnić własne działania na rzecz bezpieczeństwa i przedstawić się jako ostrożni liderzy rynku — dokładnie wtedy, gdy potrzebują świeżego kapitału przed wejściem na giełdę na Wall Street.

Prezydent Donald Trump z kolei odrzucił potrzebę nowych regulacji AI, określając rozmowy o ryzyku dla ludzkości jako „OSZUSTWO” mające pomóc Chinom.

Rzecznik Anthropic oświadczył, że firma od kilku lat wzywa do regulacji. Rzecznik OpenAI Liz Bourgeois zaznaczyła, że firma niedawno wstrzymała trenowanie swoich najbardziej zaawansowanych modeli.

„Ludzie chcą wiedzieć, że AI jest rozwijana bezpiecznie, a to zaczyna się od tego, co robią firmy takie jak nasza” — powiedziała Bourgeois.

Przeniesienie reflektora

Sarah Shoker, która wcześniej kierowała zespołem geopolityki OpenAI, stwierdziła, że kierowanie rozmowy w stronę nieudowodnionych zagrożeń — a odciąganie jej od problemów podzielających opinię publiczną, takich jak wpływ centrów danych na środowisko, niekontrolowane incydenty hakerskie, masowa inwigilacja z użyciem AI czy wykorzystanie systemów AI w wojnach — sytuuje Dolinę Krzemową w bardziej komfortowej pozycji.

„Znowu mów o ryzyku egzystencjalnym, jednocześnie degradując szereg innych, krytycznych dla bezpieczeństwa ryzyk istniejących dziś” — powiedziała Shoker, obecnie starsza non-resident fellow w Risk & Security Lab Uniwersytetu Kalifornijskiego w Berkeley. „Jeśli spojrzy się na wykorzystanie AI w technologiach wojskowych, widać, że te systemy już teraz służą do zabijania ludzi.”

Gdy firmy AI przeszły od budowania chatbotów do zaawansowanych „modeli świata” ze świadomością 3D — systemów zaprojektowanych do symulowania środowisk fizycznych, a nie tylko generowania tekstu — rozgorzała debata o tym, jak te technologie powinny być testowane. Seria problematycznych incydentów pokazała, że wiodące firmy AI zawodzą w samokontroli i projektowaniu bezpiecznych eksperymentów. W ostatnich miesiącach agenty AI z czołowych laboratoriów włamywały się na zewnętrzne strony internetowe po uzyskaniu możliwości ucieczki z piaskownic treningowych, w nieoczekiwany sposób wchodziły w interakcje ze stronami rządu USA, a gdy wydawało się, że osiągnęły przełom matematyczny, stanęły w obliczu zarzutów kradzieży pracy matematyków.

Przedstawiciele OpenAI powiedzieli niedawno reporterom, że firma rozmawiała z firmami AI, w tym Anthropic i Google, o wstrzymaniu rozwoju. Argumentują również, że jeśli rząd nie będzie regulował branży, potrzebni są niezależni audytorzy do sprawdzania postępów laboratoriów. Czy skoordynowane wstrzymanie w ogóle nastąpi — i na czyich warunkach — pozostaje nierozstrzygnięte.

Sceptyczny Biały Dom i mało znana agencja testowa

Trump przejawiał niewielkie zainteresowanie regulacją AI, która była istotnym motorem ostatniego wzrostu gospodarki USA. Republikański prezydent osobiście zawarł umowy z firmami z Doliny Krzemowej, które ściślej wiążą gospodarkę z ich sukcesami. venture capitalista z San Francisco David Sacks, współprzewodniczący Rady Doradczej ds. Nauki i Technologii Trumpa, odrzucił wezwania do spowolnienia AI jako straszenie ze strony „Kompleksu Przemysłowego Doomera”.

W rzeczywistości administracja Trumpa już teraz ocenia niektóre modele gigantów technologicznych poprzez mało znaną federalną agencję, U.S. Center for AI Standards and Innovation (CAISI). Utworzona w 2023 roku za demokratycznego prezydenta Joe Bidena agencja była okrzyknięta centralą, do której laboratoria mogły dobrowolnieazywać zaawansowane modele AI do testów.

Agencja nadal istnieje, ale branża rozszerzyła się od tego czasu o szereg niezależnych firm ewaluacyjnych, takich jak METR, non-profit z siedzibą w Berkeley w Kalifornii. W niedawnym eseju prezes Anthropic Dario Amodei zasugerował, że METR mogłaby pomóc w weryfikacji praktyk bezpieczeństwa jego firmy.

Mimo to — w przeciwieństwie do regulowanych sektorów, takich jak gastronomia, usługi finansowe czy lotnictwo — nie istnieją uniwersalne standardy testowania bezpieczeństwa systemów AI, powiedział Andrew Strait, który niedawno opuścił brytyjski AI Security Institute, współpracujący z CAISI.

Co istotne, firmy nie wzywają do większego nadzoru ze strony agencji rządowej wyposażonej w narzędzia do obsługi takich wniosków, powiedział Conrad Stosz, który wcześniej kierował CAISI. Zamiast tego zobowiązują się do stworzenia własnych parametrów audytu i wyboru konkretnych ewaluatorów do ich oceny.

Stosz pracuje obecnie w jednym z takich laboratoriów ewaluacyjnych, które testowało systemy dla Anthropic, OpenAI i Google, oraz przewodniczy AI Evaluator Forum, opracowującemu dobre praktyki dla branży. Powiedział, że nawet forum ma pytania o to, czego chcą Amodei i prezes OpenAI Sam Altman.

„Wielu ewaluatorów jest zainteresowanych osadzeniem się w laboratoriach i uzyskaniem większego dostępu, ale trochę niejasne jest, co oznaczają osadzeni ewaluatorzy” — powiedział Stosz, obecnie szef ds. zarządzania w Transluce, która w zeszłym tygodniu ujawniła, że agenty OpenAI zhakowały strony rządowe USA i Australii. „Czy ewaluatorzy będą mogli przeprowadzić gruntowne dochodzenie, zakładając, że dostęp zostanie przyznany w sposób niepodważający ich niezależności i wiarygodności?”

„Mur albo fosa”

W ocenie Harrisona Rolfesa, starszego analityka badawczego PitchBook, wezwania firm AI do ostrożności wyglądają na próbę zdobycia przychylności inwestorów przed debiutami giełdowymi i wyborami do Kongresu, gdy siły polityczne mogą się przesunąć. Demokratyczni gubernatorzy już zabiegają o okazanie, że poważnie traktują ostrzeżenia — co odzwierciedla to, jak przy braku wszechstronnej federalnej ustawy o AI parlamenty stanowe stały się najaktywniejszą areną tworzenia przepisów dotyczących AI w USA.

Jednocześnie, jak powiedział Rolfes, giganci AI mogą blokować rozwój mniejszych konkurentów, pozycjonując się jako najbezpieczniejs wybór — nie tylko dla inwestorów, ale także dla producentów chipów AI i firm technologicznych, takich jak Nvidia i Google, które z kolei korzystają z umów zaopatrujących gigantów AI w moc obliczeniową.

„Tworzą mur albo fosę w tej branży. … To geniusz i wszyscy zarobią mnóstwo pieniędzy” — powiedział Rolfes. „Tak widzę kierunek: największe firmy świata budują własny mur, a bezpieczeństwo używają jako pretekstu.”

Nie wszystkie firmy AI popierają spowolnienie. Prezes Nvidii Jensen Huang powiedział w rozmowie telefonicznej z Trumpem — którą odebrał na scenie podczas konferencji — że zgadza się, iż panika wokół AI była nadmierna, a firmy mogą same wybrać swoje tempo.

Daniel Kokotajlo, który opuścił OpenAI w 2024 roku z powodu obaw podobnych do obaw Coxona, powiedział, że wciąż martwi się, że systemy AI rozwijają się szybciej, niż firmy są w stanie je kontrolować, oraz obawia się scenariuszy egzystencjalnych, takich jak przyspieszenie przez AI tworzenia broni biologicznej, wojny nuklearnej czy innych katastrof.

„Cała ta rozmowa to w rzeczywistości sposób na rozproszenie i przekierowanie nagromadzonej woli politycznej, zamiast faktycznego skierowania jej na coś dobrego” — powiedział Kokotajlo, który obecnie kieruje organizacją wspierającą bezpieczeństwo AI i dodał, że doradzał Coxonowi przed jego rezygnacją. „Tylko proszę, nie róbcie tego, co doprowadzi do zagłady nas wszystkich.”

Ta historia pierwotnie ukazała się na Fortune.com.