OpenAI zapytało członków Kongresu, czy konkurujące firmy zajmujące się sztuczną inteligencją mogłyby legalnie uzgodnić spowolnienie rozwoju, podało WIRED. Działania te podjęto, gdy główny naukowiec OpenAI, Jakub Pachocki, wezwał branżę do ustanowienia wspólnych standardów bezpieczeństwa i rozważenia dobrowolnych przerw do czasu, gdy twórcy będą mogli lepiej wykazać, że ich systemy są bezpieczne.

WIRED, powołując się na osoby związane z OpenAI, poinformował, że w ostatnich tygodniach firma pytała ustawodawców, czy porozumienie między twórcami AI w sprawie spowolnienia postępu mogłoby naruszać przepisy antymonopolowe. Porozumienie ograniczające konkurencję mogłoby budzić zastrzeżenia antymonopolowe, choć ustawa przedstawiona przez senatorów Adama Schiffa i Jima Banksa chroniłaby niektóre współprace związane z bezpieczeństwem, jeśli ich uczestnicy z wyprzedzeniem powiadomiliby o nich Departament Sprawiedliwości.

Eksperci twierdzą, że finansowanie i presja konkurencyjna utrudniają firmom samodzielne spowalnianie rozwoju. „Konkurencja komercyjna i geopolityczna w obszarze AI jest niezwykle intensywna, co prowadzi do niepokojącej sytuacji, w której firmy są motywowane do wypuszczania produktów, zanim w pełni zrozumiane zostaną związane z nimi zagrożenia” — powiedziała Decrypt Miranda Bogen, główna technolog w Center for Democracy and Technology.

„Nawet gdy pracownicy wewnątrz firmy wiedzą, że potrzebne są dalsze badania i testy, ich przedsiębiorstwa znajdują się pod ogromną presją, by iść na skróty i pomijać kluczowe testy bezpieczeństwa, mimo narastających dowodów na konsekwencje zbyt szybkiego działania” — dodała.

Debata toczy się w czasie, gdy Stany Zjednoczone i Chiny rywalizują o przywództwo w dziedzinie AI. Prezydent USA Donald Trump opóźnił w maju wydanie rozporządzenia wykonawczego dotyczącego AI z obawy, że mogłoby ono osłabić przewagę Ameryki nad Chinami. Później, w czerwcu, podpisał rozporządzenie, ustanawiając dobrowolny proces oceny zaawansowanych modeli przed ich udostępnieniem.

Bodźce finansowe mogą stanowić jeszcze bardziej bezpośrednią przeszkodę dla koordynacji. „Każdy postęp w obecnych warunkach przynosi dziesiątki milionów lub miliardy dodatkowego finansowania i daje twórcom tego postępu większą władzę oraz wpływy” — powiedział Decrypt Duncan Sabien, szef komunikacji w Machine Intelligence Research Institute.

Sabien stwierdził, że dynamika wyścigu zbrojeń jest realna, a OpenAI i Anthropic znajdują się pod presją dalszego rozwoju mimo niepewnego poziomu ryzyka. Każdy nowy system może pomóc w tworzeniu bardziej zaawansowanych następców, co stwarza możliwość, że konkurent zyska przewagę, jeśli któraś z firm spowolni działania bez wspólnego porozumienia.

„Jest to szczególnie prawdziwe, ponieważ wzrost inteligencji się kumuluje; każdy nowy system ułatwia trenowanie i wdrażanie kolejnego, bardziej zaawansowanego systemu” — powiedział. „Bez jakiegoś mechanizmu koordynacji wycofanie się oznacza po prostu, że druga strona zyska przewagę”.

W sierpniu OpenAI wstrzymało wewnętrzne prace nad Astra, ponieważ brakowało w nich silniejszych zabezpieczeń dotyczących zagrożeń cybernetycznych. Jednak w lutym zarówno OpenAI, jak i Anthropic złagodziły swoje zobowiązania dotyczące bezpieczeństwa. Główny specjalista naukowy Anthropic, Jared Kaplan, argumentował, że samodzielne spowalnianie rozwoju miało mniejszy sens, gdy konkurenci nadal się rozwijali.

Debata nasiliła się w tym tygodniu po tym, jak były inżynier Anthropic Jacob Coxon publicznie ogłosił rezygnację, powołując się na obawy dotyczące zagrożeń, jakie dalszy rozwój AI stwarza dla ludzkości.

„Ludzie budujący AI naprawdę wierzą, że do końca dekady może ona zabić nas wszystkich” — powiedział Coxon na X, dodając, że nie był to „chwyt marketingowy”. „Jeśli już, wielu menedżerów i starszych badaczy będzie formułować swoje wypowiedzi w mediach w rozsądny sposób — ale słyszę, jak ci sami ludzie prywatnie wyrażają strach. Żadna inna działalność człowieka nie stwarza zagrożenia na takim poziomie” — napisał.

Sabien stwierdził, że badacze mogą niewiele osiągnąć, odchodząc, jeśli ktoś inny po prostu ich zastąpi. „Jeśli wystarczająco wielu z nich uzyska wspólną świadomość, że wszyscy powinni się zatrzymać, mogą przełamać barierę koordynacji i zatrzymać się razem, zamiast po prostu zostać zastąpieni przez kolejną, nieco mniej ostrożną osobę” — powiedział.