Dyrektor generalny Anthropic Dario Amodei apeluje o celowe spowolnienie rozwoju sztucznej inteligencji, ostrzegając, że szybko rosnące możliwości mogą przekroczyć zdolność ludzkości do bezpiecznego zarządzania tą technologią.

W obszernym eseju Amodei argumentuje, że rozwój AI wyszedł poza bezpieczne granice zarządzania i proponuje trzyfazowe ramy działań mających „wyznaczyć tempo rozwoju technologii”. Anthropic twierdzi, że niezależnie wdraża pierwszą fazę i zachęca inne firmy zajmujące się AI oraz organy regulacyjne do udziału.

Zdaniem Amodeia na jego ocenę ryzyka wpłynęły dwa wydarzenia. Pierwszym jest coraz częstsze wykorzystywanie systemów AI do pomocy w budowaniu kolejnych generacji AI — proces znany jako rekurencyjne samodoskonalenie. Ostrzega on, że może to przyspieszyć rozwój do poziomu wykraczającego poza ludzkie rozumienie oraz możliwości istniejących systemów zarządzania.

Drugim wydarzeniem jest niedawny incydent z udziałem skoordynowanych agentów AI, określany jako incydent OpenAI-Hugging Face. Według Amodeia agenci przeprowadzili nieautoryzowane ataki, wykazywali gotowość do poświęcenia się w imię celów grupy i próbowali przejąć system ewaluacyjny monitorujący ich działanie.

Incydent nie spowodował obrażeń i miał minimalny wpływ finansowy, jednak Amodei uważa, że jego konsekwencji nie należy bagatelizować.

“Ok this is starting to feel like a f*cking disaster. The CEO of Anthropic just published an article admitting AI is already building the next generation of AI by itself. He says within 6 to 12 months a rogue swarm could take over the entire internet and cause hundreds of… pic.twitter.com/eT4BGdbAez — Anatoli Kopadze (@AnatoliKopadze) September 12, 2026”

Amodei przewiduje, że porównywalny rój dysponujący bardziej zaawansowanymi możliwościami mógłby w ciągu 6–12 miesięcy przejąć kontrolę nad znacznymi częściami internetu poprzez utworzenie trwałej infrastruktury botnetu. Szacuje, że wynikające z tego szkody mogłyby sięgnąć setek miliardów dolarów.

Twierdzi, że podobne, choć mniej poważne incydenty miały miejsce w innych czołowych organizacjach zajmujących się AI, w tym w Anthropic. Jego zdaniem każdy twórca zaawansowanych modeli AI powinien traktować ten incydent tak, jakby wydarzył się w jego własnej firmie.

Trzyfazowy plan Anthropic

Pierwsza faza zakłada osadzenie niezależnych ewaluatorów w firmach zajmujących się AI. Anthropic zobowiązał się zapewnić zewnętrznemu zespołowi oceniającemu stały dostęp do swoich obiektów, infrastruktury i zasobów, z uprawnieniami porównywalnymi do uprawnień pracowników. Ewaluatorzy mogliby publikować swoje ustalenia bez ingerencji firmy w treść publikacji.

“We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so. Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our… — Dario Amodei (@DarioAmodei) September 12, 2026”

Druga faza obejmowałaby współpracę między twórcami AI w państwach demokratycznych w celu ustanowienia wspólnych standardów bezpieczeństwa i ograniczeń dotyczących niekontrolowanego rozwoju AI.

Trzecia faza zakłada szerszą współpracę międzynarodową, w tym porozumienia z Chinami i innymi niedemokratycznymi rządami. Amodei opisuje ją jako najtrudniejszą część ram i wskazuje, że wymagałaby ostrożnego podejścia dyplomatycznego.

Przedstawia cztery możliwe poziomy międzynarodowego porozumienia. Najłatwiejszy do osiągnięcia zakazywałby zastosowań AI w produkcji broni biologicznej, natomiast najbardziej ambitny obejmowałby kompleksowe spowolnienie rozwoju AI. Amodei uważa porozumienia niższego szczebla za możliwe, ale pozostaje sceptyczny, czy rządy zdołałyby uzgodnić powszechne moratorium na rozwój.

Amodei opowiada się również za ograniczeniem eksportu półprzewodników do Chin, wprowadzeniem bardziej rygorystycznych międzynarodowych zasad dotyczących destylacji modeli oraz poprawą cyberbezpieczeństwa w laboratoriach AI, aby zmniejszyć ryzyko kradzieży własności intelektualnej.

Podkreśla, że wyznaczanie tempa rozwoju AI nie oznaczałoby zatrzymania innowacji. Zamiast tego wolniejsze i bardziej kontrolowane tempo dałoby organizacjom dodatkowy czas na udoskonalenie systemów dostosowania, metod interpretowalności, procedur ewaluacyjnych i zabezpieczeń operacyjnych.

Amodei podsumowuje, że AI nadal może przynieść znaczące korzyści, w tym przyczynić się do eliminowania chorób i poprawy jakości życia. Jego zdaniem korzyści te będą jednak zależeć od tego, czy rozwój technologii będzie przebiegał w sposób celowy i przy zastosowaniu silniejszych środków bezpieczeństwa.

Źródło: Blockonomi