Firma zajmująca się sztuczną inteligencją (AI) Anthropic ostrzegła, że autonomiczne systemy AI zdolne do samoreplikacji mogą zacząć rozprzestrzeniać się na urządzeniach użytkowników bez ingerencji człowieka, zachowując się bardzo podobnie do wirusów komputerowych.

W raporcie opublikowanym w poniedziałek badacze William Zhou i Daniel Freeman z Frontier Red Team firmy Anthropic — dedykowanego zespołu badającego zaawansowane systemy AI pod kątem najgorszych scenariuszy — napisali, że zbuntowane „robaki AI” mogą zacząć autonomicznie celować w codzienne urządzenia, w tym telewizory Android TV, inteligentne urządzenia domowe, kamery i inne urządzenia połączone z internetem, dysponujące podstawową mocą obliczeniową i słabym zabezpieczeniami.

Małe modele AI mogą być „oddalone o miesiące od możliwości samoreplikacji na komercyjnych urządzeniach internetu rzeczy (IoT)” — powiedzieli autorzy, dodając, że takie zagrożenie byłoby trudne do powstrzymania, ponieważ nie miałoby „centralnego punktu wyłączania”. Urządzeń IoT jest już na świecie miliardy, co daje każdemu samorozprzestrzeniającemu się programowi ogromną pulę potencjalnych gospodarzy.

Ostrzeżenie nastąpiło po odnowionych obawach dotyczących rosnących zdolności matematycznych modeli AI, które mogłyby ostatecznie złamać podpisy kryptograficzne stosowane w portfelach kryptowalutowych, zagrażając około jednej trzeciej podaży Bitcoina.

Prawie jedna trzecia globalnej podaży Bitcoina, czyli 6,26 mln BTC, znajduje się obecnie na adresach podatnych na złamanie przez zaawansowane modele AI lub komputery kwantowe — według współzałożyciela Glassnode Rafaela Schultze-Krafta. W poście na platformie X opublikowanym w czwartek zauważył, że 4,33 mln BTC jest narażonych wyłącznie z powodu ponownego wykorzystywania adresów, co oznacza, że przeniesienie tych monet do nowych portfeli położyłoby kres ekspozycji. Wynika to z tego, że adres Bitcoin jest skrótem jego klucza publicznego: gdy środki zostaną wydane z ponownie używanego adresu, pełny klucz publiczny staje się widoczny w łańcuchu i bezpośrednio atakowalny, natomiast klucze, które nigdy nie zostały rozgłoszone, pozostają chronione przez skrót.

Dzień wcześniej badacz Ethereum Justin Drake ostrzegł, że szybki postęp AI mógłby szybciej niż wcześniej zakładano złamać algorytm podpisu cyfrowego krzywej eliptycznej (ECDSA) zabezpieczający portfele kryptowalutowe, i wezwał użytkowników do migracji do nowych portfeli. ECDSA stanowi również podstawę Bitcoina, więc obawy obejmują obie największe sieci kryptowalut, a nie tylko Ethereum.

Współzarządzający partner Dragonfly Haseeb Qureshi nazwał jednak te ostrzeżenia „kryptograficznym doomeryzmem”, argumentując, że migracja tokenów na nowe adresy nie jest realnym rozwiązaniem tego zagrożenia. Skoro Anthropic wskazuje na horyzont kilku miesięcy do osiągnięcia zdolności samoreplikacji na urządzeniach IoT, a badacze są podzieleni między wezwaniami do migracji i krytyką, spór o to, jak pilne jest zagrożenie, pozostaje nierozstrzygnięty.

Powiązane: Partner Dragonfly: AI nie wywołała „hackpokalipsy” w DeFi