L'azienda di intelligenza artificiale (IA) Anthropic ha avvisato che i sistemi di IA autonomi a auto-replicazione potrebbero iniziare a diffondersi sui dispositivi degli utenti senza intervento umano, comportandosi molto come virus informatici.

In un rapporto di lunedì, i ricercatori William Zhou e Daniel Freeman del Frontier Red Team di Anthropic — l'unità dedicata dell'azienda che testa i sistemi di IA avanzati per individuare le capacità peggiori — hanno scritto che i maldestri "AI worm" potrebbero iniziare a colpire in autonomia dispositivi di uso quotidiano, tra cui Android TV, elettrodomestici intelligenti, telecamere e altri dispositivi connessi a internet dotati di capacità di calcolo basilari e di sicurezza debole.

I piccoli modelli di IA potrebbero essere "a pochi mesi dall'essere abbastanza capaci da auto-replicarsi su dispositivi commerciali di internet delle cose (IoT)", hanno detto gli autori, aggiungendo che una simile minaccia sarebbe difficile da contenere perché non avrebbe "un punto centralizzato da spegnere". I dispositivi IoT nel mondo sono già miliardi, offrendo a qualsiasi programma a diffusione autonoma un enorme bacino di potenziali ospiti.

L'avviso arriva dopo rinnovate preoccupazioni per le crescenti capacità matematiche dei modelli di IA, che potrebbero alla fine violare le firme crittografiche utilizzate nei wallet di criptovalute, minacciando circa un terzo dell'offerta di Bitcoin.

Quasi un terzo dell'offerta globale di Bitcoin, pari a 6,26 milioni di BTC, si trova attualmente in indirizzi vulnerabili a attacchi da parte di modelli di IA avanzati o computer quantistici, secondo il co-fondatore di Glassnode Rafael Schultze-Kraft. In un post su X di giovedì, ha sottolineato che 4,33 milioni di BTC sono esposti solo a causa del riutilizzo degli indirizzi, il che significa che spostare quelle monete in wallet nuovi porrebbe fine all'esposizione. Ciò avviene perché un indirizzo Bitcoin è l'hash della sua chiave pubblica: una volta che i fondi vengono spesi da un indirizzo riutilizzato, la chiave pubblica completa diventa visibile on-chain e direttamente attaccabile, mentre le chiavi mai trasmesse restano protette dall'hash.

Un giorno prima, il ricercatore di Ethereum Justin Drake aveva avvertito che i rapidi progressi dell'IA potrebbero violare l'algoritmo di firma digitale a curva ellittica (ECDSA) che protegge i wallet di criptovalute prima di quanto previsto precedenza, esortando gli utenti a migrare verso wallet nuovi. L'ECDSA sostiene anche Bitcoin, quindi la preoccupazione riguarda entrambe le due maggiori reti crypto, non solo Ethereum.

Il managing partner di Dragonfly Haseeb Qureshi, tuttavia, ha definito gli avvisi "critical doomerism", sostenendo che migrare i token verso indirizzi nuovi non sia una vera soluzione alla minaccia. Con Anthropic che indica un orizzonte di pochi mesi per la capacità di auto-replicazione sui dispositivi IoT e ricercatori divisi tra appelli alla migrazione e critiche, il dibattito sull'urgenza della minaccia resta irrisolto.

Related: L'IA non ha scatenato la 'hackpocalypse' DeFi, dice il partner di Dragonfly