Het kunstmatige-intelligentiebedrijf Anthropic heeft gewaarschuwd dat zelfreplicerende autonome AI-systemen zonder menselijke tussenkomst kunnen beginnen te verspreiden over apparaten van gebruikers, op een manier die sterk lijkt op computervirussen.

In een maandag gepubliceerd rapport schreven onderzoekers William Zhou en Daniel Freeman van Anthropic's Frontier Red Team — de speciale eenheid van het bedrijf die geavanceerde AI-systemen onderzoekt op worstcasescenario's — dat ongebreidelde "AI-wormen" autonoom alledaagse apparaten kunnen gaan aanvallen, waaronder Android-tv's, slimme apparaten, camera's en andere internetverbonden apparaten met beperkte rekenkracht en zwakke beveiliging.

Kleine AI-modellen zijn mogelijk nog "maanden verwijderd van het vermogen om zichzelf te repliceren op commerciële internet-of-things-apparaten (IoT)", aldus de auteurs, die eraan toevoegden dat zo'n dreiging moeilijk te beheersen zou zijn omdat er "geen gecentraliseerd punt zou zijn om het uit te schakelen." IoT-apparaten zijn wereldwijd al miljarden in aantal, wat elk zelfverspreidend programma een enorme pool van potentiële gastheren biedt.

De waarschuwing volgt op hernieuwde zorgen over de groeiende wiskundige capaciteiten van AI-modellen, die uiteindelijk de cryptografische handtekeningen die in cryptoportemonnees worden gebruikt zouden kunnen breken, waarmee ongeveer een derde van het Bitcoin-aanbod in gevaar komt.

Bijna een derde van het wereldwijde Bitcoin-aanbod, oftewel 6,26 miljoen BTC, bevindt zich momenteel op adressen die kwetsbaar zijn voor aanvallen door geavanceerde AI-modellen of quantumcomputers, aldus Glassnode-medeoprichter Rafael Schultze-Kraft. In een X-post van donderdag merkte hij op 4,33 miljoen BTC alleen blootgesteld zijn vanwege hergebruik van adressen, wat betekent dat het verplaatsen van die munten naar nieuwe portemonnees de blootstelling zou beëindigen. Dat komt omdat een Bitcoin-adres een hash is van de publieke sleutel: zodra fondsen van een hergebruikt adres worden uitgegeven, wordt de volledige publieke sleutel zichtbaar on-chain en direct aanvalbaar, terwijl sleutels die nooit zijn uitgezonden beschermd blijven achter de hash.

Een dag eerder waarschuwde Ethereum-onderzoeker Justin Drake dat snelle AI-vooruitgang het algoritme voor digitale handtekeningen op elliptische krommen (ECDSA) dat cryptoportemonnees beveiligt eerder dan eerder verwacht zou kunnen breken, en hij riep gebruikers op om te migreren naar nieuwe portemonnees. ECDSA ligt ook ten grondslag aan Bitcoin, dus de zorg omvat beide grootste cryptonetwerken in plaats van alleen Ethereum.

Dragonfly-managing partner Haseeb Qureshi noemde de waarschuwingen echter "cryptografisch doomerisme" en betoogde dat het migreren van tokens naar nieuwe adressen geen echte oplossing voor de dreiging is. Nu Anthropic wijst op een horizon van maanden voor zelfreplicerende capaciteit op IoT-apparaten en onderzoekers verdeeld zijn tussen migratieoproepen en tegenspraak, blijft het debat over hoe urgent de dreiging is onopgelost.

Gerelateerd: AI heeft geen DeFi-'hackpocalyps' veroorzaakt, zegt Dragonfly-partner