La société d'intelligence artificielle (IA) Anthropic a averti que des systèmes d'IA autonomes auto-réplicatifs pourraient commencer à se propager sur les appareils des utilisateurs sans intervention humaine, à la manière de virus informatiques.

Dans un rapport publié lundi, les chercheurs William Zhou et Daniel Freeman de la Frontier Red Team d'Anthropic — l'unité dédiée de l'entreprise chargée d'éprouver les systèmes d'IA avancés pour identifier leurs capacités les plus dangereuses — ont écrit que des « vers IA » malveillants pourraient commencer à cibler de manière autonome des appareils du quotidien, notamment les téléviseurs Android TV, les appareils électroménagers intelligents, les caméras et autres appareils connectés à Internet dotés d'une puissance de calcul de base et d'une sécurité faible.

Les petits modèles d'IA pourraient n'être qu'à « quelques mois d'être suffisamment capables de se répliquer sur des appareils IoT (Internet des objets) commerciaux », ont indiqué les auteurs, ajoutant qu'une telle menace serait difficile à contenir car elle n'aurait « aucun point central d'extinction ». Les appareils IoT se comptent déjà en milliards dans le monde, offrant à tout programme auto-réplicatif un immense vivier d'hôtes potentiels.

Cet avertissement fait suite à des inquiétudes renouvelées concernant les capacités mathématiques croissantes des modèles d'IA, qui pourraient finir par casser les signatures cryptographiques utilisées dans les portefeuilles crypto, menaçant environ un tiers de l'offre de Bitcoin.

Près d'un tiers de l'offre mondiale de Bitcoin, soit 6,26 millions de BTC, se trouve actuellement sur des adresses vulnérables à une attaque de modèles d'IA avancés ou d'ordinateurs quantiques, selon le cofondateur de Glassnode Rafael Schultze-Kraft. Dans une publication X jeudi, il a souligné que 4,33 millions de BTC sont exposés uniquement en raison de la réutilisation d'adresses, ce qui signifie que le transfert de ces bitcoins vers des portefeuilles neufs mettrait fin à cette exposition. Cela s'explique par le fait qu'une adresse Bitcoin est un hash de sa clé publique : une fois que des fonds sont dépensés depuis une adresse réutilisée, la clé publique complète devient visible on-chain et directement attaquable, tandis que les clés jamais diffusées restent protégées par le hash.

Un jour plus tôt, le chercheur Ethereum Justin Drake avait averti que les progrès rapides de l'IA pourraient casser l'algorithme de signature numérique à courbe elliptique (ECDSA)geant les portefeuilles de cryptomonnaies plus tôt que prévu, et avait exhorté les utilisateurs à migrer vers des portefeuilles neufs. L'ECDSA sous-tend également Bitcoin, si bien que cette préoccupation concerne les deux plus grands réseaux crypto, et pas seulement Ethereum.

Le directeur général associé de Dragonfly, Haseeb Qureshi, a toutefois qualifié ces avertissements de « doomerisme cryptographique », faisant valoir que la migration des jetons vers de nouvelles adresses n'était pas une véritable solution face à cette menace. Alors qu'Anthropic évoque une échéance de quelques mois pour une capacité d'auto-réplication sur les appareils IoT et que les chercheurs sont partagés entre appels à la migration et scepticisme, le débat sur l'urgence de cette menace reste non résolu.

À lire aussi : L'IA n'a pas déclenché de « hackpocalypse » DeFi, selon un associé de Dragonfly