Das Unternehmen für künstliche Intelligenz (KI) Anthropic hat gewarnt, dass sich selbst replizierende autonome KI-Systeme ohne menschliches Zutun auf Nutzergeräten ausbreiten könnten – ähnlich wie Computerviren.

In einem Bericht von Montag schrieben die Forscher William Zhou und Daniel Freeman von Anthropics Frontier Red Team – der spezialisierten Einheit des Unternehmens zur Untersuchung fortschrittlicher KI-Systeme auf Worst-Case-Fähigkeiten –, dass rogue „KI-Würmer“ beginnen könnten, sich eigenständig auf alltägliche Geräte wie Android-TVs, Smart-Home-Geräte, Kameras und andere internetfähige Geräte mit grundlegender Rechenleistung und schwacher Sicherheit zu richten.

Kleine KI-Modelle könnten nur noch „Monate von der Fähigkeit entfernt sein, sich auf kommerziellen Internet-of-Things-Geräten (IoT) selbst zu replizieren“, erklärten die Autoren und fügte hinzu, dass eine solche Bedrohung schwer einzudämmen wäre, weil es „keinen zentralen Abschalt Punkt“ gäbe. IoT-Geräte gibt es weltweit bereits in Milliardenzahl, was sich selbst ausbreitenden Programmen einen enormen Pool potenzieller Wirte bietet.

Die Warnung folgt auf erneute Besorgnis über die wachsenden mathematischen Fähigkeiten von KI-Modellen, die eines Tages die in Krypto-Wallets verwendeten kryptografischen Signaturen brechen und damit rund ein Drittel des Bitcoin-Angebots gefährden könnten.

Fast ein Drittel des globalen Bitcoin-Angebots – 6,26 Millionen BTC – liegt derzeit in Adressen, die durch fortgeschrittene KI-Modelle oder Quantencomputer gebrochen werden könnten, so Glassnode-Mitgründer Rafael Schultze-Kraft. In einem X-Post von Donnerstag wies er darauf hin, dass 4,33 Millionen BTC allein wegen der Wiederverwendung von Adressen exponiert sind – eine Verlagerung dieser Coins in frische Wallets würde die Exposition beenden. Das liegt daran, dass eine Bitcoin-Adresse ein Hash ihres öffentlichen Schlüssels ist: Sobald Mittel von einer wiederverwendeten Adresse ausgegeben werden, wird der vollständige öffentliche Schlüssel auf der Blockchain sichtbar und direkt angreifbar, während nie übertragene Schlüssel weiterhin hinter dem Hash geschützt bleiben.

Einen Tag zuvor hatte der Ethereum-Forscher Justin Drake gewarnt, dass rasant fortschreitende KI den Elliptic-Curve-Digital-Signature-Algorithmus (ECDSA), der Krypto-Wallets absichert, schneller als bisher erwartet brechen könnte, und Nutzer aufgefordert, zu frischen Wallets zu migrieren. ECDSA stützt auch Bitcoin, sodass sich die Sorge auf beide der größten KryptoNetzwerke bezieht und nicht allein auf Ethereum.

Dragonfly-Geschäftsführender Partner Haseeb Qureshi nannte die Warnungen jedoch „kryptografischen Doomerismus“ und argumentierte, dass die Verlagerung von Tokens auf frische Adressen keine echte Lösung gegen die Bedrohung sei. Während Anthropic auf einen wenige Monate entfernten Zeithorizont für die Selbstreplikationsfähigkeit auf IoT-Geräten verweist und die Forscher zwischen Migrationsaufrufen und Widerstand gespalten sind, bleibt die Debatte über die Dringlichkeit der Bedrohung ungelöst.

Verwandt: KI hat keine DeFi-„Hackpocalypse“ ausgelöst, sagt Dragonfly-Partner