Für Dragonfly-Managing-Partner Haseeb Qureshi war der auffälligste Aspekt des GLM-5.2-Experiments seine Kosten: "GLM 5.2 running for 20 minutes costs about $2. So what does that mean? It means we are in a new world."

Dragonfly ist eine auf Krypto ausgerichtete Venture-Capital-Gesellschaft, und Qureshis Beobachtungen haben in einer Branche Gewicht, in der Softwarefehler zu einigen der größten bekannten Diebstähle geführt haben. Das Modell soll die mit dem jüngsten ColdCard-Diebstahl verbundene Schwachstelle wiederentdeckt haben, nachdem Forschende es auf die betroffene Software angesetzt hatten. ColdCard, hergestellt von Coinkite, ist eine beliebte Hardware-Wallet unter Bitcoin-Nutzern mit Selbstverwahrung. Es gibt keine Hinweise darauf, dass die Täter KI eingesetzt haben. Der Test zeigt vielmehr, wie günstig Angreifer und Entwickler heute Code prüfen können, der große Mengen an Kryptowährungen schützt.

Warum die Kosten von 2 $ wichtig sind

Um ernsthafte Schwachstellen zu untersuchen, waren traditionell Fachwissen und viele Stunden manueller Arbeit erforderlich. Selbst ein erfahrener Forscher kann nur eine begrenzte Zahl von Firmware-Versionen, Smart Contracts und kryptografischen Bibliotheken überprüfen.

KI ermöglicht es, deutlich mehr Code einer ersten Prüfung zu unterziehen. Forschende können mehrere Modelle auf dieselbe Codebasis ansetzen, sie unterschiedliche Fehlpfade untersuchen lassen und den Vorgang wiederholen, sobald ein leistungsfähigeres Modell verfügbar ist.

Die meisten Suchen liefern möglicherweise nichts Verwertbares. Das fällt weniger ins Gewicht, wenn ein einzelner Versuch nur wenige Dollar kostet. Wer nach Schwachstellen sucht, kann viele Ziele prüfen, ohne dass jeder Lauf erfolgreich sein muss. Ein einziger belastbarer Fehler in Software, die Millionenbeträge schützt, könnte die Kosten von Tausenden erfolgloser Versuche rechtfertigen.

KI hat den Bedarf an Sicherheitsexpertise nicht beseitigt. Sie hat lediglich die Kosten gesenkt, Hinweise zu generieren, Hypothesen zu testen und mehr Code abzudecken, als ein Mensch allein prüfen könnte.

Was der GLM-5.2-Test tatsächlich zeigt

Qureshi sagte, Forschende hätten mehrere Modelle gebeten, die Software zu untersuchen, nachdem der ColdCard-Vorfall bereits die Aufmerksamkeit darauf gelenkt hatte. Seinen Angaben zufolge wurde den Modellen nicht gesagt, wo sich die Schwachstelle befand, und GLM 5.2 fand sie in rund 20 Minuten.

Der Kontext ist entscheidend. Die Forschenden wussten bereits, dass die betreffende Software ein ernstes Problem enthielt. Das Modell suchte nicht blind über jede Hardware-Wallet hinweg und entdeckte auch keinen Angriff ohne Ausgangspunkt.

Das Identifizieren eines Fehlers ist zudem etwas anderes als seine Ausnutzung im großen Maßstab. Ein Angreifer müsste möglicherweise noch:

• bestimmen, welche Geräte oder Wallets betroffen sind,
• nutzbare private Schlüssel rekonstruieren,
• Wallets mit wertvollen Beständen identifizieren,
• Gelder verschieben, bevor Nutzer oder Hersteller reagieren können.

Qureshis Aussagen zeigen nicht, dass GLM 5.2 diese Schritte durchgeführt hat oder dass ein KI-System am ursprünglichen Diebstahl beteiligt war. Was das Experiment belegt, ist begrenzter, aber dennoch wichtig: Ein Allzweckmodell soll die zugrunde liegende technische Schwachstelle schnell und zu vernachlässigbaren Kosten wiedergefunden haben.

KI ist vor der Quantenbedrohung da

Ein Großteil der langfristigen Sicherheitsdebatte rund um Bitcoin konzentriert sich auf Quantencomputing. Eine ausreichend leistungsfähige Quantenmaschine könnte irgendwann die Signaturschemata bedrohen, die Coins schützen, und Netzwerke sowie Nutzer zwingen, auf neue Kryptografie umzusteigen. Dieses Risiko erfordert frühzeitige Vorbereitung.

KI-gestützte Codeanalyse stellt ein anderes Problem dar, weil die Werkzeuge bereits heute gegen laufende Software eingesetzt werden können. KI muss nicht die zugrunde liegende Mathematik von Bitcoin brechen. Sie kann den umliegenden Code nach Fehlern durchsuchen, etwa nach schwacher Zufallszahlenerzeugung, offengelegten Geheimnissen, fehlerhaften kryptografischen Implementierungen und unsicheren Wiederherstellungsfunktionen.

Unsere frühere Analyse der KI- und Quantenrisiken für Krypto behandelte genau diesen Unterschied. Quantencomputing könnte irgendwann ein kryptografisches Problem für das gesamte Netzwerk schaffen. KI kann bereits auf Wallets, Bridges, Bibliotheken und Anwendungen angesetzt werden, die derzeit Nutzergelder schützen.

Die unmittelbare Sorge ist daher ein menschlicher Fehler in der Software rund um Bitcoin und nicht, dass KI Bitcoin selbst bricht.

Angreifer und Entwickler nutzen dasselbe Werkzeug

KI hat keine Präferenz für stärkere Sicherheit oder einen erfolgreichen Angriff. Ihre Wirkung hängt von der Aufgabe ab, die Menschen ihr geben.

Ein Angreifer kann ein Modell einsetzen, um alte Firmware zu durchsuchen, repetitive Analysen zu automatisieren und mögliche Schwachstellen zu testen. Ein Wallet-Hersteller kann dasselbe Modell vor der Veröffentlichung nutzen und es auf Schlüsselerzeugung, Transaktionssignierung und Wiederherstellungsabläufe ansetzen.

Entwickler können auch Produkte erneut prüfen, die veröffentlicht wurden, bevor moderne Coding-Agenten existierten. Software, die vor fünf Jahren geprüft wurde, kann heute mit Werkzeugen untersucht werden, die damals für Kunden noch nicht verfügbar waren. Mehrere Blockchain-Sicherheitsfirmen haben bereits begonnen, KI-gestützte Analysen in ihre Audit-Workflows zu integrieren, auch wenn die Technologie weiterhin eine Ergänzung zur menschlichen Prüfung und kein Ersatz ist.

Die beiden Seiten agieren jedoch nicht unter denselben Bedingungen. Ein Angreifer kann handeln, sobald eine verwertbare Schwachstelle bestätigt ist. Ein Entwickler muss den Befund reproduzieren, verstehen, welche Nutzer betroffen sind, einen sicheren Fix vorbereiten und ihn verteilen, ohne genug Informationen preiszugeben, um die Ausnutzung zu beschleunigen.

Modelle können Code auch missverstehen, Fehlalarme erzeugen oder Angriffe beschreiben, die in der Praxis scheitern. Menschliche Forschende bleiben dafür verantwortlich, das Ergebnis zu verifizieren und zu entscheiden, wie dringend reagiert werden muss.

KI erweitert die Menge des untersuchbaren Codes. Sie ersetzt nicht das Fachwissen oder die Incident-Response, die nach dem Auffinden einer ernsten Schwachstelle erforderlich sind.

Selbstverwahrung hängt weiterhin von der Wallet ab

Qureshi beschrieb die betroffenen Nutzer als Menschen, die die üblichen Sicherheitsempfehlungen befolgt hatten: "People who are doing all the right things."

Sie hatten Bitcoin von Börsen abgezogen und in speziellen Hardware-Wallets verwahrt. Doch Selbstverwahrung hängt weiterhin davon ab, dass das Gerät seine Schlüssel korrekt erzeugt und schützt.

Qureshi sagte, die betroffene Firmware habe eine schwächere Zufallsquelle genutzt als beabsichtigt. Wird ein privater Schlüssel aus vorhersehbaren Eingaben erzeugt, kann das Gerät durch Offline-Betrieb den Schlüssel später nicht stärker machen. Eine Luftlücke kann die Angriffsfläche für Fernangriffe auf ein korrekt erzeugtes Geheimnis verringern. Sie kann jedoch kein Geheimnis reparieren, das von Anfang an schwach war.

Nutzer von Hardware-Wallets verlassen sich daher auf mehr als nur den Umgang mit ihrer Wiederherstellungsphrase. Sie vertrauen auch der Firmware des Herstellers, dem Hardware-Design, den kryptografischen Bibliotheken und dem Zufallszahlengenerator. Jahre ohne bekannten Exploit können zeigen, dass Software den üblichen Einsatz überstanden hat. Sie beweisen nicht, dass bereits jede ernsthafte Schwachstelle entdeckt wurde.

Alter Wallet-Code muss erneut geprüft werden

Günstigere KI-Analysen machen alten Code leichter erneut überprüfbar. Software, die zuvor wenig Beachtung fand, kann nun wiederholt und in großem Maßstab untersucht werden.

Wallet-Hersteller und Krypto-Protokolle sollten ältere Versionen erneut scannen, wenn sich große Modelle verbessern, insbesondere wenn der Code private Schlüssel erzeugt, Transaktionen signiert oder die Wallet-Wiederherstellung steuert.

Ein Firmware-Update löst nicht jedes Problem. Wenn ein Fehler beeinflusst, wie bestehende Schlüssel erstellt wurden, kann die Korrektur der Software neue Wallets schützen, während ältere weiter gefährdet bleiben. Nutzer müssen dann möglicherweise unter dem reparierten System neue Schlüssel erzeugen und ihre Gelder übertragen. Anbieter sollten daher betroffene Versionen identifizieren, Kunden schnell kontaktieren und erklären können, wie die Migration sicher erfolgt.

Dieser Prozess schafft auch Möglichkeiten für Betrüger. Sicherheitsvorfälle führen oft zu gefälschten Support-Konten, bösartigen Migrationswebsites und Nachrichten, in denen Nutzer aufgefordert werden, ihre Wallets zu verifizieren. Nutzer sollten einer Support-Person, einer Website, einem Social-Media-Konto oder einem KI-Chatbot niemals eine Seed Phrase oder einen privaten Schlüssel geben. Ein legitimer Wiederherstellungsprozess erfordert nicht, dass eine andere Person oder ein Dienst diese Geheimnisse erhält.

Sicherheitsprüfungen dürfen kein einmaliges Ereignis mehr sein

KI-gestützte Analyse sollte Teil der normalen Entwicklung werden und nicht nur ein Werkzeug, das nach einem Diebstahl von Geldern eingesetzt wird. Krypto-Unternehmen sollten erwägen:

• neuen Code vor der Veröffentlichung zu scannen,
• ältere Firmware und Bibliotheken erneut zu prüfen, wenn Modelle besser werden,
• mehrere Modelle zu nutzen, um denselben Code aus unterschiedlichen Richtungen anzugehen,
• erfahrene Forschende schwerwiegende Befunde reproduzieren zu lassen,
• Notfallkommunikation und Wallet-Migrationsverfahren vorzubereiten,
• verantwortungsvolle Offenlegung und Bug-Bounty-Programme aufrechtzuerhalten.

Die Modelle bieten breitere und schnellere Abdeckung. Sicherheitsteams müssen weiterhin echte Schwachstellen von falschen Meldungen trennen, einen Fix entwickeln und die Folgen für Nutzer managen.

Das Sicherheitsrennen wird günstiger

Qureshis Beispiel zeigt nicht, dass KI Bitcoin brechen kann. Es zeigt, dass Software, die Bitcoin schützt, inzwischen zu Kosten auf Schwachstellen geprüft werden kann, die rasch gegen null gehen.

Diese Entwicklung kann zu besserer Sicherheit oder zu günstigeren Angriffen führen. Entwickler können KI einsetzen, um ihre eigenen Produkte zu prüfen und Fehler vor der Veröffentlichung zu entdecken. Angreifer können sie auf vergessenen Code ansetzen, Suchen über viele Ziele hinweg wiederholen und auf das erste verwertbare Ergebnis reagieren.

Die Technologie steht beiden Seiten zur Verfügung. Das Ergebnis hängt davon ab, wer sie nutzt, wie genau die Befunde geprüft werden und wie schnell Verteidiger reagieren können. Projekte, die ihre Software fortlaufend neu bewerten, können von denselben Werkzeugen profitieren, die Angriffe erleichtern. Wer sich auf alte Audits verlässt oder annimmt, ein lange verborgen gebliebener Fehler wäre längst entdeckt worden, überlässt diese Chance jemand anderem.

Hinweis: Dieser Artikel dient nur zu Informationszwecken und stellt keine Sicherheits-, Finanz- oder Anlageberatung dar. Das berichtete Experiment belegt nicht, dass KI beim ColdCard-Diebstahl eingesetzt wurde oder dass GLM 5.2 zuverlässig jede Software-Schwachstelle identifizieren kann.

Methodik: Diese Analyse stützt sich auf öffentliche Kommentare des Dragonfly-Managing-Partners Haseeb Qureshi zum ColdCard-Vorfall und den berichteten GLM-5.2-Test. Der Vergleich zwischen KI- und Quantenrisiko unterscheidet zwischen derzeit verfügbaren Werkzeugen zur Schwachstellenforschung und längerfristigen Bedrohungen, die kryptografisch leistungsfähige Quantenhardware erfordern.