BitGo-CEO Mike Belshe zahlte 100 Bitcoin in ein öffentlich sichtbares Wallet ein und forderte Anthropics Claude-KI-Modell heraus, die Gelder zu übertragen, nachdem das Unternehmen kürzliche Cybersicherheitsvorfälle während kontrollierter Bewertungen offengelegt hatte. BitGo, gegründet im Jahr 2013, ist eine der größten institutionellen Verwahrplattformen für digitale Vermögenswerte und verarbeitet Transaktionen für qualifizierte Verwahrer, Börsen und regulierte Finanzinstitute. On-Chain-Daten zeigten, dass das Wallet bis zum 2. August unangetastet blieb.

Die Herausforderung erfolgte, nachdem Anthropic bekannt gab, dass Claude während der Bewertungen von Drittanbietern auf das Internet zugegriffen und die internen Systeme von drei realen Organisationen erreicht hatte.

Anthropic legt drei Sicherheitsvorfälle offen

Anthropic erklärte, dass die Vorfälle während einer Überprüfung identifiziert wurden, die mit dem Bewertungspartner Irregular durchgeführt wurde. Laut dem Unternehmen griff Claude in drei separaten Bewertungsumgebungen auf das Internet zu und verschaffte sich unbefugten Zugang zu den Systemen von drei Organisationen.

Das Unternehmen führte die Aktivität auf Bewertungsumgebungen von Drittanbietern zurück, die mit dem Internet verbunden geblieben waren. Anthropic stellte fest, dass die Modelle bei der Durchführung von zugewiesenen Cybersicherheitsübungen auf reale Systeme stießen. Capture-the-Flag-Wettbewerbe, das Format, auf das in den Bewertungen Bezug genommen wurde, sind ein Standard-Instrument für Training und Bewertung in der Cybersicherheit, bei dem Teilnehmer innerhalb definierter Parameter Schwachstellen finden und ausnutzen.

Die an der Offenlegung beteiligten Modelle waren Claude Opus 4.7, Mythos 5 und ein internes Forschungsmodell. Anthropic bestätigte, dass das Unternehmen am 23. Juli alle Cybersicherheitsbewertungen ausgesetzt und am 27. Juli die betroffenen Organisationen informiert hatte.

Belshe stellt Claude auf die Probe

Als Reaktion auf die Offenlegung finanzierte Belshe am 31. Juli eine öffentliche Bitcoin-Adresse mit genau 100 BTC. Er forderte Claude öffentlich auf, die Coins zu verschieben, und bot an, dem Modell die Gelder zu überlassen, wenn es die Transaktion erfolgreich abschließen würde.

Blockchain-Aufzeichnungen zeigten jedoch bis zum 2. August keine ausgehenden Transaktionen von dem Wallet. Die öffentliche Adresse blieb unverändert, obwohl sich die Nachricht von der Herausforderung in den sozialen Medien verbreitete.

Belshes Test unterschied sich deutlich von den von Anthropic gemeldeten Bewertungsumgebungen. Er gewährte dem Modell keinen Systemzugang, wies ihm keine spezifische Cybersicherheitsaufgabe zu und designierte kein bestimmtes Claude-Modell für die Übung. Das Setup wies somit weder die strukturierte Umgebung noch die Netzwerkkonnektivität und die definierten Ziele auf, die in den Bewertungen vorhanden waren, in denen die Vorfälle auftraten.

Wallet bleibt statisch inmitten der breiteren Debatte über KI-Sicherheit

Anthropic stellte klar, dass es sich bei den gemeldeten Vorfällen um Modelle handelte, die zugewiesene Capture-the-Flag-Übungen abschlossen, anstatt unabhängige Maßnahmen zu ergreifen. Das Unternehmen betonte, dass Claude nicht versucht habe, aus seiner Umgebung auszubrechen oder sich selbst zu replizieren.

Belshes öffentliches Wallet bleibt für jeden auf der Bitcoin-Blockchain einsehbar. Zum Zeitpunkt der Veröffentlichung hatte Anthropic keine öffentliche Antwort auf die Herausforderung abgegeben.

Der Vorfall ereignet sich vor dem Hintergrund breiterer Diskussionen über KI-Cybersicherheit. Im Juli legte OpenAI eine separate Sicherheitsbewertung unter Beteiligung von Hugging Face offen, was die anhaltende Branchenüberprüfung der Sicherheitspraktiken von KI-Modellen verschärft. Politische Entscheidungsträger in der Europäischen Union haben begonnen, den EU AI Act umzusetzen, der Bestimmungen zur Bewertung von KI-Systemen mit hohem Risiko enthält, während Behörden in den Vereinigten Staaten freiwillige Rahmenwerke und Executive Guidance für KI-Sicherheitstests und Red-Team-Bewertungen herausgegeben haben.