HD Moores Canary-Experiment deckt Datenlecks in der KI-Lieferkette auf
Wichtige Erkenntnisse
- •HD Moores Studie embeddete von Juli bis November 2026 fast zwei Millionen nachverfolgbare Canary-Tokens in KI-Prompts und deckte umfangreiche Lecks über KI-Router und Inferenzdienste auf.
- •Ungefähr 200 AWS-Zugangsdaten wurden Ende Oktober 2026 bei gezielten Angriffen exfiltriert und von Angreifern über Amazon-Dienste wie S3 und IAM eingesetzt, führten jedoch nur zu kontrollierter Infrastruktur.
- •Mindestens drei KI-Hosting-Anbieter wurden kompromittiert; bestätigte Diebstahlsaktivität begann bereits Mitte Juli 2026, und keiner erkannte die Vorfälle, bevor Moore sie im November 2026 informierte.
- •Einige KI-Reseller und Marktplätze erfassten Kunden-Prompts durch integrierte Protokollierung trotz Zero-Data-Retention-Richtlinien.
- •Eine einzigartige, platzierte URL tauchte 24 Tage nach der Übermittlung in einem internen Chat eines chinesischen Unternehmens auf, und Prompts von US-Nutzern wurden zu chinesischen KI-Organisationen zurückverfolgt.

Der Sicherheitsforscher HD Moore wollte eine direkte Frage beantworten: Was geschieht mit einem Geheimnis, sobald es in eine KI-Anwendung eingetippt wird? Um das herauszufinden, platzierte er rund 2 Millionen nachverfolgbare "Canary"-Zugangsdaten und URLs in Prompts und schickte sie durch das Netzwerk von Diensten, das moderne KI-Tools antreibt.
Die Antwort war nicht beruhigend. Das Ökosystem gab sensible Daten in großem Umfang preis, und mehrere der Unternehmen, die die Daten lekten, wussten nichts davon. Mindestens drei KI-Hosting-Anbieter erwiesen sich als kompromittiert, und Angreifer entwendeten Kunden-Prompt-Daten.
Moore, ein erfahrener Forscher bei Dragos, der vor allem als Schöpfer des Metasploit Frameworks bekannt ist – ein Penetration-Testing-Werkzeugkasten, der in der Sicherheitsbranche weit verbreitet ist –, führte die Studie von Juli bis November 2026 durch. Er embeddete fast zwei Millionen einzigartige, nachverfolgbare Canary-Tokens in Anfragen an KI-Inferenzdienste und Gateway-Router und beobachtete dann, welche davon an Orten auftauchen würden, an die sie nicht gehören sollten. Einige taten das reichlich.
Wie ein Canary einen Dieb fängt
Ein Canary-Token funktioniert wie ein Farbenpaket, das in einer Geldtasche versteckt ist. Es sieht wie das Original aus – etwa ein AWS-Access-Key oder ein privater Link – und meldet sich in dem Moment zurück, in dem jemand versucht, es zu verwenden.
Canary-Tokens sind ein langjähriges Werkzeug der defensiven Sicherheit, und dieses Design macht die Methode ungewöhnlich sauber. Ein ausgelöster Canary bedeutet, dass die Daten entkommen sind und jemand damit gehandelt hat – nicht nur, dass es theoretisch hätte passieren können.
Der Test zielte auf eine Schicht des KI-Stacks ab, an die die meisten Nutzer nie denken. Viele KI-Anwendungen kommunizieren nicht direkt mit einem Modell. Stattdessen übergeben sie Prompts an Vermittler wie OpenRouter oder Vercel, oft als "KI-Router" oder "KI-Gateways" bezeichnet. Diese Mittelsmänner sammeln große Mengen an Prompts von Endnutzern und leiten jede einzelne an diejenige Inferenz-Engine weiter, die ihre Kriterien erfüllt – etwa den niedrigsten Preis.
Was die Tripwires fanden
Das auffälligste Ergebnis betraf Cloud-Zugangsdaten. Ungefähr 200 einzigartige AWS-Zugangsdaten wurden Ende Oktober 2026 bei gezielten Angriffen exfiltriert. Die Angreifer setzten die gestohlenen Schlüssel dann über mehrere Amazon-Dienste ein, darunter S3, Amazons Speicherdienst, und IAM, das steuert, wer auf was zugreifen kann.
Zum Glück führten diese Schlüssel nirgendwohin. Die Angreifer testeten sie in einer kontrollierten Infrastrukturumgebung – genau das ermöglichte Moore, sie bei der Arbeit zu beobachten.
Die Diebstähle waren kein einmaliger Ausbruch. Die früheste bestätigte Diebstahlsaktivität reicht bis Mitte Juli 2026 zurück, was bedeutet, dass die Lecks bereits fast unmittelbar nach Beginn des Experiments im Gange waren.
Die direkte Kompromittierung war nur ein Teil des Bildes. Moore fand auch Hinweise darauf, dass KI-Reseller und Marktplätze Kunden-Prompts über integrierte Protokollierungsfunktionen erfassten. Diese Praxis widerspricht direkt Zero-Data-Retention-Richtlinien – dem Versprechen, dass ein Anbieter eine Anfrage verarbeitet und dann vergisst. Die Tripwires deuten darauf hin, dass manche Anbieter sich dennoch erinnerten.
Die Geografie erzählte ihre eigene Geschichte. Eine einzigartige, während der Studie platzierte URL tauchte 24 Tage nach der ursprünglichen Anfrage in einem internen Chat eines chinesischen Unternehmens auf. Moore verfolgte auch Prompts von US-Nutzern zurück zu chinesischen KI-Organisationen. Nutzer, die eine Anfrage über einen Router sendeten, hatten möglicherweise keinerlei Einblick, wo sie letztendlich landete.
Der wohl unbequemste Befund war die Bewusstseenslücke. Die betroffenen Anbieter wussten nicht, dass all dies geschah; sie erfuhren von den Sicherheitsvorfällen erst, als Moore sie im November 2026 informierte. Sein Bericht wurde am 19. November 2026 öffentlich zusammengefasst.
Warum die Mitte des Stacks zählt
Die KI-Branche hat viel Energie darauf verwendet, Kunden zu beruhigen, was die großen Modellentwickler mit ihren Daten tun. Moores Arbeit deutet woandershin: auf die Vermittler, Reseller und Hosting-Anbieter, die zwischen Nutzer und Modell sitzen.
Jeder zusätzliche Hop erhöht das Risiko. Ein Prompt, der durch einen Router, einen Reseller und einen Drittanbieter-Host läuft, hat drei Chancen, protokolliert, abgefangen oder gestohlen zu werden – und eine Datenschutzrichtlinie an der ersten Station sagt nichts über die dritte aus. Sicherheitsteams konzentrieren sich aus ähnlichen Gründen bereits lange auf Software-Abhängigkeiten von Drittanbietern, und die Ergebnisse legen nahe, dass Prompts, die durch KI-Vermittler laufen, nun eine vergleichbare Exposition aufweisen.
Was das bedeutet
Für Unternehmen, die auf KI-Diensten aufbauen, ist die praktische Lektion klar: Alles, was in einen Prompt eingegeben wird, sollte als potenziell offengelegt behandelt werden. Das umfasst API-Schlüssel, Cloud-Zugangsdaten, interne Links und Kundendaten – Material, das Entwickler regelmäßig beim Debuggen oder Automatisieren von Arbeiten in KI-Tools einfügen. Die Canaries zeigen, dass Angreifer genau dieses Material aktiv ernten und schnell testen.
Die Ergebnisse untergraben auch den Wert eines Zero-Data-Retention-Versprechens für sich genommen. Eine Richtlinie ist nur so gut wie jede Partei, die die Daten berührt. Wenn die Standard-Protokollierung eines Resellers Prompts ohnehin erfasst, wird die Garantie zur reinen Dekoration.
Die Erkennungslücke ist möglicherweise die größte Sorge von allen. Angreifer stahlen über Monate Daten von mindestens drei Hosting-Anbietern, und keiner dieser Anbieter bemerkte es, bis ein externer Forscher sie informierte. Ob die informierten Anbieter die Vorfälle nun offenlegen oder ihre Protokollierung ändern, bleibt abzuwarten.
Originalbericht: Crypto Briefing