OpenAI hat eine Reihe von ChatGPT-Konten gesperrt, die mit einer kambodschanischen kriminellen Organisation verbunden waren, welche den Chatbot zur Durchführung von Kryptowährungs-Investitionsbetrug nutzte. Der Fall fügt den wachsenden Belegen hinzu, wie gut organisierte Kriminalitätsgruppen generative KI-Werkzeuge zusammen mit digitalen Zahlungssystemen ausnutzen.

Die Stilllegung erfolgt vor dem Hintergrund eines Anstiegs von Betrugsdelikten im Zusammenhang mit digitalen Vermögenswerten, was Börsen, Token-Entwickler und KI-Unternehmen dazu veranlasst, präventive Maßnahmen zu verstärken. Sogenannte „Pig-Butchering"-Betrügereien — ein Begriff, der von der chinesischen Phrase „shā zhū pán" abgeleitet ist, bei der Betrüger romantische oder geschäftliche Beziehungen zu Opfern aufbauen, bevor sie diese dazu bringen, Kryptowährungen zu übertragen — bleiben in ganz Südostasien weit verbreitet und werden zunehmend durch KI-generierte Inhalte unterstützt.

Wie die Betreiber ChatGPT missbrauchten

Laut OpenAIs Bericht wurde die Untersuchung durch einen Hinweis ausgelöst, der von WhatsApp stammte. Die Aktivität wurde auf Konten zurückverfolgt, die angeblich in Poipet ansässig waren — einer kambodschanischen Grenzstadt, die internationalen Ermittlern seit langem wegen ihrer Verbindung zu groß angelegten Betrugsoperationen bekannt ist, von denen viele sich vermutlich aus einer Infrastruktur entwickelt haben, die während der Pandemie für die Casino- und Online-Glücksspielindustrie der Region errichtet wurde.

OpenAI erklärte, dass die Betreiber ChatGPT verwendeten, um gefälschte Identitäten zu erstellen, Unterhaltungen in mehrere Sprachen zu übersetzen und Nachrichten zu verfassen, die darauf abzielten, Vertrauen bei den Zielpersonen aufzubauen. Der Chatbot wurde außerdem eingesetzt, um Werbematerialien für betrügerische Investitionsschemata zu generieren.

Kryptowährung war das Herzstück der Operation. Die Opfer wurden zunächst in romantische oder platonische Gespräche verwickelt und dann auf gefälschte Krypto- und Spot-Gold-Handelsplattformen umgeleitet. Um die Illusion der Rechtmäßigkeit zu verstärken, nutzten die Täter ChatGPT, um gefälschte Pässe, rechtliche Anordnungen, Aktienkaufbestätigungen und unechte Krypto-Handels-Dashboards zu fabrizieren.

OpenAI beschrieb den Betrug als einen dreistufigen Prozess: Die Kriminellen überzeugten die Opfer zunächst, Kryptowährungen zu senden, und forderten anschließend zusätzliche Zahlungen unter dem Vorwand von Aktivierungsgebühren, Steuern oder behördlichen Strafen.

Hinweise auf Arbeitsausbeutung

Die Untersuchung von OpenAI deckte auch Anzeichen von Menschenhandel zur Arbeitsausbeutung auf. Einige Betreiber nutzten ChatGPT, um Rekrutierungsanzeigen für sogenannte „Chatter" in Poipet zu entwerfen, in denen Anreize wie kostenlose Flugtickets, Unterkunft, Verpflegung und Visum-Hilfe angeboten wurden. Weitere Kommunikationen befassten sich mit der Erstellung von Tabellenkalkulationen zur Nachverfolgung von Mitarbeitern — einschließlich Schulden, Lohnabzügen, Strafen für Fehlverhalten, Aufenthaltsstatus, Inhaftierung und Fluchtversuchen.

Diese Erkenntnisse bestätigen Untersuchungen von Elliptic, die ergaben, dass viele der Personen hinter romantischen und investitionsbezogenen Betrugsoperationen selbst Opfer von Menschenhandel sind und zur Arbeit in organisierten Kriminalitätskomplexen in ganz Südostasien gezwungen werden. Im August 2023 schätzte das Büro der Vereinten Nationen für die Hochkommissarin für Menschenrechte, dass mindestens 120.000 Menschen in Myanmar und etwa 100.000 in Kambodscha in Komplexen festgehalten und zu Online-Betrügereien gezwungen wurden, wobei die Opfer aus der gesamten Region und darüber hinaus stammten.

Vor der Sperrung der Konten teilte OpenAI seine Erkenntnisse mit Branchenbeteiligten und Strafverfolgungsbehörden. Basierend auf internen Kommunikationen schätzt das Unternehmen, dass das Netzwerk Hunderte von Opfern kontaktierte, deren kombinierte Verluste möglicherweise Tausende von Dollar erreichen.

Illegale Krypto-Transaktionen erreichen Rekordniveau

Das Ausmaß der Krypto-Kriminalität verleiht OpenAIs Maßnahmen einen breiteren Kontext. Gemäß dem am 28. Januar veröffentlichten Crypto Crime Report von TRM Labs wurden illegale Kryptowährungs-Transaktionen im Jahr 2025 auf 158 Milliarden US-Dollar geschätzt — eine Steigerung von fast 145 % gegenüber dem Vorjahr und der höchste Wert innerhalb von fünf Jahren. Der Anteil illegaler Aktivitäten am gesamten On-Chain-Volumen sank jedoch von 1,3 % im Jahr 2024 auf 1,2 % im Jahr 2025, was eine breitere Akzeptanz von Kryptowährungen widerspiegelt.

Der Bericht ergab außerdem, dass Stablecoins für etwa 84 % der verifizierten betrügerischen Zahlungseingänge verantwortlich waren, was ihre Rolle als dominierendes Zahlungsmittel für organisierte Betrugsoperationen untermauert. Strafverfolgungsbehörden weltweit haben mit verstärkten Maßnahmen reagiert, darunter das National Cryptocurrency Enforcement Team des US-Justizministeriums und grenzüberschreitende Koordinierung über die Financial Action Task Force, obwohl die grenzenlose und pseudonyme Natur von Krypto-Zahlungen die Rückgewinnung von Vermögenswerten weiterhin erschwert.

KI-Unternehmen als Engpass

OpenAIs Eingreifen ist bemerkenswert, da generative KI nun die arbeitsintensivste Komponente von Betrügern übernehmen kann: den Aufbau von Vertrauen bei den Opfern. Eine Studie von Forschern der Amrita Vishwa Vidyapeetham, der Universität Ca' Foscari Venedig, der Universität Melbourne und der Ben-Gurion-Universität des Negev zeigte, dass ein KI-gestützter Claude-Agent einen menschlichen Betrüger bei der Durchführung eines Pig-Butchering-Betrugs übertraf. Nach einer Woche Nachrichtenaustausch nutzten 46 % der Teilnehmer die vom KI-Agenten empfohlene Software, verglichen mit nur 18 % bei der Interaktion mit einem menschlichen Betrüger. Die Teilnehmer bewerteten die KI zudem als zuverlässiger.

Die Forscher interviewten 145 Personen, die zuvor in Betrugsoperationen verwickelt waren, darunter Überlebende von Menschenhandel aus Einrichtungen in Kambodscha, Myanmar und Laos. Ihre Ergebnisse zeigen, dass die Hauptfunktion von KI in Betrugsoperationen in der Automatisierung der Vertrauensbildungsphase besteht und dass die Einschränkung des Zugangs zu fortschrittlichen KI-Modellen Betrügereien unterbrechen kann, bevor Opfer dazu gebracht werden, ihr Geld abzugeben.

OpenAI und andere führende KI-Labore haben zunehmend Berichte zur Bedrohungsaufklärung veröffentlicht, in denen dokumentiert wird, wie ihre Modelle von staatlichen Akteuren, Cyberkriminellen und Einflussnetzwerken missbraucht werden. Da organisierte Kriminalitätssyndikate zunehmend generative KI und Krypto-Zahlungssysteme nutzen, könnte die Verhinderung des missbräuchlichen Einsatzes fortschrittlicher KI-Werkzeuge für die Cybersicherheit ebenso entscheidend werden wie die Sperrung illegaler Wallets oder die Zerschlagung von Geldwäschenetzwerken.