Das KI-Forschungsunternehmen Anthropic hat seinen neuesten Bedrohungsanalysebericht „Detecting and Countering Misuse of AI: September 2026“ veröffentlicht. Darin werden Versuche böswilliger Akteure beschrieben, die Claude-Modelle des Unternehmens für Cyberoperationen, Einflusskampagnen, Überwachung, biologische Forschung, Waffenentwicklung, Betrug und Modelldestillation einzusetzen.

Der Bericht umfasst Aktivitäten, die zwischen Dezember 2025 und August 2026 erkannt und unterbunden wurden. Die Fälle betrafen mutmaßlich staatlich unterstützte Gruppen, finanziell motivierte Kriminelle, Anbieter kommerzieller Spionagesoftware und Propagandainstitutionen, die in Russland, China, Iran und anderen Regionen aktiv waren.

Anthropic erklärte, dass keiner der dokumentierten Missbrauchsfälle seine leistungsfähigsten Fable- oder Mythos-Klassenmodelle betraf, mit Ausnahme eines im Abschnitt zur Destillation beschriebenen Falls. Das Unternehmen betonte außerdem, dass die offengelegten Vorfälle keinen typischen Missbrauch darstellen. Stattdessen wurden sie als die bislang ausgefeiltesten und neuartigsten identifizierten Bedrohungsaktivitäten ausgewählt. Der Bericht dokumentiert somit Fälle von Missbrauch auf höchstem Niveau und misst nicht, wie häufig solche Aktivitäten auftreten. Anthropic erklärte, in jedem Fall die zugehörigen Konten gesperrt, seine Schutzmaßnahmen auf Grundlage der Untersuchungsergebnisse verstärkt und Informationen mit Behörden und Industriepartnern geteilt zu haben.

We're publishing our most detailed threat intelligence report to date. It covers how people tried to misuse Claude—for cyberattacks, influence operations, surveillance, biology, and building weapons—and how we found and stopped them. We disrupted every operation in the report,… — Anthropic (@AnthropicAI) September 10, 2026

https://x.com/AnthropicAI/status/2098097512544444447?ref_src=twsrc%5Etfw

Vom Assistenten zum Orchestrator: Zentrale Erkenntnisse

Die zentrale Schlussfolgerung des Berichts lautet, dass sich KI in der Cyberkriminalität von einem beratenden Werkzeug zu einem operativen Orchestrator entwickelt hat. In den meisten untersuchten Operationen setzten die Bedrohungsakteure Multi-Agenten-Frameworks ein, die selbstständig Aufklärung, Ausnutzung von Schwachstellen, das Abgreifen von Zugangsdaten und die Exfiltration von Daten durchführten. Die menschlichen Beteiligten wählten hauptsächlich die Ziele aus und überprüften die Ergebnisse.

Ein bemerkenswerter Fall mit der Bezeichnung GTG-20006 wurde mit der russischen staatsnahen Gruppe Midnight Blizzard in Verbindung gebracht. Die Gruppe nutzte KI-gesteuerte Abläufe für Phishing, die Entwicklung von Schadsoftware und die Umgehung von Sicherheitsmaßnahmen. Dabei baute sie ihr Werkzeugset automatisch neu auf, sobald Sicherheitsprodukte es erkannten. Separat setzten mutmaßliche ShinyHunters-Partner KI ein, um das Abgreifen von Zugangsdaten zu industrialisieren. Sie dekompilierten 1.8 million Android-Anwendungen auf der Suche nach Geheimnissen und schlossen Sicherheitsverletzungen innerhalb von nur zwei bis drei Stunden ab.

Außerhalb von Cyberoperationen dokumentierte Anthropic Einflusskampagnen, die auf Wahlen und die öffentliche Meinung in Moldau, Kenia, Malaysia und Bangladesch abzielten. Zudem beschrieb das Unternehmen staatsnahe Überwachungsaktivitäten in China, Iran und Mali, darunter eine Plattform, die rund 25 million Mobilfunkteilnehmer überwachen sollte.

Der Bericht identifizierte außerdem Bemühungen zur Waffenentwicklung, darunter ein Programm für gelenkte Raketen im Jemen und ein Projekt für einen autonomen Drohnenschwarm in Russland. Der Abschnitt zum biologischen Missbrauch beschreibt fünf Fälle von Dual-Use-Forschung, darunter Gain-of-Function-Arbeiten mit dem Chikungunya-Virus und Studien zur Anpassung der aviären Influenza. Anthropic erklärte, seine Klassifikatoren hätten diese Aktivitäten weitgehend eingedämmt.

Der Bericht beschreibt auch illegale Destillationskampagnen, die chinesischen Laboren zugeschrieben werden, darunter Alibaba, DeepSeek, Moonshot AI, Xiaomi und Zhipu. Anthropic wirft den Laboren vor, Nutzeranfragen verdeckt an Claude weitergeleitet, Schlussfolgerungsspuren abgegriffen und die daraus entstandenen Ergebnisse zum Training konkurrierender Modelle verwendet zu haben. In mehreren Fällen soll diese Weiterleitung sensible Unternehmens- und Regierungsdaten ohne Wissen der Nutzer Dritten zugänglich gemacht haben.

Anthropic stellte die Veröffentlichung sowohl als Warnung als auch als Orientierungshilfe dar. Das Unternehmen erklärte, dass mit zunehmender Leistungsfähigkeit von KI-Modellen koordinierte Erkennungs- und Abwehrmaßnahmen der KI-Industrie und der Regierungen unerlässlich sein werden, um persistenten Gegnern einen Schritt voraus zu bleiben.

Quelle: Metaverse Post