Anthropic: Claude wurde für Cyberangriffe und inländische Überwachung eingesetzt
Wichtige Erkenntnisse
- •Anthropic berichtete, dass russisch- und chinesischsprachige Akteure seine KI Claude zur Automatisierung von Teilen von Cyberangriffen nutzten.
- •Ein russischsprachiger Akteur namens „JackPoterz“ nahm mehr als 20 Organisationen ins Visier, darunter Regierungsministerien, Nachrichtendienste und diplomatische Vertretungen in der Ukraine und Europa.
- •Chinesischsprachige Akteure nutzten Claude als technische Entwicklungs- und Orchestrierungsebene für die Schwachstellenforschung und identifizierten innerhalb eines Monats mehr als ein Dutzend mögliche Zero-Day-Schwachstellen in der Firmware von Netzwerkgeräten.
- •Anthropic erklärte, KI verändere die wirtschaftlichen Rahmenbedingungen von Cyberangriffen, da einzelne Akteure Angriffe innerhalb von zwei bis drei Stunden abschließen und Dutzende Opfer parallel verwalten könnten.
- •Ein wahrscheinlich in Bamako ansässiger Berater, der mit Malis staatlichem Nachrichtendienst zusammenarbeitete, nutzte Claude als zentrale technische Arbeitskraft für den Aufbau eines Überwachungssystems, das rund 25 Millionen SIM-Karten bei allen drei nationalen Mobilfunkbetreibern überwacht.
Russisch- und chinesischsprachige Akteure nutzten Anthropics Claude zur Automatisierung von Cyberangriffen, teilte das Unternehmen in einem am Donnerstag veröffentlichten Bericht mit.
Ein russischsprachiger Akteur namens „JackPoterz“ setzte maßgeschneiderte, KI-gestützte Workflows ein, um große Teile der Angriffskette zu automatisieren. Der Akteur nahm mehr als 20 Organisationen ins Visier, darunter Regierungsministerien und Nachrichtendienste sowie Botschaften und diplomatische Vertretungen in der Ukraine und Europa.
Chinesischsprachige Akteure nutzten Claude als technische Entwicklungs- und Orchestrierungsebene für die Erforschung von Schwachstellen. Innerhalb eines Monats identifizierte ein einzelner Workflow mehr als ein Dutzend mögliche Zero-Day-Schwachstellen in der Firmware von Netzwerkgeräten.
Anthropic erklärte, KI verändere die wirtschaftlichen Rahmenbedingungen von Cyberangriffen, da einzelne Akteure dadurch Angriffe innerhalb von zwei bis drei Stunden erfolgreich abschließen und Dutzende Opfer parallel verwalten könnten. In den gemeldeten Fällen kam Claude daher in unterschiedlichen Rollen zum Einsatz – von der Unterstützung offensiver Workflows und der Schwachstellenforschung bis hin zur Bereitstellung von Softwaredesign und technischer Unterstützung für ein separates Überwachungssystem.
Separat nutzte ein wahrscheinlich in Bamako ansässiger unabhängiger Berater, der mit Malis staatlichem Nachrichtendienst zusammenarbeitete, Claude als zentrale technische Arbeitskraft, um ein landesweites System zur Überwachung der Bevölkerung aufzubauen. Das System überwacht rund 25 Millionen SIM-Karten bei allen drei nationalen Mobilfunkbetreibern Malis.
Die eingesetzte Plattform wurde lokal vor Ort mit lokalen Modellen betrieben, während Claude Softwaredesign und technische Unterstützung lieferte. Sie war darauf ausgelegt, ohne richterliche Anordnung Nachrichtendossiers zu Telefonnummern zu erstellen. Diese Unterscheidung bedeutet, dass Claude die Entwicklung des Systems unterstützte, während lokale Modelle die eingesetzte Plattform betrieben.
Quelle: Cointelegraph
