Apple hat Beschränkungen dafür eingeführt, wie viele Bug-Reports ein Sicherheitsforscher gleichzeitig offen halten kann, nachdem eine Flut von KI-generierten Einreichungen nicht existierende Schwachstellen beschrieben hatte. Die Einschränkung hatte bereits spürbare Kosten: Ein echter Exploit blieb ungemeldet.

Laut der Financial Times war Apples Sicherheitsteam von Einreichungen überwältigt worden, die mit KI-Tools erstellt wurden und erfundene Schwachstellen enthielten. Als Reaktion führte Apple im Juni eine Begrenzung und eine 30-tägige Abkühlungsphase in seinem Sicherheitsportal ein, womit Forscher sich um ein höheres Einreichungskontingent bewerben müssen.

Die Begrenzung hinderte das in Mailand ansässige Cybersicherheits-Startup Bynario daran, einen kritischen Fund einzureichen. Bynario teilte der FT mit, dass es OpenAIs ChatGPT genutzt hatte, um innerhalb von drei Wochen mehr als 50 Bugs in der neuesten Version von macOS zu identifizieren. Darunter befand sich eine Privilegieneskalations-Exploit-Kette – eine Kategorie von Schwachstellen, die einem Angreifer unbeschränkte Kontrolle über ein Gerät gewährt und ein fester Bestandteil ernsthafter macOS-Angriffe ist, angesichts der mehr als 100 Millionen aktiven Nutzer des Betriebssystems.

Bynario konnte den Bericht nicht einreichen, da Apple weitere Einreichungen des Unternehmens bereits abgelehnt hatte. Chief Executive Alfredo Pesoli schätzte den Wert des Exploits auf dem Schwarzmarkt auf 100.000 bis 200.000 Dollar und erklärte, dass „Maintainer und Anbieter von der schieren Menge an Bugs überflutet" würden, die aufgedeckt werden.

Apple bestätigte gegenüber der FT, dass es nun mit Bynario in Kontakt stehe und die Arbeit des Unternehmens prüfe.

Apple erklärte, es habe „die Anzahl neuer Berichte, die ein Forscher gleichzeitig offen haben kann, kürzlich angepasst," und wies darauf hin, dass Forscher jederzeit ein höheres Limit beantragen können. Jede angebliche Schwachstelle benötigt weiterhin eine menschliche Bestätigung, obwohl Apple Berichten zufolge intern KI einsetzt, um das Volumen eingehender Berichte zu sichten.

Dieselbe Kategorie von Tools hat sich auch zugunsten Apples ausgewirkt. In den Sicherheits-Updates der Vorwoche schrieb Apple Software von Anthropic und OpenAI das Aufdecken von Schwachstellen zu und lieferte etwa fünfmal so viele Korrekturen wie in einem normalen Zyklus, laut der FT. (9to5Mac berichtete ebenfalls über die KI-Credits.)

Eine „Einreichungsflut"

Die Welle KI-gestützter Bug-Reports ist in den letzten Monaten deutlich angestiegen. Im Mai berichtete die Sicherheitsfirma Bugcrowd – deren Kunden OpenAI umfassen –, dass sich die Einreichungen über ihre Plattform innerhalb eines dreiwöchigen Zeitraums im März mehr als vervierfachten, wobei die Mehrheit erfunden war.

HackerOne und Nextcloud setzten ihre bezahlten Programme im April aus. Nextcloud kündigte auf seiner HackerOne-Seite an, dass „unabhängig vom Schweregrad" keine Belohnungen gezahlt würden, bis eine Filterung für minderwertige Berichte implementiert werden konnte.

Das Volumen wird teilweise durch die verfügbaren finanziellen Belohnungen angetrieben. Meta, Microsoft, Apple und Crypto.com zahlten 2025 zusammen mindestens 58 Millionen Dollar aus, während Apples eigene Spitzensprämie für einen einzelnen Fund 5 Millionen Dollar erreicht – eine Obergrenze, die Apple 2020 bei der Erweiterung des 2016 erstmals gestarteten Programms festlegte.

Gleichzeitig werden große Sprachmodelle zunehmend besser darin, echte Schwachstellen zu identifizieren. Im März stellte Anthropic Mythos vor, ein auf Cybersicherheit fokussiertes Modell, das zunächst ausgewählten Technologieunternehmen, Banken und Forschern unter Project Glasswing vorbehalten war. Mozilla erklärte, dass das Modell während interner Tests 271 Schwachstellen in Firefox aufdeckte.

Im Mai berichtete das in Vietnam ansässige Sicherheits-Startup Calif, dass es eine Vorschauversion von Mythos genutzt hatte, um den ersten öffentlichen macOS-Kernel-Speicherbeschädigungs-Exploit zu entwickeln, der Memory Integrity Enforcement überstehen konnte – die Verteidigung, die Apple im vergangenen September als größtes Speicher-Sicherheitsupgrade in der Geschichte von Verbraucherbetriebssystemen angekündigt hatte. Calif identifizierte die Bugs am 25. April und hatte bis zum 1. Mai einen funktionierenden Exploit.

Anstatt über Apples Portal einzureichen, übergab Calif den Exploit persönlich an Apples Hauptsitz in Kalifornien, mit der Begründung, es wolle vermeiden, „in der Einreichungsflut begraben zu werden," die bereits Teilnehmer des Hacker-Wettbewerbs Pwn2Own betroffen hatte. Drei Monate später versuchte Bynario, das Portal zu nutzen, und konnte keinen Zugriff erhalten.

KI-gesteuerte Krypto-Bedrohungen

KI wird auch genutzt, um Exploits zu entwickeln, die auf Kryptowährungs-Infrastruktur abzielen. Coinkite, Hersteller der Coldcard-Hardware-Wallet, hat darauf hingewiesen, dass KI wahrscheinlich verwendet wurde, um einen Bug in seiner Open-Source-Firmware zu identifizieren, der fünf Jahre lang unentdeckt geblieben war und es Angreifern ermöglichte, mehr als 100 Millionen Dollar zu stehlen. (Hardware-Wallet-Hersteller haben auch vor einer Zunahme von Phishing gewarnt, als sich die Verluste häuften.)

Die Coldcard-Aufdeckung erfolgte zwei Monate, nachdem Zcash bekannt gegeben hatte, dass der Forscher Taylor Hornby, arbeitend mit Claude Opus 4.8, zwei Codezeilen identifiziert hatte in seinem Orchard Shielded Pool, die vier Jahre lang unentdeckbare Fälschung von ZEC ermöglichten. Die Privacy-Coin rollte anschließend das Ironwood-Upgrade aus, um die Schwachstelle zu beheben.