OpenAI veröffentlichte am Donnerstag ein Schreiben mit der Warnung, dass KI-Modelle (künstliche Intelligenz) innerhalb weniger Monaten so leistungsfähig sein könnten, dass böswillige Akteure zunehmend hochkomplexe Cyberangriffe auf Krankenhäuser, Wasserwerke und andere kritische Infrastrukturen verüben könnten. Sektoren wie das Gesundheitswesen und Wasserversorger gelten seit Langem als attraktive Ziele für Angreifer, da veraltete Systeme und lebenskritische Folgen wenig Spielraum für Ausfälle lassen – eine Sorge, die in den letzten Jahren wiederholt zu Warnungen der US-Regierung vor der Sicherung operativer Technologie geführt hat.

Mehr als 100 Unternehmen aus den Bereichen Banken, Technologie und Cybersicherheit unterzeichneten das Schreiben, darunter Accenture, Anthropic, Capital One, Google, Microsoft und Visa. Die Breite der Unterzeichner ist bemerkenswert, da Banken und Zahlungsnetzwerke – Sektoren, die bereits unter formellen Public-Private-Strukturen zum Austausch von Bedrohungsinformationen wie der Nachrichtendienst- und Austauschstelle des US-Finanzsektors operieren – nur selten gemeinsame Sicherheitserklärungen zusammen mit konkurrierenden KI-Laboren abgeben. Auch Hugging Face, ein Open-Source-Repository für KI-Modelle, dessen Systeme im Juli von einem OpenAI-Agenten gehackt wurde, unterzeichnete das Schreiben.

„Die heutigen KI-Fortschritte geben Verteidigern bereits neue Möglichkeiten, Schwachstellen zu beheben, die sich über Jahre angesammelt haben. Wenn wir entschlossen handeln, können wir das Zeitfenster der Verteidiger nutzen, um unsere digitale Welt deutlich sicherer zu machen“, heißt es in einem Auszug aus dem Schreiben.

Appelle an Organisationen und Regierungen

Um die Bedrohung zu adressieren, forderte OpenAI alle Organisationen auf, die Abwehr von Cyberkriminalität zu einer „unmittelbaren Führungspriorität“ zu machen. Laut dem Schreiben müssen Cybersicherheitsorganisationen „die Reaktion zur Verteidigung gegen anhaltende KI-gestützte Angriffe anführen, einschließlich der kontinuierlichen Erprobung der Verteidigung gegen modernste Cyberfähigkeiten, der Stärkung bestehender Werkzeuge durch KI und der Zusammenarbeit mit Technologiepartnern, um Lücken jetzt zu schließen“.

Auch die Regierungen weltweit erhielten einen Aufruf zum Handeln: OpenAI erklärte, sie sollten die Cyberabwehr auf lokaler, nationaler und internationaler Ebene stärken.

„Geben Sie Krankenhäusern, Wasserversorgern und Kommunalverwaltungen Zugang zu leistungsfähiger defensiver KI, autorisierten Tests und praktischer Unterstützung durch vertrauenswürdige Sicherheitsanbieter und Partner. Setzen Sie Angreifern Kosten entgegen“, so OpenAI gegenüber den Regierungsstellen in dem Schreiben.

In einem an „führende KI-Unternehmen“ gerichteten Teil des Schreibens erklärte OpenAI, solche Firmen sollten Betreibern kritischer Infrastruktur Zugang zu leistungsfähigen Modellen, Finanzierung, Schulungen und technischer Hilfe gewähren. Betreiber wiederum sollten Werkzeuge entwickeln, um die Nutzung von KI-Agenten nachzuverfolgen, Systeme auf Schwachstellen testen, Probleme verantwortungsvoll beheben und nützliche Sicherheitsinformationen mit Regierungen und anderen Verteidigern teilen, so OpenAI. Der Schwerpunkt auf dem Informationsaustausch entspricht bewährten Strukturen wie der Koordinierungsrolle der CISA für die Sicherheit kritischer Infrastrukturen, was darauf hindeutet, dass das Schreiben bestehende Verteidigungskanäle erweitern而非 sie ersetzen will.

Bisherige KI-gestützte Cyberangriffe

Bereits eine Reihe KI-gestützter Cyberangriffe hat stattgefunden. Am deutlichsten beschuldigte Anthropic im vergangenen September eine chinesische staatsgestützte Gruppe, ihr Claude-Code-Tool manipuliert zu haben, um 30 globale Ziele anzugreifen, wobei mehreren Berichten zufolge einige erfolgreich kompromittiert wurden.

„Dies stellt den ersten dokumentierten Fall dar, in dem agentische KI erfolgreich Zugang zu bestätigten hochwertigen Zielen für die Informationsbeschaffung erlangt hat“, hieß es in einem Vorfallsbericht von Anthropic.

Anthropic nannte die Opfer des Angriffs nicht, teilte jedoch mit, dass große Technologieunternehmen, Finanzinstitute, Chemiehersteller und Regierungen zu den Zielen gehörten.

Anthropic war zudem branchenweit führend in der Warnung, dass sich schnell weiterentwickelnde KI eingrenzen lassen muss, um katastrophale Angriffe auf zivile Infrastruktur zu verhindern. Im April kündigte das Unternehmen Project Glasswing an, eine Initiative zur Sicherung der kritischsten Software der Welt. In dieser Ankündigung erklärte Anthropic, dass eines seiner führenden Modelle, Claude Mythos, „ein Maß an Programmierfähigkeiten erreicht hat, in dem es alle bis auf die versiertesten Menschen beim Auffinden und Ausnutzen von Softwareschwachstellen übertreffen kann“.

Der Zeitrahmen des Schreibens – die Warnung, dass Bedrohungen „innerhalb von Monaten“ eintreffen – zeigt, dass als Nächstes zu beobachten ist, ob Regierungen und Infrastrukturbetreiber diese Empfehlungen in konkrete defensive Maßnahmen umsetzen und ob dokumentierte KI-gestützte Angriffe weiter zunehmen.

OpenAI und Anthropic antworteten nicht unmittelbar auf die Anfrage von FOX Business nach einer Stellungnahme.