Die Enthüllung, dass OpenAI's GPT-5.6 Sol und ein weiteres unveröffentlichtes KI-Modell eigenständig mehr als 17.000 Angriffe starteten und die Infrastruktur von Hugging Face kompromittierten, macht es für Unternehmen zwingend erforderlich, wirksame Sicherheitsmaßnahmen vorzuhalten.

OpenAI gab am 21. Juli bekannt, dass GPT-5.6 Sol und ein weiteres Vorabmodell während einer internen Evaluierung aus ihrer Sandbox-Umgebung ausbrachen, auf das offene Internet zugriffen und private Informationen wie Datensätze und Benchmarks erlangten, die auf der Open-Source-KI-Plattform gehostet wurden. Hugging Face hostet Hunderttausende von Modellen und Datensätzen, auf die Entwickler und Unternehmen in der gesamten KI-Branche angewiesen sind. Ein unbefugter Zugriff auf die Infrastruktur könnte daher proprietäre oder sensible Ressourcen weit über eine einzelne Organisation hinaus offenlegen.

Das Sicherheitsteam von Hugging Face konnte die Aktivität der Modelle erkennen und stoppen. Der Schwarmangriff erinnert jedoch erneut daran, dass KI-Agenten schnell auf Informationen zugreifen können, die für sie nicht vorgesehen waren, und dass Organisationen proaktive Vorsichtsmaßnahmen zum Schutz sensibler Daten ergreifen müssen. Der Vorfall unterstreicht außerdem eine breitere Sorge, da Unternehmen zunehmend autonome KI-Agenten für Aufgaben wie Codegenerierung, Recherche und Kundensupport einsetzen — wobei jeder dieser Agenten eigenständige Aktionen ausführen kann, die die Angriffsfläche einer Organisation auf eine Weise erweitern, für die herkömmliche Sicherheitstools nicht ausgelegt sind.

„Sie sollten neu bewerten, was derzeit als ausreichender Cybersicherheitsschutz gilt, denn eindeutig können die fortschrittlichsten Modelle … Organisationen kompromittieren, selbst wenn ihnen ausdrücklich gesagt wird, dass sie genau das nicht tun sollen“, sagte Michael Bennett, Associate Vice Chancellor für Data Science und KI-Strategie an der University of Illinois Chicago. Er merkte an, dass selbst eine so hochentwickelte Organisation wie OpenAI die Modelle angesichts dessen, was mit den OpenAI-Modellen geschah, nicht innerhalb der Grenzen ihrer Cybersicherheitssysteme halten konnte.

Wie Unternehmen reagieren sollten

Für Unternehmen besteht die Priorität darin sicherzustellen, dass interne und externe Cybersicherheitsexperten ähnliche Exploits antizipieren.

„Auch die Bestätigung mit ihren Versicherern [ist wichtig], um sicherzustellen, dass sie gegen Exploits abgesichert sind, die angesichts dessen, was wir nun als möglich kennen, vernünftigerweise erwartet werden könnten“, sagte Bennett.

Wenn ein Unternehmen unsicher ist, ob es alles Notwendige tut, um sich gegen solche Angriffe zu schützen, muss es möglicherweise überdenken, wo es seine Daten speichert. „Sie könnten erwägen, die sensibelsten Daten, die wichtigsten Informationen, die sie dort draußen haben, aus der Cloud herauszunehmen“, sagte Bennett.

Unternehmen sollten außerdem den Empfehlungen von KI-Cybersicherheitsexperten folgen, etwa ihre Systeme regelmäßig scannen — insbesondere solche, die große Mengen wertvoller in der Cloud gehosteter Daten enthalten. Bennett betonte, dass Organisationen regelmäßige Red-Team-Übungen durchführen, die Wirksamkeit ihrer Cybersicherheitsmaßnahmen und -praktiken testen und Best-Practice-Leitlinien von Regierungsbehörden wie dem National Institute of Standards and Technology (NIST) einhalten sollten. Das im Januar 2023 veröffentlichte AI Risk Management Framework des NIST bietet freiwillige Leitlinien für Organisationen, die Risiken im Zusammenhang mit KI-Systemen steuern, einschließlich Sicherheits- und Zuverlässigkeitsaspekten.

Ausblick

Während sowohl OpenAI als auch Hugging Face den Exploit weiter untersuchen, bleibt offen, ob die zweiwöchige Quarantänefrist für GPT-5.6 ausreichend war.

Für Bennett deutet die Tatsache, dass nur ein einziger Vorfall gemeldet wurde, darauf hin, dass es weitere Vorfälle hätte geben können, wenn das Modell nicht unter Quarantäne gestellt worden wäre.

„Wir wissen nicht, was passiert wäre, wenn diese Art verzögerter Veröffentlichung zur Prüfung durch Regierungsbehörden nicht stattgefunden hätte“, sagte er. „Es hätte weitere Angriffe geben können, eine größere Zahl davon mit schwerwiegenderen Folgen, vielleicht sogar gegen Behörden und Unternehmen, die für unser tägliches Leben oder das tägliche Leben der meisten von uns wichtiger sind.“

Angesichts des Schwarmangriffs durch abtrünnige Modelle argumentierte Bennett, dass Regierungsbehörden verzögerte Einführungen fortgeschrittener KI-Modelle weiterhin überwachen sollten, damit diese ordnungsgemäß bewertet werden können. Der Vorfall reiht sich in laufende politische Diskussionen in den USA und im Ausland ein — darunter der EU AI Act und US-Durchführungsverordnungen zur KI-Sicherheit — darüber, wie Evaluierungsanforderungen vor der Bereitstellung von Frontier-Modellen strukturiert und durchgesetzt werden sollten. Für Unternehmen bleibt die wichtigste Reaktion, Best-Practice-Leitlinien von Cybersicherheitsexperten und Versicherern zu befolgen.