Die rasche Verbreitung von KI-Agenten in Unternehmen weltweit eröffnet eine völlig neue Risikodimension und verstärkt interne Bedrohungen drastisch. Organisationen müssen nun steuern, wie diese Agenten mit Nutzern, anderen Agenten, Daten und Anwendungen interagieren – und die Kontrolle über diese Interaktionen entwickelt sich zur wichtigsten Sicherheitsherausforderung für Unternehmen. Wenn Firmen Agenten für Aufgaben vom Kundensupport über Codegenerierung bis zur Datenanalyse einsetzen, erweitert jede neue Integration die Angriffsfläche in einer Weise, für die herkömmliche Sicherheitskonzepte nie ausgelegt waren.

Was diesen Wandel von früheren Entwicklungen in der Unternehmenssicherheit unterscheidet, ist die Kombination aus Geschwindigkeit und Autonomie. Eine interne Bedrohung durch einen Menschen entwickelt sich typischerweise über Tage oder Wochen und hinterlässt erkennbare Muster. Ein KI-Agent hingegen kann Tausende autonomer Aktionen in der Zeit ausführen, die ein Sicherheitsteam benötigt, um überhaupt zu erkennen, dass etwas schiefgelaufen ist. Das ist kein gradueller Unterschied – es ist eine grundlegend andere Risikokategorie, und die Mehrheit der Organisationen richtet ihre Verteidigung noch auf die vorherige Kategorie aus.

Hugging Face, die Open-Source-Plattform, die Hunderttausende von KI-Modellen und Datensätzen hostet, die weltweit von Unternehmen genutzt werden, hat deutlich gezeigt, dass ein KI-Agent, sobald ihm ein konkretes Ziel zugewiesen wurde, die Barrieren umgehen kann, die ihn einschränken sollen. Da die Sicherheitsverletzung nun eine erwiesene Tatsache ist, lautet die Frage nicht mehr, ob Schutzmaßnahmen implementiert werden müssen, sondern wann. Anstatt sich darauf zu konzentrieren, was geschehen ist und wie es weitergehen soll, fixiert sich die Industrie jedoch auf nebensächliche Variablen, die das Problem nur verschleiern.

Der entscheidende Punkt ist dieser: Die Verantwortung für die Bewältigung dieses Risikos kann nicht allein bei den Modellanbietern liegen. Weder von Unternehmen, die Grenzmodelle entwickeln, noch von Open-Source-Modellentwicklern sollte erwartet werden, dass sie den Cyberschutz für die von ihnen erstellten Modelle liefern.

Cybersicherheit war schon immer eine eigenständige, spezialisierte Disziplin. Sie muss von Organisationen mit tiefer Fachexpertise angegangen werden. Die KI-Ära verlangt Sicherheitsarchitekturen, die speziell für Transparenz, Governance und Echtzeitkontrolle entwickelt wurden – nicht Werkzeuge, die von Lösungen für ein völlig andere Problemstellung nachgerüstet wurden.

Es geht hierbei nicht um Misstrauen gegenüber Modellentwicklern. Vielmehr spiegelt es ein Grundprinzip wider, nach dem Sicherheit seit Jahrzehnten funktioniert. Das Team, das ein Produkt entwickelt, ist selten das Team, das am besten zur Absicherung geeignet ist, da Entwicklung und Absicherung zwei separate Disziplinen mit grundlegend unterschiedlichen Aufträgen sind. Das galt vor zwei Jahrzehnten für Unternehmenssoftware und gilt heute in gleicher Weise für KI-Systeme.

Es geht nicht um das KI-Wettrennen zwischen den USA und China

Der Reflex, dies als Debatte zwischen Open Source und Closed Source darzustellen oder die Modelle einer Nation gegen die einer anderen auszuspielen, verfehlt den Kern des Vorfalls und lenkt von dem tatsächlichen Ereignis ab. Nationalismus ist hier irrelevant. Es geht nicht um chinesische Open-Source-Modelle gegen amerikanische Closed-Source-Modelle. Die durch KI erzeugten Herausforderungen werden nicht durch nationale Grenzen eingedämmt – wenn überhaupt, verstärken diese Grenzen die technischen, politischen, sozialen und wirtschaftlichen Hindernisse, denen sich alle stellen müssen.

In Wirklichkeit dürfte Cybersicherheit noch das geringste der Probleme sein. Die zugrunde liegenden Herausforderungen gehen weit über eine einzelne Branche hinaus, und ihre Behandlung als geopolitischer Wettbewerb bringt uns der Lösung keinen Schritt näher. Das Ziehen von Grenzen und das Schüren unkontrollierter Konkurrenz zwischen Nationen ist kontraproduktiv, wenn es darum geht, die Fragen zu bewältigen, die Grenz-KI aufwirft.

Die Darstellung der Situation als Wettstreit zwischen Ländern führt auch zu einer Fehlallokation von Aufmerksamkeit und Ressourcen. Jede Stunde, die mit Debatten über den Ursprung eines Modells verbracht wird, fehlt beim Aufbau der Kontrollmechanismen, die Vorfälle wie diesen verhindern könnten – unabhängig von der Herkunft des Modells. Die Angriffsfläche ist gleichgültig gegenüber dem Pass eines Modells.

Plädoyer für globale Zusammenarbeit

Die Bewältigung der weiterreichenden KI-Risiken erfordert kollektives Handeln. Das bedeutet globale Zusammenarbeit in den Bereichen KI-Sicherheit und -Schutz – unter Einbeziehung von Modellunternehmen, Sicherheitsexperten, Regierungen und Unternehmen, die jeweils die richtige Expertise einbringen. Das ist der Weg, um Innovation zu schützen, ohne ihren Fortschritt zu behindern.

Die von Nvidia initiierte Open Secure AI Alliance ist ein Schritt in die richtige Richtung, aber erst der Anfang. Es bleibt wesentlich mehr zu tun. Globale Koalitionen und internationale Foren wie das Weltwirtschaftsforum (WEF) bieten eine Plattform für Experten mit unterschiedlichen Perspektiven, um die komplexen Herausforderungen in den Bereichen Governance, Sicherheit und Politik zu lösen, die KI geschaffen hat.

Jede dieser Gruppen hält ein kritisches Puzzleteil der KI-Sicherheit. Modellunternehmen verfügen über ein unübertroffenes Verständnis der Systeme, die sie entwickelt haben. Sicherheitsunternehmen wissen, wie Angreifer denken und wie Unternehmen tatsächlich kompromittiert werden – ein Wissen, das über Jahrzehnte der Praxis angesammelt wurde. Regierungen können Standards harmonisieren und festlegen, die dem gesamten Ökosystem eine gemeinsame Grundlage geben. Keine dieser Gruppen kann die Aufgaben der anderen übernehmen, und das Gegenteil zu behaupten ist genau der Grund, warum Lücken wie die gerade beobachtete größer werden.

Jedes Unternehmen betreibt heute KI-Agenten mit einem gewissen Maß an Autonomie, und diese Zahl wird nur steigen. Die Frage, die sich stellt, ist nicht, welches Labor das Modell entwickelt hat oder aus welchem Land es stammt. Sie lautet, ob jemand genau genug beobachtet, um zu erkennen, was diese Agenten als Nächstes tun werden.

Die in den Kommentarbeiträgen auf Fortune.com geäußerten Meinungen geben ausschließlich die Ansichten der jeweiligen Autoren wieder und spiegeln nicht zwingend die Meinungen und Überzeugungen von Fortune wider.

Diese Geschichte erschien ursprünglich auf Fortune.com.