Der effektive KI-Einsatz hat sich zu einem entscheidenden Wettbewerbsvorteil entwickelt, wobei Organisationen Tools und autonome Agenten in nahezu allen Geschäftsfunktionen integrieren. Doch rasche Innovation bringt entsprechende Verantwortlichkeitsherausforderungen mit sich. Die heutige KI geht weit über einfache Chatbots hinaus – Agenten fragen Datenbanken ab, rufen externe Tools auf und verschieben sensible Daten, häufig ohne angemessene Aufsicht über ihre Zugriffsberechtigungen oder darüber, wie sich ihre Risikoprofile im Laufe der Zeit verändern.

Diese blinden Flecken, verstärkt durch einen weit verbreiteten Mangel an KI-Kompetenzen und zurückbleibende Governance-Rahmenwerke, führen dazu, dass die Einführung die Aufsicht mittlerweile deutlich überholt. Die weltweite Personalunterdeckung im Bereich Cybersicherheit, die laut aufeinanderfolgenden ISC2-Arbeitsmarktstudien bereits in die Millionen geht, bedeutet, dass selbst Organisationen mit ausgereiften Sicherheitsprogrammen häufig über keine dedizierte KI-Risikoexpertise verfügen. Die Gefahr wächst, sobald Agenten fähiger und autonomer werden. Dennoch müssen Organisationen keine Wahl zwischen Agilität und Kontrolle treffen. Das Gebot der Stunde ist ein Denkwechsel: die Erkenntnis, dass Governance als Fundament der Innovation dient und nicht als deren Hindernis.

Das Kernproblem ist die Governance, nicht die KI

KI-Systeme sind nur so zuverlässig wie die Governance, die sie umgibt – und die aktuellen Governance-Rahmenwerke reichen nicht aus. Traditionelle IT-Infrastrukturen waren schlichtweg nicht auf die Geschwindigkeit oder Skalierung ausgelegt, die KI erfordert. Organisationen haben sich seit langem auf punktuelle Governance-Bewertungen und jährliche Überprüfungen verlassen – Ansätze, die mit der kontinuierlichen Weiterentwicklung von KI unmöglich Schritt halten können. In der KI-Ära gilt möglicherweise morgen nicht mehr, was gestern noch richtig war – und Risikoprofile verändern sich ebenso schnell.

Wichtige regulatorische Rahmenwerke beginnen zu reagieren. Der EU AI Act, der im August 2024 in Kraft getreten ist und dessen Bestimmungen in gestaffelten Fristen bis 2026 und 2027 gelten, stuft KI-Systeme in abgestufte Risikokategorien ein – von minimal bis inakzeptabel. In den Vereinigten Staaten bietet das NIST AI Risk Management Framework (AI RMF 1.0), veröffentlicht im Januar 2023, eine freiwillige, aber weit verbreitete Referenz zur Strukturierung der KI-Risikobewertung. International stellt ISO/IEC 42001:2023 den ersten zertifizierbaren Standard für KI-Managementsysteme bereit. Die Regulierungsbehörden haben sich zunehmend auf risikoproportionale Governance als Standardansatz geeinigt.

Nichtsdestotrotz müssen Organisationen über reine Compliance-Abhaken hinausgehen. Sie sollten dieselbe risikobasierte Logik auf den eigenen KI-Bestand anwenden – unabhängig von spezifischen gesetzlichen Vorgaben – und ermitteln, wie sie ihre Kunden und Vermögenswerte tatsächlich schützen können.

Sichtbarkeit als Grundlage der KI-Governance

Eine der drängendsten Governance-Herausforderungen besteht darin, dass Organisationen häufig kein vollständiges Bild der KI haben, die in ihren Umgebungen operiert. Ungegliederte, nicht genehmigte KI-Tools funktionieren ohne Aufsicht innerhalb von Unternehmensnetzwerken – ein Phänomen, das weithin als Schatten-KI bezeichnet wird. Das Muster ähnelt den Schatten-IT-Herausforderungen, mit denen Sicherheitsteams seit Jahren ringen, allerdings führt KI einen verschärfenden Faktor ein: Diese Tools speichern nicht nur Daten, sondern verarbeiten, generieren und übertragen sie aktiv, oft mit maschineller Geschwindigkeit und Skalierung.

Das Prinzip ist einfach: Man kann nicht steuern, was man nicht sieht. Organisationen haben Schwierigkeiten, selbst ihre Sichtbarkeitslücken zu identifizieren, geschweige denn zu schließen. KI hat so tief in Unternehmen eindringt, dass sie mittlerweile nahezu alle genehmigten Unternehmensplattformen, Mitarbeitergeräte und Browser umfasst. Autonome Agenten werden zunehmend in routine Arbeitsabläufe integriert, was bedeutet, dass die Technologie nicht isoliert gesteuert werden kann. Organisationen müssen die Daten verstehen, auf die ihre KI-Tools zugreifen können, die Anbieter, die sie bereitstellen, und den breiteren Geschäftskontext – nicht nur das zugrunde liegende Modell.

Die Lösung beginnt mit Triage. Sichtbarkeit allein reicht nicht aus. Ein Inventar ist ein Ausgangspunkt, aber Organisationen müssen jedes KI-Tool als potenziellen Risikoschwerpunkt betrachten, die Auswirkungen jedes Systems bewerten und eine angemessene Kritikalität zuweisen. Ein kundenorientierter Agent mit Datenbankzugriff und ein internes Zusammenfassungstool erfordern beispielsweise keine identischen Kontrollen.

Sieben Schritte zur Steuerung von KI im Tempo der Einführung

Organisationen, die daran arbeiten, ihre KI-Tools unter eine wirksame Governance zu stellen, sollten sieben wesentliche Schritte befolgen:

1. Bewerten Sie die Auswirkungen jedes KI-Systems und weisen Sie eine Risikoeinstufung zu – kritisch, hoch, mittel oder niedrig – basierend auf der Sensitivität der Daten, mit denen es arbeitet, seinem Autonomiegrad und den betroffenen Personengruppen, ob Kunden oder Mitarbeiter.

2. Staffeln Sie die Kontrollen proportional zur Kritikalität. Hochrisiko-Agenten erfordern eine Freigabe mit menschlicher Überprüfung (Human-in-the-Loop), streng begrenzte Berechtigungen und definierte Eskalationswege für den Fall von Problemen. Niedrigrisiko-Tools benötigen leichtere Leitplanken.

3. Setzen Sie klare Leitplanken, die festlegen, was KI-Agenten tun dürfen, setzen Sie diese Grenzen aktiv durch und fangen Sie hochriskante Aktionen ab, bevor sie sich zu Vorfällen ausweiten.

4. Erweitern Sie das Third-Party-Risikomanagement auf KI. Organisationen müssen wissen, welche Lieferanten Agenten in ihre Produkte einbinden, auf welche Daten diese Agenten zugreifen können, und müssen vertragliche Schutzmaßnahmen wie Einschränkungen beim Training mit Daten, Meldepflichten bei Vorfällen und Prüfungsrechte sichern.

5. Überwachen Sie KI-Umgebungen kontinuierlich, anstatt sich auf periodische Überprüfungen zu verlassen. Kritikalitätseinstufungen sollten bei jeder Systemänderung neu bewertet werden – eine Einstufung, die beim Onboarding zugewiesen wurde, veraltet in dem Moment, in dem sich der Umfang, das Modell oder der Datenzugriff eines Agenten ändert.

6. Benennen Sie einen verantwortlichen Ansprechpartner, um eine klare Verantwortlichkeit zu schaffen. In vielen Organisationen fällt die KI-Risikoverantwortung derzeit mehrdeutig in den Bereich zwischen Sicherheits-, Rechts- und Daten-Teams. Eine definierte Verantwortlichkeit ermöglicht eine selbstbewusste KI-Einführung ohne unnötige Reibung.

7. Erstellen Sie kontinuierlich Nachweise, die belegen, dass sich die KI-Systeme wie vorgesehen verhalten – Nachweise, die Kunden, Aufsichtsbehörden und internen Stakeholdern gleichermaßen dienen.

Indem diese Schritte befolgt werden, verwandelt sich Governance in die Vertrauensschicht, die Organisationen befähigt, KI selbstbewusst einzuführen, anstatt eine Quelle bürokratischer Behinderung zu sein. Organisationen, die diese Nachweiskette jetzt aufbauen, werden materiell besser positioniert sein, wenn die Durchsetzungsfristen unter Rahmenwerken wie dem EU AI Act näher rücken.

Steuerung im Tempo der Einführung

Governance sollte Innovation stärken, nicht behindern. Zwar kann eine ordnungsgemäße Governance eine Organisation vorübergehend verlangsamen, aber sobald die richtigen Grundlagen geschaffen sind, ermöglicht sie letztlich ein höheres Tempo. Organisationen, die diesen disziplinierten Prozess befolgen, werden den größten Nutzen aus ihren KI-Investitionen ziehen.

Die weitblickendsten Organisationen bauen Governance vom ersten Tag an in KI-Systeme ein und gewinnen so die Sichtbarkeit, den Kontext und das Vertrauen, die für verantwortungsvolle Innovation erforderlich sind. Governance kann auch nicht erfolgreich sein, wenn sie nur in Richtliniendokumenten existiert. Mitarbeiter benötigen Schulungen im Bereich KI-Kompetenz, klare Nutzungsrichtlinien und sichere Kanäle, um Tools offenzulegen, die sie bereits verwenden – punitive Ansätze treiben die KI-Nutzung lediglich in den Untergrund und untergraben genau die Sichtbarkeit, von der eine wirksame Governance abhängt. Das Ziel ist einfach: Organisationen sollten sich voll auf KI einlassen können, sicher, indem sie KI genauso schnell steuern, wie sie sie einführen.