Trotz Aufrufen von Führern von KI-Frontier-Labs zu einer Verlangsamung priorisieren die meisten Unternehmen stärkere Governance statt ihre Nutzung künstlicher Intelligenz zu pausieren, wie aus einem neuen Bericht von OneTrust, einem Anbieter für KI-, Datenschutz- und Sicherheitslösungen, hervorgeht.

Der Bericht ergab, dass zwar viele Unternehmen im vergangenen Jahr KI-bezogene Probleme erlebten, die meisten ihre KI-Einführungen jedoch nicht verlangsamen oder pausieren. Zu diesen Vorfällen zählen die Offenlegung geistigen Eigentums sowie KI-Agenten, die Daten nutzen, weitergeben und löschen.

In einem Frage-und-Antwort-Gespräch erörterte OneTrusts Chief Innovation Officer Blake Brannon, warum Unternehmen die KI weiter vorantreiben und wie sie sich stärker auf Governance als auf die rasche Weiterentwicklung von KI-Modellen konzentrieren können.

Druck aus dem Vorstand treibt die Dynamik an

Der Bericht stellte fest, dass Unternehmen trotz der KI-Vorfälle weiterhin die Nutzung von KI und KI-Agenten fördern. Gefragt, was die Dynamik zur Einführung der Technologie befeuert, verwies Brannon auf den Druck von der Spitze der Organisationen.

„Von oben bis unten in jedem Unternehmen ist das Thema Nummer eins, das Ihr Vorstand anspricht: ‚Was machen wir mit KI? Wie transformieren wir unsere Arbeitsweise und die Produkte und Dienstleistungen, die wir entwickeln? Werden wir von den Frontier-Modellen, von etablierten Startups disruptiert? Was ist unser Burggraben?'“, sagte er.

„Dieser Druck führt dazu, dass alle etwas aggressiver vorgehen, beschleunigen und herausfinden, wie sie KI nutzen können.“

Sobald Organisationen beginnen, diese Tools zu evaluieren und einzusetzen, entstehen schnell Fragen zu Governance und Sicherheit, so Brannon. Alle blicken auf die Realität, dass es innerhalb der nächsten zwei Jahre in jedem Unternehmen der Welt mehr handelnde Agenten als Menschen geben wird.

Er argumentierte, dass die Programme und Prozesse, die Unternehmen im Laufe der Zeit zur Selbststeung aufgebaut haben, in einer Ära entworfen wurden, in der ein Mensch alles, was das Unternehmen tat, initiierte – entweder erledigte eine Person die Arbeit, oder eine Person baute ein deterministisches Softwaresystem, das dies tat. Das machte diese Aktivitäten steuerbar, weil sie sich in menschlichem Tempo bewegten.

„Heute haben wir Citizen Developer, Citizen Builder. Jeder kann einen Agenten bauen“, sagte Brannon. Das untergrabe grundlegend die Funktionsweise traditioneller Governance und Sicherheit in Organisationen, erklärte er, denn was Organisationen früher taten, um ihre Daten zu schützen, dauerte Wochen – heute müsse es in Sekunden gelöst werden.

Vom Proof of Concept zur Skalierung

Gefragt, wie dieser Wandel Organisationen zu Investitionen in Governance führt, sagte Brannon, Vertrauen sei der entscheidende Faktor für Autonomie.

„Sie können all diese großartige KI erschaffen, aber wenn Sie ihr nicht vertrauen, können Sie sie nicht laufen lassen“, sagte er. „Sie können sie nicht autonom agieren lassen, also müssen Sie das lösen.“

Investitionen würden kritisch, fügte er hinzu, weil Unternehmen über Proof of Concepts hinausgehen und skalieren. Mit der Skalierung entsteht die einfache Frage, wie man KI vertrauen, nachvollziehen und kontrollieren kann – weshalb Organisationen mehr Zeit in dieses Problem investieren.

Eine Möglichkeit, die Herausforderung zu rahmen, sagte Brannon, sei, dass KI-Systeme sich so verhalten müssen wie die Organisation oder einer ihrer Mitarbeiter. Was ein Unternehmen als akzeptable Handlung ansieht, ist in Faktoren wie Compliance, Sicherheitspraktiken und dem Markenversprechen verankert, und Agenten müssen diese Standards nachahmen. Das sei ein Teil des Problems.

Der zweite Teil sei die Verhinderung schlechter Ereignisse. „Sie müssen die Notbremse des Autos angezogen haben. Sie müssen erkennen, dass dieser Agent eine destruktive Aktion ausführen wird, und sie stoppen wollen“, sagte Brannon. Das sei eine nuancierte Aufgabe, da KI-Systeme Dinge wie die Identität und Berechtigungen von Menschen nicht erben, und „wir wollen, dass Menschen mittendrin sind.“

Zwei Prinzipien zur Steuerung schnelllebiger KI

Während Organisationen schnell mit KI voranschreiten und Technologieanbieter ihre Modelle rasant aktualisieren, skizzierte Brannon zwei Prinzipien, die die erforderliche Architektur prägen, um diesen Systemen Vertrauen beizumessen.

Das erste ist die Erkenntnis, dass einem Modell selbst nicht vertraut werden kann. „Fast jedes Wochenende sehen wir jemanden einen Blog oder Artikel posten mit den Worten: ‚Bitte regulieren Sie uns, wir können unseren Systemen nicht trauen, und das ist sehr gefährlich'“, sagte er.

Das bedeutet, dass Organisationen davon ausgehen müssen, dass ein Modell aus seiner Führung ausbrechen wird und sich ein Modell selbst dahingehend manipulieren könnte, dass alles, was es tut, akzeptabel sei. Die Governance-Architektur muss daher ein unabhängiges, separates Harness sein, getrennt von dem eig regierten Objekt.

„So hat die Gesellschaft seit Jahrtausenden funktioniert“, sagte Brannon. „Regierungsgewalt wird absichtlich getrennt. Unternehmensabteilungen werden absichtlich getrennt, um eine klare, vorurteilsfreie Unterscheidung zwischen dem steuernden Gremium und dem Regierten zu schaffen.“ Für KI bedeutete das, dass Modelle und Anbieter einen unabhängigen Governance-Agenten bzw. ein Governance-Harness benötigen, um zu bewerten, was ein KI-System und Agent tun.

Das zweite aufkommende Prinzip betrifft die Komplexität, mit ständig wechselnden Modellen und Harnesses Schritt zu halten. Brannon sagte, jedes Unternehmen werde eine fragmentierte Vielfalt verschiedener Modellanbieter, Modelle und Harnesses betreiben, weil das Marketing etwas anderes nutzen will, der Kundensupport etwas anderes benötigt und die Technik wieder etwas anderes. Diese Fragmentierung erzeuge enorme Komplexität bei der Kontrolle und Steuerung von Systemen, die sich alle unterschiedlich verhalten.

Die Architektur, sagte er, verschiebe sich hin zu einer einfacheren Frage: Wen kümmert es, was das Modell tut, oder warum das Modell dachte, was es dachte? Was für ein Unternehmen zählt, ist, wann das KI-System tatsächlich eine Aktion ausführt – wenn es versucht, Daten aus einem Unternehmenssystem zu lesen, eine E-Mail zu senden oder einen Datensatz zu löschen. In der Praxis verlagert das den Fokus der Governance auf die Punkte, an denen ein KI-System Unternehmensdaten und -abläufe beeinflussen kann, statt auf das Modell isoliert.

„Das ist der Moment, in dem mir Governance wichtig ist“, sagte Brannon. „Ich kann meine Kontrollen um einen festen Punkt herum gestalten, an dem es sich mit dem verbindet, was mir wichtig ist, und die richtigen Leitplanken und Richtlinien an diesem festen Punkt verankern.“

Redaktioneller Hinweis: Das Q&A wurde stilistisch und aus Gründen der Kürze redaktionell bearbeitet.

Das Q&A wurde von Esther Shittu, Nachrichtenhautorin bei AI Business, geführt, die seit 2021 über KI-Technologien und Branchentrends berichtet und Co-Moderatorin des Targeting AI Podcasts ist.

Dieser Artikel basiert auf einer Berichterstattung von AI Business vom 21. September 2026: Accelerating AI adoption and governance amid an AI slowdown.