Der Wettlauf um künstliche Intelligenz verschärft sich, während Entwickler daran arbeiten, immer leistungsfähigere Werkzeuge zu bauen, und Unternehmen diese schnell einsetzen wollen, um Effizienzgewinne und finanzielle Vorteile zu erzielen. Ein neuer Bericht von EqualAI, einer gemeinnützigen Organisation mit Schwerpunkt auf verantwortungsvoller KI-Governance, warnt jedoch, dass Organisationen KI-Systeme ohne angemessene Governance-Rahmenwerke einführen, um die damit verbundenen Risiken zu steuern.

Die Warnung folgt auf einen viel beachteten Vorfall in dieser Woche, bei dem ein interner Test von KI-Modellen durch OpenAI, das Unternehmen hinter ChatGPT, dazu führte, dass die Modelle eine Software-Schwachstelle ausnutzten, die Eindämmung umgingen und sich in Hugging Face hackten — eine Plattform, auf der Entwickler an Code für KI-Modelle zusammenarbeiten —, um bei einer Cybersicherheitsbewertung zu schummeln. Obwohl OpenAI und Hugging Face den Vorfall eindämmten, verdeutlichte er die rasant wachsenden Fähigkeiten von KI-Modellen, Schutzmechanismen zu umgehen und Cybersicherheitsbedrohungen zu erzeugen. Führungskräfte beider Unternehmen erkannten die Bedeutung des Geschehens an.

EqualAI-CEO Miriam Vogel, die auch den U.S. National AI Advisory Committee leitet, veröffentlichte in dieser Woche ein Whitepaper zu KI-Governance und -Einführung. Sie sagte gegenüber FOX Business: „Innovation is going at an unprecedented pace; the problem is governance is not matching that pace.“

„What we want to make sure people recognize from this incident is, across the board, we need to have stronger expectations in place if we're going to start to build trust and ensure these systems deserve our trust,“ sagte sie.

Vogel betonte, dass die meisten Verbraucher über Unternehmen mit KI in Berührung kommen, die KI-Lösungen eingesetzt haben, und nicht über die Entwickler, die die zugrunde liegenden Modelle gebaut haben. Sie verwies auf Ergebnisse des World Economic Forum, wonach weniger als 1% der Unternehmen über eine starke Governance für KI-Systeme verfügen, während McKinsey im vergangenen Jahr berichtete, dass weniger als ein Drittel der Unternehmen überhaupt irgendein KI-Governance-Rahmenwerk hat. Diese Lücke besteht fort, obwohl Regierungen regulatorische Leitplanken schaffen, darunter der AI Act der Europäischen Union und die Ende 2023 erlassene US-Executive Order zur KI-Sicherheit.

„I think too many people are assuming it's someone else's problem, you know, that it's the developer's problem or just not understanding that this is their problem,“ sagte Vogel.

Während der OpenAI-Hugging Face-Vorfall ein Entwicklungsunternehmen betraf, stellte Vogel fest, dass sich die umfassendere Governance-Herausforderung vor allem bei den Anwendern abspielen werde. „It's with the healthcare, finance, social media, infrastructure—all the other ways [companies are] using agentic AI,“ erklärte sie. Agentische KI bezeichnet Systeme, die autonome Handlungen ausführen können, um Ziele zu erreichen, wodurch sich der Umfang der Entscheidungen erweitert, die KI ohne direkte menschliche Aufsicht treffen kann.

Gerichte machen zunehmend Unternehmen haftbar, die agentische KI in kunden- oder geschäftsbezogenen Abläufen einsetzen, und nicht die Firmen, die das ursprüngliche KI-Modell oder -Werkzeug entwickelt haben, sagte Vogel.

„A lot of this becomes the liability of the person who had the last touch on it, whose data is involved, whose customer is involved. They are often the one who owns the liability,“ fügte sie hinzu.

Trotz der Governance-Lücke stellte Vogel fest, dass sich unter führenden Organisationen weltweit ein Konsens über bewährte KI-Praktiken herausbildet. „They've all come to this independently, and there is really a lot of consensus on what the best practices are,“ sagte sie.

„The other thing that's good news is most of this is not rocket science, it's leadership and good governance just applied to AI,“ fügte Vogel hinzu.

Das Whitepaper von EqualAI benennt fünf zentrale Bereiche, die Unternehmen beim Aufbau von Governance für agentische KI berücksichtigen sollten. Der erste ist Transparenz — zu verstehen, welche KI-Werkzeuge in der gesamten Organisation genutzt werden, da Führungskräfte den KI-Fußabdruck ihres Unternehmens oder die damit verbundenen Chancen und Risiken möglicherweise nicht vollständig erfassen. Der zweite ist Verantwortlichkeit, also klare Zuständigkeiten über Führungsebenen und Unternehmensbereiche hinweg sicherzustellen.

Die dritte Komponente ist die Operationalisierung von KI-Prinzipien. Vogel erklärte, dies bedeute, in Dokumenten formulierte Prinzipien in praktische Maßnahmen zu übersetzen, etwa durch die Einrichtung von Protokollen für die Kommunikation über auftretende Probleme. Dieser Prozess hängt von internem Vertrauen und einer Kultur geteilter Verantwortlichkeit innerhalb der Organisation ab.

Die vierte Säule ist die Einrichtung von Feedback-Schleifen, die regelmäßig genutzt werden können, während KI-Werkzeuge und -Modelle iterieren und sich verbessern. Dies hilft Organisationen, Problemen wie Model Drift voraus zu sein, und kann in Form eines strukturierten Plans und eines festen Rhythmus für routinemäßige Tests erfolgen.

Die fünfte und letzte Säule ist KI-Kompetenz, die Vogel mit einer von ihr beschriebenen zunehmenden öffentlichen Skepsis gegenüber KI in Verbindung brachte. Sie warnte, dass Ängste beginnen, die Begeisterung für die Technologie zu überlagern.

„I think that squarely lands not only on the overall governance infrastructure that's lacking in most organizations, but this fundamental piece of AI governance which is AI literacy,“ sagte Vogel. „Most people don't know that they're using AI, they don't want to use AI, don't know how to use it.“

„AI literacy is just a key variable in making sure people understand how to use it, that they know how to avoid risks because they don't want to cause harm or bring a liability for themselves or their organization,“ fuhr sie fort. „Making sure that your workforce and your consumers understand how you're using AI, how you will not be using AI, and how it can benefit them is a key variable.“