Während einige der bekanntesten Persönlichkeiten der künstlichen Intelligenz einen langsameren, überlegteren Ansatz bei der Entwicklung von Frontier-KI fordern, rückt eine andere Governance-Frage für Open-Weight-Modelle in den Fokus: Wer ist für ihre Sicherheit verantwortlich, sobald die Entwickler die Gewichte freigeben – also die trainierten Parameter, die bestimmen, wie ein Modell seine Ausgaben erzeugt?

In einem Essay vom 12. September, das die jüngste Debatte über eine KI-Bremse auslöste, argumentierte Anthropic-CEO Dario Amodei, dass die KI-Entwicklung verlangsamt werden müsse, damit die Sicherheitsarbeit Zeit hat, mit den Modellfähigkeiten Schritt zu halten. OpenAI-CEO Sam Altman und andere KI-Führer und Forscher haben sich ebenfalls für ein gemäßigteres Tempo ausgesprochen.

Bisher konzentriert sich die Debatte vor allem auf Frontier-Entwickler und deren Fähigkeit, die Nutzung ihrer Modelle zu kontrollieren. Einige Unternehmen experimentieren jedoch bereits mit Open-Weight-Modellen und bauen darauf auf – sie laden sie herunter, passen sie an und betreiben sie in ihrer eigenen Infrastruktur.

Databricks bietet beispielsweise Modelle wie Kimi K3, Qwen und DeepSeek auf seiner Plattform an. Das breitere Ökosystem umfasst auch Metas Llama und die Modelle von Mistral, neben vielen anderen. Es reicht weit über diese bekannten Namen hinaus: Die Open-Source-Plattform Hugging Face meldete im August fast 3 Millionen öffentliche Modelle in ihren Repositories – von Modellen unterschiedlicher Größe und für unterschiedliche Zwecke.

Während diese Modelle Unternehmen mehr Kontrolle über das Deployment geben, verlieren die ursprünglichen Entwickler im Allgemeinen die direkte technische Kontrolle darüber, wie die freigegebenen Gewichte verändert, eingesetzt und genutzt werden – auch wenn Lizenzbedingungen und rechtliche Beschränkungen deren Nutzung und Weiterverbreitung weiterhin einschränken können.

Die Debatte über die KI-Bremse zeigt die Grenzen zentralisierter Sicherheit

Bei einem geschlossenen, also proprietären KI-Modell verwaltet der Entwickler in der Regel den Zugang zum System. Er kann Nutzungsbeschränkungen auferlegen, Aktivitäten überwachen und den Zugang bei Bedarf ändern oder entziehen.

Open-Weight-Modelle verändern diese Dynamik. Sobald Entwickler die Gewichte öffentlich freigeben, können Organisationen sie herunterladen und in eigenen Umgebungen betreiben. Sie können die Modelle verändern oder fine-tunen – also ein vortrainiertes Modell mit zusätzlichen Daten an bestimmte Aufgaben anpassen – und sie gegebenenfalls über verschiedene Infrastrukturanbieter einsetzen.

Diese Flexibilität kann Open-Weight-KI für Unternehmen attraktiv machen, erschwert aber auch die Anwendung traditioneller Ansätze der KI-Aufsicht. Sobald die Gewichte öffentlich verfügbar sind, hat der ursprüngliche Entwickler weit weniger Übersicht darüber, wie Organisationen das Modell verändern und einsetzen. Open-Source-Anbieter können die Gewichte nach der Freigabe auch nicht realistisch wieder zurückziehen.

„Die vorgeschlagenen Lösungen, eingebettete Auditoren und kontinuierliche Überwachung funktionieren nur, solange der Anbieter noch die Kontrolle über das Modell hat", sagte Manuel Schonfeld, Chief AI Officer bei Qu, einem Unternehmen mit Sitz in Arlington, Virginia, das Unified-Commerce- und Smart-Kitchen-Plattformen für die Gastronomiebranche entwickelt. „Sobald die Gewichte das Haus verlassen, fällt diese Aufgabe dem Unternehmen zu, das sie einsetzt, nicht dem, das sie trainiert."

Das bedeutet nicht, dass Open-Weight-Modelle von Sicherheitsanforderungen ausgenommen sein sollten, denn sie können ihre eigenen Sicherheits- und Missbrauchsrisiken mit sich bringen. Eine aktuelle von der britischen Regierung in Auftrag gegebene Studie ergab, dass zwar traditionelle Open-Source-Software über etabliertere Sicherheitspraktiken verfügt, Open-Source-KI jedoch zusätzliche Risiken in Bezug auf Modellgewichte, Trainingsdaten, Fine-Tuning-Pipelines und Provenienz einführt. Die Untersuchung stellte zudem fest, dass die Forschung zu Sicherheit und Governance von Open-Source-KI weiterhin begrenzt ist.

Strengere Aufsichtsregeln könnten die Kosten für Open-Weight-KI erhöhen

Ein Weg, diese Sicherheitsherausforderung anzugehen, wäre, den Entwicklern mehr Verantwortung zu übertragen. Doch wenn die Debatte über die KI-Bremse zu strengeren Compliance- und Evaluierungsanforderungen führt, könnten große KI-Unternehmen diese leichter erfüllen als kleinere Open-Weight-Entwickler.

Die größten Labore verfügen über die Ressourcen für Tests, Evaluierungen und Compliance, während kleinere Entwickler möglicherweise Schwierigkeiten hätten, strengere Anforderungen zu erfüllen.

Noah Kenney, Gründer und Principal Consultant bei Digital 520, einem IT-Dienstleistungsunternehmen, das auf Strategie und Wachstum für Technologieunternehmen spezialisiert ist, sagte, Compliance-Anforderungen könnten zu einer Hürde werden, wenn Unternehmen von kleineren Anbietern dieselben Audits und Nachweise verlangen, die sie von größeren Anbietern erwarten. „Wenn Compliance-Kosten größere Anbieter begünstigen, könnten Unternehmen weniger Alternativen zu den größten KI-Konzernen haben", fügte er hinzu.

Amodeis Vorschlag für Sicherheitsbewertungen durch Dritte, den er in seinem Essay darlegte, veranschaulicht diese Herausforderung ebenfalls. Sein würde unabhängigen Evaluatoren dauerhaften, mitarbeitungsähnlichen Zugang zu Frontier-KI-Laboren gewähren. Dieser Ansatz lässt sich auf Open-Weight-Modelle nach der Freigabe der Gewichte schwerer anwenden, wenn Organisationen sie ohne Beteiligung des ursprünglichen Entwicklers verändern und weiterverbreiten können.

Unabhängige Evaluierungen können weiterhin zur Verbesserung der KI-Sicherheit beitragen, aber Open-Weight-Modelle erschweren es zu bestimmen, wer ein Modell überwachen sollte, sobald die Entwickler es freigeben.

Unternehmen könnten mehr Verantwortung erben

Wenn die Debatte über die KI-Bremse zu stärkerem Nachdruck auf Tests, Überwachung und Rechenschaftspflicht führt, könnten Unternehmen, die Open-Weight-Modelle einsetzen, einen größeren Teil dieser Governance-Last selbst übernehmen.

Prince Kohli, President und CEO von Sauce Labs, einem Entwickler cloudbasierter Software-Testplattformen, der mit Open-Weight-Anbietern zusammengearbeitet hat, sagte, Open-Weight-Modelle gäben Unternehmen mehr Kontrolle darüber, wo Modelle laufen, wie sie angepasst werden und wie Daten verwaltet werden. Doch diese Kontrolle brings auch betriebliche und governancebezogene Verantwortlichkeiten mit sich.

„Unternehmen müssen die Risiken jedes Anwendungsfalls berücksichtigen, wenn sie entscheiden, welches Modell sie einsetzen", sagte Kohli. Ein Open-Weight-Modell eigne sich möglicherweise gut für einfache, risikoarme Aufgaben, während komplexe oder geschäftskritische Workflows einen höheren Maßstab an Sicherheit und Vorhersehbarkeit erforderten.

Sobald ein Unternehmen ein Modell selbst verändert und betreibt, müsse es die Provenienz des Modells verstehen, kontrollieren, auf welche Daten es zugreifen kann, und seine Ausgaben kontinuierlich bewerten – insbesondere wenn es Code generiert oder Agenten antreibt, die Aktionen ausführen oder beeinflussen können.

Kenney sagte, die Verantwortung sollte sich vermutlich danach richten, was jede Partei beiträgt und kontrolliert: Der ursprüngliche Entwickler sollte für das Modell, das er veröffentlicht hat, und dessen bekannte Einschränkungen verantwortlich sein, während das Unternehmen für sein Fine-Tuning, seine Daten, Tools, Berechtigungen und Deployment-Entscheidungen verantwortlich sein sollte.

Das bedeutet, dass Unternehmen das Modell möglicherweise validieren, die Umgebung, in der es läuft, absichern, das Produktionsverhalten überwachen und Audit-Nachweise führen müssten.

Für Unternehmen – insbesondere solche, die Open-Weight-Modelle einsetzen – enden Sicherheit und Governance nicht mit der Auswahl eines Modells; sie setzen sich über das Deployment und die Nutzung hinweg fort. Die Herausforderung besteht nicht nur darin zu entscheiden, wie schnell sich die KI entwickeln soll. Es geht auch darum, wie Rechenschaftspflicht funktionieren sollte, sobald das Unternehmen, das ein Open-Weight-Modell entwickelt hat, die direkte technische Kontrolle darüber verliert, wie die freigegebenen Gewichte verwendet werden. Wie die Debatte über die KI-Bremse gelöst wird – auch ob neue Evaluierungs- und Compliance-Anforderungen bereits öffentlich verfügbare Gewichte berücksichtigen – bleibt eine offene Frage für Entwickler und Unternehmen gleichermaßen.

*Quelle: AI Business — [Calls for AI slowdown raise new challenges for open-weight models](https://aibusiness.com/generative-ai/calls-ai-slowdown-raise-new-challenges-open-weight-models