Tyler Cowen schlägt FINRA-orientierte Selbstregulierung als „am wenigsten schlechten“ Weg zur KI-Regulierung vor
Wichtige Erkenntnisse
- •Cowen schlägt einen privaten, gemeinnützigen KI-Regulierer vor, der teilweise an FINRA angelehnt ist und von Washington beaufsichtigt würde, möglicherweise über das Center for AI Standards and Innovation.
- •Die vorgeschlagene Organisation würde große KI-Labs und ihre Modelle regelmäßig auditieren, mit anfänglichem Fokus auf Cybersicherheitsrisiken.
- •Unternehmen, die das Audit bestehen, würden eine Befreiung von der üblichen Haftungsregelung erhalten, sofern sie grundlegende angemessene Sorgfalt nachweisen können und keine extreme oder vorsätzliche Fahrlässigkeit vorliegt.
- •Cowen argumentiert, dass Branchenakteure starke Anreize haben, Sicherheitsstandards zu unterstützen, weil Fehler eines Unternehmens die gesamte Branche beschädigen könnten.
- •Er sagt, dass der Staat nicht über vergleichbare technische Expertise verfügt und eine wirksame KI-Governance davon abhängen wird, wie Industrie, Regulierer und Gerichte die Verantwortung aufteilen.
Der Wirtschaftswissenschaftler Tyler Cowen argumentiert, dass der „am wenigsten schlechte“ Weg, künstliche Intelligenz zu regulieren, darin besteht, den großen KI-Labs zu vertrauen, über einen privaten, von Washington autorisierten und beaufsichtigten Aufsichtsverband als ihre eigenen primären Regulierer zu fungieren.
Das Argument findet sich in seiner neuesten Free-Press-Kolumne, die am 27. August 2026 auf dem Wirtschaftsblog Marginal Revolution auszugsweise veröffentlicht wurde. „Der Schlüssel liegt darin, einige grundlegende Schutzvorkehrungen zu schaffen, ohne den breiteren KI-Fortschritt zu ersticken“, schreibt Cowen. Dazu müsse man, so seine These, „der konventionellen Weisheit über öffentliche Aufsicht trotzen und den KI-Labs stattdessen vertrauen, ihre eigenen primären Regulierer zu sein“.
Ein FINRA-artiger Regulierer für KI
Der Vorschlag beginnt mit der Definition einer privaten, gemeinnützigen Organisation für die KI-Regulierung. Eine ideale Organisation würde Merkmale von FINRA (der Financial Industry Regulatory Authority) übernehmen – ein Konsortium von Finanzunternehmen, das die Geschäftspraktiken jedes Mitglieds prüft und Empfehlungen ausspricht und so die föderale Securities and Exchange Commission bei Aufsicht und Regulierung unterstützt.
Die KI-Version würde die großen Labs umfassen und von Washington autorisiert und beaufsichtigt werden, möglicherweise über das noch junge Center for AI Standards and Innovation. Nach Cowens Darstellung würde dies der Politik einen Weg bieten, fortgeschrittene Modelle mit Leitplanken zu versehen, ohne dass Regierungsbehörden die gesamte relevante technische Expertise von Grund auf neu aufbauen müssten.
Regelmäßige Audits und eine Haftungsbefreiung
Diese Organisation würde große KI-Unternehmen und ihre Modelle regelmäßig auditieren und deren Verhalten und Sicherheit bewerten. Zumindest kurzfristig würde sich ein großer Teil dieser Arbeit auf Cybersicherheit konzentrieren – insbesondere auf die Frage, ob die neuen Modelle mehr Cyberrisiken schaffen, als sie zur Lösung beitragen.
Ein Unternehmen, das das Audit besteht, würde von der üblichen Haftungsregelung ausgenommen, sofern es grundlegende, angemessene Sorgfalt gezeigt hat und nicht extrem oder vorsätzlich fahrlässig gehandelt hat. Nach Cowens Einschätzung würde dies die KI-Labs von der Sorge befreien, dass Gerichte ihr Geschäft gefährden könnten, indem sie Klägern enorme Entschädigungen für unbestimmte Schäden zusprechen, die vernünftigerweise nicht zu verhindern waren – und es würde den Labs einen starken Anreiz geben, die Sicherheitsstandards dieser Organisation zu erfüllen.
Würde eine Branchenorganisation gerecht urteilen?
Es sei berechtigt, sich zu fragen, so Cowen, ob eine aus Branchenakteuren zusammengesetzte Organisation faire und gerechte Sicherheitsurteile fällen würde. „Vielleicht nicht. Dennoch gibt es viele Vorteile und keine bessere Alternative.“
Ein Vorteil: Jedes Unternehmen weiß, dass ein gefährliches Modell eines anderen Unternehmens einen schädlichen Vorfall verursachen und die Aussichten der gesamten Branche beschädigen könnte. Cowen verweist auf die Kernschmelze von Three Mile Island im Jahr 1979, die erheblich zur Stilllegung der gesamten US-Atomindustrie beitrug. Wenige Menschen können das Unternehmen hinter der fehlerhaften Anlage nennen – Metropolitan Edison –, weil der Reputationsschaden der Branche als Ganzes galt.
Ein weiterer Anreiz für Sicherheit besteht darin, dass die führenden Unternehmen nicht zu viel Konkurrenz durch preiswertere, qualitativ schlechtere Newcomer wollen. Auch dies werde diese Unternehmen dazu bewegen, recht strenge Standards zu unterstützen, „in manchen Fällen vielleicht übermäßig strenge“.
Die weiterreichende Implikation von Cowens Argument ist, dass die KI-Governance am Ende weniger von einem traditionellen Regelwerk abhängen könnte als davon, wie Branchenteilnehmer, Regulierer und Gerichte die Verantwortung aufteilen, während die Technologie weiter voranschreitet. Gegenwärtig, so argumentiert er, macht das die technische Expertise innerhalb der Labs besonders wichtig für jedes Aufsichtssystem, das durchsetzbar und nicht bloß symbolisch sein will.
„Dennoch wählen wir aus unvollkommenen Alternativen“, folgert Cowen. „Die konkrete Wahrheit, ob sie uns gefällt oder nicht, ist, dass es innerhalb der Unternehmen weit mehr Expertise zur Beurteilung der KI-Sicherheit gibt, als wir in absehbarer Zeit in der Bundesregierung erwarten können.“
Danksagungen
Cowen schreibt, dass er einigen Ideen von Dean Ball verpflichtet sei, und merkt an, dass Balls Vorschlag etwas anders ausfällt. Zudem verweist er die Leser auf Kommentare von Brendan McCord.
