Tyler Cowen von Marginal Revolution fordert wissenschaftliche Stringenz im Diskurs über KI-Sicherheitsrisiken
Wichtige Erkenntnisse
- •Tyler Cowen argumentiert, dass alarmistische Behauptungen nach dem OAI/HuggingFace-Vorfall unzureichend wissenschaftlich belegt sind.
- •Cowen fordert, dass besorgte Parteien eine konkrete Methodik zur Quantifizierung der KI-bedingten Cybersicherheitskosten innerhalb eines Zeitraums von zwei bis drei Jahren vorlegen.
- •Er verlangt spezifische numerische Kostenschätzungen, die im Zeitverlauf verfolgt und an realen Ergebnissen überprüft werden können.
- •Cowen fordert die Offenlegung leerverkaufter Aktien oder Vermögenswerte und merkt an, dass seine eigenen erwarteten Kosten so niedrig sind, dass er den Markt nicht leerverkaufen würde.
- •Der Beitrag plädiert dafür, Debatten über KI-Sicherheitspolitik auf widerlegbare Beweise zu stützen statt auf das, was Cowen als persönliches Angstmanagement beschreibt.
Auf den jüngsten OAI/HuggingFace-Vorfall und damit verbundene Entwicklungen ist in Kommentarspalten eine Welle von Unheilsprophezeiungen und ernsthaften Bedenken gefolgt. Der Wirtschaftsblog Marginal Revolution, der von dem George Mason University-Ökonomen Tyler Cowen mitverfasst wird, argumentiert jedoch, dass die meisten dieser alarmistischen Behauptungen unzureichend belegt bleiben.
In einem Beitrag mit dem Titel „Act like it is science" stellt Cowen denjenigen, die Alarm auslösen, eine unkomplizierte Herausforderung: Wenden Sie die Methoden der Wissenschaft an, um einen überzeugenden Fall zu machen. Der Beitrag spiegelt Cowens langjährigen methodologischen Standpunkt wider – allgemein anerkannt in akademischen Wirtschafts- und Politikkreisen –, dass politische Argumente auf quantifizierbaren Beweisen und widerlegbaren Vorhersagen beruhen sollten statt auf qualitativen Appellen an Worst-Case-Szenarien. Konkret fordert der Beitrag von allen, die Skeptiker überzeugen möchten, Folgendes:
-
Eine Methodik zur Schätzung künftiger Cybersicherheitskosten. Cowen bittet um einen Entwurf, wie man innerhalb von zwei bis drei Jahren die zusätzlichen, auf KI-bedingte Sicherheitsverletzungen zurückzuführenden Cybersicherheitskosten quantifizieren könnte. Er räumt ein, dass dieser Wert wahrscheinlich nicht null sein wird, besteht aber auf einer konkreten Schätzmethode. Als Referenz verlinkt der Beitrag auf eine Studie zu vergangenen Cybersicherheitskosten, die von führenden Ökonomen durchgeführt wurde.
-
Eine aktuelle numerische Schätzung dieser potenziellen Kosten, die im Zeitverlauf an tatsächlichen Ergebnissen zu überprüfen ist. Cowen merkt an, dass Befragte Schätzungen für mehrere regulatorische und Sicherheitsszenarien abgeben können, und bezeichnet dies als einfachen Weg, analytische Glaubwürdigkeit zu demonstrieren, selbst wenn die Bestätigung mit Verzögerung eintritt. Der Beitrag stellt klar, dass solche Schätzungen keinen Ersatz für die bevorzugten Sicherheitsmaßnahmen darstellen müssen, fordert jedoch Präzision bei den Vorhersagen.
-
Eine Offenlegung eventuell leerverkaufter Aktien oder anderer Vermögenswerte. Wenn die Kostenschätzung aus dem zweiten Punkt ausreichend niedrig ausfällt – wie es bei Cowen selbst der Fall wäre –, könnte die Antwort rechtmäßig null lauten. Er erklärt, dass zwar mit Kosten zu rechnen ist, diese aber wahrscheinlich nicht so gravierend sein werden, dass die Gesellschaft sie nicht bewältigen könnte, während sie weiterhin positive Aktienrenditen erwarten kann. Die Offenlegungsaufforderung entspricht der breiteren akademischen Praxis, Analysten aufzufordern, ihre Überzeugungen schriftlich festzuhalten, um nachverfolgen zu können, ob die düstersten Vorhersagen im Lichte beobachteter Ergebnisse standhalten.
Der Beitrag schließt mit der Feststellung, dass die Übernahme dieser Praktiken das Gespräch auf ein wissenschaftlicheres Niveau heben und von dem entfernen würde, was Cowen als „eine ausgedehnte Übung im persönlichen Angstmanagement" bezeichnet. Wenn das Thema wirklich so kritisch sei, wie die Befürworter behaupten, so argumentiert er, sei der Aufwand für eine derart rigorose Analyse sicherlich gerechtfertigt.
Der Artikel wurde auf Marginal Revolution veröffentlicht.
