Der kürzliche Hack bei Hugging Face ist das Thema der neuesten Free-Press-Kolumne des Ökonomen Tyler Cowen. Hugging Face, eine der größten offenen Plattformen zum Hosten von KI-Modellen und Datensätzen – weitgehend genutzt von Forschenden und Unternehmen, die auf Open-Source-Maschinenlernen aufbauen – ist zu einem wichtigen Teil der Infrastruktur im KI-Ökosystem geworden, was ein Grund dafür ist, warum ein Sicherheitsvorfall dort so viel Aufmerksamkeit erregt hat. Einige Beobachter haben auf den Vorfall auf dramatische Weise reagiert.

Ein Kommentator befürchtet eine „vollständige KI-Übernahme innerhalb weniger Monate“, und ein anderer schrieb, er fühle sich „ein bisschen traurig wegen unseres bevorstehenden Aussterbens“. Nate Soares, der in der KI-Sicherheitsbewegung tätig ist und Co-Autor des末日-KI-Bestsellers If Anyone Builds It, Everyone Dies ist, schrieb: „Dies könnte die letzte Warnung sein, die wir erhalten.“ Cotra sagte, der Vorfall wirke, als sei er „mehr als 50 Prozent des Weges zu einer vollständigen KI-Übernahme“.

Cowen, Ökonom an der George Mason University, bekannt für seine Schriften zur Ökonomie der Technologie und sein Blog Marginal Revolution, schlägt einen anderen, stärker technokratischen Ansatz vor:

Wie er letzte Woche in The Free Press schrieb, sei eine koordinierte nationale und durchaus internationale Anstrengung nötig, um künftige Vorfälle dieser Art, bei denen ein leistungsstarkes KI-Modell außer Kontrolle gerät, einzudämmen. Das werde voraussichtlich teuer, und es gebe für keinen Geldbetrag eine einfache, vollständige Lösung.

Dennoch beobachtet Cowen, dass Menschen denselben Fehler begehen, den Amerikaner schon viele Male zuvor begangen haben. „Sie geraten in einen Modus des Hysterischen und Anekdötischen und lassen emotionale Reaktionen Vernunft und quantitative Schätzungen übergehen.“

Er führt einige weitere Beispiele an: DDT in den 1960er- und 1970er-Jahren, die Y2K-„Krise“ des Jahres 2000, die globale Erwärmung, Covid, Contergan-Geschädigte und die Kernenergie. Alle stellten – oder stellen weiterhin – sehr reale Probleme dar. Doch jedes Mal, so argumentiert er, haben wir drastisch überreagiert und uns von einem emotional eindringlichen, oft atemlos berichteten Vorfall in ein Klima der Angst treiben lassen.

Was die Cybersecurity-Risiken durch fortgeschrittene KI betrifft, schreibt Cowen, dass sie sehr wahrscheinlich nicht annähernd so schlimm sein werden wie Covid oder die globale Erwärmung. Doch dieselbe Logik der Übertreibung sei am Werk, verstärkt durch soziale Medien und die Negativitäts- und Pessimismusverzerrungen der Mainstream-Medien.

Daher hat er eine Bitte: „Wenn Sie über das Problem sprechen wollen, dann liefern Sie bitte eine quantitative Schätzung, welche Cybersecurity-Kosten durch fortgeschrittene KI Ihrer Meinung nach in den nächsten ein bis zwei Jahren entstehen werden. Noch besser: Drücken Sie diese Zahl als Prozentsatz des Bruttoinlandsprodukts aus. Einfach gesagt: Wie viel würde es realistischerweise kosten, die grundlegenden Schutzmaßnahmen zu schaffen, denen wir alle zustimmen, dass sie unerlässlich sind? Und wie hoch wären die verbleibenden Schäden durch Probleme, die wir nicht kontrollieren können?“

Diejenigen, die sich um die Risiken von KI-Systemen sorgen, so schreibt Cowen, seien offenbar darauf bedacht, den Ernst ihrer Besorgnis unter Beweis zu stellen. „Aber sie verfallen allzu vertrauten emotionalen Überreaktionen unserer Vergangenheit, statt sich auf das Quantitative und Wissenschaftliche zu konzentrieren.“ Er schließt mit dem Ausspruch von Scotty, dem Chefingenieur im klassischen Star Trek: „Fool me once, shame on you. Fool me twice, shame on me.“

Cowen empfiehlt den Lesern, die ganze Kolumne zu lesen.