Marginal Revolution widerlegt KI-Sicherheitsbehauptung, eine Übernahme durch KI werde ohne Vorwarnung eintreten
Wichtige Erkenntnisse
- •Marginal Revolution, das Wirtschaftsblog der Ökonomen Tyler Cowen und Alex Tabarrok von der George Mason University, veröffentlichte die Kritik am 14. August unter dem Titel „Adding to the barrel of finance fallacies“.
- •Der zentrale Einwand des Autors lautet, dass die Behauptung, eine KI-Übernahme trete ein, bevor irgendjemand sich Sorgen machen kann, sich selbst untergräbt, da die Person, die sie vertritt, bereits ein Mensch ist, der sich genau vor diesem Ergebnis fürchtet.
- •Der Beitrag argumentiert, dass diese Position darauf hinausläuft, sich selbst nahezu orakelhafte Weitsicht zuzuschreiben, während man zugleich annimmt, dass andere Menschen und die Märkte sich anhäufende Warnzeichen wie Cyberzwischenfälle ignorieren würden.
- •Als Antwort auf Einwände von 80,000-Hours-Forschungsleiter Rob Wiblin vertrat der Autor die Ansicht, dass jeder, der innerhalb eines Jahrzehnts eine Katastrophe erwartet, Put-Optionen kaufen sollte, ohne zehnjährige Verträge oder präzises Timing zu benötigen, und dass das Nichtwissen darüber, welche Aktien man leerverkaufen soll, darauf hindeutet, dass das Risiko nicht wirklich systemisch ist.
- •Der Beitrag schloss mit einem selbst eingeräumten Abstecher zu den Motiven und stellte sich vor, dass KI-Sicherheitsbefürworter an dramatischen Ängsten festhalten, weil gewöhnliche Risiken wie 100 Milliarden Dollar an zusätzlichen Cyberkosten zu technokratisch erscheinen und als sozialer Kitt für ihre In-Group weniger nützlich sind.
Marginal Revolution, das langjährig geführte Wirtschaftsblog der Ökonomen Tyler Cowen und Alex Tabarrok von der George Mason University, hat sich ein vertrautes Argument vorgenommen, das unter KI-Sicherheitsbefürwortern kursiert, und es – wie der Autor sagt – einer wachsenden Sammlung von Finanzirrtümern hinzugefügt.
Der Austausch entstand auf X, wo ein Teilnehmer bemerkte, dass „viele (die meisten? fast alle?) der schlechten Szenarien zwischenzeitliche Punkte großer Sorge und Katastrophe durchlaufen“. Eine Antwort wies die Prämisse rundweg zurück: „Nicht in meinem Modell. Bevor überhaupt Menschen sich Sorgen über eine Übernahme oder den Tod machen, kontrollieren KIs bereits die gesamte Infrastruktur.“ (Originalbeitrag)
Der Autor schreibt am 14. August bei Marginal Revolution, dass diese Argumentationslinie – ob eine KI-Katastrophe mit oder ohne sichtbare Warnschüsse eintreten würde – häufig auftauche und „ein weiteres Beispiel für einen schlechten ‚KI-Sicherheitspunkt‘ sei, der nicht standhält“.
Der zentrale Einwand lautet, dass sich die Person, die die Behauptung aufstellt, selbst widerlegt. „Er ist bereits ein Mensch, der sich Sorgen über eine Übernahme oder den Tod macht!“, heißt es im Beitrag. Es erscheint dem Autor seltsam, zugleich zu denken: „Ich sehe diese Probleme kommen“ und „wenn sich diese Probleme vermehren und öffentlicher werden, etwa durch Cyberzwischenfälle, werden andere Menschen und auch die Märkte es nicht mitbekommen“.
Diese Haltung komme, so der Autor, darauf hinaus, „sich selbst einen bemerkenswerten orakelgleichen epistemischen Status zuzuschreiben, fast niemandem sonst aber“. Zwei Anschlussfragen verschärfen die Kritik: „Wenn die anstehenden Daten niemanden sonst von Ihrer Ansicht überzeugen, warum vertreten Sie Ihre Ansicht dann so entschieden? Oder wenn Sie glauben, der endgültige Ausgang werde so plötzlich und heimlich eintreten – wieso sind Sie dann jetzt so genau über die Zukunft im Bilde?“ Das Fazit des Autors: „All das ist offensichtlich absurd, wenn auch nicht im engen Sinne logisch selbstwidersprüchlich.“
Eine separate Randbemerkung prüft die Logik einer Absicherung gegen die Katastrophe mittels Put-Optionen – Verträge, die an Wert gewinnen, wenn der zugrunde liegende Basiswert fällt: „Wenn die Welt tatsächlich plötzlich untergeht und Sie die Puts aus Ihrem Ersparten gekauft haben, sie aber nicht einlösen können, sterben Sie am Ende dennoch, ohne Ihr reales Konsumniveau gesenkt zu haben.“
Der Beitrag geht sodann auf Gegenargumente von Rob Wiblin ein – Forschungsleiter bei 80,000 Hours, der gemeinnützigen Karriereorganisation des effektiven Altruismus, die KI-Sicherheit zu ihren vorrangigen Handlungsfeldern zählt –, der „eine ganze Reihe von Einwänden aus der MR-Kommentarsektion vorträgt, die sich ohne Weiteres widerlegen lassen“. (Wiblins Beitrag) Auf den Einwand, es sei „ein großes Problem“ nicht zu wissen, welche Aktien man leerverkaufen solle, lautet die Antwort des Autors: „Dann ist das Risiko eben nicht so systemisch.“ Wer glaubt, „die Welt werde in den nächsten zehn Jahren einige bedeutende katastrophale Ereignisse sehen“, während sich die Beweise „anhäufen“, sollte einige Puts kaufen, selbst ohne Gewissheit über den Zeitpunkt – und, so fügt er hinzu, „Sie brauchen keine Optionsverträge mit zehnjähriger Laufzeit“. Nach dieser Überlegung gilt: „Die KI-Sicherheitsbefürworter mit relativ extremen Ansichten sollten versuchen, diese Punkte unter ihren Anhängern zu verbreiten, statt sie zurückzuhalten.“
Der Text endet mit einem selbst eingeräumten Abstecher zu den Motiven. Obwohl der Autor „kein Freund der Psychoanalyse als Methode der Zergliederung von Ansichten“ ist, führt die Beobachtung, dass „Anzahl und Ausmaß offensichtlicher direkter Fehler zu diesem Thema (und von sehr klugen Menschen) so hoch sind, dass man sich fragen muss“, zu einer ausgedachten Begründung: „100 Milliarden Dollar an zusätzlichen Cyberkosten sind keine ausreichend große Sorge, das ist zu banal, ein zu kleiner Anteil am BIP, ein zu normales und technokratisches Problem… Sie nehmen mir doch nicht meine größere und dramatischere Angst! Das lasse ich nicht zu! Und außerdem ist diese Ansicht der soziale Kitt, der meine In-Group zusammenhält.“
Der Beitrag mit dem Titel „Adding to the barrel of finance fallacies“ erschien auf Marginal Revolution.
