Was Anthropic-Mitgründer Dario Amodei von der Flugzeugindustrie über das Marketing von Sicherheit lernen kann
Wichtige Erkenntnisse
- •Dario Amodei, der OpenAI 2021 zusammen mit seiner Schwester Daniela unter anderem wegen Sicherheitsstreitigkeiten verließ, hat Sicherheit zum höchsten Fokus von Anthropic gemacht und dessen Modelle für Unternehmenskunden als weniger riskant als die der Wettbewerber positioniert.
- •Umfragen zeigen ein wachsendes Misstrauen gegenüber KI: Fast die Hälfte der Erwachsenen unter 30 glaubt, dass sie mehr Schaden als Nutzen anrichtet (Gallup), die meisten Amerikaner sagen, sie entwickle sich zu schnell (Pew 2026), und mehr als drei Viertel vertrauen ihr nur selten oder manchmal (Quinnipiac).
- •Die Flugzeugindustrie vermied das Wort „Sicherheit“ in der Werbung lange Zeit, und der Bombenanschlag auf Pan Am Flight 103 im Dezember 1988, bei dem 270 Menschen über Lockerbie, Schottland, starben, überzeugte die Branche laut Luftfahrtsicherheitsexperte Glen Winn, das Wort endgültig zu vermeiden.
- •Amodei argumentierte in einem seltenen Social-Media-Post auf X, die negative öffentliche Wahrnehmung von KI werde nicht durch Risikowarnungen von Führungskräften verursacht, sondern dadurch, dass die Branche ihre versprochenen Vorteile, etwa die Heilung menschlicher Krankheiten, nicht geliefert habe.
- •Anthropics Fernsehspot „There’s hope in hard questions“, der ein brennendes Haus, Gesichtserkennungsscans und Reihen von Grabsteinen zeigte, veranlasste OpenAI-CEO Sam Altman zu der Reaktion, er habe gedacht, es sei Satire.
Anthropic-Mitgründer und CEO Dario Amodei ist überzeugt, dass KI erhebliche Risiken birgt, und spricht weiterhin öffentlich darüber. Er hat außerdem versucht, Anthropic als das KI-Unternehmen zu positionieren, das sich am stärksten dem sicheren Aufbau von KI verschrieben hat. Doch genau das könnte Teil des Problems sein.
In einem früheren Interview mit Fortune sagte Amodei: „AI safety continues to be the highest-level focus“, und diese Safety-first-Positionierung habe Unternehmenskunden die Zuversicht gegeben, dass Anthropic-Modelle weniger riskant seien als die der Wettbewerber.
Amodei und seine Schwester Daniela trennten sich 2021 auch wegen unterschiedlicher Auffassungen über den Sicherheitsansatz von OpenAI. Zudem äußerte er gegenüber dem Pentagon Bedenken zu autonomen Waffen und KI-Überwachung.
Trotzdem bleibt die Öffentlichkeit zutiefst skeptisch. Eine aktuelle Gallup-Umfrage ergab, dass inzwischen fast die Hälfte der Erwachsenen unter 30 glaubt, KI richte mehr Schaden als Nutzen an; das ist ein deutlicher Anstieg gegenüber dem Vorjahr. Zudem ist das Vertrauen in den KI-Einsatz von Unternehmen nach zwei Jahren des Zuwachses gesunken. Die Zahlen von Pew für 2026 sind noch schlechter: Die meisten Amerikaner sagen, KI entwickle sich zu schnell, und nur eine kleine Minderheit erwartet, dass ihre Auswirkungen in den nächsten zwei Jahrzehnten netto positiv sein werden. Eine Quinnipiac-Umfrage ergab, dass mehr als drei Viertel der Amerikaner KI nur selten oder manchmal vertrauen, obwohl die Nutzung weiter steigt.
In einem längeren jüngsten X-Post sagte Amodei — der soziale Medien nur selten nutzt, weshalb der Beitrag an sich ungewöhnlich war —, er habe einen größeren Essay über die Risiken von KI und einen über ihre Vorteile geschrieben. Er schrieb, die negativen öffentlichen Wahrnehmungen von KI seien nicht auf seine oder andere KI-CEOs zurückzuführen, die über Risiken sprechen, sondern darauf, dass die Branche bislang nicht genug der positiven Vorteile geliefert habe, die sie von KI verspricht, etwa die Heilung menschlicher Krankheiten.
Doch während Amodei versucht, die Öffentlichkeit bei KI zu beruhigen, bringt er Anthropic weiterhin mit „Safety“ in Verbindung, und zwar in einer Weise, die nahelegt, die gesamte KI-Branche sei unsicher. Damit tappt er möglicherweise in eine Falle, die PR-Agenturen seit Jahrzehnten kennen: das Problem der Assoziation.
Die Rüge der Flugzeugindustrie
Die Flugzeugindustrie hat schon vor langer Zeit gelernt, sich in Marketingmaterialien nie mit dem Wort „Safety“ zu verbinden. Sicherheit verschwand zwar nicht aus dem Luftverkehr, sie wanderte jedoch aus der Werbung in verpflichtende Einweisungen an Bord, die Fluggesellschaften über Jahre hinweg eher in Kurzfilme und Lieder als in ernste Warnungen verwandelt haben.
Das liegt daran, dass selbst eine gesetzlich vorgeschriebene Sicherheitsdemonstration eher wie Unterhaltung als wie eine Mahnung wirkt. Sicherheit hinterlässt bei Menschen einfach ein ungutes Gefühl; es ist nichts, woran man vor einem Flug denken möchte.
Die Forschung des Historikers Richard Popp zur Fluglinienwerbung zeigt, dass die Fluggesellschaften bereits in den 1930er-Jahren einem Satz ungeschriebener Regeln folgten, um jeden Hinweis auf Gefahr vollständig aus dem Bild zu halten: Keine Anzeigen mit Bergen, Nachtflügen, großen Wasserflächen oder Wartungsarbeiten, weil jedes dieser Motive die Möglichkeit eines Absturzes heraufbeschwören konnte, noch bevor überhaupt jemand das Wort Sicherheit erwähnte.
Trotz dieses Tabus startete Pan Am in den 1980er-Jahren eine eigene Beruhigungskampagne angesichts einer Welle von Entführungs- und Bombendrohungen gegen transatlantische Flüge und beharrte auf der eigenen Sicherheit und Sicherheit im Betrieb, selbst als die Bedrohungen zunahmen.
Dann, im Dezember 1988, brachte eine Bombe Pan Am Flight 103 über Lockerbie, Schottland, zum Absturz und tötete 270 Menschen. Der Luftfahrtsicherheitsexperte Glen Winn sagte, diese Katastrophe habe die gesamte Branche schließlich davon überzeugt, das Wort „safe“ endgültig abzulegen.
Was Dario lernen kann
Die Flugzeugindustrie entdeckte, dass das Aussprechen einer Angst über sich selbst schlimmer ist als gar nichts zu sagen, weil das Wort dieselbe Wirkung gegen einen selbst entfaltet. Der Linguist George Lakoff machte diese Theorie in seinem 2004 erschienenen Buch Don’t Think of an Elephant anschaulich: Wenn man jemanden auffordert, nicht an einen Elefanten zu denken, muss er sich den Elefanten zunächst vorstellen; die Anweisung, nicht mehr daran zu denken, lässt das Bild nicht verschwinden.
Als Amodei eine Responsible Scaling Policy nach dem Vorbild von Biosicherheitsstufen einführte und öffentliche Warnungen vor KI-Risiken und Arbeitsplatzverlusten aussprach, kam das bei einem Publikum an, das vor allem aus Ingenieuren, Sicherheitsforschern, Unternehmenskunden und Investoren besteht, die Anthropic’s Sorge vor „catastrophic risk“ als Sorgfalt ansehen.
Doch dieses Publikum vertraute Anthropic vermutlich ohnehin eher, sodass sich die Gefahrbilder nicht in derselben Weise mit dem Unternehmen verbanden wie anderswo. Nun könnte Amodeis Strategie, Bedenken direkt anzusprechen, Nutzer von KI eher von ihr wegdrängen.
Als Anthropic eine Fernsehwerbung mit dem Titel „There’s hope in hard questions“ schaltete, begann sie mit einem brennenden Haus, wechselte dann zu einer Menge, die per Gesichtserkennung gescannt wurde, zu einer Person, die auf einer Straße in der Stadt schläft, und zu Reihen von Grabsteinen in einem Bild, das an einen nationalen Friedhof erinnerte — alles begleitet von einem Voiceover, das Fragen stellte wie „Can AI be trusted?“
Nachdem er die Anzeige zum ersten Mal gesehen hatte, sagte OpenAI-CEO Sam Altman: „i thought this was satire“ und hielt sie für eine Parodie. Bei einem breiten Publikum blieb vermutlich nicht der Eindruck hängen, dass Anthropic das einzige KI-Unternehmen sei, das sich ehrlich mit den größten Risiken von KI auseinandersetzt, sondern vielmehr die Vorstellung, dass alle KI-Unternehmen, einschließlich Anthropic, eine dystopische Zukunft einleiten.
Das ist die Lektion, die Fluggesellschaften über den Verkauf von Sicherheit gelernt haben. Und es ist eine, die die KI-Branche heute möglicherweise neu lernen muss.
Diese Geschichte erschien ursprünglich auf Fortune.com
