Współzałożyciel i dyrektor generalny Anthropic Dario Amodei uważa, że AI niesie ze sobą istotne ryzyka, i nadal publicznie o nich mówi. Próbował też ustawić Anthropic jako firmę AI najbardziej zaangażowaną w bezpieczne budowanie AI. To jednak może być częścią problemu.

W poprzednim wywiadzie dla Fortune Amodei powiedział: „AI safety continues to be the highest-level focus,” a takie stawianie bezpieczeństwa na pierwszym miejscu dało klientom korporacyjnym przekonanie, że modele Anthropic są mniej ryzykowne niż rozwiązania konkurencji.

Amodei i jego siostra Daniela rozstali się również z OpenAI w 2021 roku, częściowo z powodu różnic dotyczących podejścia do bezpieczeństwa. Zgłaszał też Pentagonowi obawy związane z autonomiczną bronią i nadzorem opartym na AI.

Mimo to opinia publiczna pozostaje głęboko sceptyczna. Niedawne badanie Gallupa wykazało, że niemal połowa osób poniżej 30. roku życia uważa obecnie, że AI przynosi więcej szkody niż pożytku, co stanowi wyraźny wzrost względem poprzedniego roku, a zaufanie do wykorzystywania AI przez firmy spadło po dwóch latach wzrostów. Dane Pew z 2026 roku są jeszcze gorsze: większość Amerykanów uważa, że AI rozwija się zbyt szybko, a tylko niewielka mniejszość oczekuje, że jej wpływ w ciągu najbliższych dwóch dekad będzie netto pozytywny. Sondaż Quinnipiac wykazał, że ponad trzy czwarte Amerykanów ufa AI tylko rzadko lub czasami, mimo że jej użycie nadal rośnie.

W długim, niedawnym poście na X Amodei — który rzadko korzysta z mediów społecznościowych, więc sam post był nietypowy — napisał, że stworzył jeden duży esej o ryzykach AI i drugi o jej korzyściach. Argumentował, że negatywne postrzeganie AI przez opinię publiczną nie wynika z jego wypowiedzi ani z wypowiedzi innych CEO AI na temat ryzyk, lecz z tego, że branża nie dostarczyła jeszcze wystarczających korzyści, które obiecywała, takich jak leczenie ludzkich chorób.

Jednocześnie, próbując uspokajać opinię publiczną w sprawie AI, Amodei nadal łączy Anthropic z „safety” w sposób sugerujący, że cała branża AI jest niebezpieczna. W ten sposób może wpadać w pułapkę znaną agencjom PR od dziesięcioleci: problem skojarzenia.

Odpowiedź branży lotniczej

Branża lotnicza dawno temu nauczyła się nie łączyć siebie samej ze słowem „safety” w materiałach marketingowych. Bezpieczeństwo nie zniknęło z lotnictwa, ale przeniosło się z reklam do obowiązkowych instruktaży pokładowych, które linie lotnicze przez lata zamieniały w krótkie filmy i piosenki zamiast w uroczyste ostrzeżenia.

Dzieje się tak, ponieważ nawet prawnie wymagany pokaz bezpieczeństwa brzmi lepiej jako rozrywka niż przypomnienie. Bezpieczeństwo po prostu pozostawia niesmak; to nie jest coś, o czym ludzie chcą myśleć przed lotem.

Badania historyka Richarda Poppa nad reklamą lotniczą wykazały, że już w latach 30. przewoźnicy działali według zestawu niepisanych zasad, których celem było całkowite usunięcie wszelkich śladów zagrożenia z przekazu: reklamy nie powinny pokazywać gór, lotów nocnych, dużych zbiorników wodnych ani prac konserwacyjnych, ponieważ każdy z tych obrazów mógł wywołać skojarzenie z możliwością katastrofy, zanim ktokolwiek wypowiedziałby słowo o bezpieczeństwie.

Mimo tego tabu Pan Am w latach 80. prowadził własną kampanię uspokajającą w obliczu fali porwań i zagrożeń bombowych wobec lotów transatlantyckich, podkreślając własne bezpieczeństwo i ochronę nawet wtedy, gdy zagrożenia narastały.

Następnie, w grudniu 1988 roku, bomba zestrzeliła lot Pan Am 103 nad Lockerbie w Szkocji, zabijając 270 osób. Ekspert ds. bezpieczeństwa lotniczego Glen Winn powiedział, że ta katastrofa ostatecznie przekonała całą branżę do porzucenia słowa „safe” na dobre.

Czego Dario może się nauczyć

Branża lotnicza odkryła, że wypowiadanie własnego lęku jest gorsze niż milczenie, ponieważ samo słowo działa przeciwko tobie w ten sam sposób. Książka językoznawcy George’a Lakoffa z 2004 roku Don’t Think of an Elephant pokazuje ten sam mechanizm: powiedzenie komuś, by nie myślał o słoniu, wymaga najpierw wyobrażenia sobie słonia, a polecenie, by przestać o nim myśleć, nie usuwa tego obrazu.

Gdy Amodei stworzył Responsible Scaling Policy wzorowaną na poziomach biosafety i wydał publiczne ostrzeżenia o ryzykach AI oraz utracie miejsc pracy, trafiło to do odbiorców złożonych głównie z inżynierów, badaczy bezpieczeństwa, klientów korporacyjnych i inwestorów, którzy traktują obawy Anthropic dotyczące „catastrophic risk” jako przejaw rzetelności.

Można jednak argumentować, że to właśnie była grupa, która i tak ufałaby intencjom Anthropic, więc obrazy zagrożenia nie przykleiły się do firmy tak, jak mogłyby gdzie indziej. Teraz strategia Amodeiego polegająca na bezpośrednim adresowaniu obaw może odpychać użytkowników AI.

Gdy Anthropic wyemitowało spot telewizyjny zatytułowany „There’s hope in hard questions”, otwierał się on ujęciem płonącego domu, po czym następowały sceny tłumu skanowanego przez rozpoznawanie twarzy, osoby śpiącej na ulicy w mieście oraz rzędów nagrobków w obrazie przypominającym narodowy cmentarz, a wszystko to pod narracją z pytaniami w rodzaju „Can AI be trusted?”

Po obejrzeniu reklamy prezes OpenAI Sam Altman powiedział: „i thought this was satire”, biorąc ją za parodię. Dla szerokiej publiczności najpewniej nie wybrzmiało to, że Anthropic jest jedyną firmą AI gotową uczciwie mierzyć się z największymi ryzykami AI, lecz to, że wszystkie firmy AI, w tym Anthropic, wprowadzają dystopijną przyszłość.

To jest lekcja, jakiej branża lotnicza nauczyła się przy sprzedaży bezpieczeństwa. I być może właśnie jej branża AI musi dziś nauczyć się na nowo.

Ta historia pierwotnie ukazała się na Fortune.com