Anthropicの共同創業者でCEOのDario Amodeiは、AIには大きなリスクがあると考えており、その点について公の場で語り続けている。彼はまた、Anthropicを「安全にAIを構築すること」に最も力を入れているAI企業として位置づけようとしてきた。しかし、それこそが問題の一因かもしれない。

以前のFortuneのインタビューでAmodeiは、「AIの安全性は引き続き最上位の焦点である」と述べ、この安全重視の姿勢が、Anthropicのモデルは競合他社のものよりリスクが低いと企業顧客に感じさせていると語った。

Amodeiと妹のDanielaは、2021年にOpenAIを離れたが、その理由の一部は安全への向き合い方の違いだった。彼はまた、Pentagonに対して自律型兵器やAIによる監視への懸念も示してきた。

それでも、世論は強い懐疑姿勢を保っている。最近のGallup調査では、30歳未満の成人のほぼ半数が、AIは有益より有害だと考えており、その割合は前年から大きく上昇した。また、企業によるAI活用への信頼も、2年続いた改善の後に低下した。Pewの2026年の数値はさらに悪く、米国人の大半はAIの進化が速すぎると答え、今後20年間の影響が純プラスになると期待する人はごく少数だった。Quinnipiacの世論調査でも、AIを「めったに」または「ときどき」しか信頼しないと答えた米国人は4分の3を超えた。使用は増え続けているにもかかわらずだ。

最近の長文のX投稿で、Amodeiは——SNSをほとんど使わないため、この投稿自体が珍しかったが——AIのリスクについての大きな論考を1本、利点についての論考を1本書いたと述べた。彼は、AIに対する否定的な世間の認識は、自分や他のAI企業のCEOがリスクを語ったからではなく、人間の病気を治すといったAIの便益を業界がまだ十分に示せていないからだと書いた。

しかし、AmodeiがAIについて一般の不安を和らげようとする一方で、Anthropicを一貫して「安全」と結びつけることで、AI業界全体が安全でないかのような印象も与えている。彼はその過程で、PR会社が何十年も前から知っている罠、つまり「連想」の問題に陥っているのかもしれない。

航空業界の反論

航空業界はずっと以前に、マーケティング資料で「安全」という言葉を自社と結びつけないことを学んだ。安全そのものが航空旅行から消えたわけではないが、広告の外に追いやられ、機内での義務的なブリーフィングへと移された。航空会社は長年、それを厳粛な警告ではなく短編映画や歌に変えてきた。

法的に義務づけられた安全説明でさえ、注意喚起というより娯楽のほうが受け入れられやすいからだ。安全という言葉は、人々に不快感を残すだけで、フライト前に考えたいものではない。

歴史家Richard Poppによる航空広告の研究では、1930年代までに航空会社は、危険の気配を一切映さないための暗黙のルールに従っていたことが分かっている。山、夜間飛行、大きな水域、整備作業を描いた広告は避けられた。安全について一言も触れる前に、墜落の可能性を想起させるおそれがあったからだ。

このタブーにもかかわらず、Pan Amは1980年代、対大西洋路線をめぐるハイジャックや爆破の脅威が相次ぐ中で、自社の安心感を訴えるキャンペーンを展開し、脅威が高まるなかでも安全性と保安を強調し続けた。

そして1988年12月、爆弾によってPan Am Flight 103がスコットランドのロッカビー上空で墜落し、270人が死亡した。航空保安の専門家Glen Winnは、この大惨事こそが、業界全体に「safe」という言葉を完全に退かせる決定打になったと述べている。

Darioが学べること

航空業界が学んだのは、自分自身への恐れを口にすることは、何も言わないより悪いということだった。というのも、その言葉自体がこちらに不利に働くからだ。言語学者George Lakoffの2004年の著書『Don’t Think of an Elephant』は同じ力学を示している。誰かに「象のことを考えるな」と言うと、まず象を思い浮かべる必要があり、そのあとで考えるなと言っても、像は消えない。

Amodeiがバイオセーフティの段階をモデルにしたResponsible Scaling Policyを作成し、AIのリスクや雇用喪失について公に警告したとき、それは主にエンジニア、安全研究者、企業買い手、投資家からなる層には響いた。彼らはAnthropicの「壊滅的リスク」への懸念を、慎重さの表れだと受け止めている。

ただし、その層はもともとAnthropicの動機を信頼しやすい側だったため、危険のイメージは、他の場面ほど会社に結びつかなかった可能性がある。今では、Amodeiが懸念に直接向き合う戦略が、AI利用者をかえって遠ざけているのかもしれない。

Anthropicが「There’s hope in hard questions」というテレビCMを流した際、冒頭には燃え上がる家が映り、続いて顔認証でスキャンされる群衆、都市の路上で眠る人、国立墓地を思わせる墓石の列が映し出された。その下で「AIは信頼できるのか？」といった問いかけがナレーションで流れた。

このCMを最初に見たあと、OpenAIのCEO Sam Altmanは「i thought this was satire」と述べ、パロディだと勘違いした。一般の視聴者の心に残ったのは、AnthropicだけがAIの最大のリスクに誠実に向き合う会社だという印象ではなく、Anthropicを含むすべてのAI企業がディストピア的未来を招いているという印象だった可能性が高い。

それが、航空会社が「安全」を売ることについて学んだ教訓だ。そしてそれは、今日のAI業界が改めて学び直す必要がある教訓かもしれない。

この記事はもともとFortune.comで掲載されたものです