最近のHugging Faceのハッキングは、経済学者タイラー・カウエンの最新のThe Free Pressコラムのテーマとなっている。AIモデルやデータセットをホスティングする最大級のオープンプラットフォームの一つであるHugging Faceは、研究者やオープンソース機械学習を基盤に事業を構築する企業に広く利用されており、AIエコシステムにおける重要なインフラとなっている。だからこそ、同社でのセキュリティ事故がこれほど注目を集めたのであり、一部の観察者は劇的な反応を示している。

ある論者は「数か月以内の本格的なAIによる乗っ取り」を懸念し、別の論者は「差し迫った人類の絶滅について少し悲しい気持ちになっている」と書いた。AIセーフティ運動に携わり、終末論的AIベストセラー『If Anyone Builds It, Everyone Dies』の共著者であるネイト・ソアレスは「これは我々が受け取る最後の警告かもしれない」と書いた。コトラは、この事故について「本格的なAIによる乗っ取りまでの道のり半分以上を進んだ感じがする」と述べた。

ジョージ・メイソン大学の経済学者で、テクノロジーの経済学に関する著作やMarginal Revolutionブログで知られるカウエンは、別の、よりテクノクラート的なアプローチを提案している。

先週The Free紙に書いたように、彼は、将来この種の強力なAIモデルの暴走エピソードを制限するためには、国家的な、さらに言えば国際的な協調した取り組みが必要だと主張する。それは費用がかさむ可能性が高く、いくら資金を投入しても手軽で完全な解決策は存在しない。

それにもかかわらず、カウエンは、人々がアメリカ人がこれまで何度も犯してきたのと同じ過ちを犯しているのを見ている。「人々はヒステリックで逸話的な様式に移行しており、感情的な反応が理性と定量的な見積もりを覆している」。

彼はいくつかの例を挙げる。1960年代から70年代のDDT、2000年のY2K「危機」、地球温暖化、Covid、サリドマイド禍、原子力。これらはすべて、当時も今も非常に現実的な問題だった、あるいは現実的であり続けている。しかし毎回、彼の主張によれば、我々は極端に過剰反応し、感情的に鮮烈な一つの出来事——しばしばセンセーショナルに報じられる——の後で、恐怖の空気に飲み込まれてきた。

先進的なAIによるサイバーセキュリティリスクに関しては、カウエンはそれらがCovidや地球温暖化と同程度に悪くなる可能性はまずないと書いている。しかし、誇張の同じ論理が作用しており、ソーシャルメディアと主流メディアのネガティビティおよび悲観主義バイアスによって増幅されている。

そこで彼は懇願する。「この問題について語るのであれば、今後1、2年の先進的なAIによるサイバーセキュリティ費用がどれくらいになると考えるか、定量的な見積もりを提示してほしい。さらに望ましいのは、その数値を国内総生産に対する割合で表すことだ。端的に言えば、誰もが不可欠だと同意する基本的なセーフガードを構築するには、現実的にいくら費用がかかるのか。そして、制御できない問題による残りの損害はどれくらいになるのか」

AIシステムのリスクを懸念する人々は、自分たちの懸念の深刻さを証明しようとしているようだとカウエンは書く。「しかし彼らは、定量的・科学的なものに焦点を当てるのではなく、過去によく見られた感情的な過剰反応に陥っている」。彼は、古典的『Star Trek』の機関長スコッティの言葉を引用して締めくくる。「一度騙されたら相手が悪い、二度騙されたら自分が悪い」。

カウエンは読者にコラム全文を読むよう勧めている。